Depuis quelques années, une conviction s'est installée dans le paysage technologique : les LLM ont presque tout résolu. Ils écrivent, codent, raisonnent, traduisent. À chaque nouvelle version, le cap de l'intelligence générale semble un peu plus proche. Et pourtant, une critique de fond revient régulièrement, portée notamment par Yann LeCun : et si les grands modèles de langage étaient très bons pour parler du monde… sans pour autant le comprendre vraiment ?
Cette question n'est pas anodine. Elle dessine un débat de fond sur la trajectoire de l'IA — et sur la nature de la prochaine rupture.
Les LLM ont tout gagné… en surface
Soyons honnêtes : les avancées des LLM depuis 2020 sont réelles et spectaculaires. GPT-4, Claude, Gemini — ces modèles ont atteint un niveau de performance sur des tâches complexes que peu avaient anticipé. Ils comprennent des contextes longs, raisonnent par étapes, génèrent du code fonctionnel.
Mais sous ces performances impressionnantes se cache une limite structurelle que l'on tend à sous-estimer.
Un LLM est, au fond, un moteur statistique. Il apprend des probabilités : quels mots suivent quels autres mots, dans quel contexte, avec quelle fréquence. Il n'a pas de représentation interne du monde physique. Il peut expliquer pourquoi une tasse tombe d'une table, citer les lois de Newton, décrire la trajectoire d'un objet en chute libre. Mais il ne simule pas cette chute. Il ne dispose pas d'un modèle causal de ce qui se passe.
Cette distinction — décrire vs modéliser — est au cœur du débat actuel sur les limites des LLM.
La critique de Yann LeCun : comprendre versus parler du monde
Yann LeCun, directeur scientifique de l'IA chez Meta, formule cette critique depuis plusieurs années. Dans son papier de référence de 2022, A Path Towards Autonomous Machine Intelligence, il décrit ce qu'il manque selon lui aux architectures actuelles : un vrai modèle du monde.
Sa thèse est que les LLM ne développent pas de représentation causale de la réalité. Ils apprennent des corrélations dans du texte — c'est-à-dire dans des descriptions du monde — mais pas dans le monde lui-même. Or, pour atteindre une forme d'intelligence robuste et autonome, un système doit pouvoir simuler les conséquences de ses actions avant d'agir.
La différence est fondamentale :
- Un LLM qui explique la gravité ne comprend pas la gravité.
- Un enfant de deux ans qui lâche un jouet comprend la gravité — il l'a modélisée par l'expérience directe.
Ce n'est pas une question de taille du modèle ou de quantité de données. C'est une question d'architecture et de mode d'apprentissage.
Les world models et JEPA : une autre approche de l'intelligence
Face à cette limite, une approche alternative émerge : les world models. L'idée est simple dans son principe — au lieu d'apprendre à prédire le prochain token d'une séquence de texte, un world model apprend à prédire le prochain état du monde.
Concrètement, si vous montrez à un world model une voiture qui approche d'un carrefour, il ne génère pas une description de la scène. Il simule la prochaine image : où sera la voiture dans 0,5 seconde, comment la lumière changera, ce qui se passe si un piéton traverse. Cela requiert une compréhension de la causalité, de la permanence des objets et des lois physiques.
C'est précisément ce que l'architecture JEPA (Joint Embedding Predictive Architecture), développée par Meta et soutenue par LeCun, cherche à construire. Au lieu de prédire des pixels ou des tokens bruts, JEPA apprend des représentations abstraites de scènes et prédit comment ces représentations évoluent.
Les premiers résultats sont frappants. VL-JEPA — la version vision-langage de cette architecture — obtient 65,7 % de précision sur le benchmark EgoSchema, qui teste le raisonnement temporel sur des vidéos. GPT-4o, avec environ 1 760 milliards de paramètres, atteint 53,3 % sur le même test. VL-JEPA y parvient avec seulement 1,6 milliard de paramètres — soit environ 1 100 fois moins. Et il est 2,85x plus rapide à l'inférence.
Ce n'est pas un détail. C'est une démonstration que l'innovation architecturale peut surpasser le scale brut sur des tâches nécessitant une vraie compréhension du monde.
Ce que ça change pour les systèmes autonomes
La distinction entre LLM et world models n'est pas seulement théorique. Elle a des implications directes sur les applications les plus ambitieuses de l'IA.
La robotique ne peut pas se contenter de modèles capables de décrire des actions. Un robot doit simuler ce qui se passe avant d'agir — anticiper la trajectoire d'un objet, évaluer si une prise est stable, planifier un mouvement dans un espace réel. Les LLM n'ont pas ce type de représentation interne.
Les véhicules autonomes ont besoin de prédire l'état futur de leur environnement à chaque fraction de seconde, pas d'en générer une description narrative.
Plusieurs acteurs commencent à matérialiser cette vision. DeepMind Genie 3 peut générer des mondes 3D interactifs en temps réel à 24 images par seconde. World Labs, la startup de Fei-Fei Li, a lancé Marble, une première implémentation commerciale de génération de mondes. Ces systèmes ne sont pas des chatbots améliorés. Ils représentent une classe d'architectures fondamentalement différente.
Scale vs architecture : le vrai débat pour les prochaines années
La dynamique dominante depuis 2020 dans l'IA suit une logique simple : plus de données, plus de compute, plus de paramètres. Et ça a fonctionné — remarquablement bien. GPT-3 puis GPT-4 ont confirmé que cette recette produisait des gains réels et spectaculaires.
Mais plusieurs signaux suggèrent que cette courbe commence à s'aplatir sur certains types de tâches. Et surtout, certaines capacités semblent hors d'atteinte du scale seul.
La causalité physique, le raisonnement spatial, la simulation de conséquences dans le monde réel — ce sont des problèmes structurellement différents de la prédiction de tokens. Jeter davantage de paramètres dessus ne résout pas la contrainte architecturale sous-jacente.
C'est là que la thèse de LeCun reprend de la pertinence : la prochaine rupture ne viendra peut-être pas d'un GPT-7 ou d'un Claude 6. Elle viendra peut-être d'un changement de paradigme — d'un type de système qui apprend à modéliser le monde plutôt qu'à en parler.
Cela ne signifie pas que les LLM vont disparaître. Ils resteront des outils puissants pour tout ce qui relève de la manipulation de langage, du raisonnement symbolique, de la génération de contenu. Mais pour accéder à un vrai cap de l'autonomie et de la robustesse — ce que certains appellent l'AGI — l'architecture actuelle montre peut-être ses limites structurelles.
Ce qu'on sous-estime collectivement
Il y a une asymétrie intéressante dans la façon dont on parle de l'IA en ce moment.
D'un côté, on surestime peut-être ce que les LLM actuels représentent. Leurs performances impressionnantes sur des benchmarks de raisonnement peuvent masquer l'absence de vrai modèle causal. Un système qui prédit bien du texte peut donner l'impression de comprendre — sans comprendre au sens plein du terme.
De l'autre côté, on sous-estime peut-être ce qui arrive ensuite. Les world models, JEPA et les architectures orientées simulation sont encore émergents. Les résultats de VL-JEPA, Genie 3 ou Marble ne font pas la une comme un nouveau GPT. Et pourtant, ils dessinent peut-être la trajectoire de la prochaine décennie.
La vraie rupture ne s'annonce pas toujours à grand renfort de communication. Parfois, elle s'accumule silencieusement dans les papiers de recherche, dans les architectures qui battent des systèmes 1 000 fois plus grands avec une fraction des ressources.
La question que posait le post LinkedIn de départ reste entière : sommes-nous encore sur la bonne trajectoire avec les LLM géants ? Ou faudra-t-il passer par des world models pour franchir un vrai cap ?
Mon intuition — et celle de LeCun — c'est que les deux coexisteront longtemps. Mais le prochain saut qualitatif ne ressemblera probablement pas à un LLM plus grand. Il ressemblera à un système capable de simuler avant de parler.
Références
- Yann LeCun, A Path Towards Autonomous Machine Intelligence (2022) — yann.lecun.com
- Meta AI, V-JEPA et VL-JEPA — ai.meta.com
- PulseMark, World Models vs Language Models 2026 — pulsemark.ai
- Medium/KAIRI AI, Beyond LLMs and World Models — medium.com
- Medium, World Models: The Next Leap Beyond LLMs — medium.com