Anthropic vient de suspendre l'accès à ses modèles Fable 5 et Mythos 5 après une directive du gouvernement américain. Le motif annoncé : un risque de jailbreak. Le détail intéressant n'est pas technique. Il est politique.
Une directive d'export control est arrivée un soir, sans détails écrits sur la nature précise de la préoccupation. Quelques heures plus tard, deux modèles utilisés en production par un nombre significatif de clients devenaient inaccessibles. Anthropic explique honnêtement que ses propres tests n'avaient pas révélé de jailbreak universel, seulement un contournement étroit, et défend une logique de défense en profondeur — garde-fous, monitoring, mitigation — plutôt qu'une suspension complète. La décision finale, elle, n'appartenait pas à l'éditeur du modèle.
C'est ce point qui mérite qu'on s'arrête. Parce qu'il dépasse Anthropic, et qu'il rejoue, à l'échelle d'une infrastructure logicielle nouvelle, une vieille question : qu'est-ce qu'on accepte de confier à un pouvoir administratif que l'on ne contrôle pas ?
Un incident qui n'est pas qu'un incident
Sur le papier, ce qui s'est passé peut se résumer comme une décision de sécurité nationale parmi d'autres. Un État évalue un risque, demande à une entreprise de retirer un produit, l'entreprise s'exécute. Vu comme ça, rien d'extraordinaire.
Sauf que la chaîne précise est inhabituelle. La directive ne dit pas littéralement « éteignez le modèle ». Elle impose des contraintes telles que la conformité passe en pratique par une suspension complète. L'entreprise, pour rester du bon côté de la loi, débranche elle-même son produit, ce qui dilue la responsabilité visible : ce n'est pas l'État qui a « coupé » Fable 5, c'est Anthropic. Le résultat opérationnel est pourtant le même. Une infrastructure utilisée par des milliers de clients disparaît du jour au lendemain, sans débat public préalable, sans audit indépendant communiqué, sans recours immédiat.
Le sujet n'est pas de savoir si la décision était fondée. Elle l'est peut-être. Le sujet est qu'elle est possible, et qu'elle peut se répéter — sur un autre modèle, un autre fournisseur, un autre usage, un autre pays. Ce qu'on observe est moins un incident isolé qu'un précédent : la confirmation pratique qu'au-dessus de la couche IA, il existe un bouton politique que l'on n'a pas conçu, que l'on ne voit pas, et que l'on ne contrôle pas.
Bastiat : « La Loi, c'est la Force »
Pour penser ce genre de situation, il existe un texte utile. Pas un texte récent, pas un papier de policy — un pamphlet de 1850 que Bastiat appelait simplement La Loi. Sa phrase centrale tient en quatre mots : « La Loi, c'est la Force. »
Il faut la lire sans la déformer. Bastiat ne dit pas qu'il ne faut aucune loi. Il dit que la loi est la force collective organisée, et qu'à ce titre, son périmètre légitime ne peut pas dépasser celui de la force légitime. Une loi qui empêche une injustice est dans son rôle. Une loi qui organise la société à la place des individus, qui pilote, qui choisit pour eux ce qu'ils peuvent produire, lire, échanger ou héberger, sort de ce périmètre. Bastiat se méfie d'une catégorie d'hommes en particulier : les « organisateurs, instituteurs de sociétés, conducteurs de peuples » — ceux qui pensent toujours pouvoir mieux décider que les autres.
L'intérêt de cette grille, transposée à l'IA, n'est pas idéologique. C'est de rappeler une chose simple : quand on parle de régulation, on ne parle jamais d'une recommandation. On parle d'un mécanisme adossé, in fine, à la contrainte. Une directive d'export, une obligation de retrait, une exigence de filtrage, une procédure de mise en conformité — ce sont des formes administratives de la même force. Tant que cette force protège contre une injustice claire et démontrée, elle reste à sa place. Quand elle se met à arbitrer, en opacité, quel acteur peut diffuser quelle technologie, on est ailleurs.
Le point n'est pas « moins d'État sur l'IA ». Le point, plus précis, est qu'on ne contrôle jamais totalement la puissance qu'on confie à l'État. On peut écrire un cadre de régulation avec les meilleures intentions du monde, et constater dix ans plus tard qu'il sert d'autres objectifs. Bastiat le formule à sa manière : la loi est un outil, ce qui compte c'est qui la tient. Demander à l'État de « sécuriser » une technologie aussi stratégique sans poser cette question, c'est se reposer sur la promesse implicite que les pilotes de l'appareil seront toujours bienveillants. Promesse jamais tenue très longtemps dans l'histoire.
Le problème des modèles fermés : une dépendance politique
C'est exactement à cet endroit que les modèles 100 % fermés deviennent un problème structurel.
Un modèle fermé, c'est un produit qu'on consomme via une API, dans une juridiction donnée, avec des conditions d'usage qu'on n'écrit pas. C'est très bien tant que tout fonctionne. Mais ça crée trois dépendances superposées : une dépendance technique (le modèle vit sur l'infra du fournisseur), une dépendance commerciale (le prix et la roadmap dépendent de lui), et — surtout — une dépendance juridictionnelle. Si l'État qui héberge le fournisseur décide qu'un modèle ne doit plus être servi, il ne sert plus. Pour personne. Y compris pour des usages qui n'avaient rien à voir avec la motivation initiale.
Pour une entreprise qui a intégré l'IA dans un workflow critique — support client automatisé, génération de documents, copilotes internes, agents métiers — cette fragilité est nouvelle. Une bibliothèque open source disparue de npm, on peut la vendor. Un fournisseur SaaS qui ferme, on a quelques mois pour migrer. Un modèle d'IA accessible uniquement via API étrangère qui est retiré par décret, on n'a parfois que quelques heures, et aucune alternative équivalente immédiatement disponible.
C'est encore plus net pour les défenseurs cyber et les équipes sécurité. Les attaquants sérieux ne dépendent pas d'une API officielle pour faire tourner un LLM. Les défenseurs, eux, oui — quand ils s'appuient sur des modèles propriétaires pour analyser des logs, détecter des comportements, prioriser des alertes. Un retrait administratif déséquilibre la posture sans rien retirer aux acteurs malveillants. C'est ce qu'on voit (un modèle dangereux suspendu) vs ce qu'on ne voit pas (les défenseurs privés d'un outil, les capacités qui se diffusent ailleurs sans contrôle).
Ce que les modèles open source / open weights changent vraiment
Les modèles ouverts ne sont pas un détail idéologique. Mais ce n'est pas non plus une solution miracle. Le débat gagne à les regarder comme ce qu'ils sont : une catégorie technique qui offre des propriétés concrètes que les modèles fermés n'offrent pas.
L'OCDE et la NTIA convergent assez largement sur le diagnostic. L'OCDE rappelle que « open source AI » est un terme imparfait — l'ouverture est un spectre qui couvre le code, la documentation, les données d'entraînement, les poids, la licence — et qu'il vaut mieux parler de modèles open-weight pour être précis. La NTIA, dans son rapport sur les dual-use foundation models with widely available model weights, souligne que ces modèles diversifient les acteurs capables de participer à la R&D, décentralisent un marché aujourd'hui concentré dans une poignée de grands développeurs, et permettent d'utiliser l'IA sans partager les données avec un tiers — un point critique pour la santé, la défense, les services publics, les secteurs réglementés.
Pour une entreprise, cinq propriétés concrètes en découlent :
- Auditer au lieu de croire : les poids sont disponibles, les comportements peuvent être analysés, les biais peuvent être mesurés indépendamment.
- Héberger au lieu de dépendre : l'inférence peut tourner localement, ou dans un cloud privé sous contrôle, sans envoyer la donnée à un tiers.
- Adapter au lieu d'attendre : un fine-tuning métier devient possible sans demander la permission, ni attendre la prochaine release d'un fournisseur.
- Continuer au lieu d'être coupé : un modèle dont les poids existent quelque part ne disparaît pas par décret du jour au lendemain.
- Distribuer le pouvoir au lieu de le concentrer : davantage d'acteurs participent à la chaîne, ce qui réduit le risque qu'une seule décision affecte toute l'infrastructure.
La NTIA ne recommande pas pour autant de tout ouvrir aveuglément. Sa conclusion est plus nuancée : à la date du rapport, les preuves ne suffisent pas à justifier des restrictions générales sur les poids ouverts, mais le gouvernement doit construire une capacité d'évaluation continue. L'OCDE insiste de son côté sur les risques réels — misuse, prolifération, exposition de vulnérabilités. Personne sérieux ne soutient que l'ouverture est sans coût. Le point est qu'elle est une condition de résilience, pas un bonus optionnel.
Sécurité et open source ne sont pas opposés
Une bonne partie du débat public oppose « sécurité » et « ouverture » comme s'ils étaient des chemins exclusifs. Cette mise en récit est utile politiquement, mais analytiquement assez pauvre.
Les risques de mésusage existent, et ne disparaîtront pas. Mais fermer toute la chaîne ne fait pas disparaître les capacités. Une technologie dont le coût marginal de réplication tend vers zéro contourne assez vite les interdictions formelles. Ceux qui jouent dans les règles — chercheurs, PME, équipes sécurité d'État de droit, plateformes commerciales soucieuses de leur conformité — sont les premiers et parfois les seuls à être ralentis. Les acteurs sérieusement malveillants disposeront, d'une manière ou d'une autre, de capacités équivalentes.
La conséquence pratique n'est pas « il ne faut surtout pas réguler ». C'est plutôt : il faut réguler là où la régulation a vraiment un effet — sur les usages, les déploiements à grande échelle, la transparence des évaluations, les responsabilités des fournisseurs — et accepter qu'on ne pourra pas réguler l'existence des capacités elles-mêmes. Dans ce cadre, les modèles ouverts ne sont pas l'ennemi de la sécurité : ils sont la condition pour qu'un écosystème pluraliste puisse auditer, contester, améliorer et durcir collectivement les systèmes.
Une infrastructure critique ne doit pas avoir un seul bouton rouge
Si l'IA devient une couche d'infrastructure — et tout suggère qu'elle l'est déjà partiellement, et qu'elle le sera bien davantage — alors elle doit être pensée comme une infrastructure critique. Et les infrastructures critiques obéissent à quelques règles élémentaires : redondance, distribution, vérifiabilité, possibilité d'opérer en mode dégradé.
Aucune de ces propriétés n'est satisfaite par un paysage où trois ou quatre laboratoires, dans une poignée de juridictions, contrôlent l'essentiel des modèles utilisables en production. Ce n'est pas une question de défiance envers ces acteurs en particulier. C'est une question de surface de risque collective. Un seul bouton, quel que soit l'humain ou l'institution qui le tient, est trop de pouvoir pour une infrastructure dont des millions d'usages dépendent désormais.
Les modèles open source / open weights ne règlent pas tout. Mais ils introduisent dans le système des contrepoids que les modèles purement fermés ne peuvent pas offrir. Pour une PME, un indépendant, une équipe sécurité ou un État qui regarde sérieusement sa souveraineté numérique, ce n'est plus un débat philosophique. C'est une décision d'architecture.
L'affaire Anthropic est utile en cela. Elle rappelle qu'une IA durablement utile ne peut pas être seulement performante. Elle doit aussi être robuste à des décisions qu'elle ne contrôle pas.
Références
- Anthropic — Statement on the US government directive to suspend access to Fable 5 and Mythos 5 : https://www.anthropic.com/news/fable-mythos-access
- Brivael (X / Twitter) — lecture politique de l'affaire : https://x.com/brivael/status/2065606461175279666
- Frédéric Bastiat — La Loi (Wikisource) : https://fr.wikisource.org/wiki/La_Loi_(Fr%C3%A9d%C3%A9ric_Bastiat)
- OECD.AI — AI openness: Balancing innovation, transparency and risk in open-weight models : https://oecd.ai/en/wonk/balancing-innovation-transparency-and-risk-in-open-weight-models
- NTIA — Dual-Use Foundation Models with Widely Available Model Weights Report : https://www.ntia.gov/programs-and-initiatives/artificial-intelligence/open-model-weights-report
- NTIA — NTIA Supports Open Models to Promote AI Innovation (press release) : https://www.ntia.gov/press-release/2024/ntia-supports-open-models-promote-ai-innovation