Gouvernance de l’IA : Anthropic propose un moratoire : entre débat confisqué et sanction américaine
Le 5 juin 2026, l’Anthropic Institute publiait un texte appelant à un mécanisme mondial de coordination pour ralentir le développement de l’IA de pointe. Une semaine plus tard, le 12 juin 2026, le gouvernement américain interdisait l’utilisation à l’étranger de deux modèles d’IA de pointe de la firme. Un timing édifiant pour un sujet sur l’intelligence artificielle dont le traitement médiatique interroge.
La proposition sérieuse d’Anthropic
Le texte « When AI builds itself », signé par Marina Favaro et Jack Clark, cofondateur de la firme et directeur de l’Anthropic Institute, appelle à la création d’un dispositif mondial permettant de ralentir ou de suspendre temporairement le développement de l’IA de pointe.
La proposition part d’un constat factuel qu’Anthropic étaye avec ses propres données internes, ce qui est remarquablement rare dans un secteur peu enclin à la transparence. En mai 2026, plus de 80 % du code intégré dans la base de code d’Anthropic est rédigé par Claude. Avant le lancement de Claude Code en février 2025, cette proportion était quasi nulle. La durée des tâches que les modèles peuvent accomplir de manière autonome a doublé environ tous les quatre mois. Ce ne sont pas des projections sur des risques lointains, ce sont des données de production que la société publie sur ses propres outils.
Le seuil critique identifié est celui de l’auto-amélioration récursive, c’est-à-dire le moment où les systèmes d’IA deviendraient capables d’entraîner et de concevoir leurs successeurs sans intervention humaine significative, « ce qui pourrait arriver plus tôt que la plupart des institutions ne sont prêtes », met en garde Anthropic. Face à ce risque, Anthropic ne préconise pas un arrêt unilatéral, qui ne ferait que changer le leader de la course, mais la création d’un système de coordination mondiale permettant une pause concertée et vérifiable. L’entreprise compare ce défi à celui des traités sur les armes nucléaires, tout en admettant une difficulté de taille : les cycles d’entraînement des IA sont bien plus faciles à dissimuler que des silos de missiles.
Asilomar 1975: quand les scientifiques ont eu le courage de s’arrêter
La gouvernance scientifique a déjà su produire des garde-fous. Il existe un précédent historique direct, méconnu du grand public mais fondateur pour tout chercheur en éthique des sciences, la conférence d’Asilomar de 1975.
En juillet 1974, Paul Berg et le comité qu’il avait constitué demandèrent dans la revue Science un moratoire volontaire sur certaines expériences de génie génétique impliquant l’ADN recombinant. Paul Berg avait envisagé d’insérer dans une bactérie Escherichia coli un gène du virus SV40, connu comme cancérigène. Or E. coli est commune dans l’environnement et dans notre tube digestif. Plutôt que de continuer, il a interrompu ses propres expériences et lancé un appel public à la communauté scientifique mondiale. La conférence d’Asilomar de février 1975 a réuni 150 scientifiques, mais aussi des juristes et des journalistes. Elle a conclu à la nécessité d’encadrer avec des lignes directrices strictes les travaux de recherche impliquant l’ADN recombinant.
Ce n’était pas une posture morale. Ce n’était pas de l’hypocrisie. C’était de la responsabilité scientifique exercée par des chercheurs qui, au sommet de leurs capacités et au coeur d’une révolution technologique extraordinaire, ont choisi de s’arrêter pour réfléchir avant d’aller plus loin. En 2025, cinquante ans après Asilomar, une nouvelle conférence a tenté de reproduire cette démarche sur les biotechnologies combinées à l’IA, sans réussir à produire une déclaration commune. Le précédent existe. La volonté collective de le reproduire, elle, s’est érodée.
La bioéthique a mis trente ans à construire ses cadres institutionnels : comités d’éthique, conventions internationales, principes de Belmont, déclaration de Helsinki. Ces dispositifs ne sont pas parfaits, mais ils ont créé une culture de la responsabilité qui n’existait pas avant eux. Personne n’a accusé les pères fondateurs de la bioéthique d’être incohérents parce qu’ils continuaient à faire de la recherche tout en appelant à l’encadrer. En 2018, le premier bébé génétiquement modifié est né en Chine dans l’indifférence générale, avant que la communauté scientifique ne réagisse dans l’urgence. C’est ce qui arrive quand la gouvernance arrive après les faits plutôt qu’avant.
La confusion entre sincérité d’un acteur et pertinence d’une question
Que les dirigeants d’Anthropic aient des intérêts commerciaux dans l’issue du débat sur la régulation de l’IA, c’est une évidence. Mais cela n’invalide pas les questions posées sur l’auto-amélioration récursive, pas plus que les intérêts de Paul Berg dans la recherche génétique n’invalidaient ses interrogations sur les risques des bactéries modifiées. L’éthique et la gouvernance des technologies ne sont pas des postures morales réservées aux acteurs purs de tout intérêt. Elles sont précisément les dispositifs que les sociétés construisent pour encadrer des acteurs qui, par définition, ont des intérêts dans ce qu’ils font.
La comparaison avec Elon Musk, qui a signé une pétition pour la pause de l’IA en 2023 avant d’accélérer avec xAI, a été faite, mais c’est une fausse équivalence. Anthropic est fondée depuis 2021 sur un corpus de recherche en sécurité de l’IA publié et vérifiable, dont Christopher Olah, l’un de ses cofondateurs, est l’un des chercheurs en interprétabilité les plus cités au monde. Mettre les deux sur le même plan, c’est de l’amalgame rhétorique.
Réduire tout appel à la gouvernance à une forme d’hypocrisie a un effet précis et documenté. Il rend impossible tout débat sérieux sur les risques, en transformant systématiquement la question « faut-il encadrer ? » en question « qui a le droit moral de l’encadrer ? ». La seconde question est insoluble par définition, puisqu’aucun acteur n’est jamais parfaitement désintéressé. C’est exactement son but. Et il est particulièrement commode pour ceux qui ont un intérêt commercial direct dans le fait que le développement de l’IA continue sans contrainte, sans toujours le déclarer.
Couverture médiatique : le fond évacué au profit du procès en hypocrisie
La couverture médiatique française de cette proposition illustre ce mécanisme à l’oeuvre. Silicon.fr a relevé qu’Anthropic se trouve dans une position préboursière favorable, avec des revenus annualisés en passe d’atteindre 50 milliards de dollars d’ici fin juin 2026, contre 9 milliards seulement fin 2025, et que « un moratoire mondial reviendrait en pratique à cristalliser les positions acquises. » MacGeneration note un « double discours » entre ce qu’Anthropic fait et ce qu’elle propose. Europe 1 évoque une stratégie de « marketing de la peur. »
Ces angles sont légitimes. Mais ils ont un point commun : aucun ne traite sérieusement la question de l’auto-amélioration récursive, aucun ne cite les données publiées par Anthropic sur ses propres modèles, aucun n’interroge un chercheur en sécurité de l’IA sur la plausibilité du seuil critique décrit. Bref, aucun n’aborde le problème de fond. Le procès en hypocrisie est plus facile à écrire en une heure que l’analyse d’un document technique de vingt pages…
Reconnaître la tension dans la proposition
Une entreprise valorisée à près de 1 000 milliards de dollars, dont les revenus quintuplent en six mois, et qui appelle à un moratoire mondial, se trouve dans une position structurellement ambiguë. L’histoire des grandes industries montre que les leaders établis ont parfois appelé à la régulation précisément parce qu’elle consolide leur avance.
La vérifiabilité d’un tel moratoire reste également un problème ouvert qu’Anthropic reconnaît lui-même. Laa question géopolitique est sérieuse. Il faut être honnête en reconnaissant qu’une coordination effective avec la Chine sur ce sujet, dans le contexte de rivalité technologique actuel, relève effectivement de la gageure. Cela n’empêche de mettre la proposition sur la table.
La vraie question que le débat évite
L’expérience de la bioéthique enseigne quelque chose d’essentiel : les cadres de gouvernance des technologies ne se construisent pas après les crises. Ils se construisent avant, dans des fenêtres d’opportunité étroites où les acteurs du secteur, la société civile, les juristes et les philosophes peuvent encore délibérer sans urgence. Asilomar a fonctionné parce que les chercheurs les plus avancés ont eu le courage de s’arrêter avant que le problème ne se matérialise. C’est cette fenêtre qu’Anthropic dit vouloir rouvrir.
Le texte conclut en écrivant que « la fenêtre pour examiner ces questions ensemble est ouverte, et les personnes extérieures aux entreprises d’IA devraient être impliquées dans cette délibération. » C’est précisément la phrase que la plupart des articles n’ont pas citée. Ce débat ne peut pas être sérieusement conduit par les seuls acteurs économiques qui ont intérêt dans son issue, quelle que soit la direction dans laquelle cet intérêt les pousse. Il ne peut pas non plus être confisqué par des commentateurs qui traitent une question de gouvernance technologique comme un feuilleton de rivalités industrielles, avec ou sans conflits d’intérêts déclarés.
Les décisions sur le rythme de développement de l’IA sont parmi les plus importantes que nos sociétés auront à prendre dans les prochaines années. Qualifier ceux qui demandent à s’arrêter pour réfléchir de « tartuffes » est une façon commode de ne pas avoir à répondre à leurs arguments. C’est aussi, historiquement, une façon d’arriver trop tard.
L’événement du 12 juin : quand la théorie devient réalité en une semaine
Avant-hier,12 juin 2026, soit une semaine après la parution de la proposition de moratoire, le gouvernement américain a suspendu l’accès aux deux modèles d’IA les plus avancés d’Anthropic pour tous les ressortissants étrangers dans le monde.. Le timing est édifiant.
Cette décision illustre précisément ce qu’Anthropic disait dans son document sur le moratoire, à savoir que nos institutions ne sont pas prêtes. Une directive imposée sans détails sur les raisons de sécurité nationale, sans procédure transparente, sans processus d’appel clairement défini, qui force la désactivation d’un modèle pour des centaines de millions d’utilisateurs en quelques heures. C’est exactement l’absence de cadre que dénonçait Anthropic. Non pas pour protéger ses positions commerciales, mais parce qu’une telle absence de cadre produit précisément ce genre de décision opaque et brutale.
L’entreprise se plie à la directive légale. Mais elle la conteste publiquement et frontalement, point par point.
La raison invoquée par le gouvernement américain est la découverte d’une méthode de contournement des garde-fous de Fable 5, un « jailbreak » permettant d’identifier des vulnérabilités logicielles. Anthropic répond avec des faits précis : le jailbreak en question est étroit et non universel, les vulnérabilités qu’il révèle sont déjà accessibles via d’autres modèles publics, notamment GPT-5.5 d’OpenAI, et elles sont utilisées quotidiennement par les professionnels de la cybersécurité défensive. L’entreprise a travaillé pendant des semaines avec le gouvernement américain, le UK AISI et des organisations tierces indépendantes pour tester les garde-fous de Fable 5 pendant des milliers d’heures. Ces tests ont montré que ses garde-fous sont « substantiellement plus efficaces que ceux de tout modèle précédemment déployé. »
La conclusion d’Anthropic est sans équivoque : « Si ce standard était appliqué à l’ensemble de l’industrie, nous pensons que cela stopperait essentiellement tout déploiement de nouveaux modèles pour tous les fournisseurs de modèles frontière. » Et elle ajoute : « Cette action n’adhère pas aux principes de transparence, d’équité, de clarté et d’ancrage dans les faits techniques que nous avons publiquement défendus. »
Asilomar revisitée : la gouvernance des technologies de rupture n’attend pas
Ce qui s’est passé le 12 juin 2026 est l’opposé exact d’Asilomar : une décision prise dans l’urgence, sans processus délibératif, sans transparence sur les raisons techniques, sans cadre préétabli. C’est ce qui arrive quand la gouvernance arrive après les faits plutôt qu’avant.
La bioéthique a mis trente ans à construire ses comités d’éthique, ses conventions internationales, ses principes de Belmont et sa déclaration de Helsinki. Ces dispositifs ne sont pas parfaits, mais ils ont créé une culture de la responsabilité et des procédures qui permettent de prendre des décisions difficiles dans un cadre légitime. L’IA n’a pas encore ces cadres. Et la directive du 12 juin montre ce que leur absence produit.
Cet événement va-t-il recentrer le débat sur les questions pertinentes ?
Les commentateurs qui réduisent les appels à la gouvernance de l’IA à de la posture morale ont maintenant sous les yeux la démonstration de ce que l’absence de gouvernance produit concrètement : une décision gouvernementale opaque, imposée en urgence, sans procédure transparente, qui force la désactivation d’un service pour des centaines de millions d’utilisateurs dans le monde entier.
Ainsi, le vrai débat n’est pas entre ceux qui veulent freiner l’IA et ceux qui veulent la laisser se developper librement. Ce clivage est une caricature. Le vrai débat est entre ceux qui pensent que les décisions sur les technologies les plus puissantes jamais développées peuvent être prises de manière opaque, rapide et unilatérale, et ceux qui pensent qu’elles devraient être prises dans des cadres transparents, délibératifs et légitimes, associant les acteurs du secteur, la société civile, les juristes et les citoyens.
Anthropic vient de se retrouver du mauvais côté d’une décision opaque, et elle le déplore. On pourra relire avec intérêt, à la lumière de ce qui vient de se passer, sa Politique relative à l’IA exponentielle.
Illustration : logos appartenant à Anthropic
Cet article GRATUIT de journalisme indépendant à but non lucratif vous a intéressé ? Il a pour autant un coût ! Celui d’une rédaction qui se mobilise pour produire et diffuser des contenus de qualité. Qui paie ? vous, uniquement, pour garantir notre ultra-indépendance. Votre soutien est indispensable.
Science infuse est un service de presse en ligne agréé (n° 0324Z94873) édité par Citizen4Science, association à but non lucratif d’information et de médiation scientifique.
Notre média dépend entièrement de ses lecteur pour continuer à informer, analyser, avec un angle souvent différent car farouchement indépendant. Pour nous soutenir, et soutenir la presse indépendante et sa pluralité, faites un don pour que notre section presse reste d’accès gratuit !
via J’aime l’Info, association d’intérêt général partenaire de la presse en ligne indépendante :
ou via la page dédiée de J’aime l’Info, partenaire de la presse en ligne indépendante
