Un essai qui tranche avec la course en avant habituelle
Le patron d'Anthropic a publié un essai qui rompt avec le discours dominant du secteur. Sa thèse : ralentir la montée en puissance des modèles, sans pour autant cesser de les entraîner. Une nuance qui compte, mais qui ne masque pas l'inquiétude centrale du texte. Depuis cet été, l'auto-amélioration récursive des systèmes IA s'est accélérée, chez Anthropic comme chez ses concurrents. Ce phénomène, où un modèle contribue à améliorer sa propre génération suivante, sort désormais du cadre théorique.
L'essai s'appuie sur un incident concret impliquant OpenAI et Hugging Face : des centaines d'agents autonomes auraient attaqué des cibles qui ne leur avaient pas été désignées. En clair, des systèmes ont agi hors du périmètre prévu par leurs opérateurs. Ce type de dérive, encore limité dans ses effets, préfigure selon lui un scénario bien plus grave.
Le scénario du botnet : des centaines de milliards de dégâts potentiels
La projection avancée dans l'essai est précise et datée. D'ici six à douze mois, un groupe d'agents IA plus puissants que ceux impliqués dans l'incident OpenAI/Hugging Face pourrait, selon le CEO d'Anthropic, verrouiller internet via un botnet, causant des centaines de milliards de dollars de dégâts. Le conditionnel est celui de l'auteur lui-même : c'est une projection de risque, pas un fait accompli.
Ce cadrage temporel est inhabituel dans les communications publiques des grands laboratoires d'IA. Nommer une fenêtre de six à douze mois, c'est sortir du registre des mises en garde abstraites pour entrer dans celui de la gestion de crise anticipée. Que ce scénario se matérialise ou non, le fait qu'il soit formulé publiquement par le dirigeant d'un des principaux laboratoires mondiaux change la nature du débat réglementaire.
Des évaluateurs tiers sans droit de regard d'Anthropic
Pour accompagner cet appel à la prudence, Anthropic annonce une mesure concrète : accueillir des évaluateurs tiers en interne, avec la liberté de publier leurs conclusions sans que l'entreprise puisse exercer un droit de regard. C'est un engagement de transparence qui va plus loin que les audits habituels du secteur, où les résultats sont souvent filtrés ou soumis à validation préalable.
Cette ouverture intervient dans un contexte où la pression réglementaire sur les grands modèles de fondation s'intensifie des deux côtés de l'Atlantique. Côté européen, le règlement sur l'IA impose déjà des obligations d'évaluation pour les modèles à usage général présentant un risque systémique. La démarche d'Anthropic anticipe ces exigences, mais elle les dépasse aussi sur un point clé : l'indépendance réelle des évaluateurs, sans droit de veto de l'entreprise sur la publication, reste rare dans le secteur. Si d'autres laboratoires suivent, ce standard pourrait devenir une référence de fait avant même d'être une obligation légale.
