Points clés
- Un chercheur ayant travaillé trois ans chez OpenAI puis Anthropic démissionne publiquement et accuse les deux sociétés d'agir de façon irresponsable.
- Selon lui, des membres significatifs de ces équipes croient sincèrement que leurs modèles pourraient faire disparaître l'humanité avant la fin de la décennie.
- Il distingue deux cultures : l'aveuglement relatif chez OpenAI, la lucidité paradoxale chez Anthropic qui comprend le danger mais continue la course.
- Sa phrase de démission : un pari pareil ne devrait pas se lancer depuis le Slack d'une entreprise privée.
Trois ans au cœur des deux laboratoires les plus influents de l'IA
Ce chercheur a passé trois ans à entraîner les modèles de deux des laboratoires d'intelligence artificielle les plus influents au monde : OpenAI d'abord, Anthropic ensuite. Sa démission, rendue publique dans un message devenu viral, ne porte pas sur des conditions de travail ou un désaccord technique. Elle porte sur une conviction : aucune des deux sociétés n'agit de façon responsable face à ce qu'elles construisent.
Le constat qu'il dresse est brutal. Selon lui, les personnes qui développent ces systèmes croient sincèrement que leurs modèles pourraient faire disparaître l'humanité avant la fin de la décennie. Ce n'est pas une métaphore. C'est, dit-il, la conviction intime d'une partie significative des équipes en place. Ce détail mérite d'être souligné : il ne s'agit pas d'une crainte abstraite formulée dans un rapport de risque, mais d'une croyance que des ingénieurs et chercheurs portent au quotidien, tout en continuant à présenter au bureau le lendemain matin pour entraîner les modèles suivants.
Deux cultures, un même problème
Sa distinction entre les deux maisons mérite attention. Chez OpenAI, le diagnostic est celui d'une forme d'aveuglement collectif : beaucoup n'auraient pas vraiment pris la mesure de ce qui se joue. L'urgence du risque existentiel n'aurait pas pénétré les esprits au même titre que la course au produit. La pression de livrer, d'itérer, de rester compétitif aurait en quelque sorte anesthésié la réflexion sur les conséquences de long terme. Ce n'est pas de la mauvaise foi, selon lui, c'est une forme d'inattention structurelle entretenue par le rythme même de l'industrie.
Anthropic, en revanche, présente un profil différent et, à certains égards, plus troublant. L'enjeu y serait parfaitement compris. La société a été fondée par d'anciens cadres d'OpenAI précisément pour construire une IA plus sûre. La sécurité des systèmes n'est pas un angle marketing chez Anthropic, c'est l'argument fondateur de son existence. Pourtant, selon ce chercheur, Anthropic se retrouve enfermée dans une logique de course et se croit obligée d'arriver première. Comprendre le danger et continuer quand même : c'est ce paradoxe qu'il pointe comme le cœur du problème. Une société créée pour ralentir la course se retrouve à l'accélérer, convaincue que sa victoire serait moins mauvaise que celle d'un concurrent moins prudent.
Sa phrase de démission résume tout : un pari pareil ne devrait pas se lancer depuis le Slack d'une entreprise privée. En clair, des décisions susceptibles d'engager l'avenir de l'espèce ne devraient pas relever de la gouvernance interne d'une startup, aussi bien financée soit-elle. OpenAI et Anthropic comptent parmi les sociétés non cotées les plus valorisées au monde, avec des investisseurs comme Microsoft pour la première et Google pour la seconde. Cette concentration de pouvoir, sans mandat démocratique ni régulation contraignante à la hauteur des enjeux, est précisément ce que ce témoignage met en cause.
La question posée par ce départ n'est pas celle de la compétence des équipes ni de leurs intentions. Elle est plus fondamentale : qui décide et selon quel mandat, lorsque les conséquences potentielles dépassent le périmètre de toute entreprise privée ? Les marchés de prédiction suivent déjà de près la question de savoir laquelle des deux sociétés entrera en bourse en premier, ou affichera la valorisation la plus élevée d'ici la fin de l'année. Ce chercheur, lui, pose une question différente et son message viral suggère qu'il n'est pas le seul à la trouver légitime.
