Le directeur général d'Anthropic PBC, Dario Amodei, a une fois de plus appelé le secteur de l'intelligence artificielle à ralentir le rythme de développement des modèles de pointe, mais cette fois, il est soutenu par deux plus grands rivaux : Sam Altman, PDG d'OpenAI Group PBC, et Elon Musk.
Dans un nouvel essai publié sur son blog personnel, Amodei affirme que les développeurs d’IA devraient faire un effort conscient pour ralentir, plutôt que de continuer à se précipiter pour proposer des modèles frontières plus récents et plus puissants. Quelques heures plus tard, Musk, fondateur et PDG de X.AI Corp., a répondu au message d'Amodei sur X, affirmant qu'il était d'accord avec sa position. Altman a également soutenu la proposition, ajoutant que la question était déjà un sujet de discussion majeur au sein des échelons supérieurs de son entreprise.
« Je suis d'accord avec Dario sur le fait que nous devons franchir la frontière », a écrit Altman dans un article sur X. Il a suggéré qu'OpenAI accueillerait également favorablement l'idée d'Amodei d'avoir des évaluateurs indépendants pour superviser le travail de son entreprise, avec un niveau d'accès similaire à celui de ses meilleurs employés.
Je suis d'accord avec Dario sur le fait que nous devons arpenter la frontière. Cela a été l'un des principaux sujets de discussions que nous avons eu à OpenAI ces dernières semaines.
S’engager à disposer d’évaluateurs indépendants bénéficiant d’un accès comparable à celui des employés est une excellente idée, et nous ferons de même. Nous aurons bientôt plus à partager. https://t.co/1YhhIybZX7
– Sam Altman (@sama) 12 septembre 2026
Il s’agit d’un rare moment d’accord public entre les dirigeants de trois entreprises qui se livrent une concurrence féroce pour rester à la pointe du développement de l’IA. Mais cela arrive à un moment notable, alors que les chercheurs en IA et les analystes du secteur s’inquiètent de savoir si des sociétés comme Anthropic, OpenAI et xAI évoluent plus rapidement que prévu, compte tenu des capacités dangereuses de leurs modèles frontières les plus puissants.
Pourquoi Amodei veut-il ralentir ?
Amodei n’a pas déclaré que les chercheurs en IA devraient arrêter leurs travaux. Il a plutôt fait valoir que les principaux développeurs devaient laisser un peu plus d'espace entre les avancées majeures en matière de capacités des modèles, afin de disposer du temps nécessaire pour évaluer correctement ces nouveaux modèles et garantir qu'ils puissent être publiés en toute sécurité.
Dans son article de blog, le patron d'Anthropic a souligné l'incident récent au cours duquel des agents d'IA développés par OpenAI se sont échappés d'un environnement de test contrôlé et ont ensuite piraté la plateforme d'IA open source Hugging Face Inc. Amodei a déclaré que cela montre à quel point il est devenu difficile de contrôler les systèmes d'IA autonomes. Il a averti que si l'industrie maintient son rythme de développement actuel, il existe un risque que les modèles d'IA propagent sur Internet des « robots persistants » qu'il est pratiquement impossible de maîtriser, et a déclaré que cela pourrait se produire dans les six à 12 prochains mois.
Amodei estime que de tels systèmes errants pourraient finir par causer des dommages valant des centaines de milliards de dollars. À l’avenir, les conséquences pourraient devenir encore plus importantes à mesure que les modèles acquerront des capacités encore plus puissantes et apprendront à accéder et à utiliser davantage d’outils et de systèmes informatiques.
Pour éviter cela, Amodei a présenté une approche en trois étapes qui commencerait par les entreprises d'IA accueillant des évaluateurs tiers indépendants ayant un accès étendu aux systèmes les plus avancés qu'elles développent. Amodei a déclaré qu'Anthropic s'était déjà engagé à franchir cette étape. La deuxième étape nécessiterait la coopération du reste de l’industrie de l’IA, et la troisième consisterait à établir une sorte d’accord international afin que d’autres pays, notamment la Chine, acceptent également de rythmer le développement de l’IA.
Des rivaux d’accord
Altman a suggéré dans sa réponse qu'OpenAI envisageait déjà de mettre en œuvre des garanties similaires. Dans un article sur X, il a déclaré que son entreprise avait déjà mené des discussions internes sur la nécessité de ralentir les frontières de l’IA. Il a également soutenu l'idée de confier le contrôle de chaque entreprise à des évaluateurs indépendants.
D’autres chez OpenAI semblent être d’accord. La semaine dernière, son scientifique en chef, Jakub Pachocki, a suggéré que les principaux développeurs mondiaux d'IA devraient se coordonner sur une approche en matière de sécurité. Il a proposé que les entreprises suspendent volontairement leur travail, ou au moins ralentissent, jusqu'à ce que l'industrie puisse établir des normes de sécurité concrètes autour de la technologie.
Pourtant, rien n’indique encore que les entreprises se soient réellement assises pour discuter de la manière dont les spécificités d’un ralentissement fonctionneraient réellement. Comme l'a écrit Amodei, il ne sera pas facile pour tout le monde de s'entendre sur les conséquences réelles d'un ralentissement, et cela nécessiterait probablement également une certaine forme d'intervention gouvernementale. « Certaines formes de coordination qui auraient un impact sur le rythme sont juridiquement difficiles et nécessiteront le soutien du gouvernement », a-t-il écrit.
La plus grande surprise est peut-être que Musk a également soutenu l'appel au ralentissement d'Amodei, même si sa réponse a été plutôt brève :
Dario a raison https://t.co/EwKgqQGaUo
– Elon Musk (@elonmusk) 12 septembre 2026
L'accord de Musk est surprenant car xAI est largement considéré comme toujours derrière Anthropic et OpenAI, malgré ses projets ambitieux visant à prendre l'avantage sur les centres de données spatiaux. Mais Musk a également déjà exprimé ses inquiétudes quant aux risques liés aux systèmes d’IA puissants, tout en poussant simultanément xAI à rattraper ses concurrents.
Le fait que trois personnalités radicalement différentes soient toutes parvenues à la même conclusion est extraordinaire, a déclaré Dion Hinchcliffe, analyste au cabinet d'études SDA Bocconi. « Il y a au moins quatre explications, et je ne pense pas que nous devrions supposer que celle déclarée publiquement constitue toute l'histoire », a-t-il écrit sur X.
Hinchcliffe a déclaré que l’explication la plus probable est qu’Amodei, Altman et Musk ont tous vu quelque chose qui les « a véritablement terrifiés », notant que les précédents incidents de confinement public ont déjà été assez inquiétants et qu’il peut y avoir eu des évaluations privées qui ont montré des dangers encore plus graves. Alternativement, Hinchliffe a déclaré que la décision pourrait être due aux aspects économiques de l'IA et à la prise de conscience du risque que tout le monde puisse se ruiner dans la course au développement continu de modèles de plus en plus puissants.
Dans le même ordre d’idées, on pourrait se rendre compte que les progrès de l’IA commencent tout simplement à plafonner, ce qui rend plus difficile la justification des énormes dépenses consacrées à la recherche sur l’IA. « Si 10 fois plus de calcul ne permet d'acquérir qu'un modeste gain de capacité, l'incitation à dépenser plus que tout le monde s'effondre soudainement », a-t-il déclaré.
La dernière possibilité est que les trois fondateurs en soient tous venus à reconnaître que la course passe de la compétition à la consolidation. Hinchcliffe a déclaré que le fait d'avoir une frontière plus lente avec la surveillance gouvernementale sous la forme de licences, de contrôles informatiques, de restrictions à l'exportation, etc. favorise fortement les modélistes en place.
La Chine met des bâtons dans les roues
Il y aurait sûrement de nombreux points positifs si la frontière ralentissait pendant un certain temps, mais la question de savoir si cela se produirait ou non reste discutable. Le gros problème est que, même si Anthropic, OpenAI et xAI s’accordent tous pour ralentir les choses, il est très peu probable que la Chine fasse de même. La crainte est que, plutôt que de coopérer, la Chine y voie une opportunité d’obtenir un avantage et de se positionner comme le leader incontesté dans la course aux armements en matière d’IA.
Alex Karp, PDG de Palantir Technologies Inc., y a fait allusion, qui a déclaré à CNBC dans une interview que l'existence d'adversaires géopolitiques rendait presque impossible d'appuyer sur le bouton pause.
Le PDG de Palantir, Alex Karp, affirme que les gens qui soutiennent que nous devrions suspendre le développement de l'IA ne vivent pas dans la réalité et disent de facto que nous devrions laisser nos ennemis gagner :
« Si nous n'avions pas d'adversaires, je serais tout à fait favorable à l'arrêt complet de cette technologie, mais c'est le cas. »
Par @cnbc pic.twitter.com/AXrClCxTHL
– Jawwn (@jawwn_) 12 septembre 2026
Les commentaires de Karp sont logiques étant donné que le président chinois Xi Jinping a déclaré dimanche qu'il souhaitait que son pays prenne l'initiative et contribue à favoriser « la collaboration et le développement de l'IA entre les pays en développement ». S'exprimant lors du sommet des BRICS à New Delhi, Xi a déclaré que la Chine dirigerait la création d'une nouvelle communauté open source d'IA des BRICS et soutiendrait la collaboration entre les pays membres dans le développement et l'application de grands modèles linguistiques. Il a également présenté les projets visant à établir une « plate-forme cloud pour l’écosystème numérique des BRICS », à proposer une formation professionnelle et à favoriser l’alignement industriel autour de l’IA.
Les commentaires de Xi suggèrent que la Chine n’a aucun intérêt à ralentir, malgré les préoccupations de sécurité régulièrement soulevées par des personnalités comme Amodei et Musk. « La Chine y verra une opportunité historique de nous battre », a prédit Hinchcliffe. « Ils ne s'arrêteront pas. »
