Quelques jours après que le directeur général d'Anthropic PBC, Dario Amodei, ait secoué le monde de l'intelligence artificielle en appelant les principaux modélistes à se coordonner face au ralentissement du rythme de développement, la société a partagé trois nouveaux paramètres qui devraient être mesurés pour y parvenir.
Dans un article de blog publié aujourd'hui, Anthropic a déclaré qu'il mesurait déjà la recherche et le développement axés sur l'IA, la surveillance des agents d'IA autonomes et l'allocation des calculs, puis a détaillé les méthodologies exactes qu'il utilise afin que d'autres laboratoires pionniers puissent également les mesurer. Ce faisant, cela contribue à étoffer un plan en trois étapes pour un ralentissement coordonné de l’industrie qu’Amodei a publié ce week-end.
« Alors que le monde envisage de suivre la frontière, nous devrions faire tout notre possible pour minimiser l'écart entre ce que savent les laboratoires pionniers et ce que le public sait », a déclaré la société. « Cela signifie mieux mesurer le développement de l’IA, en rendre compte publiquement et donner à la société la possibilité de décider comment utiliser ces informations. »
Anthropic a déclaré qu'il mesurait la R&D basée sur l'IA en raison de la tendance des meilleurs laboratoires pionniers à utiliser l'IA elle-même pour développer des modèles encore plus puissants qui s'appuient sur leurs capacités, ce qui pourrait amener les humains à ne pas comprendre à quel point ils sont dangereux. Il s'agit de mesurer la surveillance des agents IA, car les gens les utilisent de plus en plus pour effectuer un travail en leur nom et, à leur tour, ces agents délèguent ensuite des dizaines de tâches distinctes à des sous-agents. Le risque est que nous passions d’une manière ou d’une autre du stade où l’IA « collabore » avec les humains à un stade où « l’IA mène », en prenant des décisions plus conséquentes, comme la direction à prendre dans la recherche sur l’IA.
En ce qui concerne l’allocation de calcul, Anthropic surveille cette métrique car c’est le principal carburant sur lequel fonctionne l’IA. En comprenant comment cette ressource est allouée, il peut voir où les développeurs concentrent leurs efforts et comment cela évolue au fil du temps. « De plus, le calcul fait partie des intrants les plus vérifiables du processus de R&D en IA, ce qui signifie qu'il pourrait être un levier essentiel dans un futur effort de stimulation », a écrit Anthropic.
« Alors que le monde envisage de suivre la frontière, nous devrions faire tout notre possible pour minimiser l'écart entre ce que savent les laboratoires pionniers et ce que le public sait », a déclaré la société. « Cela signifie mieux mesurer le développement de l’IA, en rendre compte publiquement et donner à la société la possibilité de décider comment utiliser ces informations. »
Les systèmes d’IA deviennent de plus en plus puissants et sont de plus en plus utilisés pour créer la prochaine version d’eux-mêmes. Nous voulons mettre en lumière ces progrès pour le public.
Aujourd'hui, nous partageons trois mesures qui aident à suivre le développement de l'IA :
1. Quelle quantité de R&D en IA est réalisée par l’IA.
2. Comment…– Anthropique (@AnthropicAI) 17 septembre 2026
Ces trois mesures pourraient contribuer à accélérer le plan d'Amodei, qui a déjà gagné le soutien de nombre de ses pairs du secteur de l'IA, notamment Sam Altman, PDG d'OpenAI Group PBC, Elon Musk, PDG de SpaceX Corp., et Demis Hassabis, président de Google DeepMind, entre autres.
L'appel d'Amodei au ralentissement fait suite à un certain nombre d'avertissements sévères de la part d'autres chercheurs en IA concernant le potentiel croissant de cette technologie à être nocive pour les humains. Plus tôt ce mois-ci, l'un des principaux chercheurs d'Anthropic en matière de sécurité de l'IA, Evan Hubinger, a averti que la technologie progressait si rapidement qu'il estime qu'il y a plus de 10 % de chances qu'elle « puisse tuer tous les humains » au cours des 10 prochaines années. Bien que Hubinger ait souligné que le risque posé par les modèles d’IA actuels est encore très faible, il s’est dit inquiet de leur potentiel à se développer et à s’améliorer au point où les humains ne peuvent plus les contrôler, ce qui constituerait alors un risque existentiel pour l’humanité.
Dans son plan présenté samedi, Amodei a déclaré qu'il souhaitait freiner le rythme rapide du développement des modèles pionniers « sans sacrifier l'avantage commercial de l'avance des États-Unis en matière d'IA ».
Pour le premier indicateur, Anthropic a déclaré avoir développé un indice spécial qui mesure le degré d'implication de Claude dans ses processus de R&D, et a constaté qu'elle « ne fonctionne pas de manière totalement autonome » dans aucun sous-ensemble de ce travail. Pour mesurer la deuxième mesure, l'entreprise a construit un système capable de superviser les agents d'IA et d'intervenir sur les actions qu'ils entreprennent au sein de ses systèmes internes. Cela lui a permis de déterminer qu'il exécute actuellement environ 30 000 agents autonomes dans ses environnements informatiques, la plupart d'entre eux étant impliqués dans ses travaux de R&D.
Pour la troisième mesure, Anthropic a déclaré avoir commencé à prendre régulièrement des instantanés de la façon dont ses ressources de calcul sont allouées. Le premier instantané, réalisé entre le 13 et le 20 juillet, a révélé qu'environ 6 % de sa capacité de calcul totale était allouée à la sécurité de l'IA. 12 % supplémentaires ont été consacrés à la « R&D basée sur l’IA » axée sur la sécurité.
La société a déclaré que les mesures combinées peuvent fournir plus de visibilité sur la façon dont les nouveaux modèles frontières sont développés et faciliteront les évaluations concernant les capacités de ces nouveaux modèles. Ils contribuent à fournir davantage de point de départ aux évaluateurs tiers qui tentent d’évaluer la vitesse à laquelle l’IA s’accélère réellement et les choses dont elle est réellement capable. « Nous espérons modéliser cette transparence en publiant ces mesures, et nous continuerons à le faire », a déclaré la société.
