Le directeur général d'Anthropic PBC, Dario Amodei, appelle le gouvernement américain à bloquer le déploiement de modèles d'intelligence artificielle dangereux, de la même manière qu'il empêche le décollage d'avions dangereux.
Dans un nouvel article publié aujourd'hui sur son blog personnel, Amodei (photo) a déclaré qu'il était nécessaire de procéder à des audits obligatoires par des tiers des systèmes d'IA des frontières, et a suggéré que les gouvernements puissent les fermer si des risques inacceptables sont découverts. Dans le même temps, il a appelé le gouvernement à fournir davantage de soutien économique aux personnes qui souffrent financièrement de l’essor de l’IA.
La proposition d'Amodei en matière de sécurité de l'IA est bien plus agressive que ce que la plupart des gens ont suggéré. Cela va au-delà du décret émis la semaine dernière par le président américain Donald Trump, qui exige que les agences de renseignement jouent un rôle dans la vérification des risques de nouveaux modèles. Il a suggéré que les gouvernements devraient auditer les nouveaux modèles d’IA en fonction de la quantité de ressources consacrées à leur processus de formation. Il a proposé qu'il y ait un « seuil de calcul » et que si un nouveau modèle dépasse ce niveau de calcul spécifié, il déclencherait automatiquement une enquête indépendante sur ses capacités avant de pouvoir être lancé publiquement.
L'essai identifie quatre catégories de risques spécifiques qui doivent être évaluées : les vulnérabilités en matière de cybersécurité, les capacités en matière d'armes biologiques, la capacité à accélérer la recherche automatisée dans des domaines dangereux et la possibilité pour les modèles de se développer au-delà du contrôle humain. Si les auditeurs décident qu’un modèle présente un risque inacceptable dans l’un de ces domaines, Amodei souhaite que les gouvernements puissent empêcher son déploiement.
Amodei a déclaré que les réglementations existantes concernant les avions, les automobiles et les médicaments devraient servir de modèles pour réglementer l'IA. « Je crois que la meilleure analogie, du moins au stade exponentiel actuel, concerne les voitures, les avions ou la drogue – des technologies puissantes essentielles à l’économie moderne, mais capables de tuer un grand nombre de personnes si elles sont mal conçues ou mal utilisées », a-t-il écrit.
Le cadre proposé par Amodei va bien plus loin que le décret du 2 juin de Trump. Le président a simplement encouragé les sociétés d’IA à partager volontairement leurs modèles avec les auditeurs du gouvernement un mois avant leur publication. L’ordonnance souligne également la manière dont la communauté du renseignement devrait être impliquée dans les tests de nouveaux modèles de vulnérabilités en matière de cybersécurité. Mais il n’est pas allé jusqu’à imposer quoi que ce soit ni à introduire des tests obligatoires.
Le PDG d’Anthropic a utilisé un langage beaucoup plus fort. Il n'y a aucune mention du mot « volontaire » et il ne demande pas de coopération mais plutôt de conformité. Alors que l'ordre de Trump s'appuie sur les agences de renseignement, Amodei appelle à donner aux auditeurs indépendants un pouvoir de veto effectif.
Anthropic réclame depuis un certain temps des contrôles plus stricts sur l’IA. En septembre 2023, elle a publié une politique de mise à l'échelle responsable qui a depuis été mise à jour à plusieurs reprises, introduisant des concepts tels que les niveaux de sécurité de l'IA ou ASL. Il s’agit essentiellement d’un cadre à plusieurs niveaux pour gérer les risques à mesure que les capacités du modèle d’IA s’améliorent. La société a également exprimé son soutien à d'autres législations, telles que le projet de loi SB 53 de Californie.
Alors qu'Amodei affirme qu'il fait pression pour tout cela sous le couvert de la sécurité publique, les analystes se montrent sceptiques. Holger Mueller de Constellation Research a déclaré à SiliconANGLE qu'il avait probablement publié sur son blog personnel pour essayer de protéger Anthropic de toute réaction négative suite à ses suggestions. « L'appel à une réglementation dégage le mauvais goût d'un leader du marché qui veut geler le marché et préserver sa position au sommet », a déclaré Mueller. « Il est difficile de prouver que c'est le cas, et il y a lieu de faire valoir qu'il est bon d'avoir des leaders éthiques au sommet de l'industrie de l'IA, mais nous devons également examiner quelles sont ses véritables intentions. »
Outre la sécurité, Amodei a également averti que les perturbations sur le marché du travail provoquées par l'émergence de l'IA pourraient être bien plus importantes que les progrès technologiques antérieurs. Cela pourrait aussi durer beaucoup plus longtemps, a-t-il déclaré. « Le principal défi dans un tel monde ne sera pas d'encourager la croissance, mais de trouver un moyen pour que chacun puisse partager les bénéfices », a écrit Amodei.
Amodei a déclaré qu’il mettait depuis longtemps en garde contre le déplacement des emplois par l’IA, non pas parce qu’il veut être un « prophète de malheur », mais parce qu’en agissant ainsi, « les décideurs politiques et le secteur privé ont les meilleures chances de s’adapter et de réagir ».
Dans son message, il a appelé le gouvernement à collecter davantage de données pour suivre les suppressions d’emplois liées à l’IA, ainsi qu’à mettre en place des incitations en faveur de l’emploi qui pourraient contribuer à ralentir cette évolution. Il souhaite également que le gouvernement envisage « des mécanismes tels que le revenu de base universel » si les suppressions d’emplois s’aggravent et réduisent de manière permanente la demande de main-d’œuvre. Il pourrait être financé en taxant les « entreprises concernées » ou en augmentant l’impôt sur les plus-values, a-t-il ajouté.
