Brad Smith, président de Microsoft et vice-président de son conseil d'administration, estime que l'intelligence artificielle a besoin de règles mondiales pour la garder sous contrôle. Dans une interview accordée à la BBC, le responsable a déclaré qu'une machine à laver et un récipient à lait sont soumis à davantage de règles de sécurité que de nombreux systèmes d'IA.
La comparaison n’est pas fortuite. Smith estime que l'IA peut être à la fois « un outil et une arme », et les entreprises responsables devraient donc mettre en place des freins d'urgence qui peuvent être activés dans le cas où l'utilisateur ou l'entreprise elle-même perdrait le contrôle. Il préconise également que les entreprises aient l'obligation légale de signaler les incidents et que certaines de leurs innovations soient soumises à des évaluations indépendantes avant d'être rendues publiques.
Satya Nadella, PDG de Microsoft, a également insisté sur l'importance que les gens puissent observer et limiter ce que font ces systèmes. Il a soutenu que nous devons « séparer la fourniture de renseignements de l’autorité qui les exerce ». Allez, un modèle peut apporter des réponses et participer à des tâches, mais il ne doit pas décider lui-même de quelles autorisations il dispose ou quelles actions il peut exécuter sans supervision.
Et que disent les entreprises d’IA ? Dario Amodei, co-fondateur d'Anthropic, a également mis en garde contre les risques liés à l'avancée rapide de cette technologie. Dans son essai Policy on the AI Exponential, publié en juin 2026, il soutient que la capacité de l’IA progresse plus rapidement que la réponse des institutions et appelle à des évaluations indépendantes et à des normes plus élevées.
Sam Altman, PDG d'OpenAI, a expliqué pour sa part que son entreprise surveillait les progrès et que cela pouvait inclure l'arrêt de la formation d'un modèle s'il n'y avait pas de garanties de sécurité suffisantes.
Les États-Unis sont attachés à l’autoréglementation. Donald Trump a opté pour l'autorégulation du secteur. Après avoir rencontré six dirigeants de grandes entreprises technologiques, le président américain a annoncé un accord volontaire prévoyant des contrôles et des audits externes, ainsi que des examens par les conseils d'administration. Quelques jours plus tard, il annonçait également la création de la Super Intelligence Force, un groupe chargé de coordonner la réponse du gouvernement fédéral et dirigé par le chef du National Intelligence, Jay Clayton.
Brad Smith ne pense pas que ce soit suffisant. Pour Smith, cet engagement volontaire est une étape nécessaire mais insuffisante. Le président de Microsoft appelle à des mesures permettant d'agir contre les agents d'IA qui échappent au contrôle humain et les modèles capables de mettre en danger la cybersécurité mondiale. La question reste donc de savoir comment fixer des limites efficaces sans que les entreprises d’IA décident jusqu’où peuvent aller leurs modèles.
