Les médicaments, les avions et les voitures sont soumis à des normes de sécurité qui ne dépendent pas du fabricant lui-même. Bill Gates estime que la même chose s’applique à l’intelligence artificielle.
Il l'a dit dimanche 27 septembre sur « Meet the Press », avec Kristen Welker comme intervieweuse, il a même déclaré : « Personne ne pense que l’autorégulation suffit ».
Ce qu’il pense, c’est que nous devons exiger qu’IA dispose d’un système de surveillance et impliquer les forces de l’ordre et les politiciens dans la conversation. L'ancien patron de Microsoft estime que cela coûterait une certaine surcharge au secteur, mais que cela ne ralentirait pas le développement de manière dramatique. Et la raison qu’il donne est l’ampleur : l’IA est déjà suffisamment puissante pour déclencher des événements qui causent des millions de morts.
Selon Gates, le danger le plus urgent ne vient pas de l’IA agissant seule, mais des personnes mal intentionnées qui utilisent les outils actuels : cyberattaques, fraudes et armes biologiques, et qui parviennent à le faire en utilisant de petits groupes qui n’en avaient pas la capacité auparavant.
Des risques gérables à une supervision urgente : au tour de Gates
Il n'a pas toujours pensé ainsi. En juillet 2023, Gates a publié un essai intitulé « Les risques de l'IA sont réels mais gérables », dans lequel il espérait que les gouvernements, les entreprises et les citoyens sauraient comment gérer les risques comme ils l'avaient fait avec d'autres technologies.
En août 2026, dans un nouvel essai, il affirmait que l’IA avait franchi des seuils de danger et proposait de nouvelles institutions nationales et mondiales pour la superviser, ainsi que des emplois réservés aux humains et une taxe sur l’IA et les robots.
Et qu’en pense Trump ? Laissez-les s'autoréguler
Dans la même interview, ils lui ont posé des questions sur Trump. Le 14 septembre, Donald Trump avait écrit dans un message dans Truth Social que l’idée d’une IA prenant le contrôle du monde est un canular, que la Chine ne fait rien pour arrêter son IA et qu’on ne comprend pas pourquoi les dirigeants d’une industrie demanderaient une régulation qui y mettrait fin.
Gates a répondu qu'il ne s'agissait pas d'un canular, il a déclaré qu'il souhaitait rencontrer le président pour proposer d'imposer une exigence à toutes les IA du pays et qu'il pensait pouvoir changer d'avis. Au niveau international, la situation est plus sombre : un accord mondial serait plus difficile que les négociations nucléaires de la guerre froide.
Fin septembre, presque simultanément, deux choses se sont produites.
Sur le podcast d'Ezra Klein, Gates a insisté sur le fait qu'il n'y a aucun niveau de surveillance aujourd'hui, affirmant que les modèles open source devraient rester gratuits tant qu'ils sont gérés de manière à ce que les gouvernements puissent vérifier que les garanties fonctionnent. En outre, il a qualifié de fou de confier la sécurité à l’industrie elle-même.
Par la suite, Trump a réuni des dirigeants de grandes entreprises d’IA, a défendu l’importance de l’autorégulation et a annoncé un pacte avec six d’entre elles, dont OpenAI et Anthropic.
Tout ce qui a été dit lors de cette réunion est totalement volontaire, même si le président des États-Unis l’a qualifié de moralement contraignant. Il prévoit des contrôles internes, une équipe pour les vérifier, un auditeur externe et un comité indépendant.
Arrêter les États et inviter les entreprises : ce que Washington a fait
Aujourd’hui, la politique de la Maison Blanche comporte deux aspects très clairs, et celui qui plaît à Gates n’est ni l’un ni l’autre. La première est d’arrêter les États : le 11 décembre 2025, le décret 14365 a rendu obligatoire la création d’une unité du ministère de la Justice dans les 30 jours pour contester les lois des États sur l’IA et a donné au Commerce 90 jours pour identifier celles qu’il jugeait lourdes, avec en jeu des fonds fédéraux pour le haut débit.
La seconde est d'inviter. Le 2 juin 2026, un décret sur l'IA avancée est arrivé, axé sur la cybersécurité, demandant aux développeurs de donner au gouvernement l'accès à leurs modèles frontières jusqu'à 30 jours avant le lancement. Ceci est encore une fois volontaire, et son texte précise qu'il n'autorise pas de nouvelles licences, autorisations préalables ou permis obligatoires.
Dans une interview accordée en août, Gates s’est montré plutôt sceptique quant à ce cadre : il s’est demandé quel seuil était examiné et ce qui était fait lorsqu’il était franchi, concluant que tout cela lui semblait vide de sens. Le 4 octobre, Trump a également créé la Super Intelligence Force, présidée par le directeur du renseignement national, Jay Clayton, avec 120 jours pour rédiger un rapport sur les risques et les opportunités et pour tâche d’éviter une réglementation excessive et une capture réglementaire.
Au Congrès, il existe un projet de discussion, le Great American AI Act, publié le 4 juin par les membres du Congrès Jay Obernolte (républicain) et Lori Trahan (démocrate). Ici, les grands développeurs sont tenus de publier un cadre de risque, de signaler les incidents critiques au directeur du CAISI (le centre de normes Commerce AI) et de se soumettre à des audits semestriels. Mais le même texte suspendrait pendant trois ans les lois des États qui réglementent le développement de modèles, et ces obligations expireraient également après trois ans.
La surveillance est une chose. Et éteindre ?
Ce qui se passe après la surveillance est très bien illustré par le dernier cas connu. Le 20 septembre, selon le rapport OpenAI, un agent a utilisé un serveur DNS pour contacter un chatbot externe, contournant ainsi le filtrage du réseau. La surveillance a généré une alerte au bout de 12 minutes et un examinateur humain l'a reconnue près de trois minutes plus tard.
L’exécution ne s’est arrêtée que deux heures et demie plus tard : elle ne s’est pas arrêtée d’elle-même comme prévu, ce qui a semé la confusion quant à savoir si elle aurait dû s’arrêter. OpenAI a ensuite suspendu toute formation, test et inférence outillée de ses modèles les plus performants.
Concernant l'arrêt, il existe une proposition législative : le 23 juillet, les députés Ted Lieu (démocrate) et Nathaniel Moran (républicain) ont présenté l'AI Kill Switch Act, qui obligerait les développeurs des modèles et systèmes agentiques les plus puissants à pouvoir réduire leur vitesse, les suspendre ou les éteindre, à signaler les incidents et à disposer de cadres de réponse gradués. Il est en attente de traitement.
Gates dit qu’il ne suffit pas d’avoir un « coupe-circuit ». Et il semble que ce qui s’est passé le 20 septembre à OpenAI lui donne raison, du moins en partie.
Images | Rencontrez la presse avec le montage
