Sam Altman, directeur général d'OpenAI Group PBC, insiste sur le fait que les risques de sécurité liés à l'intelligence artificielle doivent être pris au sérieux. Mais contrairement à son homologue Dario Amodei d’Anthropic PBC, il estime que les gens doivent accepter que « de mauvaises choses » vont se produire si tout le monde veut profiter des avantages de l’IA.
Dans une interview publiée aujourd'hui dans le bulletin d'information Decoded de Politico, Altman (photo) a déclaré qu'il était d'accord avec Amodei sur la nécessité de réglementer l'IA, mais qu'il divergeait quant à la rigueur de cette réglementation. « Je pense qu'il y a beaucoup de lumière du jour (entre nous) », a-t-il déclaré. « Je ne suis pas d'accord, mais je comprends le point de vue des gens qui disent : 'Cette technologie va devenir si puissante, et elle est si dangereuse, qu'un seul laboratoire à San Francisco devrait l'avoir et s'assurer que rien de mal n'arrive, et trouver en quelque sorte comment en répartir les bénéfices'. »
Altman a déclaré qu'il s'agissait d'un « compromis totalement inacceptable » qui contraste avec l'appel d'OpenAI à une réglementation « plus légère » de l'IA. Il ne plaide pas pour une mêlée générale, a souligné Altman.
Il soutient plutôt une réglementation plus stricte dans certains domaines de l'IA et a déclaré qu'il était d'accord avec l'appel lancé le mois dernier par Amodei pour que l'industrie coopère pour ralentir le développement de modèles frontières plus avancés. Il a toutefois averti que si les restrictions étaient trop excessives, elles pourraient empêcher les gens d’accéder aux outils d’IA les plus avantageux.
Altman estime que la meilleure façon de réglementer l’IA est d’identifier les « risques réellement catastrophiques » et de prendre des mesures pour s’en protéger, sans empêcher les gens d’expérimenter comment la technologie peut être utilisée à bon escient. « Je n'accepterais pas de dire : 'nous veillerons à ce qu'il n'y ait pas de piratage majeur, qu'il n'y ait pas d'utilisation abusive de cette technologie, qu'il n'y ait aucune escroquerie, qu'il n'y ait aucune autre mauvaise chose qui puisse arriver' », a déclaré Altman. « Parce que je pense que les gens feront énormément – des ordres de grandeur plus – de bonnes choses que de mauvaises. »
Le PDG d’OpenAI estime que l’industrie ne devrait pas commettre l’erreur de garder l’IA sous contrôle à tout prix ou de freiner complètement son développement. Il devrait plutôt veiller à ce que les gens gardent le contrôle. Et il devrait s’assurer que les avantages de l’IA ne soient pas inaccessibles à tous ceux qui se trouvent derrière un gardien, même si cela signifie accepter que certaines choses tournent mal.
Les commentaires d'Altman surviennent à un moment où le débat public s'intensifie au sein de l'industrie de l'IA sur le rythme de développement des modèles de pointe et les risques posés par de nouveaux systèmes de plus en plus performants. À la suite de l'appel d'Amodei au ralentissement le mois dernier, Jacob Coxon, principal chercheur en IA d'Anthropic, a démissionné de son poste, affirmant que de nombreuses personnes à l'avant-garde du développement de l'IA pensent qu'elle « pourrait tous nous tuer d'ici la fin de la décennie ».
Peu de temps après le départ de Coxon, Anthropic a proposé un cadre permettant à l'industrie de l'IA de surveiller le développement des modèles de pointe et de signaler toute préoccupation, tout en avertissant que certains de ses systèmes les plus avancés ont déjà fait preuve de « comportements d'auto-préservation » qui incluent des tentatives de « résister à l'arrêt » par leurs contrôleurs humains, de « dissimuler ou manipuler des informations » et de générer des résultats qui pourraient être interprétés comme « coercitifs, trompeurs ou manipulateurs ».
Pour sa part, OpenAI a publié un cadre permettant aux entreprises d’IA de signaler un « désalignement du modèle » qui a révélé un certain nombre d’incidents jusqu’alors non divulgués impliquant ses agents d’IA. Dans un cas, les agents d'OpenAI ont piraté un certain nombre de sites Web des gouvernements américain et australien, tandis que dans un autre, ils ont été surpris en train de créer des notes se disant de ne pas tenir compte des garde-fous de sécurité écrits par des humains, et dans un troisième, ils ont été surpris en train de télécharger du code sur Internet afin de pouvoir le citer dans une réponse hallucinée. Plus tôt, les agents d'OpenAI ont fait la une des journaux lorsqu'ils sont sortis d'un environnement sandbox isolé et ont piraté la plate-forme d'hébergement de modèles Hugging Face.
Malgré le nombre croissant d’incidents et d’avertissements de la part de personnalités de premier plan dans le domaine de l’IA, le président américain Donald Trump s’est déclaré opposé à l’imposition de restrictions à l’IA, affirmant que cela signifierait céder le leadership dans le domaine de l’IA à la Chine.
