Chris Lehane, responsable mondial de la politique d'OpenAI Group PBC, a déclaré aujourd'hui que sa société travaillait en étroite collaboration avec ses concurrents Anthropic PBC et le laboratoire de recherche DeepMind de Google LLC pour tenter de concevoir un cadre garantissant la sécurité de l'intelligence artificielle.
« Il vaut mieux essayer de travailler ensemble pour donner la priorité à la sécurité », a déclaré Lehane lors d'une conférence de presse à Washington, selon un rapport de Bloomberg. Ses commentaires font suite à un certain nombre de leaders de l’industrie de l’IA qui ont tiré la sonnette d’alarme sur la trajectoire et le rythme du développement des modèles de pointe.
Samedi, le directeur général d'Anthropic, Dario Amodei, a publié un essai sur son blog personnel, appelant à la coopération de l'industrie de l'IA pour tenter de ralentir le rythme rapide des progrès de l'IA de pointe afin d'éviter ce qu'il appelle des « risques catastrophiques ». Étonnamment, l'appel d'Amodei a remporté le soutien des dirigeants de tous les principaux rivaux de son entreprise, notamment Sam Altman, PDG d'OpenAI (photo), Elon Musk de SpaceXAI Corp. et Demis Hassabis de Google. Altman a même déclaré qu'OpenAI était prêt à se joindre à l'initiative d'Anthropic pour commencer à intégrer des évaluateurs tiers au sein de ses équipes de développement pour surveiller la sécurité de l'IA.
Aujourd'hui, Lehane a déclaré aux journalistes lors d'un point de presse que son entreprise travaillait depuis plusieurs semaines avec Anthropic et Google sur des initiatives de sécurité en matière d'IA. Il n'a pas précisé la nature de leur travail, mais certains, dont Altman, ont fait part de leurs inquiétudes quant au risque que les sociétés risquent de se retrouver en violation des lois antitrust américaines si leur collaboration est perçue comme préjudiciable aux concurrents.
Pour sa part, Amodei a déclaré dans son essai que le gouvernement américain devrait envisager d'accorder une dérogation aux entreprises pour permettre une coopération en matière de sécurité sans enfreindre les lois antitrust, mais Lehane a déclaré aujourd'hui qu'il pensait qu'une telle décision était inutile.
Certains experts juridiques ont averti que toute coordination en matière de sécurité par les dirigeants d’IA pourrait être interprétée comme une « restriction de production », ce qui signifierait qu’ils violeraient les lois antitrust du Sherman Act. Ces craintes ont déjà été soulevées par le sénateur de l'Indiana Jim Banks et le sénateur de Californie Adam Schiff, qui ont proposé une « loi sur la collaboration sur les menaces contradictoires et les risques de sécurité » pour permettre aux laboratoires d'IA d'agir en matière de sécurité, même si ces actions contreviennent à la loi antitrust.
Tout effort des entreprises pour tenter d’obtenir une sorte de dérogation risque de se heurter à une forte opposition. Dans un article de blog publié en réponse à l'essai d'Amodei, Aidan Gomez, PDG de Cohere Inc., a déclaré que les appels à la sécurité ressemblent à un effort des principaux laboratoires d'IA pour dissimuler un système anticoncurrentiel qui préserverait leur avance dans le développement de modèles frontières. Il a déclaré que cela permettrait aux laboratoires « dominants du marché » de « définir les règles et les normes de sécurité » pour le reste de l’industrie.
« Utilisant une fois de plus la peur sous prétexte de protéger le public, ces oligopoles demandent désormais de contourner les règles de la concurrence et d'être autorisés à dicter les conditions à tout le monde », a déclaré Gomez. « Un loup déguisé en mouton, un cartel sous un autre nom. »
Gomez a peut-être une voix beaucoup plus petite, mais il a potentiellement un allié très puissant. Le président américain Donald Trump n’a cessé de s’opposer aux préoccupations en matière de sécurité de l’IA, les qualifiant de canular et rejetant les appels en faveur d’une réglementation plus stricte. Dans un article sur Truth Social, Trump a rejeté l’appel d’Amodei, arguant que tout ralentissement permettrait à la Chine de dépasser les États-Unis dans la course à l’IA.
Il est soutenu par son principal conseiller en IA, David Sacks, qui est un investisseur de longue date détenant des participations dans de nombreuses sociétés d'IA. Il a déclaré publiquement que les craintes que l’IA puisse représenter une menace existentielle sont exagérées.
Les commentaires de Lehane sont intervenus lors d'un point de presse à Washington, où il devait rencontrer un certain nombre de législateurs. La société aurait mis tout son poids derrière deux projets de loi bipartites affectant l’industrie de l’IA. Le premier est le FRONTIER Act, qui appelle à la création d’un cadre fédéral pour la sécurité de l’IA et oblige les laboratoires d’IA à soumettre leurs nouveaux modèles à des audits par des évaluateurs indépendants.
On pense également qu'OpenAI soutient une deuxième proposition actuellement en cours de développement. Selon Reuters, le chef de la majorité John Thune travaille avec le sénateur républicain Ted Cruz et la sénatrice démocrate Amy Klobuchar sur un nouveau projet de loi qui donnerait au secrétaire au Commerce le pouvoir de soumettre les nouveaux modèles à des audits de sécurité avant leur sortie.
