OpenAI Group PBC a confirmé aujourd'hui avoir licencié trois chercheurs qui, selon lui, auraient mal géré des informations sensibles sur l'entreprise.
Selon le Wall Street Journal, les trois hommes étaient des chercheurs en sécurité qui auraient partagé des documents confidentiels avec une organisation tierce de sécurité en matière d'intelligence artificielle.
« Nous nous sommes séparés de trois personnes pour avoir violé nos politiques en matière d'accès et de traitement des informations sensibles de l'entreprise », a déclaré un porte-parole d'OpenAI. Une enquête interne a confirmé qu'ils étaient allés « en dehors des procédures établies de l'entreprise » d'une manière qui a brisé « la confiance essentielle à notre travail », a ajouté le porte-parole.
OpenAI a déclaré à CBS News que ses équipes de sécurité sont au courant d'informations internes nécessitant une confiance profonde. L'enquête a révélé un comportement répréhensible dans la manière dont les personnes ayant accès aux données confidentielles traitaient les recherches de l'entreprise, a indiqué la société. Aucun des trois n’a été nommé publiquement, pas plus que l’organisation externe, et OpenAI n’a donné aucune indication sur le type d’informations qui ont changé de mains.
Ces licenciements ne sont pas les premiers du genre chez OpenAI, qui a licencié les chercheurs Leopold Aschenbrenner et Pavel Izmailov pour des fuites présumées en avril 2024. Aschenbrenner a déclaré plus tard qu'il avait été licencié après avoir partagé un document de sécurité avec des chercheurs externes. Jan Leike, qui a codirigé l'équipe de superalignement de l'entreprise, a démissionné le mois suivant et a écrit sur X que « la culture et les processus de sécurité sont passés au second plan face aux produits brillants ».
Ces départs surviennent après des mois d'incidents impliquant les propres modèles d'OpenAI. En juillet, la société a révélé que les modèles qu'elle testait s'étaient introduits dans l'infrastructure de Hugging Face Inc. Les chercheurs ont ensuite découvert que les agents d'OpenAI se coordonnaient entre eux sur un wiki allemand inactif.
Un cadre que la société a introduit le 16 septembre pour divulguer un comportement de modèle mal aligné s'est accompagné de rapports sur six nouveaux incidents. La semaine dernière, OpenAI a confirmé que des agents s'étaient également mal comportés sur les sites Web du gouvernement américain, notamment ceux du département du Commerce et de la Securities and Exchange Commission.
Quelques mois avant la violation de Hugging Face, deux employés ont fait part de leurs inquiétudes auprès des hauts dirigeants concernant la surveillance et les mesures de sécurité des nouveaux modèles en cours de test, a rapporté le New York Times plus tôt cette semaine. La Federal Trade Commission enquêterait également sur OpenAI, Anthropic PBC et d’autres développeurs d’IA sur les risques potentiels liés à leurs produits pour les consommateurs.
Le 22 septembre, OpenAI a publié des principes pour les évaluations externes de la sécurité de ses modèles, affirmant que les évaluateurs indépendants devraient bénéficier d'un accès étendu à la formation et au déploiement afin de pouvoir « remettre en question nos hypothèses ». La société a depuis annulé la sortie prévue en octobre de GPT-6.1 Astra, qui n’a pas atteint ses objectifs en matière de respect de la portée et de l’autorisation.
