Le directeur général d'OpenAI Group PBC, Sam Altman, craint que la technologie de l'intelligence artificielle ne finisse à l'avenir par être contrôlée par une poignée d'entreprises ou de personnes, ce qui empêcherait personne d'autre d'avoir son mot à dire sur son impact sur la société.
S'exprimant aujourd'hui dans une interview avec le podcasteur David Senra, Altman (photo) a mis en garde contre une situation dans laquelle la plupart des gens perdent leur voix alors que l'IA change le monde. « La bonne approche consiste à ce que les gens contrôlent profondément l’avenir », a-t-il déclaré. « La société et le modèle évolueront ensemble. »
Il voulait dire par là que l’orientation de l’IA devrait être déterminée par des choix sociaux, plutôt que par la direction souhaitée par certaines entreprises.
Altman a également déclaré qu'il craignait que l'IA puisse un jour échapper au contrôle humain, mais estime que, paradoxalement, la peur que cela se produise pourrait bien permettre à la première situation de se produire. « Il y a beaucoup de gens qui sont très nerveux face à l'ampleur de ces risques, qui sont tellement impressionnés et ressentent le besoin de protéger le monde », a déclaré Altman. « Comme, vous savez, 'Nous devrions échanger beaucoup de liberté contre la sécurité.' »
Les commentaires d'Altman étaient presque certainement une référence à peine voilée à son rival, le PDG d'Anthropic, Dario Amodei, qui a été l'un des alarmistes les plus virulents sur les risques potentiels de l'IA et a constamment souligné la nécessité de mesures de protection autour de la technologie. Dans un essai publié en juin, Amodei avertissait que le modèle Mythos alors récemment développé par l'entreprise présentait des « risques très réels » pour la cybersécurité et pourrait faire des ravages dans le secteur financier mondial, les infrastructures critiques et la sécurité nationale s'il tombait entre de mauvaises mains.
En raison de ces dangers, Amodei est devenu l'un des plus grands défenseurs du secteur en faveur d'une plus grande réglementation gouvernementale. Mais Altman a déclaré qu'il n'était pas d'accord, car si l'industrie s'oriente dans cette direction, elle renoncera effectivement à sa liberté pour des raisons de sécurité.
Il est à noter que le mois dernier, Anthropic a refusé d'approuver les modèles ouverts, qui peuvent être partagés, téléchargés, modifiés et exécutés sur une infrastructure indépendante. Il s'agit essentiellement de la version open source de l'IA. Pratiquement toutes les grandes sociétés chinoises d'IA publient leurs modèles en version ouverte, et ce faisant, elles ont pu égaler les capacités des meilleurs modèles d'Anthropic et d'OpenAI, et leur utilisation est également beaucoup plus abordable. Des sociétés telles que Nvidia Corp., Microsoft Corp. et Meta Platforms Inc. soutiennent que les modélistes américains devraient également adopter l'approche de pondération ouverte, de peur de perdre des parts de marché au profit de leurs concurrents chinois.
Les modèles frontières les plus puissants d'OpenAI sont encore entièrement fermés, mais la société a publié quelques modèles ouverts l'année dernière, gpt-oss-120b et gpt-oss-20b. Jusqu’à présent, Anthropic n’a pas publié un seul modèle à poids ouvert.
L’impact sera énorme, mais plus lent à se produire
Altman a également déclaré à Senra que l'industrie de l'IA n'a pas réussi à montrer aux gens comment la technologie peut leur donner plus d'autonomie et plus d'opportunités. « Nous sommes sur le point de connaître le plus grand boom de personnes créant de petites entreprises que nous ayons jamais vu », a-t-il insisté. « L'IA permet cela. »
Cependant, Altman a admis que ce boom serait plus lent à se produire qu’il ne le pensait autrefois. Il a admis que son estimation initiale du calendrier de l'IA était erronée et a déclaré que la société et l'économie prendraient plus de temps à s'y adapter qu'il ne le pensait au départ.
« Je pensais que lorsque nous sommes arrivés au GPT-4, c'était en 2023, très rapidement, il y aurait beaucoup plus de perturbations », a-t-il déclaré. D’une part, il a déclaré qu’il pensait que les entreprises de logiciels deviendraient vulnérables à l’IA beaucoup plus tôt, mais il se rend maintenant compte qu’il y a trop d’inertie dans l’économie pour que cela se produise du jour au lendemain.
Le PDG a déclaré qu'il s'était trompé car il supposait que les organisations réinventeraient leur façon de travailler autour des modèles frontières presque aussi rapidement qu'ils pourraient être améliorés. Les modèles d'IA acquièrent de nouvelles capacités très rapidement car leur développement suit un calendrier serré de sortie de produits, a déclaré Altman. Mais il comprend désormais que les entreprises ne peuvent pas aller aussi vite, car elles doivent modifier leurs logiciels, leurs processus d'accès aux données et de conformité, et réfléchir à leurs budgets, aux responsabilités de leurs employés et aux attentes des clients avant de pouvoir déterminer comment tirer parti de ces nouvelles fonctionnalités.
Altman a déclaré qu'il pensait que c'était une bonne chose. Il a déclaré que le décalage entre le développement et la mise en œuvre rendrait la transition mondiale « plus douce et plus lente », agissant comme une force stabilisatrice qui évite de trop grandes perturbations économiques et sociétales.
