La course au développement de systèmes d’IA de plus en plus avancés inquiète une partie importante des chercheurs qui ont travaillé sur cette technologie. Alors que les Big Tech rivalisent pour améliorer leurs modèles, plusieurs voix de l’industrie profitent de l’attention portée à ce secteur pour alerter sur un problème : les capacités pourraient progresser plus vite que les mécanismes conçus pour les garder sous contrôle.
Un exemple est le cas d’Alex Turner, ancien chercheur de Google DeepMind. Le 5 octobre, il a profité de sa comparution devant le conseil municipal de New York pour lancer un avertissement et a soutenu que les États-Unis pourraient développer une menace bien plus inquiétante que la concurrence technologique avec la Chine, puisque le pays nord-américain aurait entre les mains une IA dont les objectifs ne coïncident pas avec les intérêts humains.
Le danger de développer une intelligence artificielle échappant au contrôle humain
Turner a averti que « nous sommes en compétition pour créer et développer notre propre adversaire », et a déclaré qu'il était possible qu'une IA mal alignée finisse par être plus puissante que la Chine. Ainsi, ce terme désigne des systèmes capables de poursuivre des objectifs incompatibles avec les intentions de leurs développeurs même s'ils ont été conçus pour accomplir des tâches bénéfiques.
Jacob Coxon, ancien chercheur d'Anthropic, était une autre voix qui a participé à l'audience et a remis en question la vitesse à laquelle l'industrie progresse. De leur point de vue, maintenir la trajectoire actuelle implique un risque considérable de voir l’humanité perdre le contrôle de ses systèmes futurs. Malheureusement, cette situation aurait des conséquences catastrophiques, mais il faut souligner qu’il s’agit d’une prédiction de scénarios possibles et non d’un résultat prouvé.
La session réunissait des représentants de Google, Meta, Anthropic et OpenAI, et tous ont répondu sous serment aux questions sur la sécurité réelle de leurs modèles. Julie Menin, présidente du Conseil municipal, a profité de l'espace pour s'interroger sur la capacité des entreprises à quantifier les risques les plus graves et, par la même occasion, déterminer qui assumerait la responsabilité si leurs systèmes causaient des dommages.
Les préoccupations des chercheurs soulignent également la nécessité de mettre en place des mesures de surveillance indépendantes et une plus grande transparence. Le conseil municipal de New York étudie de nouvelles obligations pour les entreprises, notamment des vérifications externes et des mécanismes de protection des lanceurs d'alerte. Le débat ne se limite donc pas à concurrencer la Chine, mais à déterminer comment développer une technologie de plus en plus performante sans perdre la possibilité de la contrôler.
Photo | toile
