Le pape Léon XIV a publié aujourd'hui une encyclique contenant une discussion approfondie sur l'intelligence artificielle et ses risques.
Le document d'environ 43 000 mots s'intitule « Magnifica Humanitas », qui signifie en latin « l'humanité magnifique ». L'un de ses cinq chapitres principaux est entièrement consacré à l'impact de la technologie sur l'humanité. La longue section met particulièrement l’accent sur l’IA.
Léon XIV ouvre le chapitre avec un bref aperçu technique de l'IA qui attire l'attention sur la compréhension limitée des chercheurs de la technologie. Les développeurs de modèles, écrit le Pape, n'ont pas encore entièrement défini les représentations et les calculs internes que les réseaux neuronaux utilisent pour prendre des décisions. « Il apparaît donc urgent d’un double engagement : d’une part, l’approfondissement de la recherche scientifique ; de l’autre, l’exercice du discernement moral et spirituel », affirme l’encyclique.
Le document se poursuit par une discussion sur les risques de l’IA. Léon XIV consacre une sous-section entière aux armes autonomes alimentées par l'IA. L’encyclique déclare que tant le développement de telles armes que leur utilisation « doivent être soumis aux contraintes éthiques les plus rigoureuses ».
Le document couvre également une série d’autres risques liés à l’IA. Il attire l’attention sur les « énormes quantités d’énergie et d’eau » requises par les grands modèles linguistiques, ainsi que sur les émissions de carbone associées. Une autre section souligne l’impact négatif potentiel de tels algorithmes sur les relations interpersonnelles.
« L'imitation artificielle de la communication humaine positive – conseils, empathie, amitié et même amour – peut être engageante et parfois véritablement utile », écrit Léon XIV. « Cependant, pour les utilisateurs moins exigeants, cela peut aussi être trompeur, créant l'illusion d'une relation avec un véritable sujet personnel. Lorsque les mots sont simulés, ils ne construisent pas de véritables relations, mais seulement leur apparence. »
L’encyclique souligne ensuite l’importance des garanties qui peuvent prévenir les dommages causés par l’IA. Il appelle à « des cadres juridiques solides, un contrôle indépendant, des utilisateurs informés et un système politique qui n’abdique pas ses responsabilités ». En outre, le document suggère qu’il pourrait être nécessaire de ralentir le rythme de l’adoption de l’IA dans certains cas pour en atténuer les risques.
« Appeler à la prudence, à une évaluation rigoureuse et même, parfois, à un rythme plus lent dans l'adoption de l'IA ne signifie pas s'opposer au progrès ; il s'agit plutôt d'un exercice de prise en charge responsable de la famille humaine », indique le document, écrit Léon XIV.
Le document appelle les chercheurs en IA à travailler de manière transparente et en tenant compte de l'impact de la technologie. Il indique que les autres parties prenantes de l’écosystème de l’IA, telles que les investisseurs, les politiciens et les établissements universitaires, devraient également « travailler dans un état d’esprit transparent et responsable ».
L'encyclique est le fruit d'un long processus de rédaction qui aurait comprenait des contributions de cardinaux, d’experts techniques et du secteur privé. Représentants de plusieurs développeurs majeurs d’IA, dont Anthropic PBC rencontré avec des responsables du Vatican le mois dernier pour discuter de la technologie.
La sortie de l'encyclique intervient quelques jours après Léon XIV créé une commission interministérielle du Vatican pour étudier l'impact de l'IA sur l'humanité. Le comité est composé de responsables de sept organismes du Vatican. Chacun dirigera l’organisation nouvellement créée pour un mandat d’un an qui pourra éventuellement être prolongé d’un an.
