Environ 600 employés de Google LLC ont signé une lettre exhortant le directeur général Sundar Pichai à ne pas mettre les outils d'intelligence artificielle de l'entreprise à la disposition du Pentagone dans des contextes classifiés.
La lettre ouverte, signée principalement par le personnel travaillant avec les systèmes d'IA de Google, exprime son inquiétude quant aux « négociations en cours » entre Google et le ministère de la Défense.
« En tant que personnes travaillant sur l'IA, nous savons que ces systèmes peuvent centraliser le pouvoir et qu'ils commettent des erreurs », indique la lettre. « Nous estimons que notre proximité avec cette technologie nous impose la responsabilité de mettre en évidence et d’empêcher ses utilisations les plus contraires à l’éthique et les plus dangereuses. »
Cela fait suite à des rapports récents indiquant que Google est actuellement en négociations avec le DOD concernant ses modèles d'IA Gemini utilisés dans des paramètres classifiés. Les rapports suggèrent que si l’accord est conclu, le DOD pourra utiliser les systèmes d’IA à toutes fins légales.
Cette dernière expression est la raison pour laquelle Anthropic PBC est actuellement en conflit juridique avec le gouvernement américain, entamant des poursuites judiciaires après l'échec des négociations de l'entreprise avec le Pentagone concernant un contrat de 200 millions de dollars. Anthropic était opposé à ce que l’armée utilise son système Claude « à toutes fins légales ». Le DOD a ensuite désigné Anthropic comme un « risque pour la chaîne d’approvisionnement ».
OpenAI Group PBC a ensuite révisé un accord qu'il avait conclu avec le Pentagone avec le nouveau langage censé dissuader l'utilisation de son IA à des fins de surveillance de masse. L’une des clauses révisées précise que l’IA ne sera pas utilisée à des fins « de suivi, de surveillance ou de contrôle délibéré de personnes ou de ressortissants américains, y compris par l’obtention ou l’utilisation d’informations personnelles ou identifiables acquises commercialement ».
Les employés de Google restent critiques à l'égard du langage contractuel, écrivant que le seul moyen de garantir que la technologie n'est pas utilisée à de telles fins est de « rejeter toute charge de travail classifiée ».
L'année dernière, Google a modifié ses principes d'IA. À la suite des protestations du personnel de l’entreprise en 2018 contre la technologie utilisée à certaines fins militaires, Google a assuré à son personnel qu’il ne poursuivrait pas les développements d’IA qui seraient « susceptibles de causer des dommages » et qu’il ne « concevrait ni ne déploierait » d’outils d’IA qui pourraient être utilisés pour des armes ou des technologies de surveillance. Ce langage a maintenant évolué.
« Faire le mauvais choix maintenant causerait des dommages irréparables à la réputation, à l'activité et au rôle de Google dans le monde », ont prévenu les signataires dans la lettre la plus récente. « Des vies humaines sont déjà perdues et les libertés civiles sont menacées dans le pays et à l’étranger en raison d’une mauvaise utilisation de la technologie dans laquelle nous jouons un rôle clé dans la construction. »
