Fin 2024, le Département américain de l’Énergie (DOE) a publié une décision administrative au titre des plus bureaucratiques et ennuyeux :PSH-24-0142 – Concernant une audience sur la sécurité du personnel— mais dont le contenu semblait tout droit sorti d'une comédie de science-fiction.
Et il s'avère que l'audience susmentionnée a fait perdre son habilitation de sécurité à un employé ayant accès à des informations sensibles sur l'arsenal nucléaire américain… après avoir accidentellement téléchargé plus de 180 000 images pornographiques générées par l'intelligence artificielle sur un réseau gouvernemental.
Quel vice avec l'IA
Selon les documents déposés au tribunal, l'incident a commencé en mars 2023, lorsque l'employé – identifié uniquement comme « l'individu » dans des documents publics – a tenté de sauvegarder sa collection personnelle d'images pornographiques. En trois décennies, il avait accumulé près de 187 000 fichiers, qu'il prévoyait d'utiliser comme base pour former un modèle d'IA générative capable de créer des images de « porno robotique ».
Le problème était que la sauvegarde était effectuée depuis son ordinateur personnel connecté au réseau d'un site du DOE, chargé de garder une partie des installations nucléaires du pays. Convaincu que son disque personnel était « cloisonné » et ne pouvait pas contaminer le système institutionnel, l'employé a téléchargé par inadvertance des centaines de gigaoctets de contenus à caractère sexuel sur des serveurs gouvernementaux.
Ce qui s'est passé a été découvert six mois plus tard, lorsque les administrateurs réseau ont détecté un flux de données anormal et en ont localisé la source. La découverte a immédiatement suscité l'inquiétude : même si aucun secret de défense n'était impliqué, elle a soulevé la possibilité que les protocoles de sécurité informatique aient été violés.
C'est la faute de l'Inquisition
Le DOE ne s'est pas limité à une enquête technique : l'agence a ordonné une évaluation psychologique de l'individu, qui a déclaré qu'il souffrait de dépression depuis son enfance et qu'il avait traversé une grave crise dépressive pendant la période de l'incident. Selon ses propres mots, créer et modifier des images générées par l’IA était devenu une forme d’évasion à une époque d’isolement et de solitude.
Le psychologue engagé par le DOE a conclu que le sujet souffrait d'un épisode dépressif majeur modéré à sévère, qui affectait son jugement, sa fiabilité et sa capacité à suivre les règles. Même si le salarié a assuré suivre un traitement, avoir modifié sa médication et pris des mesures pour éviter de répéter l'erreur, le professionnel a estimé que son pronostic de stabilité n'était que « passable ».
Lors du processus d'appel, l'ouvrier a comparé le traitement qu'il a reçu à « l'Inquisition espagnole » (peut-être l'homme pensait-il que l'Inquisition ailleurs était beaucoup plus tolérante, on ne sait pas) et a exprimé le sentiment d'être excessivement surveillé par ses supérieurs.
Le juge administratif chargé de l'affaire a finalement déterminé qu'il n'existait pas de garanties suffisantes pour que le salarié puisse éviter de nouveaux épisodes compromettant sa fiabilité. Par conséquent, le 6 décembre 2024, il s’est vu refuser la restauration de ses informations de sécurité.
Les nouvelles bévues
Lorsque les frontières technologiques entre le personnel et le professionnel s'estompent, l'erreur de l'employé du DOE n'est qu'un exemple d'un nouveau type de risque : le « cybercomportement inapproprié ». Il ne s’agit pas d’espionnage ou de sabotage délibéré, mais de l’incapacité d’un individu à gérer des environnements numériques complexes avec les précautions appropriées.
De plus, il montre comment les problèmes de santé mentale peuvent être amplifiés dans les environnements technologiques. La solitude, l’hyperconnectivité et la disponibilité d’outils créatifs basés sur l’IA créent un terrain fertile pour les comportements compulsifs.
Par | 404 Moyen
