En Espagne, une sanction administrative liée à la création et à la diffusion de fausses images générées avec l'intelligence artificielle a été imposée pour la première fois. Les parents d'un mineur doivent payer à l'AEPD une amende de 1.200 euros (initialement 2.000, réduits pour paiement rapide et prise en charge), comme le rapporte elDiario.es. Tout cela dans une affaire qui rappelle les risques des « deepfakes » sexuels et marque un précédent en matière de protection des données des mineurs en Europe.
En 2023, à Almendralejo, province de Badajoz, lorsque plusieurs étudiants ont signalé que des photos manipulées sur lesquelles ils apparaissaient nus circulaient sur les téléphones portables de l'institut. Les images ont été créées avec la célèbre application ClothOff. Celui-ci combine des visages réels avec des corps nus générés par l’intelligence artificielle, en tenant compte de caractéristiques physiques telles que le teint et la couleur de la peau. Certains de ces montages ont même atteint des sites de contenu pour adultes comme OnlyFans.
Controverse. Il y a des plaintes contre ClothOff, comme celle d'une mineure américaine de 17 ans qui a subi un cas similaire à celui de Badajoz : ses camarades de lycée l'ont utilisée pour la « déshabiller », partager les images puis la harceler. Malgré ce dont nous avons récemment discuté avec Sora, oui, les deepfakes se concentrent toujours sur le vol d’identité.
L'AEPD n'a pas mis longtemps à ouvrir le dossier. Deux jours après que l'affaire ait été publiée dans la presse, il a pu identifier les responsables grâce à la collaboration avec le parquet. L'institution souligne que « l'image d'une personne est une donnée personnelle à protection renforcée lorsqu'il s'agit de mineurs », et que cette sanction administrative s'ajoute aux mesures judiciaires imposées auparavant par la voie pénale.
Lors du procès, les mineurs concernés, âgés de 12 à 14 ans, ont bénéficié d'un an de liberté surveillée et de formations. Selon Miriam Al Adib, mère d'une des victimes et promotrice d'éducation sexuelle, « la peine a été exemplaire : les enfants ont purgé un an de probation et ont suivi une formation pour sensibiliser aux dégâts qu'ils ont causés ».
Il y a un débat sur la voie administrative. Jorge García Herrero, avocat et délégué à la protection des données, déclare dans des déclarations à El País que « très peu de risques liés à l'IA provoquent autant d'inquiétude sociale que la création de deepfakes sexuels non consensuels de mineurs » et suggère qu'une sanction exemplaire serait la moindre des choses.
Pour sa part, Borja Adsuara considère qu' »il s'agit d'un délit contre la vie privée, qui fait l'objet d'une procédure pénale et a déjà été condamné. Qu'ajoute une amende administrative ? », avertissant que l'élargissement du champ des sanctions pourrait générer un excès de dossiers à gérer.
À Xataka | Il n'y a plus de célébrités « mortes », simplement des célébrités qui ne sont pas passées par Sora 2 : et ça pose un problème pour OpenAI
