Google LLC rend plus largement disponibles ses outils d'identification SynthID pour les vidéos et images créées et éditées par l'intelligence artificielle avec le lancement aujourd'hui d'un nouveau service que tout le monde peut utiliser.
Le détecteur SynthID basé sur le Web peut identifier les images, les clips vidéo et audio créés à l'aide de modèles d'IA de Google, OpenAI Group PBC, Nvidia Corp. et Kakao Corp. Mais pour l'utiliser, les utilisateurs devront d'abord se connecter, en utilisant un compte Google, OpenAI ou Apple. Dans quelques semaines, les capacités de l'outil seront étendues pour identifier également les images créées à l'aide des outils d'IA d'Apple Inc., tels qu'Image Playground.
Google a développé SynthID pour la première fois en 2023. Il s'agit d'un filigrane imperceptible ajouté au contenu généré par l'IA et créé à l'aide des outils des sociétés ci-dessus, mais le seul problème est que des outils spéciaux ont toujours été nécessaires pour le repérer.
Bien que la société ait mis différentes versions de son outil de détection à la disposition des journalistes et autres professionnels des médias, leur disponibilité était sévèrement limitée. Google propose également quelques autres moyens de détecter le contenu généré par l'IA. Par exemple, il existe sa fonctionnalité pour smartphone Circle to Search, et les utilisateurs peuvent également télécharger du contenu sur Gemini pour demander s'il a été créé avec l'IA ou non. Mais avec le lancement d'un outil de détection dédié, cela rend ces capacités plus accessibles,
L’inconvénient de SynthID Detector est qu’il présente des inconvénients. Par exemple, comme il est conçu pour identifier les filigranes SynthID cachés dans le contenu IA, il n'est pas très efficace pour détecter le contenu généré par l'IA qui n'a pas de filigrane SynthID. Et il y en a beaucoup.
Claude d'Anthropic PBC n'utilise pas SynthID, pas plus que le chatbot Grok de xAI Corp. Aucun des nombreux modèles d’IA chinois à poids ouvert n’utilise SynthID non plus. Il manquera donc de toute façon beaucoup de contenu généré par l’IA.
Un autre problème avec SynthID Detector est qu'il ne peut pas faire la distinction entre les images, la vidéo et l'audio qui ont été entièrement créés à partir de zéro ou simplement édités à l'aide de l'IA. Ainsi, dans le cas d'un contenu qui a été modifié, il ne pourra pas révéler quelle partie est fausse et quelle partie est réelle.
SynthID Detector est encore un pas dans la bonne direction, mais ce n'est pas suffisant. La réalité est qu'il n'existe toujours pas de moyen infaillible de vérifier le contenu généré par l'IA, en partie parce qu'il existe de nombreuses normes différentes pour les créations de modèles de filigrane.
Meta Platforms Inc. a expérimenté ses propres outils de filigrane et a développé un système d'identification des images créées avec Muse Image, mais il est inutile face à des images créées avec des modèles tiers. À moins que tous les principaux créateurs de modèles d’IA, y compris les chinois, ne décident de se mettre sur la même longueur d’onde et de créer une sorte de norme universelle pour le filigrane du contenu d’IA, il est probable qu’il n’y aura jamais de moyen fiable de détecter un tel matériel.
Compte tenu de son influence et du fait qu’il compte déjà plusieurs poids lourds de la technologie à son bord, il est probable que Google soit le mieux placé pour mettre en place une sorte de norme universelle. La société semble au moins reconnaître le problème et a déclaré sur le site Web de SynthID Detector qu'elle « travaille continuellement à étendre nos partenariats » pour lui permettre de détecter davantage de types de médias générés par l'IA.
« L'élaboration de normes à l'échelle de l'industrie prend du temps, et différents types de contenu (image, audio, vidéo) ont des exigences techniques différentes », a déclaré Google. « L’objectif est de créer un écosystème à plusieurs niveaux dans lequel le filigrane, les normes de métadonnées et les outils de vérification fonctionnent ensemble dans l’ensemble du secteur. »
