Meta Platforms Inc. a cherché cette semaine à rassurer les consommateurs sur les garanties de confidentialité de ses lunettes controversées basées sur l'intelligence artificielle, mais en même temps, elle aurait poussé des capacités encore plus effrayantes dans ses « prototypes internes ».
Les lunettes basées sur l'IA de la société ont une réputation croissante de technologie effrayante, mais dans un article de blog publié mardi, la société a annoncé qu'elle prenait des mesures pour changer cette opinion. Il a révélé qu'il effectuait une mise à jour clé qui désactivera les caméras de ses lunettes si la lumière LED censée indiquer qu'ils enregistrent est bloquée ou falsifiée.
Cette décision semble être une concession au sentiment croissant selon lequel les spécifications de l'IA ne sont pas seulement des accessoires de haute technologie à la mode, mais ont également de sérieuses implications en ce qui concerne la vie privée des gens. Il est devenu évident que les spécifications peuvent être utilisées de manière malveillante, par exemple en enregistrant secrètement des personnes à leur insu.
C'est pourquoi il est préoccupant que Meta teste actuellement un nouveau prototype de ses lunettes intelligentes qui enregistreront tout, à tout moment. C'est ce que révèle un rapport du Financial Times, selon lequel les nouvelles lunettes « super-détection » prendraient des photos en continu, toutes les quelques secondes, afin d'enregistrer tout ce que le porteur a vu et fait tout au long de la journée. L'idée, selon des sources connaissant le projet, est que les lunettes IA pourraient agir comme un « assistant permanent » et aider à résumer les journées des gens, leur dire où ils ont laissé leurs clés de voiture ou quelque chose que quelqu'un leur a dit plus tôt dans la journée.
L'aspect le plus inquiétant est que les cadres supérieurs de Meta ne prévoient pas d'activer la lumière LED lorsque ces fonctionnalités de super-détection sont utilisées. Si tel était le cas, il serait beaucoup plus difficile pour les spectateurs de savoir quand ils sont enregistrés.
Il s'agit d'un changement important par rapport au fonctionnement des lunettes IA existantes de Meta. Avec les modèles actuels, les utilisateurs doivent activer les spécifications pour enregistrer leur environnement en utilisant leur voix pour leur dire de le faire, ou en touchant un bouton physique sur les lunettes. Lorsqu'ils font cela, le voyant LED situé à l'avant des lunettes s'allume pour indiquer à tous les autres que la caméra est allumée.
Meta semble penser que cela peut justifier de ne pas allumer la lumière LED. Dans un document politique publié l'année dernière, il indiquait que si la lumière LED clignotait tout le temps, les gens cesseraient probablement de le remarquer, ce qui entraînerait une réduction de la conscience du moment où les photos ou les vidéos sont capturées par les utilisateurs.
Pour atténuer davantage les problèmes de confidentialité, il est prévu que les images brutes enregistrées par les spécifications de super-détection ne soient pas stockées par l'entreprise et ne soient pas non plus mises à la disposition de l'utilisateur. Au lieu de cela, il extrairait et stockerait simplement les métadonnées de ces images et de l’audio qu’elles enregistrent, afin qu’elles puissent être interrogées par les modèles d’IA. L’idée est que cela aurait moins d’implications sur la vie privée, a déclaré le Financial Times. Cependant, les métadonnées peuvent toujours contenir des informations telles que des emplacements exacts, des numéros de série d'appareils, etc.
Dans une déclaration au Financial Times, Meta a déclaré que son approche concernant ses lunettes IA est toujours axée sur « la confidentialité intégrée dès le départ ».
« Bien que nous ne commentions pas les prototypes internes, nous nous engageons à fabriquer nos lunettes correctement, car elles doivent être aimées à la fois par ceux qui les portent et par leur entourage », a déclaré la société.
Pendant ce temps, il existe des points de vue divergents au sein de Meta sur la question de savoir si les données collectées via la fonction de super-détection doivent être utilisées à des fins de formation à l'IA. À l'heure actuelle, la société stocke et collecte déjà des données auprès des utilisateurs de spécifications existantes, et cette pratique est préoccupante. Un article du journal suédois Svenska Dagbladet a révélé plus tôt cette année que certaines photos et vidéos enregistrées par des porteurs de lunettes d'IA avaient été envoyées à des entrepreneurs humains basés au Kenya pour être examinées et étiquetées pour une formation en IA.
Mais ces vidéos contenaient des images de personnes ayant des relations sexuelles, utilisant les toilettes et consultant des données sensibles telles que des enregistrements de transactions financières et des mots de passe. Étant donné que ces moments ont tous été capturés par des appareils qui doivent être allumés manuellement, il est presque inévitable qu'un appareil toujours allumé balaie toutes sortes d'images sensibles.
La seule grâce salvatrice est qu’il est discutable si Meta peut réellement concrétiser ses lunettes à super-détection. Bien que le fondateur Mark Zuckerberg puisse sembler aimer l'idée, il n'est pas clair si de telles lunettes auraient la durée de vie de la batterie nécessaire pour rendre cette fonctionnalité possible. L'enregistrement continu tout au long de la journée épuiserait rapidement l'énergie de l'appareil. Des solutions de contournement pourraient être possibles, comme une caméra à résolution extrêmement basse qui consomme moins d'énergie, ou une sorte de batterie plus grosse ou même externe, mais il n'est pas clair dans quelle mesure ces solutions seraient pratiques.
