L'arrivée du navigateur ChatGPT Atlas, récemment lancé par OpenAI pour macOS (son lancement est également prévu pour d'autres OS), a marqué une nouvelle étape dans l'intégration entre intelligence artificielle et navigation web. Cependant, parallèlement à l'enthousiasme initial suscité par ses fonctionnalités « intelligentes », de sérieuses inquiétudes concernant la sécurité et la confidentialité des utilisateurs commencent à faire surface.
Le lancement d'Atlas met OpenAI en concurrence directe avec des géants comme Google, Microsoft ou Brave, qui explorent également la possibilité d'alimenter leurs navigateurs avec l'IA. Cependant, l'ampleur des capacités d'Atlas (son autonomie, sa mémoire et son intégration avec ChatGPT) en font une expérience beaucoup plus ambitieuse et, selon certains experts, plus dangereuse.
En fait, les experts en cybersécurité, les chercheurs et les organisations de protection de la vie privée préviennent déjà que cette nouvelle génération de navigateurs basés sur l'IA pourrait ouvrir une boîte de Pandore contenant des risques sans précédent dans l'environnement numérique.
Un navigateur avec sa propre intelligence
ChatGPT Atlas n'est pas un navigateur conventionnel. Selon l'annonce officielle d'OpenAI, son principal attrait réside dans la possibilité d'avoir une conversation avec ChatGPT directement à côté de la page Web visitée par l'utilisateur. Cette fonction permet à l'assistant de comprendre le contexte de ce qui est visualisé, de résumer, d'analyser ou même d'exécuter des actions au sein même du site.
De plus, il introduit deux fonctionnalités révolutionnaires et potentiellement problématiques :
- « Mémoires du navigateur », qui permettent à ChatGPT de mémoriser les informations issues des recherches et du comportement des utilisateurs au fil du temps pour offrir des réponses plus personnalisées.
- Le « mode Agent », grâce auquel ChatGPT peut naviguer et interagir de manière autonome avec des sites Web, depuis les achats en ligne jusqu'à la réservation d'un hôtel ou le remplissage de formulaires.
En théorie, ces fonctionnalités sont conçues pour améliorer la productivité. En pratique, cela signifie que le navigateur doit accéder, interpréter et stocker de grandes quantités de données personnelles, ce qui augmente de façon exponentielle la surface d'attaque des cybercriminels et le risque de fuite d'informations.
Alertes de la communauté de sécurité
Selon un rapport de AxiosAtlas collecte plus de données sur ses utilisateurs que tout autre navigateur sur le marché, ce qui a alarmé les défenseurs de la vie privée. Les chercheurs de SquareX ont même réussi à inciter le navigateur à visiter un site malveillant camouflé comme la page de connexion de Binance, la populaire plateforme de crypto-monnaie.
Parmi les problèmes les plus préoccupants figure la vulnérabilité aux attaques par « prompt injection » : une technique par laquelle un attaquant cache des instructions malveillantes sur une page Web ou un courrier électronique, dans le but de forcer l'IA à exécuter des actions non autorisées ou à révéler des informations sensibles. Dans le cas d'Atlas, cela pourrait impliquer que l'assistant achète un produit indésirable, supprime des fichiers système ou même accède à des contacts personnels.
Steve Wilson, co-fondateur du projet OWASP Gen AI Security, a résumé la situation avec ces mots :
« La guerre des navigateurs ne concerne plus les onglets ou les moteurs de recherche ; elle consiste à savoir si nous pouvons empêcher nos nouveaux assistants numériques de se retourner contre nous. »
Quand la mémoire du navigateur devient une menace
L'un des aspects les plus inquiétants est la fonction « mémoires » du navigateur. Bien qu'OpenAI prétende que les données sont stockées de manière privée et contrôlées par l'utilisateur, les tests effectués par la technologue Lena Cohen de l'Electronic Frontier Foundation ont révélé qu'Atlas a réussi à mémoriser des recherches sur la santé reproductive et même le nom d'un vrai médecin. Ce type d'informations, qui dans certains États américains ont été utilisées à des fins judiciaires, présente un risque sérieux dans des contextes où les droits à la vie privée en matière médicale ou reproductive sont contestés.
OpenAI garantit qu'Atlas ne doit pas mémoriser d'informations médicales, financières ou administratives sensibles et propose des options pour supprimer les souvenirs ou empêcher le navigateur de les stocker. Mais la simple existence de cette mémoire persistante soulève des questions sur sa gestion, les fuites possibles et l'étendue réelle du contrôle que l'utilisateur peut exercer sur elle.
La défense d’OpenAI
Face à une surveillance croissante, OpenAI est venu expliquer les mesures mises en œuvre pour atténuer les risques. Dans une déclaration publiée par le RSSI de l'entreprise, Dane Stuckey, les limites actuelles de la technologie sont reconnues :
« Les injections rapides restent un problème de sécurité non résolu. Nos adversaires consacreront beaucoup de temps et de ressources à tenter de tromper l'agent ChatGPT. »
Cependant, l'entreprise détaille une série de couches de protection intégrées à Atlas :
- Entraîner le modèle à ignorer les instructions malveillantes, à l'aide de techniques de renforcement.
- Modes de sécurité tels que le « mode déconnecté », dans lequel l'agent agit sans accéder aux informations d'identification de l'utilisateur, idéal pour les tâches qui ne nécessitent pas de connexion.
- « Mode surveillance », qui oblige l'utilisateur à garder l'onglet actif lorsque l'agent interagit avec des sites sensibles, en suspendant les actions si l'utilisateur change de fenêtre.
- Contrôles de suppression de mémoire et restrictions système, qui empêchent l'agent d'exécuter du code ou de télécharger des fichiers.
Ces mesures visent à construire une relation de confiance entre l'utilisateur et son assistant numérique, mais même Stuckey lui-même reconnaît que le défi est loin d'être complètement résolu.
Par | Axios
