OpenAI Group PBC a publié aujourd'hui une lettre ouverte signée par plus de 100 entreprises technologiques, banques, assureurs et fournisseurs de sécurité avertissant que les cyberattaques basées sur l'intelligence artificielle deviendront beaucoup plus répandues d'ici quelques mois et que les défenseurs ont peu de temps pour se préparer.
« Nous disposons d’une fenêtre limitée pour renforcer les cyberdéfenses », ouvre la lettre. Les hôpitaux, les usines de traitement des eaux et les infrastructures qui transportent le trafic Internet sont désignés comme les actifs les plus menacés.
La liste est inhabituellement large pour un document de ce type. Anthropic PBC, Google LLC, Microsoft Corp., Amazon Web Services Inc., Oracle Corp., Cisco Systems Inc. et IBM Corp. ont tous signé, tout comme CrowdStrike Holdings Inc., Palo Alto Networks Inc., Cloudflare Inc., Okta Inc. et Fortinet Inc. Capital One Financial Corp., Mastercard Inc., Visa Inc. et Citigroup Inc. figurent sur la liste à côté du Center for Internet Security. Les organisateurs ont déclaré que d'autres noms seraient ajoutés.
La lettre affirme que le statu quo en matière de sécurité ne tiendra pas, pointant du doigt des bugs de longue date, des autorisations excessives, des erreurs de configuration et une authentification faible que les attaquants exploitent aujourd'hui sans l'aide de l'IA. Selon les signataires, les modèles cyber-capables peuvent transmettre des compétences spécialisées à des équipes qui n'ont pas les moyens de les embaucher. Personne ne peut résoudre le problème seul, c’est là qu’intervient l’appel à une réponse collective.
Les demandes sont réparties en quatre groupes. Il est demandé aux organisations de faire de la cyberdéfense une priorité immédiate de leur leadership, d’éliminer les faiblesses à haut risque et d’élever leurs normes en matière de code généré par l’IA. Les fournisseurs de sécurité et de technologie devraient tester leurs produits par rapport à ce que les modèles actuels peuvent faire, mettre des outils défensifs entre les mains des opérateurs d’infrastructures critiques et partager des informations et des playbooks sur les menaces.
Pendant ce temps, les gouvernements sont invités à se coordonner aux niveaux local, national et international et à payer pour la protection des services essentiels. La liste des développeurs d’IA frontaliers est la plus longue, couvrant l’accès aux modèles, le financement des défenseurs, la responsabilité de leurs propres systèmes et l’assistance lors d’incidents en direct.
Les agences fédérales ont donné une certaine base à cet avertissement au début du mois. Dans un avis publié le 18 août, la National Security Agency des États-Unis, la Cybersecurity and Infrastructure Security Agency et le Federal Bureau of Investigation ont déclaré que les acteurs malveillants utilisent des scripts d'exploitation générés par l'IA, déguisés en outils de surveillance légitimes, pour la reconnaissance et le développement de capacités contre les contrôleurs logiques programmables Siemens S7.
Les services d’eau et d’eaux usées et l’industrie manufacturière critique font partie des secteurs cités. Les attaquants ont détecté 88 % des nouveaux exploits de preuve de concept publics en 48 heures au cours des six premiers mois de l'année, a découvert CrowdStrike dans son rapport annuel de chasse aux menaces.
L'IA n'a pas besoin d'inventer de nouvelles techniques d'exploitation pour causer de graves problèmes, a déclaré Diana Kelley, responsable de la sécurité de l'information chez Noma Security Inc., société de sécurité de l'IA agentique, à SiliconANGLE par e-mail. Les agents qui révèlent les vulnérabilités manquées par les humains, automatisent la reconnaissance et enchaînent les chemins d'attaque connus à la vitesse de la machine rendent les anciennes faiblesses considérablement plus dangereuses. Kelley lit la lettre comme un aveu que l’IA modifie l’économie des attaques plus rapidement que la plupart des organisations ne remboursent leurs dettes de sécurité. Elle a ajouté que les déploiements d'agents d'une entreprise font désormais partie de sa surface d'attaque.
Ce que la lettre ne contient pas, ce sont des engagements. Aucun délai, aucune promesse de dépenses ou objectif mesurable ne l'accompagne, a noté Axios. John Gallagher, vice-président de la société de technologie opérationnelle et de sécurité de l'Internet des objets Viakoo Inc., a déclaré à SiliconANGLE par courrier électronique que la prémisse technique tient le coup et que l'optimisme qui l'entoure ne tient pas.
« Là où la lettre ouverte passe à côté de la réalité, c’est dans l’idée selon laquelle les défenseurs détiennent un avantage car ils peuvent trouver et corriger les vulnérabilités accumulées depuis des années », a déclaré Gallagher. « Dans le domaine de l’OT et des infrastructures critiques, le rythme actuel des mesures correctives est glacial. » Les fenêtres de maintenance doivent être négociées, les appareils et les applications coordonnés, et un actif d'usine qui ne parvient pas à revenir en ligne peut coûter une fortune.
Gallagher était plus précis sur le timing. Un développeur pionnier qui expédie des modèles plus performants tout en avertissant qu’une catastrophe est dans des mois invite à une lecture cynique, a-t-il déclaré, « un peu comme un pyromane vendant des extincteurs ».
La plupart des fournisseurs de la liste vendent déjà des produits de sécurité IA. Le propre programme Daybreak d'OpenAI en fait partie, et Palo Alto Networks a annoncé ce mois-ci qu'il mettrait ces modèles en œuvre dans les environnements clients.
