Le gouverneur de la Banque d'Angleterre, Andrew Bailey, a averti aujourd'hui que l'intelligence artificielle avancée présente des risques pour l'infrastructure financière.
Bailey a fait part de ses préoccupations dans une lettre adressée aux ministres des Finances et aux gouverneurs des banques centrales du G20. Le document a été rendu public peu de temps avant que le groupe ne se réunisse à Asheville, en Caroline du Nord, pour sa réunion annuelle. Bailey a rédigé le document en sa qualité de président du Conseil de stabilité financière, un organisme international qui supervise la santé du système financier.
La lettre prévient que les marchés financiers sont vulnérables à une correction en raison de multiples « fragilités ». Bailey a cité les « évaluations d’actifs tendues » sur le marché de l’IA comme l’une de ces fragilités. Il a également souligné le rôle de la dette dans les accords d’investissement circulaires entre les entreprises d’IA et les hyperscalers.
Le reste du document de deux pages se concentre principalement sur la capacité des grands modèles de langage à lancer des cyberattaques.
Selon Bailey, l’une des raisons pour lesquelles les LLM frontières présentent un risque est que de nombreux systèmes financiers importants sont interconnectés. Les plus grandes sociétés d'investissement du monde réalisent chaque jour de nombreuses transactions entre elles. De plus, ils le font souvent en utilisant la technologie des mêmes fournisseurs tiers. Une faille chez un fournisseur aussi clé peut potentiellement compromettre plusieurs institutions financières.
La lettre propose ensuite plusieurs suggestions en matière de cybersécurité pour l’industrie. Bailey recommande aux décideurs de se préparer aux perturbations qui affectent simultanément plusieurs institutions financières ou fournisseurs de technologies. Il appelle également à la mise en place de workflows permettant de « restaurer les systèmes et données critiques depuis le « bare metal » suite à un cyber-incident important ». Les serveurs nus sont des machines dépourvues de système d’exploitation.
La lettre note que la capacité des modèles d'IA à détecter rapidement les vulnérabilités logicielles obligera les banques à déployer les correctifs plus rapidement. C'est un défi pour plusieurs raisons. Lorsqu'un nouvel exploit est découvert, les ingénieurs ne doivent pas développer un correctif mais également tester qu'il fonctionne comme prévu avant de le publier. Cette dernière tâche impliquait historiquement une quantité importante de travail manuel.
« Frontier AI offre des les opportunités de renforcer la cyberdéfense ; mais les développements récents soulignent l’importance de garantir que les progrès en matière de capacités s’accompagnent de résilience et de préparation », a écrit Bailey.
La semaine dernière, plus de 100 banques, entreprises technologiques et autres entreprises publié une lettre publique mettant en garde contre les risques de cybersécurité liés à l’IA. Les signataires estiment que la fréquence des campagnes de piratage menées par LLM augmentera considérablement dans les mois à venir. La lettre exhorte les organisations à renforcer leurs défenses en fournissant à leurs équipes technologiques des outils de cybersécurité basés sur l’IA.
