La plupart des discussions sur la sécurité de l’intelligence artificielle se concentrent sur les modèles qui pourraient mal fonctionner. Le problème le plus urgent concerne ce que nos systèmes de détection ne peuvent toujours pas voir – et les attaques par canal secondaire rendent cette lacune visible.
Les attaques par canal secondaire collectent des informations ou interfèrent avec l'exécution d'un programme en ciblant des facteurs physiques tels que la consommation d'énergie, les émissions électromagnétiques et le temps de traitement plutôt qu'en ciblant le code logiciel. Ils peuvent exfiltrer des informations sensibles telles que des clés cryptographiques en mesurant les émissions matérielles fortuites.
Des recherches récentes ont montré qu’un observateur extérieur peut déduire le sujet d’une interaction IA simplement en analysant les modèles de trafic cryptés. Aucun décryptage requis. Aucune inspection de la charge utile. Juste de la structure, du timing et de la séquence. Le signal existe, mais il vit en dehors des outils de sécurité du contenu conçus pour inspecter.
Il ne s’agit pas simplement d’une nouvelle technique d’attaque. Cela témoigne d’un échec plus large dans la conception de la détection. Nous avons construit des architectures de sécurité adaptées aux indicateurs. De plus en plus, les signaux les plus importants ne sont plus du tout présentés comme des indicateurs.
Là où les règles échouent
Depuis deux décennies, la détection est définie par des règles. Les signatures, les seuils, les modèles connus et les anomalies de base constituent l’épine dorsale des opérations de sécurité. L’industrie a réussi à créer plus de règles, de meilleures règles et désormais des systèmes d’IA qui permettent de les écrire et de les ajuster plus rapidement.
Mais rien de tout cela ne change la contrainte sous-jacente. Les règles exigent que quelque chose de discret corresponde : un artefact connu, un écart reconnaissable ou une frontière franchie.
Les attaques par canal secondaire ne fournissent pas cela. De nombreuses intrusions modernes non plus. Un attaquant opérant via des canaux cryptés, des outils légitimes ou des flux de travail assistés par l'IA peut se déplacer dans un environnement sans jamais déclencher une condition qu'une règle peut évaluer. L'activité est valable à chaque étape individuelle. Le modèle ne devient visible que lorsque vous regardez comment ces étapes se connectent au fil du temps.
C’est l’écart de détection. Ce n'est pas une question de couverture mais une limitation architecturale. Toute une classe de comportements d’attaquants ne génère aucune alerte car elle ne produit aucun signal comparable.
L'écart se creuse
La conséquence pratique de cet écart est simple. Il existe des scénarios dans lesquels les attaquants opèrent dans un environnement et l’équipe de sécurité ne reçoit aucun signal. Il ne s’agit pas d’une alerte de manque de confiance. Rien à enquêter.
Les attaques par canal secondaire en sont un exemple. Les données sont présentes, mais elles se situent dans des modèles de timing, de séquençage et d’interaction que les outils traditionnels ne sont pas conçus pour interpréter. Il en va de même pour les intrusions faibles et lentes, les techniques terrestres et les chaînes d’attaque assistées par l’IA qui s’adaptent à mesure qu’elles se déplacent.
À mesure que les organisations développent leur utilisation de l’IA, tant dans leurs opérations commerciales que dans leurs outils d’attaque, la proportion d’activités relevant de cet écart augmente.
Dans le même temps, la plupart des investissements en matière de sécurité continuent de se concentrer sur l’optimisation de ce qui est déjà couvert : une création plus rapide de règles, un meilleur réglage et un tri des alertes plus efficace. Ces améliorations sont importantes, mais elles ne s’attaquent pas à la partie de la surface d’attaque qui ne produit aucune alerte en premier lieu.
L'IA au mauvais niveau
Une quantité importante d’IA est aujourd’hui déployée dans les opérations de sécurité. Une grande partie de ces informations sont utiles pour résumer les alertes, accélérer les enquêtes et réduire la charge opérationnelle des analystes.
Mais la plupart de ces systèmes sont appliqués après qu’une détection a déjà eu lieu. Ils améliorent la réponse. Ils ne changent pas fondamentalement le fonctionnement de la détection. Cette distinction est importante.
Si une classe de comportement d'attaquant ne génère pas d'alerte, aucun niveau d'automatisation, de synthèse ou de priorisation ne la fera apparaître. Les attaques par canal secondaire renforcent ce point. Le signal existe, mais il n’est pas exprimé d’une manière que les systèmes basés sur des règles ou l’IA post-détection peuvent traiter. La même dynamique s’applique à toute attaque qui se déroule par le biais d’actions légitimes, de canaux cryptés ou d’une progression progressive.
L'industrie investit massivement pour rendre les flux de détection plus efficaces. Il investit beaucoup moins dans l’élargissement de ce que la détection peut réellement observer.
Le comportement, pas seulement les événements
Combler cet écart nécessite une approche différente de la détection, une approche qui ne dépend pas d'indicateurs prédéfinis ni de règles créées par l'homme.
Les équipes de sécurité des signaux dont elles ont besoin pour détecter ces nouvelles attaques existent déjà. La séquence d’actions, les relations entre les systèmes ainsi que le timing et la progression du comportement révèlent l’intention d’une manière que les événements individuels ne peuvent pas révéler.
Ironiquement, bon nombre des approches d’apprentissage profond qui permettent d’effectuer des attaques par canal secondaire efficaces peuvent également être utilisées pour identifier les modèles de trafic qui déterminent s’ils contiennent des attaques.
Un attaquant effectuant un mouvement latéral via des canaux cryptés laisse une trace, non pas dans le contenu du trafic, mais dans la manière dont les modèles d'accès évoluent. Une fuite de canal secondaire n’expose pas directement les données, mais elle expose la structure. Le même principe s’applique aux techniques d’attaque modernes.
Pour lire ce signal, les systèmes de détection doivent fonctionner sur des séquences comportementales plutôt que sur des événements isolés. Ils doivent évaluer si l’activité correspond à la façon dont les systèmes sont censés fonctionner au fil du temps, et pas seulement si une seule action semble anormale. Il s’agit d’une catégorie de problème différente de celle de l’optimisation des règles. Cela nécessite des modèles capables d’apprendre à partir de données opérationnelles structurées et d’identifier des modèles qui n’ont jamais été explicitement définis à l’avance.
Pour les responsables de la sécurité évaluant les investissements en IA, il s’agit d’une distinction utile. Certains systèmes rendent les flux de détection existants plus efficaces. D’autres élargissent la surface de détection elle-même en identifiant des comportements que les règles ne peuvent pas exprimer. Les deux ont de la valeur, mais ils résolvent des problèmes fondamentalement différents.
Repenser la détection
Pour la plupart des organisations, la première étape ne consiste pas à ajouter de nouveaux outils ; il développe une compréhension plus précise de ce que couvre réellement leur stratégie de détection actuelle.
Cela commence par une évaluation honnête de la visibilité. Il ne s'agit pas seulement de savoir si une règle existe pour une technique donnée, mais aussi de savoir si le système peut la détecter de manière fiable dans des conditions réalistes. La reconnaissance précoce, les mouvements latéraux subtils et les activités qui se fondent dans les opérations normales sont souvent là où apparaissent les lacunes les plus importantes.
Cela nécessite également d’examiner la manière dont la détection est effectuée. Si l’ensemble de la pile est construit autour d’événements individuels correspondants ou d’indicateurs prédéfinis, la limitation est alors structurelle. Améliorer la qualité des règles ne résoudra pas le problème.
Lors de l’évaluation des capacités de sécurité basées sur l’IA, la question clé est simple : ce système détecte-t-il les comportements qui ne peuvent pas être capturés dans une règle, ou rend-il la détection basée sur des règles plus efficace ? Cette distinction est essentielle pour prendre des décisions d’investissement éclairées.
Combler l’écart de détection ne se limite pas aux délais de réponse. Cela change lorsque les organisations prennent conscience que quelque chose ne va pas.
Une détection précoce réduit le temps d'intervention, limite la portée des incidents et donne aux défenseurs la possibilité d'agir avant que les attaquants n'atteignent leurs objectifs. Cela donne également une image plus précise de l’exposition réelle au risque. De nombreuses organisations fonctionnent avec un sentiment de visibilité exagéré parce que leurs outils fonctionnent bien dans un modèle de détection contraint.
Les attaques par canal secondaire constituent en elles-mêmes un signal utile. Ils démontrent que des informations significatives peuvent exister en dehors des limites de ce que les systèmes traditionnels sont conçus pour inspecter. Plus important encore, ils soulignent à quel point ces informations sont actuellement ignorées.
L'IA n'a pas introduit ce problème. Cela l’a exposé.
Les organisations qui s'adapteront ne seront pas simplement celles qui évolueront plus rapidement dans le cadre des modèles de détection existants, mais qui élargiront en premier lieu ce que la détection peut voir.
Evan Powell est directeur général de DeepTempo, le nom commercial de Skidaway Inc. Il a écrit cet article pour SiliconANGLE.
