La start-up de sécurité de la messagerie électronique à intelligence artificielle StrongestLayer Inc. a lancé aujourd'hui deux produits destinés au courrier électronique qui peuvent transférer de l'argent ou manipuler un assistant IA.
Le premier produit, Intent Workflows, peut conserver les demandes de paiement, de paie et de compte exécutif pour vérification avant que quiconque n'y donne suite. À ses côtés, AI Instruction Intercept, qui arrête les instructions cachées dans un message avant qu'un assistant tel que Microsoft 365 Copilot de Microsoft Corp. ne les lise.
Intent Workflows cible les attaques qui ne contiennent aucun malware ou lien suspect. Dans le cadre d'une compromission de la messagerie électronique d'un fournisseur, un criminel s'empare de la boîte aux lettres d'un véritable fournisseur et envoie de nouvelles coordonnées bancaires dans un fil de discussion existant.
StrongestLayer a subi 32 052 attaques qui ont dépassé les défenses existantes de 45 organisations au deuxième trimestre. Seulement 3,6 % étaient des demandes de paiement ou de changement bancaire. Dans le cadre d’un modèle de perte basé sur le cadre d’analyse factorielle des risques liés à l’information, cette petite tranche représentait plus de 98 % de l’exposition financière estimée. Les contrôles d’authentification de l’expéditeur n’ont pas été d’une grande aide, puisque 94 % de ces messages les ont réussis.
La sécurité traditionnelle de la messagerie électronique demande si un message semble mauvais, selon Alan LeFort, co-fondateur et directeur général de StrongestLayer. « Les attaques les plus coûteuses sont conçues pour paraître impeccables », a-t-il déclaré. Son entreprise examine ce qu’un message tente de réaliser, ce qui, pour un virement bancaire, signifie « vérifier l’action au lieu de parier sur un verdict ».
La détection de StrongestLayer filtre toujours chaque message. Intent Workflows ajoute une suspension pour le plus petit ensemble de demandes qui ne peuvent pas être annulées, chaque client décidant si ces demandes attendent une vérification ou sont adressées à l'équipe de sécurité ou à un propriétaire de processus.
Les clients peuvent également laisser passer une demande grâce à une bannière de politique, qui apparaît uniquement sur les demandes suivies et précise la propre règle de l'entreprise, telle que « Changement de banque : appelez le numéro enregistré ». Les paiements concernés sont retenus quel que soit le verdict, de sorte qu'un compte fournisseur piraté ne peut pas en obtenir un en paraissant légitime.
Le logiciel compare chaque demande de paiement avec l'historique du bénéficiaire et les clients choisissent le seuil, qu'il s'agisse de chaque paiement ou uniquement de ceux supérieurs à 5 000 $. Si rien n'a changé, le propriétaire du paiement confirme en un clic, dans Microsoft Teams ou par email. Tout changement ou l'arrivée d'un nouveau fournisseur signifie un appel vers un numéro de téléphone déjà enregistré, et l'e-mail n'est publié que lorsque le résultat est enregistré.
Les modifications de paie sont vérifiées de la même manière, et les réinitialisations du mot de passe du dirigeant, de l'authentification multifacteur et de la récupération de compte sont d'abord transmises à l'équipe d'identité ou de sécurité, même lorsque la demande arrive via le service d'assistance.
La version aborde également un problème plus récent. Les chercheurs d’Aim Security Ltd. ont découvert la faille EchoLeak dans Microsoft 365 Copilot l’année dernière, et il a suffi d’un e-mail contrefait pour que l’assistant divulgue des données.
AI Instruction Intercept lit chaque message en premier. Un modèle de raisonnement le vérifie pour détecter les instructions cachées par rapport au contexte commercial du client, et ce n'est qu'après cela que l'e-mail atteint Copilot, Gemini de Google LLC ou un classificateur de sécurité. Les messages suspects sont mis en quarantaine par défaut avec une explication de la finalité de chaque instruction.
Le courrier électronique est la seule voie vers un assistant IA que « tout étranger peut utiliser », a déclaré Joshua Bass, co-fondateur et directeur des produits de StrongestLayer. Il affirme que la boîte de réception est le premier endroit où arrêter l’injection rapide, puisqu’un attaquant n’a besoin que d’une adresse.
Les deux produits sont désormais disponibles pour Microsoft 365 et Google Workspace et fonctionnent parallèlement à la sécurité de la messagerie existante de l'entreprise.
