Les faux reçus ne sont pas une nouveauté dans le monde des affaires: il y a toujours eu la possibilité que certains employés essaient d'engraisser leurs notes de dépenses avec des factures gonflées. Ce qui est nouveau, c'est l'outil utilisé pour cela.
Et, maintenant, ces documents peuvent être générés en quelques secondes avec l'aide de l'IA générative, créant des justificants si convaincants qu'ils tromperaient facilement l'œil humain. Le problème est d'une telle ampleur que les mêmes entreprises qui développent des logiciels pour auditer les dépenses ont dû recourir à l'IA pour lutter contre l'IA.
Des éditeurs d'image aux chatbots
Jusqu'à récemment, les fraudes les plus courantes étaient fabriquées avec des modèles d'image de base ou des éditeurs. Aujourd'hui, il suffit de demander à un chatbot de générer une réception réaliste d'un restaurant à Madrid ou d'un hôtel à Bangkok, et en quelques secondes, un document difficile à distinguer d'un authentique est obtenu.
Anant Kale, directeur exécutif d'Appzen, une plateforme de gestion des dépenses qui a détecté comment les réseaux sociaux ont été remplis de tutoriels pour créer des reçus fictifs avec l'IA, reconnaît qu'il est « trop facile » de les créer.
Une nouvelle «carrière d'armes» technologique
Appzen, dépense, SAP concur et autres applications de premier plan dans le contrôle des dépenses ont réagi rapidement: tous ont incorporé des fonctions spécifiques pour identifier la justification artificiellement générée.
La logique est simple: plus les faux reçus deviennent réalistes, plus les systèmes de détection sont sophistiqués. Donc, pour lutter contre la fraude avec l'IA, nous devons utiliser d'autres IAS.
Le coût de la fraude: de la petite au scandaleuse
L'association des examinateurs de fraude certifiée certifie des milliers de nouveaux examinateurs chaque année, estime que 13% des cas de fraude professionnelle au cours des 18 derniers mois étaient liés à des dépenses gonflées ou inventées. En moyenne, les dégâts étaient d'environ 50 000 $ par entreprise.
Parfois, la falsification commence presque comme une excuse: un travailleur qui a perdu un reçu légitime et décide de « le recréer ». Mais, si personne ne le détecte, cela peut devenir une habitude. Dans des cas plus graves, Appzen a identifié des employés qui ont inventé même des voyages complets avec de faux vols et des hôtels vers des villes qui n'ont jamais visité.
Ainsi, un reçu inventé est détecté
Les programmes d'audit ne font plus confiance à l'œil humain. Ils utilisent plusieurs couches d'analyse:
- Métadonnées: les chatbots laissent des traces numériques dans les fichiers … bien que si une capture d'écran est faite, ces pistes disparaissent.
- Comparaison de masse: les algorithmes comparent le reçu avec des milliers d'originaux du même fournisseur et recherchent des différences subtiles dans la typographie, l'espacement ou les logos.
- Modèles de comportement: les incohérences dans les habitudes de dépenses des employés (horaires inhabituels, quantités atypiques) sont analysées.
- Microdétalles suspects: Par exemple, que le même serveur apparaît toujours ou la même combinaison de plats dans différents reçus.
L'avenir: plus d'IA, plus de surveillance
Selon Appzen, environ 30% des reçus frauduleux qu'ils détectent proviennent déjà de chatbots, et le chiffre continue de croître. La dépense garantit que les interceptions des centaines chaque mois, et SAP concurrent estiment qu'environ 1% du soutien que Audita aurait pu être créé artificiellement.
Les experts conviennent que le problème ne disparaîtra pas, mais évoluera: chaque nouvelle génération de modèles génératives sera plus convaincante, et chaque nouvel outil de détection doit apprendre à reconnaître des pièges plus subtils.
Via | NYT
