« Digital Mythbusters » : le vrai et le faux dans la fraude alimentée par l'IA

L'intelligence artificielle est en train de redéfinir le paysage de la fraude, mais pas toujours de la manière que laissent entendre les gros titres. Lors de la dernière session « Trust Talks » organisée par Microblink, Iremar Brayner, responsable de la lutte contre la fraude chez G2 ; Mark T. H. Sze, responsable senior des produits chez Neon ; Kali Kishore Chintha, responsable des risques chez Bill.com ; Karen McHenry, vice-présidente chargée des produits chez Metallicus, ainsi que Rex Robinson, directeur marketing senior chez Microblink, ont examiné en détail ce qui change réellement, ce qui relève du battage médiatique et comment les entreprises devraient se préparer à l'horizon 2026.

Voici les principaux enseignements tirés de cette discussion.

La fraude liée à l'IA n'est pas un phénomène nouveau. Il s'agit d'une évolution (mais d'une évolution puissante).

Les participants à la table ronde étaient unanimes : l'IA n'introduit pas de formes de fraude entièrement nouvelles. Elle ne fait que renforcer celles qui existaient déjà.

Il y a dix ans, les bots fonctionnaient selon des règles et étaient faciles à repérer. Aujourd'hui, les attaques automatisées modernes apprennent, s'adaptent et imitent les humains avec une précision effrayante. Les voix « deepfake » et les interviews synthétiques constituent de réels risques, mais le changement le plus important réside dans leur ampleur et leur crédibilité.

Comme l'a fait remarquer l'un des intervenants : « Il devient
de plus en plus difficile de distinguer la vérité du mensonge. »

Mais il y a une lueur d'espoir : les défenseurs peuvent tirer parti de ces mêmes avancées en matière d'IA pour riposter.

Méfiez-vous des « deepfakes », mais n'oubliez pas non plus les attaques par usurpation d'identité (ATO) et les faux comptes.

La menace la plus immédiate à laquelle sont confrontées les institutions financières n’est pas celle des « deepfakes », mais bien la recrudescence des prises de contrôle de comptes et de la création de faux comptes. Alors que les braquages par deepfake, qui font la une des journaux, dominent l’actualité, les équipes chargées de la lutte contre la fraude en ressentent les conséquences concrètes dans leurs activités quotidiennes, avec une forte augmentation des tentatives de prise de contrôle de comptes, des ouvertures de comptes à l’aide d’identités fausses ou synthétiques, et la prolifération rapide des comptes « mules ».

Les intervenants ont mis en avant une évolution notable propre au Brésil : un registre national de protection de l’identité conçu pour empêcher les ouvertures de comptes non autorisées avant même qu’elles ne se produisent. Mais sur l’ensemble des marchés représentés lors de la discussion, le message était le même : la détection des deepfakes basée uniquement sur l’image n’est plus suffisante. Alors que les fraudeurs s'appuient massivement sur l'IA agentique pour automatiser l'usurpation d'identité et la falsification d'identité, les banques et les fintechs doivent s'orienter vers des défenses multicouches combinant l'intelligence comportementale, les signaux des appareils et les schémas transactionnels afin de distinguer de manière fiable les clients authentiques des imposteurs aidés par l'IA.

La fraude interne connaît une explosion, et l'IA accélère cette tendance

Un autre thème récurrent du webinaire a été la hausse spectaculaire de la fraude de première main et la manière dont l’IA générative aggrave considérablement le problème. Autrefois considérée principalement comme un problème de crédit ou de recouvrement, la fraude de première main est désormais devenue un défi combiné « fraude-crédit-expérience client » que les institutions ne peuvent plus traiter de manière cloisonnée. Les consommateurs lambda, qui, par le passé, ne disposaient ni des outils ni des compétences nécessaires pour tromper les banques et les commerçants, peuvent désormais utiliser l’IA pour falsifier des documents, créer de faux historiques de communication, manipuler des reçus numériques et produire des pistes de preuves convaincantes afin de contester des prélèvements légitimes.

Ces possibilités ont fait pencher la balance : il est désormais plus facile que jamais pour un consommateur d’exploiter les politiques de remboursement et de contestation de paiement, en particulier dans le domaine des biens et services numériques où les cas de « marchandise non reçue » et d’abus en matière de retour et de remboursement sont en pleine explosion. Les intervenants ont souligné que cette évolution nécessite de nouvelles stratégies, et pas seulement des contrôles plus stricts. Il faut s’attendre à une augmentation des investissements dans les modèles de notation de la fraude de première main, l’analyse comportementale basée sur l’intention et les signaux proactifs qui détectent la « fraude amicale » avant qu’elle n’affecte les résultats financiers. L’époque où l’on considérait la fraude de première main comme un coût inévitable de l’activité est révolue.

La course à l'armement dans le domaine de l'IA va s'accélérer d'ici 2026

Les intervenants étaient d'accord : la situation ne se stabilise pas, bien au contraire, elle s'accélère.

Les modifications apportées aux règles des réseaux mondiaux de cartes bancaires, la généralisation du 3DS et d’autres dispositifs d’authentification, ainsi que la mise au point d’outils de fraude de plus en plus sophistiqués, obligeront les fraudeurs (et les équipes chargées de la lutte contre la fraude) à s’adapter une nouvelle fois.

Et ensuite ?

• Modèles prédictifs de la propension à la fraude interne
• L'évaluation comportementale comme indicateur clé de fraude
• Agrégation avancée des signaux entre couches
• Renforcement de la formation interne sur l'ingénierie sociale, l'usurpation d'identité et les attaques visant les employés par le biais de « deepfakes »

Un expert a résumé ainsi le défi : « Les fraudeurs
disposent des outils nécessaires pour tromper à grande échelle. Nous avons besoin d’outils pour nous défendre à grande échelle. »

Pour en savoir plus sur la manière dont Microblink peut aider votre entreprise à se préparer à l'avenir de la fraude, contactez-nous dès aujourd'hui.