Pourquoi l'analyse comparative et l'explicabilité sont-elles si importantes dans la vérification d'identité ?
Dans un récent article de blog, Hartley Thompson, PDG de Microblink, a expliqué comment l’IA générative modifie en profondeur l’économie de la fraude en rendant les attaques sophistiquées moins coûteuses, plus rapides et nettement plus évolutives. À bien des égards, les progrès réalisés dans le domaine de l’IA générative pour lutter contre la fraude sont également utilisés pour créer des attaques plus sophistiquées à grande échelle. En matière de fraude, tout est une question de volume : même les attaques au faible taux de réussite et au faible gain deviennent rentables lorsqu’elles peuvent être automatisées à grande échelle.
C’est pourquoi, au Microblink Fraud Lab, nous testons en permanence les nouvelles techniques de fraude, allant des flux vidéo injectés et des remplacements de visages aux documents générés par IA et aux processus d’inscription synthétiques. Ce qui frappe, ce n’est pas seulement le réalisme croissant de ces attaques, mais aussi leur accessibilité grandissante. Bon nombre des outils utilisés dans les domaines du divertissement, de la création de contenu et des expériences d’IA grand public peuvent désormais être détournés à des fins frauduleuses avec très peu de connaissances techniques. La fraude ne se contente plus de gagner en sophistication. Elle devient plus facile à mettre en œuvre, plus facile à déployer à grande échelle et plus facile à automatiser.
La fraude prend des formes de plus en plus variées
L'un des changements majeurs réside dans le fait que la fraude ne se limite plus à un seul vecteur d'attaque. Les attaques modernes combinent de plus en plus souvent plusieurs techniques simultanément, qu’il s’agisse de documents, de données biométriques, d’appareils ou de manipulation comportementale, au sein d’une même opération. Un fraudeur peut ainsi générer un document d’identité synthétique, injecter une série de selfies générés par IA dans un processus de vérification, usurper les signaux d’un appareil et automatiser simultanément certaines étapes de la chaîne d’attaque. En d’autres termes, la fraude devient multimodale.
C'est important car de nombreux systèmes d'identification ont été initialement conçus pour évaluer des signaux isolés à des étapes spécifiques du parcours utilisateur. La vérification des documents a lieu lors de l’inscription. Le contrôle biométrique intervient lors de l’authentification. Le signal émis par l’appareil est évalué lors de la connexion. Mais les attaques modernes brouillent de plus en plus ces frontières. Les fraudeurs combinent des contenus générés par l’IA, l’automatisation, la simulation comportementale et des techniques d’usurpation d’identité au sein de flux d’attaques à plusieurs niveaux, conçus pour exploiter les failles entre les systèmes plutôt qu’un point de défaillance unique.
Les modèles de vérification traditionnels ont été conçus pour une autre époque
De nombreux systèmes d'identification existants reposent encore sur des hypothèses de plus en plus dépassées. Autrefois, la falsification de documents exigeait des compétences hautement spécialisées, les données biométriques étaient difficiles à contrefaire, les attaques étaient principalement le fait d’individus et la phase d’intégration constituait le principal point de risque. L’IA générative est en train de remettre rapidement en cause ces hypothèses.
Le défi ne consiste plus simplement à déterminer si un document semble authentique ou si un visage correspond à une photo d’identité. Les organisations doivent désormais déterminer si une image a été générée de manière synthétique, si une session de vérification utilise un flux vidéo en direct ou un flux injecté, si une voix a été clonée, si les schémas comportementaux sont automatisés et si une identité de confiance reste fiable au fil du temps. Cela nécessite des systèmes à plusieurs niveaux, capables d’évaluer en continu de multiples signaux plutôt que de se fier à des événements de vérification isolés.
L'analyse comparative est plus importante que jamais
C'est pour toutes ces raisons que l'analyse comparative et l'évaluation indépendante prennent une importance cruciale dans le secteur de la gestion des identités. L’opacité constitue l’une des principales préoccupations liées à de nombreux systèmes de confiance émergents basés sur l’IA. Les organisations sont de plus en plus amenées à faire confiance à des modèles de type « boîte noire » sans disposer d’une visibilité claire sur les vecteurs d’attaque testés, la manière dont les systèmes ont été évalués, les scénarios qui restent hors champ, le comportement des modèles face à des attaques adversaires, ou encore l’évolution de leur fiabilité au fil du temps. Contrairement à de nombreux domaines traditionnels du machine learning, la détection de la fraude s’inscrit dans un environnement hostile en constante évolution, où les scénarios hors distribution constituent la norme plutôt que l’exception.
Cela engendre un réel risque opérationnel. Les systèmes d’IA affichent souvent des performances impressionnantes lors de démonstrations contrôlées, mais se comportent très différemment dans des environnements de fraude réels, où les attaquants s’adaptent en permanence, sondent les faiblesses et multiplient les tentatives pour contourner les défenses. Les systèmes d’identification doivent donc eux aussi évoluer en permanence. C’est pourquoi les tests adversariaux, l’évaluation reproductible et les comparaisons indépendantes deviennent des éléments essentiels de la lutte moderne contre la fraude. Les organisations doivent comprendre non seulement où les systèmes réussissent, mais aussi où ils échouent, car les attaquants finiront inévitablement par identifier eux-mêmes ces failles.
L'explicabilité constitue un autre défi majeur lié à l'adoption de l'IA. À mesure que les organisations intègrent des systèmes d'IA de plus en plus complexes dans leurs processus de gestion des identités et de lutte contre la fraude, les décisions en matière de fraude risquent de devenir de plus en plus opaques. Dans les secteurs réglementés tels que les services financiers, la santé, les places de marché et le commerce numérique, l'explicabilité n'est pas une option.
Les organisations ont de plus en plus besoin de comprendre pourquoi une vérification a abouti ou a échoué, quels signaux ont contribué au risque, ce qui a changé d’une décision à l’autre, et comment l’autorité ou la confiance ont été évaluées à un moment donné. Cela revêt une importance encore plus grande à mesure que les agents d’IA et les systèmes automatisés commencent à interagir directement avec les infrastructures financières et d’identité. Sans explicabilité ni auditabilité, les organisations perdent progressivement toute visibilité sur la confiance elle-même.
L'avenir de la lutte contre la fraude réside dans la continuité
La tendance générale qui se dessine aujourd’hui est que la fraude n’est plus un phénomène statique. Elle est adaptative, automatisée, assistée par l’IA et en constante évolution. Les systèmes de défense doivent évoluer de la même manière.
Aucun modèle ni aucune technologie ne pourra à lui seul résoudre ce problème. La lutte moderne contre la fraude nécessite de plus en plus une approche multicouche de l’intelligence identitaire, englobant la vérification des documents, la biométrie, la détection de vie, l’intelligence des appareils, l’analyse comportementale, l’évaluation contextuelle des risques et la surveillance continue. Plus important encore, ces systèmes doivent s’adapter en permanence à l’évolution des méthodes d’attaque, car le paysage de la fraude ne change plus au rythme de l’humain. L’IA accélère la vitesse, l’ampleur et l’automatisation des attaques.
Chez Microblink, c'est l'une des raisons pour lesquelles nous avons lancé le FREUID Challenge : impliquer la communauté scientifique dans des problèmes concrets de détection de fraudes hors distribution, dans des conditions adverses.
Si vous souhaitez en savoir plus sur les capacités de Microblink en matière de détection des fraudes liées à l'IA générative, contactez-nous dès aujourd'hui.
