Microblink lance le premier outil permettant de tester publiquement la fraude documentaire générée par l'IA générique

Il n'y a pas si longtemps, la fabrication d'un faux document d'identité convaincant exigeait du temps, des compétences et des outils spécialisés. Aujourd'hui, il suffit d'une simple commande pour que pratiquement n'importe qui puisse s'en charger.

Avec l'essor de l'IA générative, n'importe qui peut désormais créer des passeports, des permis de conduire ou des justificatifs de domicile réalistes à l'aide d'outils largement accessibles. Ces images sont souvent suffisamment convaincantes pour passer les contrôles visuels traditionnels et les vérifications élémentaires des données. En d'autres termes, la falsification de documents s'est démocratisée.

En tant qu'équipe produit spécialisée dans la vérification d'identité, chez Microblink, nous suivons de près cette évolution. Il s'agit d'un nouveau paradigme. Concrètement, comment détecter un document qui n'a jamais été « falsifié » au sens traditionnel du terme, mais qui a été généré de toutes pièces ?

Présentation du contrôle de détection de l'IA générative

Pour remédier à cela, nous avons développé une nouvelle fonctionnalité appelée « Generative AI Detection Check ». Il s'agit d'une nouvelle couche intégrée au système d'exploitation Microblink Identity Intelligence OS, spécialement conçue pour identifier les documents d'identité susceptibles d'avoir été générés par un modèle de langage grand (LLM) ou fortement modifiés à l'aide d'un tel modèle.

Dans les grandes lignes, la vérification consiste à :

• Analyse les images de documents d'identité (passeports, cartes d'identité, etc.)
• Estime la probabilité que l'image ait été générée ou modifiée par une IA
• S'intègre directement dans le résultat global de la vérification

Il ne s'agit pas ici de repérer une anomalie isolée ou de vérifier un champ spécifique. Le modèle évalue l'image dans son ensemble et recherche des motifs et des indices qui indiquent des processus de génération plutôt qu'une véritable capture.

Si un document ne passe pas ce contrôle, il est considéré comme frauduleux d'un point de vue visuel et cela contribue à la décision de rejet.

Pourquoi est-ce important aujourd'hui ?

L'IA générative a profondément transformé la nature de la fraude documentaire de trois manières importantes. Premièrement, la création ne demande désormais plus aucun effort. Ce qui nécessitait autrefois des outils spécialisés ou une expertise particulière peut désormais être réalisé à l'aide d'une simple consigne, en utilisant un document type comme base pour générer un faux convaincant. 

Deuxièmement, la qualité de ces contrefaçons est nettement supérieure. Les images générées par l'IA semblent souvent suffisamment réalistes pour passer les contrôles de vérification traditionnels, ce qui réduit l'efficacité de la seule inspection visuelle. Troisièmement, la fraude peut désormais prendre une ampleur illimitée. Une fois qu'une méthode efficace a été identifiée, elle peut être reproduite instantanément et déployée à grande échelle, ce qui permet aux pirates d'agir avec une rapidité et une efficacité sans précédent.

Cela donne lieu à un nouveau type de fraude auquel les approches traditionnelles ne permettent pas de remédier efficacement. Le « Generative AI Detection Check » a été spécialement conçu pour combler cette lacune.

Comment cela fonctionne-t-il concrètement ?

Du point de vue de l'intégration, cette vérification s'intègre naturellement dans les flux de travail de vérification existants, en particulier dans les cas où les utilisateurs téléchargent directement des images de documents plutôt que de les capturer via un flux vidéo en direct.

Lorsqu'un utilisateur envoie un document :

• Les images sont mises en ligne ou fournies sous forme numérique
• Chaque image est analysée par le modèle de détection GenAI
• Un résultat est généré (par exemple « Réussite », « Échec » ou « Avertissement »)
• Ce résultat contribue à la décision globale de vérification

Ce modèle est spécialement conçu pour analyser les images de documents transmises par voie numérique afin d'y détecter des indices liés à la création ou à la manipulation par une IA générative.

Dans les scénarios de capture en direct utilisant des caméras mobiles ou Web, des niveaux de vérification supplémentaires, tels que la détection de la présence d’une personne, la détection des attaques par présentation et les contrôles d’intégrité de la capture, restent des éléments essentiels de la stratégie globale de lutte contre la fraude. Ces couches sont conçues pour détecter des comportements tels que les rediffusions d'écran, les flux injectés, les documents synthétiques recapturés ou d'autres attaques basées sur la présentation, susceptibles de réduire ou de masquer les artefacts de bas niveau associés à la génération par IA générative.

Conçu pour les conditions réelles d'utilisation

L'une de nos priorités était de garantir que cette fonctionnalité fonctionne de manière fiable dans les types d'environnements où la fraude documentaire liée à l'IA générative est de plus en plus fréquente, notamment dans les flux de travail impliquant le téléchargement direct et la soumission numérique de documents.

Le modèle est entraîné sur des ensembles de données à grande échelle contenant à la fois des documents d'identité authentiques et générés par l'IA, et il est conçu pour s'adapter à différents outils et modèles d'IA générative. Plutôt que de se concentrer sur une seule méthode de génération, il analyse des signaux plus généraux au niveau de l'image ainsi que les motifs d'artefacts associés à la génération synthétique.

Avec les paramètres par défaut, GenAI Check affiche un taux de faux rejets (FRR) de 0,076 %, ce qui signifie que les documents légitimes sont rarement rejetés, tandis que plus de 99 % des documents falsifiés sont détectés dans le cadre des scénarios de test pris en charge.

Il est important de noter que ce contrôle s'inscrit comme un maillon d'un dispositif plus large de vérification d'identité et de détection des fraudes. Dans les environnements de production, les différents vecteurs de fraude nécessitent des approches de détection distinctes. Les documents synthétiques téléchargés directement, les documents générés par IA et recapturés, les attaques par présentation à l'écran, les flux injectés et les sessions en direct manipulées produisent chacun des signaux différents et sont traités par plusieurs couches de vérification complémentaires fonctionnant de concert.

Remarque sur les cas limites

Comme pour tout système fonctionnant à ce niveau de sensibilité, il existe des cas limites dont il faut tenir compte.

Par exemple, certaines images ayant fait l'objet d'un post-traitement intensif, telles que celles soumises à un HDR extrême au niveau de l'appareil, à une accentuation de la netteté ou à des effets d'embellissement, peuvent parfois altérer les caractéristiques naturelles d'une image. Nous évaluons en permanence ces cas particuliers et affinons le modèle afin de garantir des performances fiables dans toutes les conditions de prise de vue réelles. 

Il est important de noter que ce contrôle est spécialement conçu pour la vérification des pièces d'identité. Bien que nous procédions à des tests à grande échelle, il n'est appliqué en production que lorsqu'une véritable pièce d'identité est détectée.

Essayez-le vous-même : démo de Gen AI Check

L'un des défis que nous avons constatés est que de nombreuses équipes comprennent le concept de la fraude par IA générative, mais n'y ont pas encore été confrontées directement.

Pour combler cette lacune, nous avons mis en place un environnement de démonstration en libre-service au sein de notre Developer Hub. Vous pouvez accéder à la démo ici.

Grâce à la démo de GenAI Check, vous pouvez :

• Importez votre propre document ou utilisez les exemples de données fournis
• Lancer le contrôle de détection de l'IA générative en temps réel
• Découvrez comment le système évalue et signale les manipulations potentielles liées à l'IA générative

Cette démo a pour but d'offrir aux équipes un moyen simple et pratique d'explorer, à leur rythme, la détection de la fraude documentaire grâce à l'IA générative, sans nécessiter d'intégration complète ni de processus commercial. Elle permet également de mieux comprendre comment cette fonctionnalité s'intègre dans des processus plus larges de vérification d'identité et de contrôles anti-fraude à plusieurs niveaux. 

Pour détecter cette nouvelle catégorie de menaces, il faut aller au-delà des approches traditionnelles et intégrer de nouveaux indicateurs dans le processus de vérification. Le « Generative AI Detection Check » constitue un pas dans cette direction. Vous pouvez l'essayer en cliquant sur ce lien. Une inscription avec une adresse e-mail professionnelle est requise.