Microblink presenta la primera herramienta para detectar públicamente el fraude en documentos generado por IA generativa

Hasta hace poco, crear un documento de identidad falso que resultara convincente requería tiempo, habilidad y herramientas especializadas. Hoy en día, basta con una indicación y prácticamente cualquiera puede hacerlo.

Con el auge de la IA generativa, cualquiera puede crear pasaportes, permisos de conducir o documentos que acrediten el domicilio realistas utilizando herramientas de fácil acceso. Estas imágenes suelen ser lo suficientemente convincentes como para superar los controles visuales tradicionales y la validación básica de datos. En otras palabras, el fraude documental se ha democratizado.

Como equipo de producto dedicado a la verificación de identidad, aquí en Microblink hemos seguido de cerca este cambio. Se trata de un nuevo paradigma. En concreto, ¿cómo se detecta un documento que nunca ha sido «falsificado» en el sentido tradicional, sino que se ha generado desde cero?

Presentamos la comprobación de detección de IA generativa

Para solucionar este problema, hemos desarrollado una nueva funcionalidad denominada «Generative AI Detection Check». Se trata de una nueva capa integrada en el sistema operativo Microblink Identity Intelligence OS, diseñada específicamente para identificar documentos de identidad que probablemente hayan sido generados por un modelo de lenguaje grande (LLM) o que hayan sido objeto de una edición exhaustiva mediante un LLM.

A grandes rasgos, la comprobación:

• Analiza imágenes de documentos de identidad (pasaportes, documentos de identidad, etc.)
• Calcula la probabilidad de que la imagen haya sido generada o manipulada por IA
• Se integra directamente en el resultado global de la verificación

No se trata de detectar una sola anomalía ni de comprobar un campo concreto. El modelo evalúa la imagen en su conjunto y busca patrones y señales que indiquen procesos generativos, en lugar de una captura auténtica.

Si un documento no supera esta comprobación, se considera fraudulento a simple vista y esto contribuye a que se tome una decisión de rechazo.

Por qué es importante ahora

La IA generativa ha cambiado radicalmente la naturaleza del fraude documental en tres aspectos importantes. En primer lugar, ahora crear documentos falsos es muy sencillo. Lo que antes requería herramientas especializadas o conocimientos técnicos ahora se puede hacer con una simple indicación, utilizando un documento de muestra como base para generar una falsificación convincente. 

En segundo lugar, la calidad de estas falsificaciones es considerablemente mayor. Las imágenes generadas por IA suelen parecer lo suficientemente realistas como para superar los controles de verificación tradicionales, lo que reduce la eficacia de la inspección visual por sí sola. En tercer lugar, el fraude puede ahora extenderse sin límites. Una vez identificado un método eficaz, puede replicarse al instante y aplicarse a gran escala, lo que permite a los atacantes actuar con una rapidez y una eficiencia sin precedentes.

Esto da lugar a un nuevo tipo de fraude que los métodos tradicionales no abordan adecuadamente. La prueba de detección mediante IA generativa está diseñada específicamente para subsanar esta carencia.

Cómo funciona en la práctica

Desde el punto de vista de la integración, esta comprobación se integra de forma natural en los flujos de trabajo de verificación existentes, especialmente en aquellos casos en los que los usuarios suben imágenes de documentos directamente, en lugar de capturarlas a través de una transmisión en directo por cámara.

Cuando un usuario envía un documento:

• Las imágenes se suben o se facilitan en formato digital
• Cada imagen es analizada por el modelo de detección GenAI
• Se genera un resultado (como «Aprobado», «Suspendido» o «Advertencia»)
• El resultado contribuye a la decisión global de verificación

El modelo está diseñado específicamente para analizar imágenes de documentos enviadas digitalmente en busca de indicios relacionados con la creación o manipulación mediante IA generativa.

En situaciones de captura en directo con cámaras móviles o web, las capas de verificación adicionales —como la detección de vida, la detección de ataques de presentación y las comprobaciones de integridad de la captura— siguen siendo componentes fundamentales de la estrategia general de defensa contra el fraude. Estas capas están diseñadas para detectar comportamientos como la reproducción de pantallas, las transmisiones inyectadas, los documentos sintéticos recapturados u otros ataques basados en la presentación que puedan reducir u ocultar los artefactos de bajo nivel asociados a la generación mediante IA generativa.

Diseñado para condiciones reales

Uno de nuestros principales objetivos era garantizar que esta función funcionara de forma fiable en los tipos de entornos en los que cada vez es más frecuente el fraude documental mediante IA generativa, especialmente en los flujos de trabajo de carga directa y de envío digital de documentos.

El modelo se ha entrenado con conjuntos de datos a gran escala que contienen tanto documentos de identidad auténticos como generados por IA, y está diseñado para generalizar a través de diferentes herramientas y modelos de IA generativa. En lugar de centrarse en un único método de generación, analiza señales más amplias a nivel de imagen y patrones de artefactos asociados a la generación sintética.

Con la configuración predeterminada, GenAI Check presenta una tasa de falsos rechazos (FRR) del 0,076 %, lo que significa que los documentos legítimos rara vez son rechazados, mientras que más del 99 % de los documentos manipulados se detectan en los escenarios de prueba compatibles.

Es importante destacar que esta comprobación está concebida como una capa más dentro de un marco más amplio de verificación de identidad y detección de fraudes. En entornos de producción, los distintos vectores de fraude requieren diferentes enfoques de detección. Los documentos sintéticos subidos directamente, los documentos generados por IA y recapturados, los ataques de presentación en pantalla, los flujos inyectados y las sesiones en directo manipuladas producen señales distintas y se abordan mediante múltiples capas de verificación complementarias que funcionan de forma conjunta.

Una nota sobre los casos extremos

Al igual que cualquier sistema que funcione con este nivel de sensibilidad, hay casos extremos que hay que tener en cuenta.

Por ejemplo, algunas imágenes que han sido sometidas a un procesamiento posterior intenso, como aquellas en las que se han aplicado efectos extremos de HDR a nivel de dispositivo, de aumento de nitidez o de embellecimiento, pueden alterar en ocasiones las características naturales de la imagen. Evaluamos continuamente estos casos extremos y perfeccionamos el modelo para garantizar un rendimiento fiable en todas las condiciones de captura del mundo real. 

Es importante destacar que esta comprobación está diseñada específicamente para la verificación de documentos de identidad. Aunque realizamos pruebas de forma generalizada, solo se aplica en el entorno de producción cuando se detecta un documento de identidad real.

Pruébalo tú mismo: Demostración de Gen AI Check

Uno de los retos que hemos observado es que muchos equipos entienden el concepto del fraude basado en la IA generativa, pero no lo han experimentado de primera mano.

Para subsanar esa carencia, hemos creado un entorno de demostración de autoservicio dentro de nuestro Centro para desarrolladores. Puedes acceder a la demostración aquí.

Con la demostración de GenAI Check, podrás:

• Sube tu propio documento o utiliza los datos de ejemplo
• Ejecuta la comprobación de detección de IA generativa en tiempo real
• Descubre cómo el sistema evalúa y señala posibles manipulaciones mediante IA generativa

La demostración está diseñada para ofrecer a los equipos una forma sencilla y práctica de explorar la detección de fraudes en documentos mediante IA generativa a su propio ritmo, sin necesidad de una integración completa ni de pasar por un proceso de venta. Además, brinda la oportunidad de comprender mejor cómo encaja esta funcionalidad en flujos de trabajo más amplios de verificación de identidad y en controles de fraude por capas. 

Para detectar este nuevo tipo de amenazas es necesario ir más allá de los enfoques tradicionales e introducir nuevas señales en el proceso de verificación. La prueba de detección de IA generativa es un paso en esa dirección. Puedes probarla en este enlace. Es necesario registrarse con una dirección de correo electrónico corporativa.