Cómo los «deepfakes» generados por IA están obligando a replantearse las normas de verificación de identidad
El rápido auge del fraude de identidad sintética impulsado por la inteligencia artificial está complicando aún más una tarea que ya de por sí es difícil. Los equipos antifraude ya tienen que lidiar con la detección y la prevención de ataques casi constantes, al tiempo que deben asegurarse de que los sistemas de detección no estén configurados de forma tan estricta que rechacen a clientes legítimos.
Ahora, con el auge de la IA generativa, los estafadores pueden crear réplicas casi perfectas de documentos de identidad, lo que supone aún más dificultades para las empresas y sus equipos encargados de la lucha contra el fraude y de la experiencia del cliente. Por eso fue tan emocionante que, a finales del año pasado, un grupo de investigadores respaldado por el Departamento de Seguridad Nacional de EE. UU. publicara un conjunto de datos llamado IDNet, que constituye el primer conjunto de datos a gran escala (con más de 800 000 imágenes) de documentos sintéticos generados por IA. Esto significaba que ahora cualquiera podía poner a prueba sus soluciones de verificación de documentos para comprobar su capacidad a la hora de detectar estos «deepfakes» generados por IA.
En Microblink, eso es precisamente lo que hicimos. Compartimos los resultados en un seminario web al que puedes acceder aquí; a continuación, te presentamos las cinco conclusiones principales de ese debate.
El poder de las defensas en capas
En un mundo ideal, todas las identificaciones falsas se bloquearían y todos los clientes legítimos pasarían sin problemas. Pero en el mundo real, la detección perfecta del fraude simplemente no existe. ¿Por qué? Porque los estafadores evolucionan constantemente y los usuarios legítimos a menudo no se comportan de forma totalmente predecible. Por eso es importante centrarse en una defensa por capas. Si un documento de identidad falso se cuela en la fase de verificación de documentos, aún puede ser detectado más adelante; quizá durante la comparación facial, la detección de vida o la validación de la dirección.
Lo importante no es si se detecta un documento de identidad falso en la primera fase, sino que tu sistema sea lo suficientemente inteligente y resistente como para detectar el fraude en cualquier punto del proceso sin impedir el acceso a los usuarios legítimos. Las empresas que adoptan este tipo de enfoque holístico y basado en el riesgo evitan la trampa de «sobreajustar» sus defensas y perder clientes reales.
FRR y FAR: cómo lograr el equilibrio adecuado
El modelo de detección de fraude en documentos de Microblink detectó el 100 % de los documentos de identidad falsos sintéticos del conjunto de datos IDNet. Sin embargo, hay que señalar que cualquiera puede lograr este resultado si ajusta su nivel de riesgo al máximo. De ese modo, se detendría todo el fraude, ¡pero también se bloquearía a todos los clientes legítimos! Por eso, Microblink utilizó nuestra configuración predeterminada al realizar las pruebas con el conjunto de datos de IDNet.
La tasa de falsa aceptación (FAR) mide la frecuencia con la que un sistema acepta erróneamente un documento fraudulento como legítimo. Durante nuestra prueba con el conjunto de datos de IDNET, ni una sola imagen fue marcada como «Aceptada», lo que significa que nuestra tasa de falsa aceptación (FAR) fue del 0 % en todo el conjunto de datos analizado. En el extremo opuesto se encuentra la FRR (tasa de rechazo falso). Dado que no hay documentos «reales» auténticos en el conjunto de datos, no es factible calcular una FRR real a partir de los datos de IDNet. Sin embargo, en nuestra evaluación incluimos la FRR esperada para nuestro sistema con los ajustes de sensibilidad predeterminados utilizados, y observamos una FRR media del 2,33 %. Cabe señalar también que Microblink no utilizó los datos sin procesar de IDNet para el entrenamiento del modelo, lo que significa que el ejercicio fue 100 % imparcial y se basó exclusivamente en el rendimiento.
La importancia de ajustar con precisión los niveles de riesgo
Muchas organizaciones se adentran en el ámbito de la verificación de identidad con grandes expectativas: cero fraudes, cero rechazos erróneos y una experiencia impecable para cada usuario. Sin embargo, la implementación en la práctica pone rápidamente de manifiesto la complejidad de ese equilibrio. El fraude suele representar solo una pequeña fracción del total de transacciones —a menudo, una cifra de un solo dígito— y el nivel de riesgo aceptable puede variar considerablemente en función del sector o del caso de uso específico.
Por eso es fundamental ajustar los sistemas de verificación. Las empresas deben calibrar sus umbrales de detección de fraudes para que se adapten a su propia tolerancia al riesgo y a sus objetivos operativos. A menudo, se da prioridad a una tasa de falsos rechazos (FRR) más baja frente a la detección de todos los casos de fraude más extremos, especialmente cuando otras capas del proceso de alta o del flujo de transacciones ofrecen protección adicional. Las pruebas A/B, las pruebas piloto y la supervisión continua ayudan a los equipos a encontrar el equilibrio adecuado entre la seguridad y la experiencia del usuario, lo que refuerza la idea de que la verificación de identidad no es algo estático. Es un proceso de optimización continua.
El panorama del fraude evoluciona rápidamente
El panorama del fraude evoluciona a una velocidad vertiginosa y a las empresas les puede resultar difícil seguirle el ritmo. Con el auge de las herramientas de IA generativa, ahora es más fácil que nunca para los delincuentes generar identificaciones, documentos y rostros falsos que parecen inquietantemente reales. Ya no se trata solo de casos aislados: se trata de un fraude de identidad automatizado y a escala industrial.
Para no quedarnos atrás, Microblink está en constante evolución. Eso implica entrenar nuestros modelos con datos nuevos y diversos. Implica ampliar nuestra capacidad para detectar nuevos tipos de fraude, como rostros generados por redes GAN, la transformación de identidades y falsificaciones de altísima resolución. Y significa crear un ciclo de retroalimentación entre nuestros clientes, nuestro Laboratorio de Fraude interno y nuestros equipos de ingeniería para poder responder a las amenazas emergentes en tiempo real. El fraude no es estático, y nosotros tampoco. El objetivo es ir siempre un paso por delante.
La detección de deepfakes forma parte de nuestro ADN
Hablando de nuestro Laboratorio de Fraude, llevamos años generando datos sintéticos de entrenamiento para simular exactamente los tipos de ataques «deepfake» que los estafadores están llevando a cabo actualmente en el mundo real. Esa inversión interna ha dado sus frutos y los resultados se pueden apreciar en las pruebas que hemos realizado con los datos de IDNet.
A pesar de no haberse entrenado con esos datos concretos, tal y como se ha señalado, nuestro sistema detectó el 100 % de los documentos de identidad falsos en la prueba. Esto pone de manifiesto los cinco años de esfuerzo que Microblink ha dedicado a generar datos sintéticos para el entrenamiento y la evaluación de nuestro modelo en el Fraud Lab.
Estas son solo algunas conclusiones generales extraídas de las pruebas realizadas por Microblink con IDNet. Para obtener un análisis completo y detallado, descárgate ahora nuestro informe sobre el conjunto de datos de IDNet.
