Por qué el benchmarking y la explicabilidad son tan importantes en la verificación de la identidad
En una entrada reciente de su blog, Hartley Thompson, director ejecutivo de Microblink, analizaba cómo la IA generativa está cambiando de forma radical la economía del fraude, al hacer que los ataques sofisticados resulten más baratos, más rápidos y mucho más escalables. En muchos sentidos, los avances logrados en la IA generativa para combatir el fraude también se utilizan para crear ataques más sofisticados a gran escala. En el ámbito del fraude, el volumen lo es todo: incluso los ataques con baja tasa de éxito y baja cuantía de las estafas resultan rentables cuando pueden automatizarse a gran escala».
Por eso, en el Microblink Fraud Lab probamos continuamente técnicas de fraude emergentes que van desde la inyección de secuencias de vídeo y el intercambio de rostros hasta documentos generados por IA y flujos de registro sintéticos. Lo que más llama la atención no es solo lo realistas que se están volviendo estos ataques, sino lo accesibles que se han vuelto. Muchas de las mismas herramientas que impulsan el entretenimiento, la creación de contenidos y las experiencias de IA para el consumidor pueden ahora reutilizarse con fines fraudulentos con muy pocos conocimientos técnicos. El fraude ya no solo se está volviendo más sofisticado. Cada vez es más fácil de llevar a cabo, más fácil de ampliar y más fácil de automatizar.
El fraude se está volviendo multimodal
Un cambio importante es que el fraude ya no se limita a un único vector de ataque. Los ataques modernos combinan cada vez más múltiples técnicas de forma simultánea en documentos, datos biométricos, dispositivos y manipulación del comportamiento dentro de una misma operación. Un estafador podría generar un documento de identidad sintético, introducir una secuencia de selfies generadas por IA en un flujo de verificación, falsificar señales de dispositivos y automatizar partes de la cadena de ataque al mismo tiempo. En otras palabras, el fraude se está volviendo multimodal.
Esto es importante porque muchos sistemas de identificación se diseñaron originalmente para evaluar señales aisladas en etapas concretas del recorrido del usuario. La comprobación de documentos se realiza durante el proceso de alta. La comprobación biométrica tiene lugar durante la autenticación. La señal del dispositivo se evalúa durante el inicio de sesión. Sin embargo, los ataques modernos difuminan cada vez más esos límites. Los estafadores combinan contenidos generados por IA, automatización, simulación de comportamientos y técnicas de suplantación de identidad en flujos de ataque por capas, diseñados para aprovechar las brechas entre sistemas en lugar de un único punto de fallo.
Los modelos de verificación tradicionales se diseñaron para una época diferente
Muchos de los sistemas de identidad actuales siguen basándose en supuestos que cada vez están más desfasados. Históricamente, la falsificación de documentos requería habilidades muy especializadas, los datos biométricos eran difíciles de falsificar, los ataques solían ser perpetrados por personas y el proceso de alta de nuevos usuarios representaba el principal punto de riesgo. La IA generativa está desmontando rápidamente esos supuestos.
El reto ya no consiste simplemente en determinar si un documento parece auténtico o si un rostro coincide con la foto de un documento de identidad. Las organizaciones ahora deben determinar si una imagen ha sido generada sintéticamente, si una sesión de verificación utiliza una transmisión en directo de la cámara o una transmisión manipulada, si una voz ha sido clonada, si los patrones de comportamiento están automatizados y si una identidad de confianza sigue siendo fiable a lo largo del tiempo. Esto requiere sistemas en capas capaces de evaluar múltiples señales de forma continua, en lugar de basarse en eventos de verificación aislados.
La evaluación comparativa es más importante que nunca
Todo ello explica por qué las comparativas y las evaluaciones independientes están cobrando una importancia fundamental en todo el sector de la identidad. Una de las mayores preocupaciones con respecto a muchos sistemas de confianza emergentes basados en IA es la opacidad. Cada vez más se pide a las organizaciones que confíen en modelos de «caja negra» sin tener una visibilidad clara de qué vectores de ataque se han probado, cómo se han evaluado los sistemas, qué escenarios quedan fuera del alcance, cómo se comportan los modelos bajo presión adversaria o cómo cambia la fiabilidad con el tiempo. A diferencia de muchos ámbitos tradicionales del aprendizaje automático, la detección de fraudes opera en un entorno adverso en constante cambio, donde los escenarios fuera de la distribución son la norma y no la excepción.
Esto genera un riesgo operativo real. Los sistemas de IA suelen ofrecer un rendimiento impresionante en demostraciones controladas, mientras que se comportan de forma muy diferente en entornos de fraude del mundo real, donde los atacantes se adaptan continuamente, exploran los puntos débiles y repiten sus ataques contra las defensas. Por lo tanto, los sistemas de identidad también deben evolucionar continuamente. Por eso, las pruebas adversarias, la evaluación reproducible y las comparativas independientes se están convirtiendo en elementos esenciales de la defensa moderna contra el fraude. Las organizaciones deben comprender no solo en qué aspectos tienen éxito los sistemas, sino también en cuáles fallan, ya que los atacantes, inevitablemente, identificarán esas brechas por sí mismos.
Otro gran reto que surge con la adopción de la IA es la explicabilidad. A medida que las organizaciones integran sistemas de IA más complejos en los flujos de trabajo relacionados con la identidad y el fraude, las decisiones sobre el fraude corren el riesgo de volverse cada vez más opacas. En sectores regulados, como los servicios financieros, la sanidad, las plataformas de mercado y el comercio digital, la explicabilidad no es opcional.
Las organizaciones necesitan cada vez más conocer por qué se ha superado o fallado una verificación, qué señales han contribuido al riesgo, qué ha cambiado entre una decisión y otra, y cómo se han evaluado la autoridad o la confianza en un momento dado. Esto cobra aún más importancia a medida que los agentes de IA y los sistemas automatizados comienzan a interactuar directamente con la infraestructura financiera y de identidad. Sin explicabilidad ni auditabilidad, las organizaciones pierden gradualmente la visibilidad sobre la propia confianza.
El futuro de la defensa contra el fraude es continuo
El cambio general que se está produciendo es que el fraude ya no es algo estático. Es adaptable, está automatizado, cuenta con la ayuda de la inteligencia artificial y evoluciona constantemente. Los sistemas de defensa deben evolucionar de la misma manera.
No habrá un único modelo o tecnología capaz de resolver este problema por sí solo. La defensa moderna contra el fraude requiere, cada vez más, una inteligencia de identidad en varias capas que abarque la verificación de documentos, la biometría, la detección de vida, la inteligencia de dispositivos, el análisis de comportamiento, la evaluación contextual del riesgo y la supervisión continua. Y lo más importante: estos sistemas deben adaptarse continuamente a medida que evolucionan las metodologías de ataque, ya que el panorama del fraude ya no cambia al ritmo de los seres humanos. La inteligencia artificial está acelerando la velocidad, la escala y la automatización de los ataques.
En Microblink, esta es una de las razones por las que hemos puesto en marcha el FREUID Challenge: involucrar a la comunidad investigadora en problemas realistas de detección de fraude fuera de la distribución que se dan en condiciones adversas.
Si quieres saber más sobre las capacidades de Microblink para detectar el fraude basado en la IA generativa, ponte en contacto con nosotros hoy mismo.
