IA, fraude y la cuestión de la responsabilidad

La inteligencia artificial se ha convertido en una especie de arma de doble filo para quienes nos dedicamos a la lucha contra el fraude y la identidad. Por un lado, la IA nos ayuda inmensamente en nuestro trabajo; por ejemplo, ayuda a reconocer patrones en conjuntos masivos de datos para identificar comportamientos potencialmente fraudulentos.

Sin embargo, por otro lado, la IA también ha hecho que sea increíblemente fácil para cualquier aspirante a estafador lanzar ataques que puedan eludir la mayoría de los sistemas de detección. Es de ese tema del que quiero hablar hoy, y de la responsabilidad que tienen los creadores de IA de garantizar que no se abuse de su tecnología.

La IA como herramienta para los defraudadores

Uno de mis pasatiempos favoritos es experimentar con nuevas herramientas de IA. Hace poco probé un nuevo modelo de generación de imágenes y, con una simple indicación, pude crear una imagen de pasaporte falsa que parecía real de forma convincente en menos de un minuto.

Obviamente, no intentaba cometer fraude, sólo probaba el sistema. Pero la facilidad con la que podía generar y modificar un documento aparentemente legítimo era alarmante y debería poner en alerta a las empresas de IA.

Por ejemplo:

• Cuando le pedí a la IA que «eliminara la marca de agua» de un documento, borró el sello oficial.

• Cuando le pedí que eliminara un círculo rojo, también borró la palabra «CANCELADO» de un pasaporte.

Esto plantea una pregunta urgente: ¿Es fácil para los defraudadores explotar la IA? La respuesta, por desgracia, es muy fácil, y ya lo están haciendo.

Una amenaza creciente para la seguridad

Los documentos de identidad, pasaportes, extractos bancarios y facturas de servicios públicos falsos se utilizan habitualmente en las tramas de fraude. Antes, crear falsificaciones realistas requería experiencia en diseño gráfico y otros conocimientos técnicos. Ahora, las herramientas de IA reducen la barrera de entrada, permitiendo a cualquiera con conexión a Internet generar documentos falsos convincentes.

Ya hemos visto las consecuencias en el mundo real:

• Los vídeos y voces deepfake se han utilizado en estafas de ingeniería social, engañando a la gente para que transfiera dinero o revele información sensible.
  
• Los documentos generados por IA han eludido las débiles comprobaciones de verificación de identidad, permitiendo a los delincuentes abrir cuentas bancarias fraudulentas o cometer fraudes financieros.
  

¿Quién asume la responsabilidad?

El poder de la IA es innegable, pero un gran poder conlleva un gran… bueno, ya sabes el resto. La cuestión es: ¿quién es responsable cuando se hace un mal uso de la IA?

• ¿Deben ser las empresas tecnológicas responsables de garantizar que sus modelos no puedan utilizarse para cometer fraudes?
  
• ¿Deben intervenir los reguladores para imponer controles más estrictos a las herramientas de IA?
  
• ¿Debería exigirse a las empresas que utilizan IA que apliquen salvaguardias más estrictas?
  

La verdad es que es una responsabilidad compartida. Las empresas tecnológicas deben asegurarse de que sus modelos de IA tienen salvaguardias incorporadas para evitar abusos. Los reguladores deben establecer directrices claras. Y las empresas que confían en la verificación de la identidad deben adoptar soluciones resistentes al fraude -como herramientas de autenticación de documentos basadas en IA- para detectar identificaciones manipuladas o generadas por IA.

Pero abordar el fraude posibilitado por la IA no consiste sólo en que las empresas individuales apliquen medidas de protección, sino que también requiere la colaboración entre sectores. Las empresas tecnológicas que desarrollen modelos GenAI deben asociarse activamente con expertos en verificación de identidades y detección de fraudes para realizar pruebas pentest de sus modelos e identificar proactivamente las vulnerabilidades antes de que los malos actores puedan explotarlas. Trabajando codo con codo con expertos en la materia, los proveedores de IA pueden comprender mejor las tácticas de fraude del mundo real e implantar salvaguardias como marcas de agua incorporadas o medidas de detección de manipulaciones. Un enfoque de consorcio, en el que las empresas de IA, las de seguridad y los reguladores se alineen en torno a las mejores prácticas, podría ayudar a crear soluciones estandarizadas que beneficien a todos, garantizando que la IA siga siendo una fuerza para el bien y no una herramienta para los defraudadores.

IA: el problema y la solución

Irónicamente, aunque la IA se utiliza para crear documentos fraudulentos, también es una de las mejores herramientas que tenemos para detectarlos. Las tecnologías avanzadas de prevención del fraude, como la verificación de documentos con IA, pueden analizar imágenes en busca de incoherencias sutiles que indiquen manipulación.

Al fin y al cabo, la IA es una herramienta y, como cualquier herramienta, puede utilizarse para bien o para mal. La clave está en asegurarse de que existen las salvaguardias adecuadas para evitar abusos, permitiendo al mismo tiempo que prospere la innovación.

Nos encontramos en una encrucijada. ¿Construiremos sistemas de IA que den prioridad a la seguridad y la confianza? ¿O permitiremos que los defraudadores exploten las grietas? La respuesta dará forma al futuro de la IA y la prevención del fraude. Y si quieres saber más sobre cómo Microblink puede prevenir a tu empresa de las amenazas -con IA o de otro tipo-, ponte en contacto con nosotros hoy mismo y estaremos encantados de compartir una demostración.