Prepararse para el auge de la IA agencial en el comercio: fraude, identidad y confianza

El panorama del comercio digital está evolucionando a un ritmo sin precedentes, impulsado no solo por los usuarios humanos, sino, cada vez más, por agentes de inteligencia artificial que actúan en su nombre. Durante la primera mesa redonda virtual «Trust Talks», organizada por Microblink, los expertos del sector analizaron las oportunidades y los retos que plantean los agentes artificiales autónomos, capaces de abrir cuentas, transferir dinero y tomar decisiones financieras. Entre los ponentes se encontraban Melisande Mual, directora general de The Paypers; Gianmichele Zappia, responsable de Riesgos y Fraude de Getyourguide; Vasileios Konteas, director de producto de XM; Holly Sandberg, directora de Confianza y Seguridad de Reverb; y Albert Roux, vicepresidente ejecutivo de producto de Microblink.

El surgimiento de la IA agénica

Los agentes de IA ya no son algo teórico. Hoy en día, los consumidores pueden delegar tareas complejas, como reservar viajes, gestionar suscripciones o incluso realizar transacciones financieras, a agentes de software que funcionan con una IA cada vez más sofisticada. Estos agentes navegan por páginas web, rellenan formularios y toman decisiones basadas en reglas definidas por el usuario. Para los primeros usuarios con conocimientos tecnológicos, esta automatización ahorra tiempo y reduce las dificultades, pero también introduce una nueva dimensión de riesgo que las organizaciones deben abordar de forma proactiva.

Los ponentes destacaron que la IA con capacidad de acción es especialmente relevante en sectores como el de los viajes y el comercio electrónico, donde la IA puede automatizar los procesos de búsqueda, comparación y reserva. Sin embargo, las mismas capacidades que agilizan las interacciones legítimas también crean oportunidades para su uso indebido. Los equipos de lucha contra el fraude se enfrentan ahora a un entorno más complejo: deben distinguir entre personas, bots inofensivos y agentes de IA potencialmente maliciosos. Los modelos tradicionales de identidad y riesgo, que se basaban en el comportamiento humano, ya no son suficientes.

La prevención del fraude en un mundo impulsado por la inteligencia artificial

A medida que los agentes de IA se vuelven más capaces, aumenta el riesgo de que se produzcan actividades fraudulentas a gran escala. Los equipos encargados de la lucha contra el fraude deben replantearse tanto las estrategias de detección como las de prevención. Los ponentes hicieron hincapié en que el análisis de la velocidad, la supervisión del comportamiento y el seguimiento de las rutas son fundamentales para detectar actividades anómalas. Por ejemplo, un repunte repentino de transacciones procedentes de un único agente de IA, o los intentos repetidos de eludir los flujos de trabajo de verificación, pueden indicar un uso indebido.

Prevenir el fraude antes de que se produzca es mucho más eficaz que reaccionar a posteriori. Las organizaciones deben implementar sistemas de supervisión que controlen el comportamiento de la IA en tiempo real, señalando las anomalías que puedan indicar un uso indebido automatizado. Esto implica integrar análisis avanzados, biometría conductual y modelos de aprendizaje automático entrenados para diferenciar entre los patrones humanos y los de la IA.

Verificación de identidad para agentes autónomos

Uno de los temas más importantes que se debatieron fue cómo verificar la identidad de los agentes de IA. Al igual que los seres humanos llevan consigo documentos de identidad y credenciales, los agentes de IA necesitan identidades digitales verificables. Sin una identificación adecuada, las empresas corren el riesgo de verse expuestas a fraudes, incumplimientos normativos y daños a su reputación.

Los expertos señalaron los identificadores descentralizados y las firmas digitales como soluciones emergentes. Estas herramientas permiten a los agentes autenticarse de forma verificable y a prueba de manipulaciones, al tiempo que los vinculan a un titular, ya sea una persona o una organización. Esta rendición de cuentas es fundamental, especialmente en sectores regulados como el financiero y el de los viajes. La implementación técnica de la verificación de la identidad de los agentes es factible en cuestión de meses, pero armonizar los marcos legales y normativos llevará más tiempo.

La telemetría del comportamiento como indicador de fraude

La supervisión del comportamiento de la IA constituye otra capa de defensa fundamental. Los ponentes debatieron sobre el uso de la telemetría conductual para realizar un seguimiento de las interacciones de los agentes en las plataformas digitales. Mediante el análisis de los patrones de navegación, la toma de decisiones y la ejecución de transacciones, las organizaciones pueden detectar usos indebidos o desviaciones del modelo, es decir, la desviación del comportamiento de la IA respecto a su diseño previsto.

La biometría conductual, que mide patrones de interacción únicos, puede ayudar a distinguir entre usuarios humanos, automatización inofensiva y agentes de IA potencialmente maliciosos. Este enfoque no solo consiste en detectar el fraude, sino también en mantener la confianza en el ecosistema. Las organizaciones deben ser capaces de evaluar la intención, garantizar el cumplimiento de los comportamientos permitidos y actuar con rapidez cuando surjan anomalías.

La confianza como base del comercio

Detrás de todas estas consideraciones técnicas se esconde un cambio filosófico más amplio: la confianza se convierte en la moneda de cambio del comercio digital. Cuando los agentes autónomos actúan en nombre de los seres humanos, las empresas ya no pueden basarse únicamente en la verificación humana. Deben implementar una cadena de confianza que se extienda desde el propietario humano, pasando por el agente de IA, hasta la propia transacción.

Los ponentes hicieron hincapié en que la confianza no es un concepto estático, sino que requiere una validación y una supervisión continuas. Las organizaciones deben establecer sistemas de seguimiento sólidos, protocolos de verificación y estructuras de rendición de cuentas para mantener la confianza en sus plataformas. En esencia, la identidad, la verificación y el seguimiento del comportamiento convergen para crear una base de confianza que sustenta cada transacción en la que intervenga un agente de IA.

Preparándonos para el futuro

El auge de la IA agentiva es inevitable. Las empresas que actúen de forma proactiva para comprender y mitigar los riesgos asociados obtendrán una ventaja competitiva, mientras que aquellas que ignoren este cambio podrían enfrentarse a problemas operativos y normativos. Prepararse para este futuro requiere un enfoque en varios niveles:

• Implantar identidades verificables para los agentes con el fin de garantizar la rendición de cuentas.
• Supervisar el comportamiento de la IA en tiempo real para detectar anomalías y prevenir usos indebidos.
• Aplicación del análisis del comportamiento y la biometría para distinguir entre personas y agentes de IA.
• Establecer marcos sólidos de prevención del fraude que se anticipen a los abusos automatizados a gran escala.
• Fomentar una cultura de confianza que combine tecnología, políticas y supervisión.

A medida que los agentes de IA se vayan generalizando, estas medidas no solo protegerán a las organizaciones, sino que definirán el estándar de confianza para la economía digital. Para obtener más información sobre otras mesas redondas de nuestra serie «Trust Talks», inscríbete hoy mismo.