Saber con quién —o con qué— estamos hablando en la era de la IA autónoma
Moltbook, la plataforma social al estilo de Reddit diseñada para que participen agentes de IA, ya supera el millón y medio de usuarios. Los humanos observan lo que ocurre con curiosidad y preocupación.
Los sistemas de IA ya no son solo herramientas que responden a indicaciones. Inician acciones, interactúan con otros sistemas y adaptan su comportamiento con una autonomía cada vez mayor. Algunos están estableciendo relaciones comerciales entre sí, tal y como hacen los humanos. Ese cambio trae consigo posibilidades extraordinarias y una pregunta apremiante que todos empezamos a plantearnos:
¿Cómo sabemos con quién o con qué estamos interactuando realmente?
No se trata de miedo a la IA. La autonomía no es intrínsecamente peligrosa. En muchos casos, es precisamente lo que permite la eficiencia, la escalabilidad y formas de valor totalmente nuevas. Pero la autonomía sí que cambia la naturaleza de la confianza. Cuando los sistemas pueden actuar de forma independiente, ya no se puede dar por sentada la confianza basándose en un único momento de verificación o en una identidad estática.
Durante décadas, la identidad digital se basaba en que una persona se presentara, demostrara quién era y procediera a realizar su tarea. Ese modelo sigue siendo importante, pero ya no refleja la realidad. Hoy en día, las personas, los bots y los agentes impulsados por la IA coexisten en los mismos entornos digitales. A veces colaboran. A veces se hacen pasar por otros. A veces se mezclan de formas que resultan difíciles de distinguir.
El riesgo no es que exista la IA. El riesgo es la ambigüedad. Los sistemas no pueden distinguir entre la automatización legítima y el abuso, ni entre la intención y la imitación. Esa ambigüedad es precisamente donde prospera el fraude.
Lo que estoy observando es un cambio incipiente en la forma en que los equipos conciben la identidad. Se presta menos atención a la identidad como un atributo fijo y más a los actores. ¿Cómo determinamos quién o qué está actuando en un momento dado? ¿Cómo cambia el comportamiento con el tiempo y cuándo debería reevaluarse la confianza?
Microblink denomina a esta mentalidad «Know Your Actor» (Conoce a tu actor). No se trata de un sustituto de la verificación de identidad, sino de una evolución de la misma. La identidad te dice quién dice ser alguien. Comprender al actor te indica cómo debe funcionar la confianza en tiempo real, especialmente cuando entra en juego la autonomía.
El camino a seguir no consiste en cerrar los sistemas a cal y canto ni en desconfiar de la automatización por defecto. Se trata de diseñar unas normas de actuación comunes —técnicas, éticas y colaborativas— para que los seres humanos y la IA puedan trabajar juntos sin crear puntos ciegos que puedan ser aprovechados por personas malintencionadas.
Los ingenieros, operadores, responsables políticos y tecnólogos deberían abordar abiertamente la incertidumbre para que la confianza pueda surgir a partir de una visión clara y compartida. El laboratorio de fraude de Microblink afronta este reto cada día. Aprendemos y evolucionamos constantemente para adaptarnos a la forma en que tanto las personas como los bots utilizan esta nueva y sofisticada tecnología para suplantar rápidamente la identidad.
El futuro no nos pedirá que elijamos entre los seres humanos y la inteligencia artificial. Nos pedirá que comprendamos a ambos y que sepamos con quién estamos hablando realmente.
