Cómo hacer que la IA sea fiable: cómo crear sistemas en los que la gente pueda confiar

Una entrevista con Joshua Weisberg, director ejecutivo de Lambda Finance

Hoy hablamos con Joshua Weisberg, director ejecutivo de Lambda Finance, la plataforma de análisis de inversiones mejor valorada en la que confían los operadores e inversores activos que se mueven en mercados complejos y en constante evolución. Esta conversación forma parte de la investigación que Microblink lleva a cabo sobre cómo se crean y gestionan los sistemas de IA de confianza en entornos de alto riesgo, donde la precisión, la explicabilidad y la fiabilidad son requisitos imprescindibles.

Como líder mundial en inteligencia de identidad, Microblink colabora con organizaciones reguladas de los sectores financiero, de la movilidad y de las plataformas digitales para automatizar decisiones críticas sin comprometer la confianza. A medida que la inteligencia artificial se convierte en un elemento central de los flujos de trabajo de gran impacto, surge un reto común a todos los sectores: ¿cómo se diseñan sistemas en los que la gente pueda confiar cuando el margen de error es mínimo?

Con años de experiencia en el desarrollo de herramientas de investigación basadas en la inteligencia artificial que se utilizan a diario en entornos financieros de alto riesgo, Joshua aporta una perspectiva práctica sobre la confianza, la precisión y la escalabilidad. Sus conocimientos van mucho más allá del ámbito financiero y ofrecen lecciones prácticas para cualquier organización que desarrolle sistemas de inteligencia artificial que deban funcionar de forma coherente, transparente y a gran escala.

—-

Microblink: En entornos de alto riesgo, ya sea a la hora de verificar identidades o de tomar decisiones de inversión, la confianza no es opcional. ¿Qué se necesita realmente para crear sistemas de IA en los que los usuarios confíen cuando el coste de equivocarse es elevado?

Joshua Weisberg: La confianza se basa en la coherencia y la transparencia. Los usuarios no esperan la perfección, pero sí esperan fiabilidad. En el ámbito financiero, una sola señal engañosa puede acarrear consecuencias económicas reales, al igual que un falso negativo o un falso positivo genera riesgo en la verificación de identidad.

En Lambda Finance, hemos aprendido que la confianza se gana cuando los usuarios comprenden por qué un sistema ofrece una información concreta y cuando los resultados se comportan de forma predecible en distintos escenarios. Eso significa basar los resultados de la IA en datos verificados, validarlos continuamente y dar prioridad a la calidad de la información frente al volumen. La confianza surge al saber que el sistema ha sido sometido a pruebas de estrés en condiciones reales, y no solo en condiciones ideales.

—–

Microblink: Tanto la prevención del fraude como el análisis de mercado se enfrentan al mismo reto: distinguir la información relevante del ruido abrumador. ¿Cómo abordas el filtrado y la priorización de datos a la hora de diseñar sistemas de inteligencia artificial que funcionen en tiempo real?

Joshua Weisberg: El ruido es inevitable en los sistemas complejos. El error que cometen muchas plataformas es dar por sentado que una mayor cantidad de datos conduce automáticamente a mejores resultados. En realidad, un gran volumen de datos puede llegar a perjudicar la toma de decisiones si no se filtra y se contextualiza adecuadamente.

En Lambda Finance, nos centramos en distinguir entre las señales que permiten actuar y aquellas que, simplemente, resultan interesantes. Esto implica combinar múltiples fuentes de datos, validarlas de forma cruzada y utilizar la inteligencia artificial para destacar las relaciones, no solo las métricas en bruto. El objetivo no es abrumar a los usuarios con información, sino reducir la carga cognitiva para que puedan centrarse en lo que realmente importa en cada momento. En entornos de alto riesgo, la claridad siempre prevalece sobre el volumen.

—-

Microblink: Muchas herramientas de IA ofrecen resultados, pero no necesariamente fiabilidad. ¿Qué diferencia a los sistemas que se limitan a mostrar información de aquellos que apoyan de forma significativa la toma de decisiones humanas?

Joshua Weisberg: La diferencia está en el contexto. Los sistemas que se limitan a mostrar información obligan a los usuarios a realizar ellos mismos la ardua tarea de interpretarla. Los sistemas orientados a la toma de decisiones ayudan a los usuarios a comprender por qué algo es importante y cómo encaja en el panorama general.

Ahí es donde las plataformas integradas tienen una gran ventaja. Cuando los datos, el análisis y la interpretación se encuentran en un mismo entorno, la IA puede establecer conexiones de una forma que resulta intuitiva, en lugar de opaca. La confianza surge cuando los usuarios sienten que el sistema trabaja con ellos, orientando su atención, reduciendo la incertidumbre y respaldando su criterio, en lugar de sustituirlo. Los mejores sistemas de IA potencian la toma de decisiones humana en lugar de enturbiarla.

—–

Microblink: Muchas organizaciones recurren a herramientas inconexas para resolver problemas complejos. Según tu experiencia, ¿qué es lo primero que falla cuando los sistemas no están diseñados para funcionar conjuntamente, y qué permite una plataforma verdaderamente unificada?

Joshua Weisberg: La fragmentación merma la confianza más rápido que casi cualquier otra cosa. Cuando los usuarios tienen que cambiar constantemente de herramienta, conciliar datos contradictorios o recopilar manualmente la información, la confianza se va desvaneciendo rápidamente. Empiezas a preguntarte qué fuente es la correcta, o si alguna de ellas lo es.

Las plataformas unificadas resuelven este problema creando una única fuente de información fiable. Cuando las herramientas se diseñan para funcionar juntas de forma nativa, la IA puede razonar a partir de distintos conjuntos de datos en lugar de operar de forma aislada. Esto no solo mejora la precisión, sino que aumenta drásticamente la velocidad y la facilidad de uso. En entornos de alto riesgo, esa cohesión es lo que permite a los usuarios actuar con decisión en lugar de vacilar. La integración no es un lujo, sino un requisito imprescindible para la seguridad operativa.

—-

Microblink: De cara al futuro, ¿cómo crees que evolucionarán los sistemas de toma de decisiones basados en la inteligencia artificial en sectores en los que la precisión, la rapidez y la confianza son factores igualmente importantes? ¿Qué diferenciará a las plataformas que perduren de las que no lo hagan?

Joshua Weisberg: Las plataformas que perduren serán aquellas diseñadas para la realidad, no para las demostraciones. Eso significa gestionar casos extremos, comportamientos hostiles y datos imperfectos sin que el sistema falle. También significa ser transparentes respecto a las limitaciones y mejorar continuamente en función del uso real.

Los sistemas de IA que se ganen la confianza a largo plazo no solo serán más rápidos o potentes, sino también más fiables. Ayudarán a los usuarios a comprender el riesgo, en lugar de ocultarlo. Ya sea en el ámbito financiero, en la verificación de identidad o en la prevención del fraude, las plataformas ganadoras serán aquellas que ofrezcan claridad bajo presión y generen confianza a gran escala. La confianza no se basa en promesas, sino en un rendimiento constante cuando más importa.