Rendre l'IA digne de confiance : comment créer des systèmes sur lesquels les gens peuvent compter
Entretien avec Joshua Weisberg, PDG de Lambda Finance
Aujourd’hui, nous recevons Joshua Weisberg, PDG de Lambda Finance, la plateforme de recherche en investissement la mieux notée, à laquelle font confiance les traders et les investisseurs actifs qui évoluent sur des marchés complexes et en constante évolution. Cet entretien s'inscrit dans le cadre de l'exploration menée par Microblink sur la manière dont les systèmes d'IA fiables sont conçus et exploités dans des environnements à enjeux élevés, où la précision, l'explicabilité et la fiabilité sont des critères non négociables.
En tant que leader mondial dans le domaine de l'intelligence d'identité, Microblink collabore avec des organisations soumises à une réglementation stricte dans les secteurs de la finance, de la mobilité et des plateformes numériques afin d'automatiser les décisions critiques sans compromettre la confiance. À mesure que l'IA occupe une place centrale dans les flux de travail à fort impact, un défi commun se pose à l'ensemble des secteurs : comment concevoir des systèmes sur lesquels les utilisateurs peuvent compter lorsque la marge d'erreur est infime ?
Fort de nombreuses années d’expérience dans le développement d’outils de recherche basés sur l’IA utilisés quotidiennement dans des environnements financiers à haut risque, Joshua apporte un point de vue de praticien sur la confiance, la précision et l’évolutivité. Ses réflexions dépassent largement le cadre de la finance et offrent des enseignements concrets à toute organisation développant des systèmes d’IA qui doivent fonctionner de manière cohérente, transparente et à grande échelle.
—-
Microblink : Dans les contextes à enjeux élevés, qu'il s'agisse de vérifier des identités ou de prendre des décisions d'investissement, la confiance n'est pas facultative. Que faut-il réellement pour mettre au point des systèmes d'IA auxquels les utilisateurs font confiance lorsque le coût d'une erreur est élevé ?
Joshua Weisberg : La confiance repose avant tout sur la cohérence et la transparence. Les utilisateurs ne s'attendent pas à la perfection, mais ils attendent de la fiabilité. Dans le domaine financier, un seul signal trompeur peut avoir de réelles conséquences financières, tout comme un faux négatif ou un faux positif engendre un risque dans le cadre de la vérification d'identité.
Chez Lambda Finance, nous avons appris que la confiance se gagne lorsque les utilisateurs comprennent pourquoi un système met en avant une information particulière et lorsque les résultats sont prévisibles, quel que soit le scénario. Cela implique d’ancrer les résultats de l’IA dans des données vérifiées, de les valider en permanence et de privilégier la qualité des signaux plutôt que leur volume. La confiance naît de la certitude que le système a été soumis à des tests de résistance dans des conditions réelles, et pas seulement dans des conditions idéales.
—–
Microblink : La prévention de la fraude et l'analyse de marché sont toutes deux confrontées au même défi : distinguer les informations pertinentes d'un flux de données massif. Comment abordez-vous le filtrage et la hiérarchisation des données lors de la conception de systèmes d'IA fonctionnant en temps réel ?
Joshua Weisberg : Le bruit est inévitable dans les systèmes complexes. L'erreur que commettent de nombreuses plateformes est de partir du principe qu'une plus grande quantité de données conduit automatiquement à de meilleurs résultats. En réalité, un volume élevé de données peut en fait nuire à la prise de décision s'il n'est pas correctement filtré et replacé dans son contexte.
Chez Lambda Finance, nous nous attachons à distinguer les signaux exploitables de ceux qui sont simplement intéressants. Cela implique de combiner plusieurs sources de données, de les valider de manière croisée et d’utiliser l’IA pour mettre en évidence les relations, et pas seulement les indicateurs bruts. L'objectif n'est pas de submerger les utilisateurs d'informations, mais de réduire leur charge cognitive afin qu'ils puissent se concentrer sur ce qui compte réellement à un moment donné. Dans les environnements à enjeux élevés, la clarté l'emporte toujours sur le volume.
—-
Microblink : De nombreux outils d'IA fournissent des résultats, mais pas nécessairement un niveau de confiance. Qu'est-ce qui distingue les systèmes qui se contentent de mettre en évidence des informations de ceux qui soutiennent véritablement la prise de décision humaine ?
Joshua Weisberg : La différence réside dans le contexte. Les systèmes qui se contentent de présenter des informations obligent les utilisateurs à faire eux-mêmes le travail difficile d'interprétation. Les systèmes axés sur la prise de décision aident les utilisateurs à comprendre pourquoi un élément est important et comment il s'inscrit dans une perspective plus large.
C'est là que les plateformes intégrées présentent un avantage majeur. Lorsque les données, l'analyse et l'interprétation coexistent au sein d'un même environnement, l'IA peut établir des liens de manière intuitive, plutôt qu'opaque. La confiance naît lorsque les utilisateurs ont le sentiment que le système travaille avec eux, en orientant leur attention, en réduisant l'incertitude et en soutenant leur jugement plutôt qu'en le remplaçant. Les meilleurs systèmes d’IA renforcent la prise de décision humaine au lieu de la brouiller.
—–
Microblink : De nombreuses entreprises s'appuient sur des outils isolés pour résoudre des problèmes complexes. D'après votre expérience, qu'est-ce qui pose problème en premier lorsque les systèmes ne sont pas conçus pour fonctionner ensemble, et qu'est-ce qu'une plateforme véritablement unifiée permet de réaliser ?
Joshua Weisberg : La fragmentation sape la confiance plus rapidement que presque tout autre facteur. Lorsque les utilisateurs doivent passer d’un outil à l’autre, harmoniser des données contradictoires ou assembler manuellement des informations, leur confiance s’érode rapidement. On en vient à se demander quelle source est la bonne, voire si l’une d’entre elles l’est réellement.
Les plateformes unifiées résolvent ce problème en créant une source unique de vérité. Lorsque les outils sont conçus pour fonctionner ensemble de manière native, l’IA peut raisonner à travers les ensembles de données au lieu de fonctionner en silos. Cela ne se limite pas à améliorer la précision, mais optimise considérablement la rapidité et la facilité d’utilisation. Dans les environnements à enjeux élevés, c’est cette cohésion qui permet aux utilisateurs d’agir avec détermination plutôt que d’hésiter. L’intégration n’est pas un luxe ; c’est une condition indispensable à la sécurité opérationnelle.
—-
Microblink : À l'avenir, comment voyez-vous évoluer les systèmes décisionnels basés sur l'IA dans les secteurs où la précision, la rapidité et la confiance sont toutes trois essentielles ? Qu'est-ce qui distinguera les plateformes qui perdureront de celles qui disparaîtront ?
Joshua Weisberg : Les plateformes qui perdureront seront celles conçues pour la réalité, et non pour des démos. Cela implique de gérer les cas limites, les comportements malveillants et les données imparfaites sans pour autant tomber en panne. Cela implique également de faire preuve de transparence quant à leurs limites et de s'améliorer en permanence en fonction de leur utilisation réelle.
Les systèmes d'IA qui sauront gagner la confiance à long terme ne se contenteront pas d'être plus rapides ou plus puissants : ils seront aussi plus fiables. Ils aideront les utilisateurs à comprendre les risques, sans les dissimuler. Que ce soit dans le domaine de la finance, de la vérification d'identité ou de la prévention de la fraude, les plateformes gagnantes seront celles qui apporteront de la clarté dans les moments critiques et inspireront confiance à grande échelle. La confiance ne se construit pas sur des promesses, mais sur des performances constantes lorsque cela compte le plus.
