L'IA a simplifié la construction, ce qui signifie que l'expertise est plus importante que jamais

Il y a quelques années, si l'on souhaitait développer un produit de vérification d'identité, il fallait disposer d'une expertise spécialisée, de ressources techniques dédiées, d'un accès à des données d'entraînement et d'un temps considérable.

Cependant, grâce aux outils d'IA modernes, une petite équipe peut aujourd'hui créer un prototype fonctionnel en quelques jours seulement. Dans certains cas, cela ne prend que quelques heures. Vous avez besoin d'un chatbot, d'un moteur de recommandation ou d'un processus d'extraction de données à partir de documents ? L'IA peut vous aider à accélérer considérablement ce processus.

Cette évolution est l'un des aspects les plus passionnants du cycle technologique actuel. Les obstacles au développement de logiciels n'ont jamais été aussi faibles. Les équipes peuvent agir plus rapidement, tester leurs idées plus vite et mettre en œuvre leurs innovations sur le marché à un rythme qui aurait semblé impossible il y a encore quelques années.

Mais il existe également une distinction importante que les organisations commencent à prendre conscience. La différence entre une validation de principe et un système de production a toujours existé. L'IA rend cet écart plus facile à négliger.

Prenons un exemple hypothétique. Une équipe d'ingénieurs participe à un hackathon interne et décide de développer une solution de vérification. À l'aide de quelques consignes et de modèles accessibles au public, elle parvient à créer un prototype fonctionnel. Le système extrait des informations de documents, identifie des anomalies élémentaires et produit des résultats qui semblent prometteurs.

Le défi gagne considérablement en complexité dès lors qu’un système passe du stade de la démonstration contrôlée à celui de la mise en production. Les environnements réels se caractérisent par des milliers de types de documents dans des centaines de pays, des tentatives de fraude de plus en plus sophistiquées, des documents synthétiques générés spécifiquement pour échapper à la détection, ainsi que des exigences réglementaires croissantes en matière de transparence, d’auditabilité et de cohérence dans la prise de décision. Il ne s’agit pas là de cas marginaux ni de scénarios hypothétiques. Ce sont les conditions dans lesquelles les systèmes d’identité modernes fonctionnent au quotidien. 

L'IA revient à ses origines

Je pense que cela nous conduit à l'une des grandes ironies de l'ère de l'IA, à savoir qu'elle pourrait, en fin de compte, renforcer la valeur de l'expertise. C'est en quelque sorte un retour aux sources, si l'on peut dire.

À première vue, l'IA semble uniformiser les règles du jeu. Des fonctionnalités qui nécessitaient autrefois des équipes spécialisées peuvent désormais être mises en place à l'aide de quelques instructions et de modèles accessibles au public. Mais à mesure que de plus en plus d'organisations ont accès aux mêmes outils, la technologie en elle-même perd de son caractère différenciateur.

Nous constatons déjà cette évolution. La question n'est plus de savoir si une équipe est capable de mettre au point une solution. De plus en plus, la question est de savoir si cette solution peut fonctionner de manière fiable dans le monde réel, s'adapter à l'évolution des menaces, expliquer ses décisions et gagner la confiance au fil du temps.

En ce sens, l’IA boucle la boucle dans ce secteur. Les obstacles à la création ont disparu, mais la valeur de l’expérience, des données et de l’expertise métier n’a fait que croître.

Le paradoxe de l'IA : abaisser (et ériger) des barrières

Le défi auquel sont confrontées les entreprises aujourd'hui réside dans le fait que l'IA rend l'accès plus facile pour tout le monde. Elle aide les entreprises légitimes à se développer plus rapidement. Mais elle permet également aux fraudeurs d'innover plus vite.

Les technologies qui facilitent la création d’un prototype de vérification de documents permettent également de créer plus facilement des identités synthétiques, des documents falsifiés, des « deepfakes » et des outils d’attaque automatisés. De ce fait, de nombreuses organisations constatent que le plus grand défi n’est plus le développement, mais bien l’adaptation.

La fraude n'est pas un phénomène statique. Les techniques d'attaque évoluent sans cesse. De nouveaux vecteurs d'attaque apparaissent. L'IA générative bouleverse la dynamique économique de la fraude. Ce qui fonctionne aujourd'hui pourrait s'avérer inefficace demain.

Comme je l'ai déjà évoqué, c'est là que l'expertise prend toute son importance.

En matière de vérification d'identité, la réussite ne se mesure guère à la capacité d'un système à traiter un document ou à mener à bien une transaction. Elle dépend plutôt de la manière dont ce système fait face aux cas limites, aux scénarios d'attaque et aux défis opérationnels qui apparaissent au fil du temps.

Le succès d'un système se mesure à sa capacité à faire face aux cas limites, aux scénarios d'attaque et aux défis opérationnels qui apparaissent au fil du temps. Il doit être capable de distinguer les utilisateurs légitimes des contrefaçons sophistiquées, d'identifier les tentatives de manipulation subtiles, de s'adapter à l'évolution des modes de fraude, d'expliquer ses décisions en cas de contestation et de maintenir un haut niveau de précision sans créer de difficultés inutiles pour les clients légitimes. 

Ces capacités ne sont généralement pas mises au point lors d'un hackathon. Elles sont développées au fil des années, à travers des cycles d'itération, de tests, de validation et d'exposition à des attaques réelles.

Une nouvelle étape dans l'évolution de l'IA

C'est pour toutes ces raisons que je pense que nous entrons dans une phase intéressante de l'ère de l'IA.

Pendant des décennies, les responsables technologiques ont souvent été contraints de choisir entre développer en interne ou acheter à l'extérieur, car le développement en interne exigeait des efforts considérables. L'IA est en train de changer la donne. Le développement en interne est devenu nettement plus facile, mais cela ne signifie pas pour autant que toutes les fonctionnalités doivent être développées en interne. En réalité, c'est peut-être même le contraire qui est vrai.

Alors que le coût de développement des logiciels ne cesse de baisser, la question n’est plus tant de savoir si quelque chose peut être développé, mais plutôt si cela vaut la peine de le faire. La plupart des entreprises disposent d’un nombre limité de talents techniques et d’une attention limitée. La véritable décision stratégique consiste à déterminer où ces ressources créent le plus de valeur. Recréer des fonctionnalités qui ont déjà été développées est peut-être techniquement possible, mais cela permet rarement de se démarquer durablement. En revanche, résoudre les problèmes des clients, développer de nouveaux produits et faire progresser l’activité principale y parviennent généralement.

C'est peut-être là l'une des grandes ironies de l'ère de l'IA. Si l'IA a rendu le développement logiciel plus accessible que jamais, elle n'a en rien facilité l'acquisition de l'expérience, des données, des connaissances opérationnelles ou de l'expertise métier. Dans de nombreux cas, ces atouts ont même pris davantage d'importance. La capacité à créer un prototype est de plus en plus courante. En revanche, la capacité à exploiter un système fiable à grande échelle, à s’adapter à des conditions changeantes et à s’améliorer continuellement au fil du temps reste beaucoup plus difficile à reproduire.