Se préparer à l'avènement de l'IA agentique dans le commerce : fraude, identité et confiance

Le paysage du commerce numérique évolue à un rythme sans précédent, sous l’impulsion non seulement des utilisateurs humains, mais aussi, de plus en plus, d’agents d’intelligence artificielle agissant en leur nom. Lors de la première table ronde virtuelle « Trust Talks » organisée par Microblink, des experts du secteur ont examiné les opportunités et les défis posés par ces agents autonomes capables d’ouvrir des comptes, d’effectuer des virements et de prendre des décisions financières. Parmi les intervenants figuraient Melisande Mual, directrice générale de The Paypers ; Gianmichele Zappia, responsable des risques et de la lutte contre la fraude chez Getyourguide ; Vasileios Konteas, chef de produit chez XM ; Holly Sandberg, directrice de la confiance et de la sécurité chez Reverb ; ainsi qu’Albert Roux, vice-président exécutif chargé des produits chez Microblink.

L'émergence de l'IA agentique

Les agents IA ne relèvent plus de la théorie. Aujourd’hui, les consommateurs peuvent confier des tâches complexes, telles que la réservation de voyages, la gestion d’abonnements ou même la réalisation de transactions financières, à des agents logiciels dotés d’une intelligence artificielle de plus en plus sophistiquée. Ces agents naviguent sur des sites web, remplissent des formulaires et prennent des décisions en fonction de règles définies par l’utilisateur. Pour les premiers utilisateurs férus de technologie, cette automatisation permet de gagner du temps et de réduire les frictions, mais elle introduit également une nouvelle source de risques que les organisations doivent gérer de manière proactive.

Les intervenants ont souligné que l’IA agentique est particulièrement pertinente dans des secteurs tels que le voyage et le commerce électronique, où elle permet d’automatiser les processus de recherche, de comparaison et de réservation. Cependant, ces mêmes capacités qui rationalisent les interactions légitimes ouvrent également la voie à des abus. Les équipes chargées de la lutte contre la fraude sont désormais confrontées à un environnement plus complexe : elles doivent faire la distinction entre les humains, les bots inoffensifs et les agents IA potentiellement malveillants. Les modèles traditionnels d’identité et de risque, qui s’appuyaient sur le comportement humain, ne suffisent plus.

La prévention de la fraude dans un monde axé sur l'intelligence artificielle

À mesure que les agents IA gagnent en capacités, le risque d’activités frauduleuses à grande échelle augmente. Les équipes chargées de la lutte contre la fraude doivent repenser leurs stratégies de détection et de prévention. Les intervenants ont souligné que l’analyse de la vélocité, la surveillance comportementale et le suivi des parcours sont essentiels pour repérer les activités anormales. Par exemple, une hausse soudaine du nombre de transactions provenant d’un seul agent d’IA, ou des tentatives répétées de contourner les processus de vérification, peuvent indiquer une utilisation abusive.

Il est bien plus efficace de prévenir la fraude avant qu'elle ne se produise que d'y remédier après coup. Les organisations doivent mettre en place des systèmes de surveillance qui suivent en temps réel le comportement de l'IA et signalent les anomalies susceptibles d'indiquer un usage abusif automatisé. Cela implique d'intégrer des outils d'analyse avancés, la biométrie comportementale et des modèles d'apprentissage automatique entraînés à distinguer les schémas de comportement humains de ceux de l'IA.

Vérification d'identité pour les agents autonomes

L'un des sujets les plus cruciaux abordés a été la manière de vérifier l'identité des agents IA. Tout comme les êtres humains possèdent des pièces d'identité et des justificatifs, les agents IA ont besoin d'identités numériques vérifiables. Sans identification adéquate, les entreprises s'exposent à des risques de fraude, d'infractions réglementaires et d'atteinte à leur réputation.

Les experts ont mis en avant les identifiants décentralisés et les signatures numériques comme solutions émergentes. Ces outils permettent aux agents de s’authentifier de manière vérifiable et inviolable, tout en les associant à un titulaire, qu’il s’agisse d’une personne physique ou d’une organisation. Cette traçabilité est cruciale, en particulier dans les secteurs réglementés tels que la finance et le voyage. La mise en œuvre technique de la vérification de l'identité des agents est réalisable en quelques mois, mais l'harmonisation des cadres juridiques et réglementaires prendra plus de temps.

La télémétrie comportementale comme indicateur de fraude

La surveillance du comportement de l'IA constitue un autre niveau de défense essentiel. Les intervenants ont abordé l'utilisation de la télémétrie comportementale pour suivre les interactions des agents sur les différentes plateformes numériques. En analysant les schémas de navigation, de prise de décision et d'exécution des transactions, les organisations peuvent détecter les utilisations abusives ou les dérives du modèle, c'est-à-dire tout écart entre le comportement de l'IA et sa conception initiale.

La biométrie comportementale, qui mesure les schémas d’interaction uniques, peut aider à faire la distinction entre les utilisateurs humains, les automatisations inoffensives et les agents d’IA potentiellement malveillants. Cette approche ne vise pas seulement à détecter la fraude, mais aussi à préserver la confiance dans l’écosystème. Les organisations doivent être en mesure d’évaluer les intentions, de veiller au respect des comportements autorisés et d’agir rapidement en cas d’anomalies.

La confiance, fondement du commerce

Derrière toutes ces considérations techniques se cache une évolution philosophique plus large : la confiance devient la monnaie du commerce numérique. Lorsque des agents autonomes agissent au nom des humains, les entreprises ne peuvent plus se fier uniquement à la vérification humaine. Elles doivent mettre en place une chaîne de confiance qui s'étend du propriétaire humain à la transaction elle-même, en passant par l'agent d'IA.

Les intervenants ont souligné que la confiance n’est pas un concept statique, mais qu’elle nécessite au contraire une validation et une surveillance continues. Les organisations doivent mettre en place des systèmes de surveillance solides, des protocoles de vérification et des structures de responsabilité afin de préserver la confiance dans leurs plateformes. En substance, l’identité, la vérification et le suivi des comportements convergent pour créer un socle de confiance qui sous-tend chaque transaction impliquant un agent d’IA.

Se préparer pour l'avenir

L'essor de l'IA agentique est inévitable. Les entreprises qui agissent de manière proactive pour comprendre et atténuer les risques associés en tireront un avantage concurrentiel, tandis que celles qui ignorent cette évolution risquent de se heurter à des difficultés opérationnelles et réglementaires. Se préparer à cet avenir nécessite une approche à plusieurs niveaux :

• Mettre en place des identités vérifiables pour les agents afin de garantir la responsabilité.
• Surveiller le comportement de l'IA en temps réel afin de détecter les anomalies et de prévenir toute utilisation abusive.
• Utilisation de l'analyse comportementale et de la biométrie pour distinguer les humains des agents IA.
• Mettre en place des dispositifs solides de prévention de la fraude, capables d'anticiper les abus automatisés à grande échelle.
• Favoriser une culture de confiance alliant technologie, politiques et contrôle.

À mesure que les agents d'IA se généralisent, ces mesures ne se contenteront pas de protéger les organisations : elles définiront la norme en matière de confiance pour l'économie numérique. Pour en savoir plus sur les autres tables rondes de notre série « Trust Talks », inscrivez-vous dès aujourd'hui.