Savoir à qui — ou à quoi — nous nous adressons à l’ère de l’IA autonome
Moltbook, la plateforme sociale inspirée de Reddit et conçue pour permettre aux agents IA d'y participer, compte déjà plus de 1,5 million d'utilisateurs. Les humains observent ce qui se passe avec curiosité et inquiétude.
Les systèmes d'IA ne sont plus seulement des outils qui répondent à des instructions. Ils prennent des initiatives, interagissent avec d'autres systèmes et adaptent leur comportement avec une autonomie croissante. Certains nouent même des relations commerciales entre eux, à l'instar des êtres humains. Cette évolution ouvre des perspectives extraordinaires et soulève une question pressante que nous commençons tous à nous poser :
Comment savoir avec qui, ou avec quoi, nous interagissons réellement ?
Il ne s'agit pas ici de la peur de l'IA. L'autonomie n'est pas dangereuse en soi. Dans de nombreux cas, c'est précisément ce qui permet de gagner en efficacité, de se développer à grande échelle et de créer des formes de valeur totalement nouvelles. Mais l'autonomie modifie la nature même de la confiance. Lorsque les systèmes peuvent agir de manière indépendante, on ne peut plus considérer la confiance comme acquise sur la base d'une simple vérification ponctuelle ou d'une identité statique.
Pendant des décennies, l’identité numérique reposait sur le principe selon lequel une personne devait se présenter, prouver son identité, puis se mettre au travail. Ce modèle reste pertinent, mais il ne correspond plus à la réalité. Aujourd’hui, les humains, les bots et les agents pilotés par l’IA coexistent au sein des mêmes environnements numériques. Parfois, ils collaborent. Parfois, ils usurpent l’identité d’autrui. Parfois, ils se fondent dans la masse de manière à être difficilement distinguables.
Le risque ne réside pas dans l'existence même de l'IA. Le risque, c'est l'ambiguïté. Les systèmes ne sont pas en mesure de faire la distinction entre une automatisation légitime et un abus, ni entre l'intention et l'imitation. C'est précisément dans cette ambiguïté que la fraude prospère.
Ce que je constate, c’est une évolution dans la manière dont les équipes appréhendent la notion d’identité. On s’attache moins à l’identité en tant qu’attribut figé pour se concentrer davantage sur les acteurs. Comment déterminer qui ou quoi agit à un moment donné ? Comment le comportement évolue-t-il au fil du temps, et à quel moment faut-il réévaluer la confiance ?
Microblink qualifie cette approche de « Know Your Actor » (Connaissez votre acteur). Il ne s'agit pas de remplacer la vérification d'identité, mais d'en assurer l'évolution. L'identité vous indique qui une personne prétend être. Comprendre l'acteur vous permet de déterminer comment la confiance doit s'exercer en temps réel, en particulier lorsque l'autonomie entre en jeu.
La voie à suivre ne consiste pas à verrouiller les systèmes ni à se méfier d'emblée de l'automatisation. Il s'agit plutôt d'élaborer des règles d'engagement communes, tant sur le plan technique qu'éthique et collaboratif, afin que les humains et l'IA puissent fonctionner ensemble sans créer de failles dont pourraient tirer parti des acteurs malveillants.
Les ingénieurs, les opérateurs, les décideurs politiques et les technologues devraient aborder ouvertement les incertitudes afin que la confiance puisse se construire grâce à une vision commune claire. Le laboratoire de lutte contre la fraude de Microblink relève ce défi au quotidien. Nous apprenons et évoluons sans cesse pour rester en phase avec la manière dont les humains et les robots utilisent cette nouvelle technologie sophistiquée pour usurper rapidement une identité.
L'avenir ne nous demandera pas de choisir entre les humains et l'IA. Il nous demandera de comprendre les deux et de savoir à qui nous nous adressons réellement.
