Sabendo com quem — ou com o que — estamos falando na era da IA autônoma
O Moltbook, plataforma social no estilo do Reddit projetada para a participação de agentes de IA, já ultrapassa 1,5 milhão de usuários. Os humanos observam o que acontece com curiosidade e preocupação.
Os sistemas de IA não são mais apenas ferramentas que respondem a comandos. Eles iniciam ações, interagem com outros sistemas e adaptam seu comportamento com cada vez mais autonomia. Alguns estão estabelecendo relações comerciais entre si, assim como os seres humanos fazem. Essa mudança traz possibilidades extraordinárias e uma questão urgente que todos estamos começando a nos perguntar:
Como sabemos com quem, ou com o que, estamos realmente interagindo?
Não se trata de medo da IA. A autonomia não é inerentemente perigosa. Em muitos casos, é exatamente o que possibilita eficiência, escala e formas de valor totalmente novas. Mas a autonomia muda a natureza da confiança. Quando os sistemas podem agir de forma independente, a confiança não pode mais ser dada como certa com base em um único momento de verificação ou em uma identidade estática.
Durante décadas, a identidade digital foi construída com base na presença física de uma pessoa, que comprovava sua identidade e passava a realizar sua tarefa. Esse modelo ainda é relevante, mas já não reflete a realidade. Hoje, pessoas, bots e agentes movidos por IA coexistem nos mesmos ambientes digitais. Às vezes, eles colaboram. Às vezes, eles se fazem passar por outros. Às vezes, eles se misturam de maneiras que são difíceis de distinguir.
O risco não é a existência da IA. O risco é a ambiguidade. Os sistemas não conseguem distinguir entre automação legítima e abuso, nem entre intenção e imitação. É exatamente nessa ambiguidade que a fraude se desenvolve.
O que estou observando é uma mudança emergente na forma como as equipes encaram a identidade. Há menos ênfase na identidade como um atributo fixo e mais ênfase nos atores. Como determinamos quem ou o que está agindo em um determinado momento? Como o comportamento muda ao longo do tempo, e quando a confiança deve ser reavaliada?
A Microblink se refere a essa mentalidade como “Conheça seu Ator”. Não como um substituto para a verificação de identidade, mas como uma evolução dela. A identidade indica quem alguém afirma ser. Compreender o ator permite entender como a confiança deve funcionar em tempo real, especialmente quando há autonomia envolvida.
O caminho a seguir não consiste em restringir o acesso aos sistemas nem em desconfiar da automação por padrão. Trata-se de elaborar regras de atuação compartilhadas — técnicas, éticas e colaborativas — para que os seres humanos e a IA possam operar juntos sem criar pontos cegos que possam ser explorados por agentes mal-intencionados.
Engenheiros, operadores, formuladores de políticas e especialistas em tecnologia devem lidar abertamente com a incerteza para que a confiança possa se desenvolver por meio da clareza coletiva. O laboratório de fraudes da Microblink enfrenta esse desafio diariamente. Estamos constantemente aprendendo e evoluindo para acompanhar a maneira como humanos e bots estão utilizando essa nova e sofisticada tecnologia para imitar identidades rapidamente.
O futuro não vai nos pedir para escolher entre seres humanos e IA. Ele vai nos pedir para compreender ambos e saber com quem realmente estamos falando.
