Quando os agentes de IA agem (e podem atacar)

Ultimamente, um novo tipo de ansiedade vem surgindo nos círculos de tecnologia. Não se trata de violações de segurança ou interrupções de serviço, mas sim de autonomia. Estamos lendo matérias sobre agentes de IA que se comunicam entre si em sites como o Moltbook. Agentes publicando conteúdo. Agentes se coordenando. Agentes desenvolvendo comportamentos que os humanos não conseguem observar facilmente. 

Os agentes de IA já estão aqui e estão começando a realizar ações, interagir com outros agentes e operar continuamente em diversos sistemas. Em muitos casos, eles agem com as mesmas permissões e o mesmo nível de confiança concedidos aos seres humanos que os implantaram.

Essa mudança altera profundamente o problema da identidade. Quando o software é capaz de agir, a identidade não se resume mais apenas à autenticação. Torna-se uma questão de quem ou o que está agindo, com que autoridade e sob quais restrições.

Quando os agentes saem do laboratório

O que torna este momento diferente não é uma ferramenta específica, mas o padrão que está surgindo em muitas delas. Sistemas de código aberto e de agentes semiautônomos, como o OpenClaw, estão passando rapidamente da fase experimental para ambientes empresariais reais. Essas ferramentas são capazes de acessar arquivos, plataformas de mensagens, terminais e serviços em nuvem e, em seguida, agir com base nesse acesso sem orientação humana contínua. Elas estão sendo adotadas não por meio de ciclos formais de aquisição, mas discretamente, por indivíduos e equipes em busca de agilidade e eficiência.

Ao mesmo tempo, estamos vendo o surgimento de ecossistemas nativos de agentes, como o Moltbook, nos quais agentes de IA interagem diretamente com outros agentes, trocam informações e otimizam seu comportamento sem a participação humana no processo. Seja considerado como novidade ou como experimentação, esses ambientes apontam para um futuro em que os agentes não são ferramentas isoladas, mas participantes de sistemas digitais mais amplos. Eles não se limitam a responder. Eles coordenam.

O risco não é que esses agentes sejam intencionalmente maliciosos. O risco é que eles operam com confiança emprestada dentro de sistemas que nunca foram projetados para reconhecê-los como atores. Eles herdam credenciais, reutilizam sessões e se misturam aos registros como se fosse um comportamento esperado. Do lado de fora, tudo parece normal. Do lado de dentro, as decisões estão sendo tomadas por entidades que os sistemas tradicionais de identidade não conseguem enxergar ou compreender totalmente.

Em muitas organizações, esses agentes aparecem como atividades em segundo plano. Eles herdam credenciais. Reutilizam sessões. Passam despercebidos nos registros como um comportamento “normal”. O agente está presente, mas invisível.

Quando os agentes interagem com outros agentes

O desafio se torna ainda maior à medida que os agentes começam a interagir uns com os outros.

À medida que os sistemas de IA se coordenam, trocam sinais e otimizam fluxos de trabalho sem envolvimento humano direto, a visibilidade diminui ainda mais. As decisões são tomadas mais rapidamente do que os seres humanos conseguem analisar, e as ações se propagam pelos sistemas antes que a intenção seja totalmente compreendida.

Nesse ponto, os controles tradicionais de identidade enfrentam dificuldades não porque sejam ineficazes, mas porque nunca foram projetados para atores autônomos e não humanos que operam de forma contínua.

As equipes de segurança podem saber qual credencial foi usada. Elas podem não saber:

• qual ator deu início ao comportamento
  
• se aquele agente estava autorizado a agir naquele contexto
  
• ou se o comportamento está em conformidade com a política e com o nível de risco
  aceitável

Por que a fiscalização, por si só, não é suficiente

Algumas organizações respondem à situação implementando camadas de monitoramento e supervisão sobre o comportamento dos agentes. Essa é uma medida necessária, mas não é suficiente por si só.

A observação sem contexto de identidade é reativa. Ela pode detectar anomalias após elas ocorrerem, mas não consegue controlar o comportamento de maneira confiável em tempo real. Sem compreender quem ou o que está agindo, os sistemas de supervisão não têm autoridade para impedir o uso indevido antes que haja impacto.

Um controle eficaz exige mais do que apenas observar os agentes. Exige conhecê-los.

Por que a iniciativa “Conheça seu ator” muda o modelo

É aí que o Know Your Actor (KYA) se torna essencial. O Know Your Actor transforma a verificação de identidade de um evento pontual em um sistema de controle contínuo, projetado para ambientes em que nem todo agente é humano e nem toda ação é iniciada intencionalmente. Os sistemas digitais modernos agora incluem bots, agentes autônomos de IA e fluxos de trabalho híbridos entre humanos e agentes que operam continuamente e na velocidade das máquinas. Tratar todos esses atores como se fossem usuários intercambiáveis não é mais suficiente.

Neste mundo, a identidade não pode ser reduzida a uma credencial ou a um login bem-sucedido. Saber quem se autenticou diz muito pouco sobre quem ou o que está realmente agindo em um determinado momento. O controle eficaz da identidade exige compreender a função e a autoridade concedidas a um agente, como seu comportamento muda ao longo do tempo e se suas ações permanecem consistentes com a política e o risco aceitável à medida que as condições evoluem. O contexto é tão importante quanto a autenticação, especialmente quando as ações se propagam automaticamente entre os sistemas.

O “Know Your Actor” trata a identidade como uma infraestrutura dinâmica, e não como um portão estático na porta de entrada. A identidade é avaliada continuamente, não apenas no momento do acesso, mas ao longo de toda a interação, à medida que o comportamento, a intenção e o ambiente se alteram. Essa abordagem oferece visibilidade antes da aplicação de regras e contexto antes das decisões, permitindo que as organizações controlem as atividades em tempo real, em vez de reagirem após o fato.

Em um mundo agente, essa distinção se torna fundamental. Presumir que há confiança apenas porque uma credencial era válida já não é suficiente. Gerenciar ativamente a confiança com base em quem está agindo, como está se comportando e o que está autorizado a fazer é o que permite que as organizações ampliem a automação sem perder o controle.

Liderança em um ambiente agênico

A chegada dos agentes autônomos não deve ser motivo de alarme. Exige, sim, responsabilidade.

Os líderes devem reconhecer que os sistemas criados exclusivamente para a interação entre seres humanos já não são suficientes. Fingir o contrário gera pontos cegos que se expandem mais rapidamente do que as equipes conseguem responder.

A verdadeira questão não é se haverá agentes de IA dentro das empresas. Isso já está acontecendo. A questão é se as organizações irão projetar sistemas de identidade e controle capazes de identificar, compreender e gerenciar todos os atores em ação.

O programa “Conheça Seu Ator” não tem como objetivo frear a inovação. Seu objetivo é tornar a inovação sustentável. Ele garante que, à medida que a agência se expande, a prestação de contas não seja deixada de lado.

Em um mundo em que o software é capaz de agir, liderança significa projetar com clareza, controle e confiança antes que os sistemas tomem decisões em nosso nome.