A corrida ao ouro da IA está democratizando a fraude

As recentes discussões em torno do novo agente de triagem KYC da Anthropic deram início a um importante debate no setor: à medida que as empresas de IA se voltam cada vez mais para fluxos de trabalho relacionados à identidade, integração de novos usuários e confiança, qual é a responsabilidade delas em relação ao ecossistema de fraudes que suas tecnologias, ao mesmo tempo, estão ajudando a acelerar?

Essa questão vai muito além do que qualquer empresa específica está fazendo. Cada grande onda de inovação tecnológica cria novas oportunidades. Ela também cria novas vulnerabilidades.

As redes sociais conectaram o mundo, mas também deram origem a casos de falsificação de identidade e engenharia social em grande escala. Os serviços bancários móveis transformaram o acesso aos serviços financeiros e, ao mesmo tempo, aceleraram as fraudes envolvendo a invasão de contas. O comércio integrado tornou as transações mais fluidas, mas ampliou as oportunidades para fraudes em pagamentos, abuso de identidades sintéticas e roubo de credenciais.

Atualmente, a IA generativa está transformando a forma como as fraudes ocorrem, em uma escala e velocidade sem precedentes.

O problema não é simplesmente que os fraudadores estejam usando IA. A questão mais profunda é que o ecossistema mais amplo da IA está, sem querer, democratizando os próprios recursos de fraude.

Ferramentas originalmente projetadas para produtividade, criatividade, automação e acessibilidade também estão tornando fraudes sofisticadas drasticamente mais fáceis, baratas e escaláveis. Modelos de clonagem de voz podem se passar por pessoas de forma convincente em questão de minutos. Sistemas de geração de imagens disponíveis ao público podem criar documentos sintéticos e credenciais manipuladas. Tecnologias de troca de rosto, antes restritas a laboratórios de pesquisa, agora são amplamente acessíveis por meio de aplicativos de consumo e ferramentas de código aberto.

A fraude está se tornando uma tecnologia de uso generalizado

Historicamente, operações sofisticadas de fraude exigiam coordenação, conhecimento técnico e recursos significativos. Hoje, muitas dessas barreiras foram superadas.

Um fraudador não precisa mais falsificar manualmente documentos de identidade nem criar ferramentas personalizadas para se passar por outra pessoa. Ele pode aproveitar os mesmos sistemas de IA disponíveis publicamente que são utilizados em aplicativos convencionais para consumidores e empresas.

Essa é uma das realidades mais importantes que as organizações ainda subestimam. A IA não está apenas criando novas formas de fraude. Ela está industrializando a própria criação de fraudes.

As mesmas tecnologias que impulsionam fluxos de trabalho criativos, mídia sintética e assistentes de IA também estão possibilitando práticas como a criação de identidades sintéticas, a falsificação de identidade por meio de deepfakes, golpes de clonagem de voz e muito mais. 

De muitas maneiras, a fraude está seguindo a mesma trajetória que o próprio desenvolvimento de software. O que antes exigia profunda especialização técnica está se tornando abstraído, automatizado e acessível por meio de interfaces e APIs simples.

O setor está, sem querer, fornecendo um manual aos fraudadores

Ao mesmo tempo, o setor de prevenção de fraudes enfrenta outra realidade incômoda: o desejo de demonstrar inovação pode, sem querer, expor as estratégias de detecção aos invasores.

É compreensível que as organizações queiram demonstrar avanços tecnológicos. As empresas de IA anunciam novos recursos de verificação. Os fornecedores publicam exemplos de sistemas de detecção de fraudes. Modelos são divulgados publicamente, acompanhados de demonstrações técnicas e fluxos de trabalho. Assistentes de IA também estão simplificando o acesso a informações antes restritas a fraudadores e pesquisadores de segurança. Isso leva a uma enorme democratização desse tipo de informação, e o que antes levava dias ou semanas de pesquisa agora é reduzido a poucas horas. 

Isso cria uma assimetria perigosa. Os sistemas defensivos costumam operar de forma transparente, em prol da confiança e da credibilidade, enquanto os invasores realizam iterações em sigilo e se adaptam rapidamente.

O resultado é um ambiente em que a fraude evolui continuamente, enquanto muitos sistemas de defesa permanecem estáticos.

A defesa contra fraudes deve ser multifacetada e adaptável

Não existe um único modelo, fornecedor ou sistema capaz de combater a fraude por conta própria. A defesa moderna contra fraudes exige, cada vez mais, sistemas em camadas capazes de avaliar continuamente diversos sinais em documentos, dados biométricos, dispositivos, comportamento, contexto das transações e integridade da sessão.

Mais importante ainda, esses sistemas precisam evoluir continuamente, pois os ataques subjacentes também evoluem continuamente.

Essa é uma das razões pelas quais as análises comparativas e as avaliações independentes estão se tornando cada vez mais importantes no setor de identidade e combate à fraude. As organizações precisam ter visibilidade não apenas sobre o que os sistemas detectam com sucesso hoje, mas também sobre o que eles podem deixar de detectar amanhã. Modelos como o novo recurso da Anthropic são uma “caixa preta”. Não sabemos exatamente quais vetores de fraude foram testados, quais metodologias de ataque permanecem fora do escopo, como o desempenho foi avaliado nem quão resilientes esses sistemas permanecerão à medida que a IA adversária continua evoluindo. 

A privacidade é mais importante do que nunca na era da IA

À medida que as organizações se apressam em adotar sistemas de combate à fraude e de identificação baseados em IA, surge outra questão crítica: para onde vão, de fato, os dados confidenciais de identidade? Essa é uma questão que se coloca com o novo agente KYC da Anthropic. 

Documentos de identidade, dados biométricos e credenciais pessoais representam algumas das informações mais confidenciais que os consumidores possuem. No entanto, sua organização se sentiria à vontade para enviar esses dados para ambientes de nuvem de terceiros ou para uma infraestrutura de IA genérica, com transparência limitada em relação à retenção, governança ou uso posterior?

Isso levanta enormes questões de privacidade e segurança a longo prazo. As organizações precisarão, cada vez mais, encontrar um equilíbrio entre a inovação em IA e as crescentes preocupações em torno da soberania, da governança e da confiança a longo prazo.

O futuro da fraude é contínuo

Tudo isso aponta para uma mudança mais ampla que está em andamento, a saber: a fraude não é mais estática, isolada ou previsível. Ela é adaptável. Automatizada. Assistida por IA. Em constante evolução. Isso significa que a defesa contra fraudes deve evoluir da mesma forma.

As organizações que terão sucesso nesta próxima era não serão simplesmente aquelas que implementarem os maiores modelos de IA ou as estratégias de automação mais agressivas. Serão as organizações capazes de construir sistemas de confiança em camadas, explicáveis e avaliados continuamente.

Porque, na era da IA generativa, a confiança não pode mais depender de opacidade, suposições ou verificações pontuais. Ela deve ser conquistada, testada e defendida continuamente.