Como os deepfakes baseados em IA estão forçando uma revisão dos padrões de verificação de identidade
O rápido aumento das fraudes envolvendo identidades sintéticas baseadas em IA está tornando uma tarefa já difícil ainda mais complicada. As equipes antifraude já precisam lidar com a detecção e o bloqueio de ataques quase constantes, ao mesmo tempo em que garantem que os sistemas de detecção não sejam configurados de forma tão rígida a ponto de rejeitar clientes legítimos.
Agora, com o avanço da IA generativa, os fraudadores podem criar réplicas quase perfeitas de documentos de identidade, causando ainda mais dificuldades para as empresas e suas equipes de combate à fraude e de experiência do cliente. Por isso foi empolgante quando, no final do ano passado, um grupo de pesquisadores apoiado pelo Departamento de Segurança Interna dos EUA publicou um conjunto de dados chamado IDNet, que representa o primeiro conjunto de dados em grande escala (com mais de 800 mil imagens) de documentos sintéticos gerados por IA. Isso significava que qualquer pessoa poderia agora testar suas soluções de verificação de documentos, verificando quão bem elas conseguem detectar esses deepfakes gerados por IA.
Na Microblink, foi exatamente isso que fizemos. Compartilhamos os resultados em um webinar, que você pode acessar aqui; e, a seguir, estão os cinco principais pontos dessa discussão.
O poder das defesas em camadas
Em um mundo ideal, toda identidade falsa seria bloqueada e todos os clientes legítimos passariam sem problemas. Mas, no mundo real, a detecção perfeita de fraudes simplesmente não existe. Por quê? Porque os fraudadores estão em constante evolução, e os usuários legítimos muitas vezes não se comportam de maneira totalmente previsível. É por isso que é importante focar em uma defesa em camadas. Se um documento de identidade falso passar pela etapa de verificação de documentos, ele ainda pode ser sinalizado posteriormente; talvez durante a comparação facial, a detecção de vida ou a validação de endereço.
O que importa não é se uma identidade falsa é detectada logo na primeira etapa, e sim que seu sistema seja inteligente e resiliente o suficiente para detectar fraudes em qualquer ponto do processo, sem impedir que usuários legítimos tenham acesso. As empresas que adotam esse tipo de abordagem holística e baseada em risco evitam a armadilha de “sobreajustar” suas defesas e perder clientes reais.
FRR e FAR: Alcançando o equilíbrio certo
O modelo de detecção de fraudes em documentos da Microblink identificou 100% dos documentos de identidade falsos sintéticos do conjunto de dados IDNet. No entanto, é importante observar que qualquer pessoa pode alcançar esse resultado se definir a configuração de risco no nível mais rigoroso. Nesse caso, você impediria todas as fraudes, mas também bloquearia todos os clientes legítimos! É por isso que a Microblink utilizou nossa configuração padrão ao realizar os testes com o conjunto de dados do IDNet.
A FAR (taxa de falsa aceitação) mede a frequência com que um sistema aceita incorretamente um documento fraudulento como legítimo. Durante nosso teste com o conjunto de dados do IDNET, nenhuma imagem foi marcada como “Aceita”, o que significa que nossa Taxa de Falsa Aceitação (FAR) foi de 0% em todo o conjunto de dados testado. No extremo oposto está a FRR (taxa de rejeição falsa). Como não há documentos verdadeiramente “reais” no conjunto de dados, não é viável calcular uma FRR real a partir dos dados do IDNet. No entanto, em nossa avaliação, incluímos a FRR esperada para nosso sistema nas configurações padrão de sensibilidade utilizadas – e observamos uma FRR média de 2,33%. Também é importante observar que a Microblink não utilizou os dados brutos do IDNet para o treinamento do modelo, o que significa que o exercício foi 100% imparcial e puramente baseado no desempenho.
A importância de ajustar com precisão os níveis de risco
Muitas organizações entram no mercado de verificação de identidade com expectativas ambiciosas: zero fraudes, zero rejeições indevidas e uma experiência impecável para todos os usuários. Mas a implementação na prática revela rapidamente a complexidade desse equilíbrio. A fraude geralmente representa apenas uma pequena fração do total de transações — muitas vezes na casa de um dígito — e o nível aceitável de risco pode variar drasticamente dependendo do setor ou do caso de uso específico.
É por isso que o ajuste fino dos sistemas de verificação é crucial. As empresas devem calibrar seus limites de detecção de fraudes de modo a se adequarem à sua própria tolerância ao risco e às suas metas operacionais. Muitas vezes, uma taxa de falsa rejeição (FRR) mais baixa tem prioridade sobre a detecção de todos os casos extremos de fraude, especialmente quando outras camadas no processo de cadastro ou no fluxo de transações oferecem proteção adicional. Testes A/B, testes-piloto e monitoramento contínuo ajudam as equipes a encontrar o equilíbrio certo entre segurança e experiência do usuário, reforçando que a verificação de identidade não é estática. É um processo de otimização contínua.
O cenário da fraude está mudando rapidamente
O cenário da fraude está evoluindo a uma velocidade vertiginosa, e pode ser difícil para as empresas acompanharem esse ritmo. Com o surgimento das ferramentas de IA generativa, agora está mais fácil do que nunca para os criminosos gerarem identidades, documentos e rostos falsos que parecem assustadoramente reais. Não estamos mais falando apenas de casos isolados — trata-se de fraude de identidade automatizada e em escala industrial.
Para acompanhar o ritmo, a Microblink está em constante evolução. Isso significa treinar nossos modelos com dados novos e diversificados. Significa ampliar nossa capacidade de detectar novos tipos de fraude — como rostos gerados por GAN, transformação de identidade e falsificações em ultra-alta resolução. E significa criar um ciclo de feedback entre nossos clientes, nosso Laboratório de Fraudes interno e nossas equipes de engenharia, para que possamos responder a ameaças emergentes em tempo real. A fraude não é estática, e nós também não. O objetivo é estar sempre um passo à frente.
A detecção de deepfakes está no nosso DNA
Por falar no nosso Laboratório de Fraudes, há anos que geramos dados sintéticos de treinamento para simular exatamente os tipos de ataques deepfake que os fraudadores estão utilizando atualmente na prática. Esse investimento interno valeu a pena, e os resultados podem ser observados nos testes que realizamos com os dados do IDNet.
Apesar de não ter sido treinado com esses dados específicos, conforme observado, nosso sistema detectou 100% das identidades falsas no teste. Isso é uma prova dos cinco anos de esforço que a Microblink vem dedicando à geração de dados sintéticos para o treinamento e a avaliação de nossos modelos no Fraud Lab.
Essas são apenas algumas conclusões gerais dos testes realizados pela Microblink com o IDNet. Para uma análise completa e aprofundada, baixe agora nosso relatório sobre o conjunto de dados do IDNet.
