A Microblink lança a primeira ferramenta para testes públicos de fraude em documentos gerada por IA de geração

Até pouco tempo atrás, criar um documento de identidade falso convincente exigia tempo, habilidade e ferramentas especializadas. Hoje, basta uma instrução, e praticamente qualquer pessoa consegue fazer isso.

Com o avanço da IA generativa, qualquer pessoa pode produzir passaportes, carteiras de motorista ou documentos de comprovação de endereço realistas usando ferramentas amplamente disponíveis. Essas imagens costumam ser de qualidade suficiente para passar por verificações visuais tradicionais e validações básicas de dados. Em outras palavras, a fraude documental se tornou algo ao alcance de todos.

Como equipe de produto que atua na área de verificação de identidade, aqui na Microblink temos acompanhado essa mudança de perto. Trata-se de um novo paradigma. Ou seja: como detectar um documento que nunca foi “falsificado” no sentido tradicional, mas gerado do zero?

Apresentamos a Verificação de Detecção de IA Generativa

Para resolver essa questão, desenvolvemos uma nova funcionalidade chamada “Verificação de Detecção de IA Generativa”. Trata-se de uma nova camada dentro do Microblink Identity Intelligence OS, projetada especificamente para identificar documentos de identidade que provavelmente foram gerados por um LLM ou amplamente editados com o uso de um LLM.

Em linhas gerais, a verificação:

• Analisa imagens de documentos de identidade (passaportes, carteiras de identidade, etc.)
• Estima a probabilidade de que a imagem tenha sido gerada ou manipulada por IA
• Integra-se diretamente ao resultado geral da verificação

Não se trata de identificar uma única anomalia ou verificar um campo específico. O modelo avalia a imagem como um todo e procura padrões e sinais que indiquem processos generativos, em vez de uma captura genuína.

Se um documento não passar nessa verificação, ele é considerado fraudulento do ponto de vista visual e contribui para a decisão de rejeição.

Por que isso é importante agora

A IA generativa mudou fundamentalmente a natureza da fraude documental de três maneiras importantes. Em primeiro lugar, a criação agora é muito fácil. O que antes exigia ferramentas especializadas ou conhecimento técnico agora pode ser feito com um simples comando, usando um documento de amostra como base para gerar uma falsificação convincente. 

Em segundo lugar, a qualidade dessas falsificações é significativamente maior. As imagens geradas por IA costumam parecer realistas o suficiente para passar pelas verificações tradicionais, reduzindo a eficácia da inspeção visual por si só. Em terceiro lugar, a fraude agora pode se expandir sem limites. Uma vez identificado um método bem-sucedido, ele pode ser replicado instantaneamente e implantado em grande escala, permitindo que os invasores ajam com velocidade e eficiência sem precedentes.

Isso dá origem a um novo tipo de fraude que não é devidamente combatido pelas abordagens tradicionais. A Verificação de Detecção de IA Generativa foi projetada especificamente para suprir essa lacuna.

Como isso funciona na prática

Do ponto de vista da integração, a verificação se encaixa naturalmente nos fluxos de trabalho de verificação existentes, especialmente em cenários em que os usuários enviam imagens de documentos diretamente, em vez de capturá-las por meio de um fluxo de câmera ao vivo.

Quando um usuário envia um documento:

• As imagens são enviadas ou fornecidas em formato digital
• Cada imagem é analisada pelo modelo de detecção GenAI
• É gerado um resultado (como Aprovado, Reprovado ou Aviso)
• O resultado contribui para a decisão geral de verificação

O modelo foi projetado especificamente para analisar imagens de documentos enviadas digitalmente, em busca de sinais associados à criação ou manipulação por meio de IA generativa.

Em cenários de captura ao vivo com câmeras de celular ou da web, camadas adicionais de verificação, como detecção de vida, detecção de ataques de apresentação e verificações de integridade da captura, continuam sendo componentes essenciais da estratégia mais ampla de defesa contra fraudes. Essas camadas foram projetadas para detectar comportamentos como reproduções de tela, fluxos injetados, documentos sintéticos recapturados ou outros ataques baseados na apresentação que possam reduzir ou ocultar os artefatos de baixo nível associados à geração por IA generativa.

Projetado para condições reais

Um dos nossos principais objetivos foi garantir que essa funcionalidade funcione de maneira confiável nos tipos de ambientes em que a fraude documental por meio de IA generativa vem se tornando cada vez mais comum, especialmente em fluxos de trabalho que envolvem o envio direto e a apresentação digital de documentos.

O modelo é treinado com conjuntos de dados em grande escala que contêm documentos de identidade tanto autênticos quanto gerados por IA e foi projetado para se aplicar de maneira generalizada a diferentes ferramentas e modelos de IA generativa. Em vez de se concentrar em um único método de geração, ele analisa sinais mais amplos no nível da imagem e padrões de artefatos associados à geração sintética.

Nas configurações padrão, o GenAI Check apresenta uma Taxa de Rejeição Falsa (FRR) de 0,076%, o que significa que documentos legítimos raramente são rejeitados, enquanto mais de 99% dos documentos manipulados são detectados nos cenários de teste suportados.

É importante ressaltar que essa verificação foi concebida como uma camada dentro de uma estrutura mais ampla de verificação de identidade e detecção de fraudes. Em ambientes de produção, diferentes vetores de fraude exigem diferentes abordagens de detecção. Documentos sintéticos enviados diretamente, documentos gerados por IA e recapturados, ataques de apresentação de tela, fluxos injetados e sessões ao vivo manipuladas produzem, cada um, sinais distintos e são tratados por meio de múltiplas camadas de verificação complementares que atuam em conjunto.

Uma observação sobre casos extremos

Como em qualquer sistema que opera nesse nível de sensibilidade, há casos extremos que devem ser levados em conta.

Por exemplo, certas imagens que passaram por um pós-processamento intenso, como aquelas afetadas por HDR extremo no nível do dispositivo, aumento de nitidez ou efeitos de embelezamento, podem, ocasionalmente, alterar as características naturais de uma imagem. Avaliamos continuamente esses casos extremos e refinamos o modelo para manter um desempenho confiável em todas as condições reais de captura. 

É importante ressaltar que essa verificação foi projetada especificamente para a verificação de documentos de identidade. Embora realizemos testes abrangentes, ela só é aplicada em ambiente de produção quando um documento de identidade real é detectado.

Experimente você mesmo: Demonstração do Gen AI Check

Um desafio que temos observado é que muitas equipes compreendem o conceito de fraude por IA generativa, mas ainda não tiveram contato direto com ela.

Para preencher essa lacuna, criamos um ambiente de demonstração de autoatendimento dentro do nosso Developer Hub. Você pode acessar a demonstração aqui.

Com a demonstração do GenAI Check, você pode:

• Carregue seu próprio documento ou use dados de exemplo
• Execute a verificação de detecção de IA generativa em tempo real
• Veja como o sistema avalia e sinaliza possíveis manipulações por IA gerativa

A demonstração foi criada para oferecer às equipes uma maneira simples e prática de explorar a detecção de fraudes em documentos por meio de IA generativa, em seu próprio ritmo, sem a necessidade de uma integração completa ou de um processo de vendas. Ela também oferece a oportunidade de compreender melhor como esse recurso se encaixa em fluxos de trabalho mais amplos de verificação de identidade e em verificações de fraude em camadas 

Para detectar essa nova classe de ameaças, é preciso ir além das abordagens tradicionais e incorporar novos sinais ao processo de verificação. A Verificação de Detecção por IA Generativa é um passo nessa direção. Você pode experimentá-la neste link. É necessário se cadastrar com um e-mail corporativo.