Por que o benchmarking e a explicabilidade são tão importantes na verificação de identidade
Um post recente no blog do CEO da Microblink, Hartley Thompson, explorou como a IA generativa está mudando fundamentalmente a economia da fraude, tornando os ataques sofisticados mais baratos, mais rápidos e dramaticamente mais escaláveis. De muitas maneiras, os avanços alcançados na IA generativa para combater a fraude também são usados para criar ataques mais sofisticados em grande escala. No que diz respeito à fraude, o volume é tudo: mesmo ataques com baixa taxa de sucesso e baixo valor de pagamento tornam-se lucrativos quando podem ser automatizados em grande escala.”
É por isso que, no Microblink Fraud Lab, testamos continuamente técnicas emergentes de fraude, que vão desde transmissões de vídeo injetadas e trocas de rosto até documentos gerados por IA e fluxos sintéticos de cadastro. O que chama a atenção não é apenas o quanto esses ataques estão se tornando realistas, mas o quanto se tornaram acessíveis. Muitas das mesmas ferramentas que impulsionam o entretenimento, a criação de conteúdo e as experiências de IA para o consumidor agora podem ser reaproveitadas para fins fraudulentos com muito pouco conhecimento técnico. A fraude não está apenas se tornando mais sofisticada. Está se tornando mais fácil de produzir, mais fácil de ampliar e mais fácil de automatizar.
A fraude está se tornando multimodal
Uma grande mudança é que a fraude não se limita mais a um único vetor de ataque. Os ataques modernos combinam cada vez mais várias técnicas simultaneamente, envolvendo documentos, dados biométricos, dispositivos e manipulação comportamental dentro da mesma operação. Um fraudador pode gerar um documento de identidade sintético, inserir uma sequência de selfies geradas por IA em um fluxo de verificação, falsificar sinais de dispositivos e automatizar partes da cadeia de ataque simultaneamente. Em outras palavras, a fraude está se tornando multimodal.
Isso é importante porque muitos sistemas de identidade foram originalmente projetados para avaliar sinais isolados em etapas específicas da jornada do usuário. A verificação de documentos ocorre na integração. A verificação biométrica ocorre durante a autenticação. Um sinal do dispositivo é avaliado durante o login. Mas os ataques modernos estão cada vez mais esbatendo essas fronteiras. Os fraudadores estão combinando mídia gerada por IA, automação, simulação comportamental e técnicas de suplantação de identidade em fluxos de ataque em camadas, projetados para explorar lacunas entre os sistemas, em vez de um único ponto de falha.
Os modelos tradicionais de verificação foram criados para uma época diferente
Muitos sistemas de identidade existentes ainda se baseiam em suposições que estão cada vez mais ultrapassadas. Historicamente, a falsificação de documentos exigia habilidades altamente especializadas, os dados biométricos eram difíceis de falsificar, os ataques eram, em sua maioria, realizados por pessoas e o processo de cadastro representava o principal ponto de risco. A IA generativa está rapidamente derrubando essas suposições.
O desafio não se resume mais a simplesmente determinar se um documento parece autêntico ou se um rosto corresponde à foto de um documento de identidade. Atualmente, as organizações precisam determinar se uma imagem foi gerada sinteticamente, se uma sessão de verificação está utilizando uma transmissão ao vivo da câmera ou um fluxo injetado, se uma voz foi clonada, se os padrões comportamentais são automatizados e se uma identidade confiável continua sendo confiável ao longo do tempo. Isso requer sistemas em camadas, capazes de avaliar múltiplos sinais continuamente, em vez de depender de eventos de verificação isolados.
A análise comparativa é mais importante do que nunca
É por tudo isso que a análise comparativa e a avaliação independente estão se tornando de importância crucial em todo o setor de identidade. Uma das maiores preocupações em relação a muitos sistemas de confiança emergentes baseados em IA é a opacidade. Cada vez mais, as organizações são solicitadas a confiar em modelos do tipo “caixa preta” sem terem visibilidade clara sobre quais vetores de ataque foram testados, como os sistemas foram avaliados, quais cenários permanecem fora do escopo, como os modelos se comportam sob pressão adversária ou como a confiabilidade se altera ao longo do tempo. Ao contrário de muitos domínios tradicionais de aprendizado de máquina, a detecção de fraudes opera em um ambiente adversário em constante mudança, onde cenários fora da distribuição são a regra, e não a exceção.
Isso gera um risco operacional real. Os sistemas de IA costumam apresentar um desempenho impressionante em demonstrações controladas, mas se comportam de maneira muito diferente em ambientes reais de fraude, onde os invasores se adaptam continuamente, exploram pontos fracos e testam repetidamente as defesas. Os sistemas de identidade, portanto, também precisam evoluir continuamente. É por isso que testes adversariais, avaliações reproduzíveis e comparações independentes estão se tornando partes essenciais da defesa moderna contra fraudes. As organizações precisam entender não apenas onde os sistemas têm sucesso, mas também onde falham, pois os invasores inevitavelmente identificarão essas lacunas por conta própria.
Outro grande desafio que surge junto com a adoção da IA é a explicabilidade. À medida que as organizações integram sistemas de IA de maior porte aos fluxos de trabalho de identidade e combate à fraude, as decisões relacionadas à fraude correm o risco de se tornar cada vez mais opacas. Em setores regulamentados, como serviços financeiros, saúde, plataformas de comércio e comércio digital, a explicabilidade não é opcional.
As organizações precisam cada vez mais de visibilidade sobre os motivos pelos quais uma verificação foi aprovada ou reprovada, quais sinais contribuíram para o risco, o que mudou entre as decisões e como a autoridade ou a confiança foram avaliadas em um determinado momento. Isso se torna ainda mais importante à medida que agentes de IA e sistemas automatizados começam a interagir diretamente com a infraestrutura financeira e de identidade. Sem explicabilidade e auditabilidade, as organizações perdem gradualmente a visibilidade sobre a própria confiança.
O futuro da defesa contra fraudes é contínuo
A grande mudança em curso é que a fraude não é mais um fenômeno estático. Ela é adaptável, automatizada, assistida por IA e está em constante evolução. Os sistemas de defesa devem evoluir da mesma forma.
Não haverá um único modelo ou tecnologia capaz de resolver esse problema sozinho. A defesa moderna contra fraudes exige, cada vez mais, uma inteligência de identidade em camadas que abranja verificação de documentos, biometria, detecção de vida, inteligência de dispositivos, análise comportamental, avaliação de risco contextual e monitoramento contínuo. Mais importante ainda, esses sistemas devem se adaptar continuamente à medida que as metodologias de ataque evoluem, pois o cenário das fraudes não muda mais no ritmo humano. A IA está acelerando a velocidade, a escala e a automação dos ataques.
Na Microblink, essa é uma das razões pelas quais lançamos o FREUID Challenge: envolver a comunidade de pesquisa em problemas realistas de detecção de fraudes fora da distribuição, operando sob condições adversas.
Se você quiser conversar mais sobre as capacidades da Microblink na detecção de fraudes envolvendo IA de Geração, entre em contato conosco hoje mesmo.
