Análise Preditiva
A análise preditiva utiliza dados históricos para estimar a probabilidade de um resultado futuro. No âmbito da fraude e do risco, ela gera uma pontuação — a probabilidade de que um pedido seja fraudulento, de que uma conta entre em inadimplência ou de que uma transação seja não autorizada. Ela é útil, mas apresenta uma limitação estrutural que é mais importante do que qualquer escolha de modelagem: ele só consegue prever padrões que aparecem nos dados com os quais foi treinado.
| Saída | Uma probabilidade ou pontuação, não uma decisão |
| Requer | Resultados históricos classificados para servir de lição |
| Métodos comuns | Regressão, árvores com reforço de gradiente, redes neurais, modelos de sobrevivência |
| Por fraude | Pontuação de solicitações, risco de transação, probabilidade de inadimplência, probabilidade de estorno |
| Depende de | Qualidade do registro — o relato do que, na verdade, acabou se revelando uma fraude |
| Ponto cego estrutural | Resultados que, desde o início, nunca foram rotulados corretamente |
| Restrição regulatória | Explicações sobre medidas adversas nas quais uma decisão afeta o crédito |
| Diferente de | A análise comportamental, que mede o desvio em vez de prever um resultado |
Como funciona e onde está o ponto fraco
Um modelo preditivo é treinado com base em registros históricos cujo resultado é conhecido. Ele aprende quais combinações de características precederam quais resultados e aplica essas relações a novos casos. Tudo depende dos rótulos — o registro do resultado final de cada caso histórico.
É nesse ponto que a modelagem de fraudes se diferencia da maioria dos problemas de previsão, e essa diferença não é um mero detalhe. As classificações de fraude apresentam erros sistemáticos em uma direção específica.
Considere fraude de identidade sintética. Como não há vítima para reclamar, a conta não é registrada como fraude. Os pagamentos são suspensos e o valor é baixado como perda de crédito. O modelo é então treinado com dados nos quais esse caso está rotulado padrão, não fraude — e ele aprende, de forma fiel, que esse padrão de comportamento indica risco de crédito, e não fraude. O modelo está funcionando corretamente. Os dados de treinamento lhe ensinaram a lição errada.
O resultado é um ponto cego que nenhuma sofisticação na modelagem consegue eliminar, pois ele se situa a montante do modelo. Melhorar o algoritmo não resolve o problema de rótulos que foram atribuídos incorretamente.
Análise preditiva em comparação com abordagens semelhantes
| Abordagem | O que é solicitado | O que é necessário |
|---|---|---|
| Análise preditiva | Qual é a probabilidade desse resultado ocorrer? | Resultados históricos rotulados |
| Análise comportamental | Isso difere do padrão esperado? | Uma linha de base, por usuário ou por segmento |
| Regras | Isso corresponde a um padrão que definimos? | Um padrão que alguém anotou |
| Detecção de anomalias | Isso é incomum em relação à população? | Uma população, sem rótulos |
Trata-se de complementos, e não de alternativas, e as diferenças revelam os pontos cegos de cada um. Os modelos preditivos precisam de rótulos e não conseguem identificar categorias rotuladas incorretamente. Análise comportamental precisa de uma linha de base e não consegue identificar a fraude que criou essa linha de base. As regras exigem previsão e não conseguem detectar nada novo. A detecção de anomalias não precisa de rótulos, mas não consegue distinguir o incomum do errado.
Por que isso é importante para a verificação de identidade
Dois limites determinam em que ponto a pontuação preditiva deve ser aplicada em um fluxo de identidade.
A partida a frio. No momento da abertura da conta, não há histórico dessa pessoa junto a essa instituição. Os modelos recorrem a características derivadas da população e de agências de crédito, que são mais fracas justamente para as pessoas que menos se assemelham à população de treinamento — candidatos com poucos registros, recém-chegados e jovens adultos. Um modelo ajustado exclusivamente com base na taxa de fraude rejeitará sistematicamente esses candidatos, o que representa um risco à equidade no crédito, além da perda de um cliente.
Explicabilidade. Quando uma decisão afeta o crédito, o solicitante tem direito a uma justificativa. É difícil explicar ao solicitante e a um órgão regulador uma pontuação proveniente de um modelo que ninguém consegue decompor; é por isso que os modelos interpretáveis continuam sendo utilizados na tomada de decisões, mesmo quando existem modelos mais precisos.
Ambos apontam na mesma direção: no momento da integração, as evidências determinísticas superam a inferência probabilística. Um documento autenticado e uma correspondência biométrica respondem se se trata de uma pessoa real e corretamente identificada — um fato, não uma probabilidade, e que não perde validade para candidatos sem histórico. A pontuação preditiva, então, faz o que sabe fazer de melhor, que é classificar o risco entre pessoas cuja identidade já está comprovada. Verificação de documentos de identidade apresenta o fato; informações em tempo real fornece os sinais sobre os quais um modelo pode raciocinar; e identidade sintética e roubada Os controles abordam a categoria que os rótulos nunca captaram.
O que a análise preditiva não consegue fazer
Ela não pode aprender com uma história distorcida. A fraude registrada como perda de crédito ensina ao modelo que a fraude é um risco de crédito.
Ele não consegue prever um método que nunca viu. Ataques inéditos, por definição, não estão presentes nos dados de treinamento.
Isso gera uma pontuação, não uma decisão. A definição do limite é uma questão de política que envolve o custo relativo de um falso positivo e de um falso negativo.
Correlação não significa causalidade, e os indicadores substitutos são reais. Uma característica correlacionada a uma característica protegida irá codificá-la, independentemente de alguém ter tido essa intenção ou não.
Os modelos sofrem desvios. O comportamento e os métodos de ataque mudam, e um modelo que não seja monitorado e retreinado se degrada silenciosamente, em vez de apresentar falhas visíveis.
Perguntas frequentes
Para que serve a análise preditiva na prevenção de fraudes?
Avaliação da probabilidade de um resultado futuro — de que um pedido seja fraudulento, de que uma conta entre em inadimplência, de que uma transação seja não autorizada. O resultado é uma probabilidade que serve de base para uma decisão, e não a decisão em si.
Qual é a diferença entre análise preditiva e análise comportamental?
A análise preditiva estima a probabilidade de um resultado com base em dados históricos rotulados. A análise comportamental avalia se a atividade atual se desvia de um padrão estabelecido e requer uma linha de base, em vez de rótulos. Elas apresentam falhas de maneiras diferentes, e é por isso que os programas geralmente utilizam ambas.
Por que os modelos preditivos não detectam a fraude de identidade sintética?
Devido à forma como os dados de treinamento são rotulados. As perdas por identidade sintética não têm vítimas para denunciá-las, por isso geralmente são registradas como perdas de crédito, e não como fraude. Um modelo treinado com base nesse histórico aprende o padrão como risco de crédito. O problema está nos rótulos, não no algoritmo; portanto, um modelo melhor não resolve a questão.
Um modelo preditivo é capaz de explicar suas decisões?
Isso depende do modelo. Métodos mais simples são interpretáveis por definição; os complexos exigem técnicas de explicação que se aproximam do raciocínio, em vez de revelá-lo. Quando uma decisão afeta o crédito, os requisitos relativos a ações adversas determinam que o requerente tenha direito a uma justificativa, e é por isso que os modelos interpretáveis continuam sendo comuns na tomada de decisões.
Leitura relacionada
- Análise de fraudes com base no comportamento — o método adjacente, e em que cada um dos dois é cego
- Fraude de identidade sintética — a categoria que os rótulos nunca conseguiram abranger
- Avaliação de riscos — onde os resultados do modelo contribuem para uma visão institucional do risco
- Decisão automática — o que acontece quando uma pontuação atinge um limite