Analyse prédictive
L'analyse prédictive utilise des données historiques pour estimer la probabilité d'un résultat futur. Dans le domaine de la fraude et des risques, elle génère un score : la probabilité qu'une demande soit frauduleuse, qu'un compte fasse l'objet d'un défaut de paiement ou qu'une transaction soit non autorisée. Elle est utile, mais présente une limite structurelle qui prime sur tout choix de modélisation : Il ne peut prédire que les tendances qui apparaissent dans les données à partir desquelles il a été entraîné.
| Résultat | Une probabilité ou un score, et non une décision |
| Conditions requises | Des événements historiques répertoriés dont il faut tirer les leçons |
| Méthodes courantes | Régression, arbres à gradient boosté, réseaux neuronaux, modèles de survie |
| En matière de fraude | Évaluation des demandes, risque lié aux transactions, probabilité de défaut, probabilité de rejet de paiement |
| Cela dépend de | Qualité des étiquettes — le constat de ce qui s'est en réalité avéré être une fraude |
| Angle mort structurel | Des résultats qui n'ont jamais été correctement étiquetés dès le départ |
| Contrainte réglementaire | Justifications des mesures défavorables lorsqu'une décision a une incidence sur le crédit |
| À distinguer de | L'analyse comportementale, qui mesure les écarts plutôt que de prédire un résultat |
Comment cela fonctionne, et où se situe la faille
Un modèle prédictif est entraîné à partir de données historiques dont l'issue est connue. Il apprend quelles combinaisons de caractéristiques ont précédé quelles issues, puis applique ces relations à de nouveaux cas. Tout repose sur les étiquettes, c'est-à-dire l'enregistrement de l'issue de chaque cas historique.
C'est en cela que la modélisation de la fraude se distingue de la plupart des problèmes de prédiction, et cette différence n'est pas anodine. Les étiquettes de fraude sont systématiquement erronées dans un sens précis.
Réfléchissez à ceci : usurpation d'identité synthétique. Comme aucune victime ne porte plainte, le compte n'est pas signalé comme frauduleux. Les versements cessent et le montant est passé en perte sur créances. Le modèle est ensuite entraîné à partir de données dans lesquelles ce cas est étiqueté par défaut, et non fraude — et il en déduit à juste titre que ce type de comportement est révélateur d’un risque de crédit plutôt que d’une fraude. Le modèle fonctionne correctement. Ce sont les données d’apprentissage qui lui ont enseigné une leçon erronée.
Il en résulte un angle mort qu’aucune modélisation, aussi sophistiquée soit-elle, ne peut éliminer, car il se situe en amont du modèle. L’amélioration de l’algorithme ne permet pas de corriger les étiquettes qui ont été attribuées de manière erronée.
L'analyse prédictive comparée à des approches connexes
| Approche | Ce qu'il demande | Ce qu'il faut |
|---|---|---|
| Analyse prédictive | Quelle est la probabilité que cela se produise ? | Résultats historiques étiquetés |
| Analyse comportementale | Cela diffère-t-il de la tendance attendue ? | Une valeur de référence, par utilisateur ou par segment |
| Règles | Cela correspond-il à un modèle que nous avons défini ? | Un modèle que quelqu'un a noté |
| Détection des anomalies | Est-ce inhabituel par rapport à l'ensemble de la population ? | Une population, sans étiquettes |
Il s'agit davantage de compléments que d'alternatives, et leurs différences mettent en évidence les lacunes de chacun. Les modèles prédictifs ont besoin d'étiquettes et ne peuvent pas détecter les catégories mal étiquetées. Analyse comportementale Elle a besoin d'une base de référence et ne peut pas détecter la fraude qui a servi à établir cette base. Les règles nécessitent une vision prospective et ne peuvent pas percevoir ce qui est nouveau. La détection des anomalies ne nécessite pas d'étiquettes, mais ne peut pas distinguer ce qui est inhabituel de ce qui est erroné.
Pourquoi est-ce important pour la vérification d'identité ?
Deux contraintes déterminent la place que doit occuper l'évaluation prédictive dans un flux d'identité.
Le démarrage à froid. Lors de l'ouverture d'un compte, cette personne n'a aucun antécédent auprès de cet établissement. Les modèles s'appuient alors sur des caractéristiques issues de la population générale et des fichiers de crédit, qui s'avèrent les moins fiables précisément pour les personnes qui s'écartent le plus de la population utilisée pour l'apprentissage : les demandeurs disposant d'un dossier de crédit limité, les nouveaux arrivants et les jeunes adultes. Un modèle optimisé uniquement en fonction du taux de fraude les refusera systématiquement, ce qui constitue non seulement un risque en matière d’équité dans l’octroi de crédits, mais aussi la perte d’un client.
Explicabilité. Lorsqu'une décision a une incidence sur le crédit, le demandeur a droit à une justification. Un score issu d'un modèle dont personne ne peut décomposer les éléments est difficile à expliquer au demandeur et à l'autorité de régulation ; c'est pourquoi les modèles interprétables continuent d'être utilisés dans la prise de décision, même lorsqu'il en existe de plus précis.
Ces deux éléments vont dans le même sens : au moment de l’intégration, les preuves déterministes l’emportent sur les inférences probabilistes. Un document authentifié et une correspondance biométrique permettent de déterminer s’il s’agit d’une personne réelle et correctement identifiée — un fait, et non une probabilité, qui ne perd pas de sa valeur pour les candidats sans antécédents. La notation prédictive joue alors son rôle, à savoir classer les personnes en fonction du risque qu’elles présentent, une fois leur identité établie. Vérification des pièces d'identité en apporte la preuve ; informations en temps réel fournit les signaux sur lesquels un modèle peut raisonner ; et identité fictive et identité volée Les contrôles ciblent la catégorie que les étiquettes n'ont jamais prise en compte.
Ce que l'analyse prédictive ne peut pas faire
Il ne peut pas tirer de leçons d'une histoire mal interprétée. Une fraude comptabilisée comme perte sur crédit apprend au modèle que la fraude est un risque de crédit.
Il ne peut pas prédire une méthode qu'il n'a jamais vue. Par définition, les nouvelles attaques ne figurent pas dans les données d'entraînement.
Cela donne un résultat, et non une décision. La fixation de ce seuil relève d'un choix politique qui porte sur le rapport entre le coût d'un faux positif et celui d'un faux négatif.
La corrélation n'implique pas nécessairement un lien de causalité, et les indicateurs indirects existent bel et bien. Une caractéristique liée à un motif de protection permettra de la mettre en évidence, que cela soit intentionnel ou non.
Les modèles évoluent. Le comportement et les méthodes d'attaque évoluent, et un modèle qui n'est ni surveillé ni réentraîné se dégrade progressivement, sans que cela soit perceptible, plutôt que de présenter des défaillances manifestes.
Foire aux questions
À quoi sert l'analyse prédictive dans la prévention de la fraude ?
Évaluation de la probabilité d'un résultat futur : qu'une demande soit frauduleuse, qu'un compte soit en défaut de paiement, qu'une transaction soit non autorisée. Le résultat obtenu est une probabilité qui sert de base à une décision, et non la décision elle-même.
Quelle est la différence entre l'analyse prédictive et l'analyse comportementale ?
L'analyse prédictive évalue la probabilité d'un résultat à partir de données historiques étiquetées. L'analyse comportementale permet de déterminer si l'activité actuelle s'écarte d'un schéma établi et nécessite une référence plutôt que des étiquettes. Ces deux approches présentent des limites différentes, c'est pourquoi les programmes les utilisent généralement toutes les deux.
Pourquoi les modèles prédictifs ne détectent-ils pas la fraude à l'identité synthétique ?
Cela tient à la manière dont les données d'entraînement sont étiquetées. Les pertes d'identité synthétiques n'ont pas de victime pour les signaler ; elles sont donc généralement comptabilisées comme des pertes sur crédit plutôt que comme des cas de fraude. Un modèle entraîné sur cet historique apprend à reconnaître ce schéma comme un risque de crédit. Le problème réside dans les étiquettes, et non dans l'algorithme ; un modèle plus performant ne permet donc pas de le résoudre.
Un modèle prédictif peut-il expliquer ses décisions ?
Cela dépend du modèle. Les méthodes plus simples sont interprétables par nature ; les méthodes complexes nécessitent des techniques d'explication qui donnent une approximation du raisonnement plutôt que de le révéler. Lorsqu'une décision a une incidence sur le crédit, les obligations relatives aux mesures défavorables imposent de fournir une justification au demandeur ; c'est pourquoi les modèles interprétables restent courants dans les processus décisionnels.
Lectures complémentaires
- Analyse des fraudes basée sur le comportement — la méthode adjacente, et lorsque chacune des deux est aveugle
- Usurpation d'identité synthétique — la catégorie que les étiquettes n'ont jamais réussi à cerner
- Évaluation des risques — où les résultats des modèles alimentent une vision institutionnelle du risque
- Décision automatique — que se passe-t-il lorsqu'un score atteint un seuil donné ?