Apprentissage automatique (ML)
L'apprentissage automatique désigne un ensemble de méthodes permettant de créer des systèmes dont le comportement découle de données plutôt que d'instructions explicites. Au lieu qu'une personne rédige les règles, le système déduit les relations à partir d'exemples, ce qui le rend particulièrement adapté aux problèmes pour lesquels une tendance existe bel et bien, mais que personne ne parvient à formuler clairement.
La détection des fraudes et la vérification d'identité relèvent toutes deux de ce type de problèmes, et l'apprentissage automatique est à la base de la plupart des solutions mises en œuvre dans chacun de ces domaines. C'est également un domaine où l'on parle moins des limites que des capacités, et en matière de fraude, ces limites concernent principalement les données plutôt que les algorithmes.
| Apprentissage supervisé | Apprend à partir d'exemples étiquetés — la plupart des systèmes d'évaluation de la fraude |
| Apprentissage non supervisé | Identification de structures sans étiquettes — détection d'anomalies, regroupement en grappes |
| Dans le cadre de la vérification d'identité | Classification de documents, extraction de données, reconnaissance faciale, vivacité |
| Dans le domaine de la détection des fraudes | Évaluation des risques, modélisation comportementale, analyse des réseaux et des liens |
| Évalué à l'aide de | AUC, la précision et le rappel — et non l'exactitude |
| Principale contrainte en matière de fraude | La qualité des étiquettes, et non l'architecture du modèle |
Ce que l'apprentissage automatique fait mieux que les règles
Une règle codifie une relation que l'on connaît déjà. C'est un atout lorsque cette relation est stable et doit pouvoir être expliquée, mais cela devient une limite insurmontable lorsque le modèle utile implique l'interaction de nombreux signaux faibles.
Pris isolément, les signaux de fraude sont généralement peu significatifs. L'achat d'un nouvel appareil n'a rien d'anormal. Une heure de commande légèrement inhabituelle n'a rien d'anormal. Une adresse de livraison située à deux cents miles de l’adresse de facturation n’a rien d’anormal. La combinaison de ces éléments, à une certaine valeur, provenant d’un réseau particulier, peut être fortement prédictive — et personne n’aurait rédigé cette règle, car cette interaction n’est pas visible à première vue.
Les modèles s'adaptent également à mesure que la population évolue, ce qui entraîne une accumulation de règles. La plupart des moteurs de règles bien établis contiennent des centaines de règles, dont certaines se contredisent, beaucoup ayant été rédigées pour des conditions qui n'existent plus, et personne ne souhaite les supprimer car personne ne sait ce qui dépend de quoi.
Dans le domaine de la vérification d'identité, cela est encore plus vrai. Lire un document sous différents éclairages parmi des centaines de variantes, ou déterminer si un visage est physiquement présent, sont des tâches de perception qui ne peuvent absolument pas être définies sous forme de règles.
Pourquoi les étiquettes constituent la véritable contrainte
C'est cet aspect qui détermine la qualité d'un modèle de détection de la fraude, et il s'agit davantage d'un problème lié aux données que d'un problème de modélisation.
- Les affaires classées sans suite n'ont pas donné lieu à une décision. Une demande qui a été rejetée n'a jamais permis de déterminer si elle était frauduleuse. Le modèle n'apprend jamais si ces refus étaient justifiés, et le fait de le réentraîner sur ses propres décisions ne fait que les renforcer. Au fil du temps, il devient plus performant pour reproduire les décisions passées, ce qui n'est pas la même chose que d'améliorer sa capacité à détecter la fraude.
- Une fraude non détectée est considérée comme légitime. Les fraudes qui n'ont jamais été détectées figurent dans les données d'entraînement comme des résultats valides, ce qui enseigne activement au modèle que ce schéma est acceptable.
- Les étiquettes arrivent en retard. Une procédure de contestation peut prendre des mois ; une sleeper Cela peut prendre des années. Le modèle apprend sans cesse d'un monde qui a évolué.
- Les cas de fraude sont rares. Avec un taux de résultats positifs bien inférieur à 1 %, le modèle ne rencontre que très peu de cas correspondant à ce qu’il est censé détecter, et la précision perd tout son sens : approuver tous les cas permet d’obtenir un taux supérieur à 99 %.
Conséquence : En matière de détection de la fraude, l'écart entre un bon modèle et un modèle médiocre est généralement moins important que celui entre de bonnes caractéristiques et de mauvaises. Les efforts consacrés à la qualité des données sont généralement plus rentables que ceux consacrés à l'architecture.
Pourquoi est-ce important pour la vérification d'identité ?
L'apprentissage automatique intervient à deux reprises dans le travail sur l'identité, où il remplit des fonctions différentes.
Vérification interne Il se charge de la reconnaissance : identifier le type de document présenté parmi des centaines de catégories, localiser et lire les champs, vérifier la présence et la cohérence des éléments de sécurité, associer un visage à un portrait et déterminer si le sujet est bien vivant. Ce sont là des tâches pour lesquelles les modèles ont remplacé des approches qui n’avaient jamais donné de bons résultats.
En aval, la vérification apporte au modèle une catégorie de caractéristiques qualitativement différente. Un modèle de détection de fraude qui analyse les données déclarées par le demandeur lui-même se base sur les affirmations que ce dernier a choisi de faire. Ce même modèle, lorsqu’on lui fournit un nom, une date de naissance et un numéro de document vérifiés, raisonne à partir de faits. Il devient également capable de faire correspondre des enregistrements à une même personne réelle, ce qui est indispensable pour les caractéristiques de vélocité et de réseau — et ce que les données autodéclarées ne peuvent pas permettre, puisqu’une identité fabriquée est conçue pour ne pas pouvoir être identifiée.
En résumé, pour être honnête : de meilleurs modèles apportent une amélioration marginale, tandis que de meilleures données font évoluer l'ensemble de la courbe.
Ce que l'apprentissage automatique ne peut pas faire en matière de lutte contre la fraude
Il ne peut pas détecter ce qu'il n'a jamais vu. Les modèles supervisés identifient des schémas ressemblant à des cas de fraude connus. Une technique véritablement novatrice reste invisible tant qu’un nombre suffisant de cas n’a pas été étiqueté ; c’est pourquoi les règles et le jugement des analystes restent indispensables en complément des modèles, et non pas comme des éléments obsolètes.
Elle ne peut s'expliquer d'elle-même sans un effort délibéré. Plusieurs réglementations exigent que les décisions défavorables soient expliquées à la personne concernée. Un score ne répond pas à cette exigence, et l'explicabilité doit être construite plutôt que supposée.
On ne peut pas garantir l'équité en supprimant les critères protégés. Les modèles apprennent des variables approximatives — la géographie, le coût des appareils, les schémas de nommage — et le fait de supprimer le champ explicite ne remet pas en cause la corrélation. Pour garantir l'équité, il faut mesurer les résultats entre les groupes, et non omettre des colonnes.
Ça ne tient pas bien tout seul. La fraude évolue, les populations changent et les modèles dérivent. Un modèle qui n'est pas contrôlé à la lumière de nouvelles données sur les résultats se dégrade insidieusement tout en continuant à fournir des chiffres qui semblent fiables.
Il ne permet pas d'établir l'identité. Un modèle peut conclure qu'un cas s'apparente à une fraude. Il ne peut toutefois pas déterminer l'identité d'une personne : cela nécessite des preuves, et les preuves relèvent d'un autre domaine que les déductions.
Foire aux questions
Comment l'apprentissage automatique est-il utilisé dans la détection des fraudes ?
Principalement pour l'évaluation des risques, où un modèle prend en compte de nombreux signaux faibles afin de classer les cas ; pour la modélisation comportementale, en comparant l'activité à des modèles appris ; et pour l'analyse de réseaux, en identifiant des liens entre des comptes qui ne sont pas couverts par des règles. Dans le cadre de la vérification d'identité, il effectue également la lecture de documents, la reconnaissance faciale et la vérification de la présence.
L'apprentissage automatique est-il plus efficace que les règles pour lutter contre la fraude ?
Pour des raisons différentes. Les modèles traitent de nombreux signaux faibles qui interagissent entre eux et s’adaptent à mesure que les populations évoluent. Les règles sont explicites, compréhensibles et immédiatement applicables — ce qui est essentiel pour respecter les contraintes réglementaires et pour réagir le jour même à une nouvelle attaque. Les systèmes de production utilisent presque toujours les deux.
Pourquoi la précision est-elle un mauvais indicateur pour les modèles de détection de la fraude ?
Parce que la fraude est rare. Avec un taux de fraude de 0,1 %, un modèle qui approuve toutes les demandes présente une précision de 99,9 % mais ne détecte aucun cas de fraude. La précision, le rappel et l'aire sous la courbe précision-rappel reflètent les performances du modèle sur les cas qui comptent vraiment.
Quels sont les freins à l'apprentissage automatique dans la détection de la fraude ?
La qualité des étiquettes, avant tout. Les demandes rejetées n'aboutissent à rien, les fraudes non détectées sont enregistrées comme légitimes et les étiquettes arrivent avec des mois de retard. Un modèle entraîné de cette manière apprend à reproduire les décisions passées ; ainsi, l'amélioration des données sous-jacentes apporte généralement davantage que l'amélioration du modèle lui-même.
Lectures complémentaires
- Indice de fraude — les résultats fournis par ces modèles
- Aire sous la courbe — comment on évalue la qualité d'un modèle
- Analyse des fraudes basée sur le comportement — ce sont les modèles de la gamme Signal qui sont les plus utilisés
- Détection de présence — une tâche de perception que seuls les modèles sont capables d'effectuer