Deepfake

Le terme « deepfake » désigne un type de média synthétique qui combine des contenus visuels ou audio existants avec des techniques d’intelligence artificielle (IA) afin de créer des contenus manipulés ou fabriqués de toutes pièces qui semblent authentiques. Le terme « deepfake » est dérivé des mots « deep learning » (apprentissage profond) et « fake » (faux). Des algorithmes d’apprentissage profond sont utilisés pour analyser et extraire des modèles à partir d’un vaste ensemble de données d’images ou de vidéos, qui sont ensuite exploités pour générer ou modifier du contenu de manière réaliste.

La technologie du deepfake peut servir à superposer le visage d’une personne sur le corps d’une autre, ou à modifier les expressions, la voix ou les gestes dans une vidéo. Les algorithmes d’IA sont capables de saisir les détails et les nuances les plus infimes afin de créer un contenu hautement convaincant et trompeur.

Types de deepfakes

Les deepfakes se présentent sous plusieurs formes distinctes, chacune avec des capacités et des applications différentes :

Deepfakes vidéo

• Deepfakes par échange de visages : remplacer le visage d’une personne par celui d’une autre dans un contenu vidéo
• Reconstitution faciale : manipulation des expressions faciales, des mouvements des yeux et de la bouche
• Manipulation du corps entier : contrôle des mouvements et des gestes de l'ensemble du corps

Deepfakes audio (clonage de voix)

• Synthèse vocale : générer un discours entièrement nouveau avec la voix d'une personne
• Conversion vocale : transformer la voix d’une personne pour qu’elle ressemble à celle d’une autre
• Modification de l'accent et de la langue : modifier les intonations et les langues

Deepfakes textuels

• Contenu écrit généré par l’IA : créer de fausses publications sur les réseaux sociaux, des articles ou des messages
• Usurpation d’identité via l’IA conversationnelle : simuler le style d’écriture et la personnalité d’une personne

Exemples courants

Parmi les applications concrètes des deepfakes, on peut citer :

• L'échange de visages de célébrités dans des contenus viraux sur les réseaux sociaux
• La manipulation d’images de personnalités politiques dans des contenus de campagne trompeurs
• La reconstitution de personnes décédées pour des films et des documentaires
• L'usurpation d'identité de dirigeants d'entreprise dans le cadre d'escroqueries
• Des deepfakes de vengeance visant des particuliers
• Reconstitutions pédagogiques de personnages historiques

Comment sont créés les deepfakes

Le processus de création comporte plusieurs éléments clés :

Exigences techniques

• Réseaux antagonistes génératifs (GAN) : deux modèles d’IA s’affrontent – l’un crée du contenu falsifié, l’autre détecte les contrefaçons
• Vastes ensembles de données : des centaines, voire des milliers d'images, ou des heures de vidéo/audio de la personne ciblée
• Puissance de calcul : cartes graphiques haut de gamme ou ressources de cloud computing
• Logiciels spécialisés : à la fois des outils commerciaux et des applications open source

Étapes de création

1. Collecte de données : rassemblement de matériel source concernant la personne ciblée
2. Apprentissage : les modèles d'IA apprennent les traits du visage, les expressions et les caractéristiques vocales
3. Génération : création de nouveaux contenus synthétiques à partir des modèles appris
4. Affinage : amélioration de la qualité grâce à de multiples itérations et à des ajustements manuels

Niveaux d'accessibilité

• Niveau professionnel : nécessite une expertise technique et des ressources importantes
• Applications grand public : applications mobiles simplifiées et outils en ligne
• Services automatisés : plateformes de génération de deepfakes en un clic

Utilisations légitimes vs applications nuisibles

Applications légitimes

• Industrie du divertissement : résurrection numérique d’acteurs, doublage à moindre coût
• Éducation : recréation de personnages historiques pour un apprentissage immersif
• Accessibilité : restauration de la voix pour les patients
• Formation en entreprise : contenu multilingue pour les porte-parole
• Art et créativité : installations d’art numérique et médias expérimentaux

Applications nuisibles

• Campagnes de désinformation : faux discours et déclarations politiques
• Usurpation d'identité : usurpation d'identité à des fins de fraude financière
• Contenus intimes non consentis : création de contenus explicites sans autorisation
• Cyberharcèlement : harcèlement par le biais de contenus embarrassants manipulés
• Manipulation des marchés : fausses déclarations de PDG affectant les cours boursiers

Détection et prévention

Techniques de détection

• Analyse technique : examen des artefacts de compression, des incohérences d’éclairage et des anomalies au niveau des pixels
• Analyse comportementale : identification des schémas de clignement des yeux, des mouvements faciaux et des schémas de parole non naturels
• Outils de détection basés sur l’IA : logiciels spécialisés conçus pour identifier les contenus synthétiques
• Vérification par la blockchain : preuve cryptographique de l’authenticité du contenu

Limites actuelles

Les technologies de détection sont souvent en retard par rapport aux capacités de création, ce qui entraîne une course à l’armement technologique permanente entre les créateurs et les détecteurs.

Contexte réglementaire

Évolutions juridiques

• Droit pénal : de nombreuses juridictions classent désormais les deepfakes malveillants comme des infractions pénales
• Politiques des plateformes : les entreprises de réseaux sociaux mettent en place des systèmes de détection et de suppression
• Normes sectorielles : élaboration de protocoles d’authentification des contenus
• Coopération internationale : efforts transfrontaliers pour lutter contre l’utilisation abusive des deepfakes

Si la technologie des deepfakes présente un potentiel pour le divertissement et la création, elle comporte également de graves risques. Les progrès rapides et l’accessibilité de cette technologie exigent une sensibilisation accrue, le développement de techniques de détection et l’élaboration de lignes directrices éthiques afin d’atténuer les préjudices potentiels.