Arnaque au deepfake vidéo

Comment ça fonctionne

Un deepfake est un contenu audiovisuel généré ou modifié par intelligence artificielle pour reproduire l'apparence ou la voix d'une personne réelle. Dans les arnaques sentimentales, cette technologie permet aux escrocs de franchir la barrière qui les arrêtait jusqu'ici : l'appel vidéo. Là où un brouteur classique refusait systématiquement la visioconférence parce que son visage ne correspondait pas aux photos volées, un escroc équipé d'un deepfake peut désormais apparaître en vidéo avec le visage de quelqu'un d'autre.

Les cas les plus médiatisés impliquent des célébrités (voir la fiche usurpation d'identité de célébrité et notre analyse de l'affaire du faux Brad Pitt). Mais les deepfakes sont de plus en plus utilisés dans des arnaques sentimentales ordinaires, qui ciblent des personnes lambda. Le scénario se déroule en cinq temps.

1. La technologie deepfake en temps réel : l'escroc utilise un logiciel capable de modifier un visage pendant un appel vidéo. Le visage de la personne dont l'identité est usurpée est superposé sur le sien : les mouvements des lèvres, les expressions faciales et les mouvements de tête sont reproduits en direct. La qualité de ces deepfakes s'améliore constamment.
2. Dépasser la barrière de la vérification vidéo : le principal conseil de sécurité contre les arnaques sentimentales a toujours été d'insister pour un appel vidéo. Les deepfakes en temps réel rendent ce conseil insuffisant. L'escroc peut désormais « prouver » son identité par vidéo, ce qui renforce considérablement la confiance de la victime.
3. Les conditions contrôlées : les appels vidéo deepfake se déroulent toujours dans des conditions que l'escroc maîtrise, à savoir faible luminosité, courte durée, angle fixe et qualité vidéo réduite (« ma connexion est mauvaise »). Ces conditions masquent les imperfections du deepfake. L'escroc évite les mouvements brusques de la tête et les gros plans.
4. Le renforcement de la confiance : après un appel vidéo deepfake « réussi », la victime est convaincue de l'authenticité de la relation. Elle baisse complètement sa garde, et cette confiance renforcée rend les demandes d'argent ultérieures beaucoup plus efficaces.
5. L'exploitation : fort de la confiance absolue de la victime, l'escroc passe à l'exploitation financière. Les montants soutirés sont généralement plus élevés que dans les arnaques sans vidéo, car la victime est certaine de l'identité de son interlocuteur.

Ce qui se passe techniquement pendant l'appel

Des applications comme DeepFaceLive, FaceFusion ou des logiciels similaires permettent de remplacer son propre visage par celui d'une autre personne pendant un appel en direct sur Zoom, WhatsApp, Skype ou toute autre plateforme. L'escroc pointe une webcam physique sur son visage. Le logiciel de face swap intercepte le flux vidéo, détecte ce visage et le remplace par le visage cible (celui des photos volées) avant de transmettre le flux modifié à l'application d'appel. Le remplacement s'effectue image par image, environ 25 à 30 fois par seconde.

La qualité du résultat dépend de la puissance de l'ordinateur (un GPU performant est nécessaire pour un rendu fluide), du nombre de photos d'entraînement du visage cible, de l'éclairage et de l'angle de la caméra. En conditions favorables (bon éclairage, visage de face, résolution limitée), le résultat peut être convaincant pour un observateur non averti.

Au-delà de la vidéo : voix clonée, photos générées et chatbots

L'appel vidéo truqué n'est qu'une des briques de l'arnaque. La même intelligence artificielle sert à cloner une voix, à fabriquer des photos de profil et à automatiser la conversation.

La voix clonée : appels et messages vocaux

Le clonage vocal par IA est devenu remarquablement accessible. Des services comme ElevenLabs, Resemble.AI ou VALL-E de Microsoft peuvent reproduire une voix à partir de quelques secondes d'enregistrement audio. L'escroc récupère un échantillon vocal de la personne dont il usurpe l'identité (une vidéo YouTube, un podcast, un message vocal public), puis s'en sert de deux manières.

• Les appels téléphoniques : un logiciel de synthèse vocale lui permet de parler avec cette voix en direct. La qualité des voix synthétiques actuelles suffit à tromper la plupart des interlocuteurs, surtout par téléphone, où la bande passante audio est limitée.
• Les messages vocaux préparés : plus simple encore, l'escroc génère à l'avance des messages avec la voix clonée et les envoie sur WhatsApp ou Telegram. La victime reçoit un message qui semble provenir de la personne des photos, ce qui renforce considérablement l'illusion. Contrairement à un appel en direct, un message pré-généré peut être retravaillé et peaufiné avant envoi.

Les photos de profil générées par IA

Jusqu'en 2022, les escrocs volaient des photos de vraies personnes sur les réseaux sociaux, le principe du catfishing. Cette méthode reste dominante mais présente un risque : la recherche d'image inversée permet de retrouver la source originale. Les photos générées par IA éliminent ce risque. Un visage créé par un générateur d'images n'existe nulle part ailleurs sur internet, ce qui rend la recherche inversée inutile. Plusieurs technologies permettent de générer des visages photoréalistes :

• StyleGAN (et ses successeurs) : développé par NVIDIA, ce réseau génère des visages extrêmement réalistes. Le site ThisPersonDoesNotExist.com en est la démonstration la plus connue.
• Stable Diffusion : modèle open source capable de générer des portraits à partir de descriptions textuelles (« femme blonde, 30 ans, souriante, photo naturelle »).
• Midjourney : génère des images de haute qualité esthétique, utilisées par les escrocs pour créer des photos de profil attrayantes.

Repérer une photo générée par IA

Malgré les progrès rapides, les images générées par IA présentent encore des artefacts détectables par un examen attentif :

• Asymétrie faciale inhabituelle : les visages réels ne sont jamais parfaitement symétriques, mais l'IA produit des asymétries spécifiques, comme une oreille différente de l'autre ou un contour de mâchoire irrégulier.
• Arrière-plans flous ou incohérents : le fond de l'image présente souvent des distorsions (texte illisible, objets déformés, lignes droites qui ondulent).
• Boucles d'oreilles différentes : un classique des générateurs, les deux boucles d'oreilles ne correspondent pas ou l'une est déformée.
• Doigts mal formés : les mains générées par IA présentent fréquemment des anomalies, qu'il s'agisse d'un nombre incorrect de doigts, d'articulations impossibles ou de doigts fusionnés.
• Cheveux et textures : la limite entre les cheveux et le fond peut présenter un « halo » ou des mèches qui se dissolvent de manière non naturelle.
• Dents trop parfaites : les générateurs tendent à produire des dentitions uniformément blanches et alignées qui semblent artificielles.

Les chatbots qui écrivent à la place de l'escroc

La barrière de la langue a pratiquement disparu grâce aux traducteurs IA comme ChatGPT, qui produisent un français naturel et sans faute. Les chatbots permettent aussi d'industrialiser l'arnaque : un seul escroc peut désormais gérer des centaines de conversations simultanées en déléguant la rédaction des messages à un modèle de langage, et n'intervenir personnellement qu'aux moments critiques (demande d'argent, gestion des objections).

Les signes pour le détecter

Ce qu'il faut observer pendant l'appel

• L'appel vidéo est toujours de courte durée et de qualité médiocre.
• La personne évite de tourner la tête, de se lever ou de montrer son environnement.
• Le contour du visage : la limite entre le visage superposé et ce qui l'entoure (cou, cheveux, oreilles) tremble, scintille, devient floue ou se décale légèrement.
• Les traits et les expressions : les traits se déforment un instant, les expressions paraissent mécaniques ou décalées par rapport à la parole, les lèvres ne suivent pas exactement la voix. Les micro-expressions authentiques (froncement de sourcils spontané, plissement des yeux en riant) sont difficiles à reproduire.
• Les clignements des yeux : certains deepfakes présentent des clignements irréguliers, trop fréquents, trop lents, ou absents pendant de longues périodes.
• L'éclairage : les ombres sur le visage ne correspondent pas à l'éclairage de l'environnement visible autour.
• La personne refuse de faire un geste spécifique que vous lui demandez spontanément.

Les tests à faire pendant l'appel

Le deepfake en temps réel a des limites techniques. Plutôt que d'observer passivement, testez activement l'authenticité de la vidéo :

1. Demandez de tourner complètement la tête de profil : les deepfakes gèrent moins bien les angles extrêmes. Un profil complet (90 degrés) provoque souvent des artefacts visibles.
2. Demandez de passer la main devant le visage : le logiciel de face swap perd le suivi quand le visage est partiellement caché, ce qui peut provoquer des glitchs.
3. Demandez de toucher son nez ou son oreille : le contact entre la main et le visage révèle les limites du face swap.
4. Demandez une action concrète : se lever et marcher, montrer un objet précis, écrire un mot sur un papier et le montrer à la caméra. Ces actions sont difficiles à reproduire en deepfake.
5. Changez brusquement de sujet : observez si les expressions faciales réagissent naturellement à une surprise ou à une blague inattendue.

Ce que font les plateformes et les outils de détection

Les grandes plateformes ont commencé à intégrer des outils de détection IA pour contrer cette menace. Depuis mai 2024, Meta (Facebook, Instagram, Threads) appose une mention sur les contenus qu'elle détecte comme générés par IA (Meta, 5 avril 2024). Tinder a introduit la vérification par selfie vidéo, reprise ensuite par d'autres applications du groupe Match comme Hinge ou Plenty of Fish (Match Group, 9 juin 2023), et Bumble demande un selfie qui reproduit une pose donnée : de quoi vérifier que le visage de l'utilisateur correspond à ses photos.

Des outils de détection spécialisés existent également. Sensity propose aux organisations et aux entreprises une plateforme et une API de détection de deepfakes. Microsoft a présenté en septembre 2020 Video Authenticator, qui attribue à une photo ou à une vidéo un score de confiance sur sa manipulation, mais ne l'a ouvert, au départ, qu'aux médias et aux campagnes électorales (Microsoft, 1er septembre 2020). Ces outils ne sont pas infaillibles, mais ils ajoutent une couche de protection supplémentaire.

Exemple type

Patricia, 55 ans, échange depuis un mois avec « Richard », un homme d'affaires américain rencontré sur Facebook. Patricia est prudente : elle a lu des articles sur les arnaques sentimentales et sait qu'il faut insister pour un appel vidéo. Elle le demande à Richard, qui accepte.

L'appel a lieu sur WhatsApp. Patricia voit un homme correspondant aux photos du profil : même visage, même sourire. L'image est un peu saccadée et la qualité médiocre, mais Richard explique qu'il est dans un hôtel avec une mauvaise connexion Wi-Fi. L'appel dure trois minutes. Patricia est rassurée : c'est bien lui.

Ce que Patricia ne sait pas, c'est que « Richard » utilise un logiciel de deepfake en temps réel qui plaque le visage des photos volées sur son propre visage. La courte durée de l'appel et la qualité réduite masquent les imperfections.

Forte de cette « preuve », Patricia fait complètement confiance à Richard. Quand il demande 8 000 euros pour un problème de trésorerie lié à une transaction bloquée à l'étranger, elle n'hésite pas. Puis 12 000 euros pour des frais juridiques. Puis 6 000 euros pour un billet d'avion et un visa. Patricia a versé 26 000 euros avant de réaliser, grâce à une amie qui connaît la technologie deepfake, qu'un appel vidéo de trois minutes en basse qualité ne prouve rien.

Se protéger : les règles qui tiennent encore

Un appel vidéo ne suffit plus à garantir l'identité d'une personne. Face à l'évolution rapide de la technologie, la protection repose sur un ensemble de pratiques plutôt que sur une mesure unique.

• Croiser les vérifications : même si l'appel vidéo semble authentique, confrontez-le à d'autres méthodes, comme la recherche d'image inversée, la cohérence du profil, la vérification de l'emploi et des numéros de téléphone, ou un appel sur un numéro fixe vérifiable. La méthode pas à pas est détaillée dans notre guide pour vérifier un profil sur un site de rencontre.
• Se méfier des vidéos envoyées par message : une vidéo reçue, et non un appel en direct, ne prouve rien. Les vidéos deepfake pré-générées sont nettement plus convaincantes que le temps réel, car elles peuvent être retravaillées.
• Viser la rencontre physique : c'est la protection ultime. Le deepfake ne fonctionne pas dans le monde réel.

Face à des contenus visuels qui semblent trop parfaits pour être vrais, faire authentifier les preuves par un expert permet de trancher rapidement et d'éviter de continuer à investir affectivement dans une fiction.

Que faire si vous êtes victime

1. Cessez tout contact et tout paiement immédiatement.
2. Conservez les enregistrements des appels vidéo si possible, ainsi que toutes les captures d'écran et preuves de paiement.
3. Déposez plainte auprès de la police ou de la gendarmerie. Mentionnez l'utilisation probable de deepfakes pour orienter l'enquête.
4. Contactez votre banque pour tenter de bloquer les virements récents.
5. Appelez France Victimes au 116 006 (appel gratuit) pour un accompagnement.
6. Contactez Info Escroqueries au 0 805 805 817 (appel gratuit).

Sources

• Europol, Facing Reality: Law Enforcement and the Challenge of Deepfakes, 2024
• Korea JoongAng Daily, Criminal ring busted for using deepfakes to net $8.4M through romance scams, 30 avril 2025
• Meta, Our Approach to Labeling AI-Generated Content and Manipulated Media, 5 avril 2024
• Microsoft, New Steps to Combat Disinformation, 1er septembre 2020
• Match Group, Match Group Tells Spammers To Bot Off, 9 juin 2023
• Sensity, The State of Deepfakes 2024
• Cybermalveillance.gouv.fr, Comment réagir en cas d'escroquerie sentimentale ?, fiche publiée le 7 février 2024, mise à jour le 15 septembre 2026