IA, deepfakes et fraude synthétique

La séance d'identification qui n'a jamais eu lieu : le Deepfake comme menace interne pour l'organisation

Les personnes de cette vidéo n'ont pas été arrêtées. Mais la vidéo illustre un problème que tout responsable de la sécurité, des ressources humaines et tout PDG doit connaître.

Dans la vidéo ci-dessus apparaissent les personnages de Sam Altman, PDG d'OpenAI, Dario Amodei, PDG d'Anthropic, Mark Zuckerberg et Donald Trump, et face à eux Jensen Huang, debout dans une séance d'identification de police et chantant ensemble.

La situation est ridicule, le résultat est amusant, et la vidéo paraît remarquablement crédible.

Mais aucune séance d'identification de ce genre n'a eu lieu. La vidéo a été créée au moyen de l'intelligence artificielle, dans le cadre d'une satire de l'industrie de l'IA.

La vidéo a été publiée sur X par Matthias Schmidt (@eurofounder), le 16 octobre 2026 : https://x.com/eurofounder/status/2111122495667413424

Je l'ai regardée et j'ai pensé à tout autre chose : que se passe-t-il quand la capacité à produire une réalité aussi convaincante rencontre le monde de l'intégrité organisationnelle ?

Jusqu'à récemment, une photo, un enregistrement vocal et à plus forte raison un appel vidéo étaient considérés comme des preuves importantes qu'une personne donnée avait bien dit ou fait quelque chose.

Aujourd'hui, cette hypothèse n'est plus sûre.

Nous entrons dans une période où l'on peut non seulement falsifier une identité, mais aussi produire pour cette identité un comportement, une voix, des expressions faciales et des interactions qui paraissent entièrement authentiques.

Et ce n'est plus seulement un problème de diffusion de fausses informations. C'est un risque réel pour la sécurité de l'organisation.

De la menace externe à la menace interne

Pensez à trois scénarios :

Un candidat à un poste sensible passe un entretien vidéo sous une fausse identité, avec un visage, une voix et un parcours professionnel qui ne sont pas les siens. L'organisation est convaincue d'avoir recruté une personne donnée, mais accorde en réalité des autorisations et des accès à quelqu'un d'autre.

Un responsable financier reçoit un appel vidéo de quelqu'un qui a exactement l'apparence et la voix du PDG, avec l'instruction urgente de transférer de l'argent ou des informations sensibles. L'employé exécute l'instruction de bonne foi, et l'organisation est touchée de l'intérieur.

Et une vidéo d'un employé, diffusée en ligne, qui documenterait un comportement criminel, des propos extrémistes ou une fuite d'informations. L'organisation se hâte de tirer des conclusions, alors que l'événement n'a jamais eu lieu.

Dans chacun de ces cas, la technologie permet à un acteur externe d'exploiter la confiance, les processus et les autorisations de personnes au sein de l'organisation.

C'est ainsi qu'une menace venue de l'extérieur de l'organisation peut se transformer en incident de menace interne.

Vérifier l'histoire, pas seulement la vidéo

Et c'est là que se pose la question vraiment importante :

Si l'on ne peut plus se fier à ce que l'on voit et entend, à quoi peut-on se fier ?

À mon avis, la réponse réside dans un changement de méthode de vérification.

Au lieu de se demander seulement si la vidéo est vraie, il faut se demander si l'histoire qui se trouve derrière elle est vraie.

C'est là qu'apparaît l'importance des vérifications des antécédents et du renseignement en sources ouvertes (OSINT).

Une vérification OSINT professionnelle ne se contente pas d'analyser une seule image ou une seule vidéo. Elle examine le contexte plus large et relie des informations provenant de sources différentes, de préférence indépendantes, afin de construire une image plus fiable.

Par exemple :

1. Vérification de la source de l'information : Qui a publié la vidéo en premier ? Quand ? Peut-on retrouver la source initiale de la diffusion, et pas seulement des dizaines de partages du même contenu ?

2. Vérification des identités : La personne qui apparaît dans la vidéo correspond-elle à son identité numérique dans la durée ? Existe-t-il un historique professionnel cohérent, une activité sur les réseaux sociaux, des relations et des données externes qui confirment son identité ?

3. Recoupement des sources : Existe-t-il des preuves indépendantes de l'événement allégué ? Les dates, les lieux, les personnes et les circonstances concordent-ils avec d'autres informations vérifiables ?

4. Analyse des schémas d'activité : Y a-t-il un décalage entre un comportement numérique connu et un événement inhabituel ? De nouveaux comptes, des changements d'identité ou des tentatives délibérées de créer une représentation trompeuse sont-ils apparus récemment ?

5. Compréhension du contexte et des motivations possibles : Qui est à l'origine de la diffusion, quel est son environnement d'activité, et existe-t-il des indices d'une tentative de tromper, d'influencer ou de nuire ?

Il faut le souligner : l'OSINT n'est pas une solution miracle. Les sources ouvertes peuvent elles aussi être falsifiées, coordonnées ou erronées. Et l'absence de résultats ne prouve pas qu'une personne ou une vidéo est authentique.

Mais plus on recoupe de sources indépendantes et plus on examine l'enchaînement des événements, plus il est difficile de fonder une fraude sur un seul élément d'information falsifié.

Et c'est précisément l'avantage d'examiner la situation dans son ensemble.

Ce qu'il faut changer dans les procédures

Parallèlement aux vérifications de renseignement, les organisations doivent aussi adapter leurs procédures : vérifier les instructions inhabituelles par un canal de communication indépendant, appliquer un double contrôle aux opérations sensibles, vérifier les identités lors des processus de recrutement et éviter de prendre des décisions sur la base d'une seule vidéo.

Cela signifie que la responsabilité de distinguer le vrai du faux ne peut plus reposer uniquement sur nos yeux, ou sur un logiciel qui tente de détecter les Deepfake.

Elle exige un esprit critique, le recoupement des informations et une compréhension du contexte humain, professionnel et organisationnel.

La vidéo ci-dessus a été conçue pour faire rire. Et elle est vraiment drôle.

Mais elle montre aussi à quel point il sera facile de nous présenter une réalité qui n'a jamais existé.

À une époque où l'on peut falsifier presque tout ce que l'on voit et entend, la confiance ne peut pas reposer sur le caractère convaincant d'une preuve. Elle doit reposer sur la capacité à la vérifier au moyen d'autres preuves.

Et c'est, à mes yeux, l'un des changements les plus importants qui doivent se produire aujourd'hui dans le domaine de l'intégrité et de la sécurité organisationnelles.

Les fondements professionnels des recommandations

Les recommandations de cet article s'appuient sur trois publications d'organismes gouvernementaux américains :

1. La publication conjointe de la NSA, du FBI et de la CISA (septembre 2023). Le document Contextualizing Deepfake Threats to Organizations : les menaces Deepfake pour les organisations, et les moyens de s'y préparer, de les identifier, de s'en défendre et d'y répondre. https://www.cisa.gov/news-events/alerts/2023/09/12/nsa-fbi-and-cisa-release-cybersecurity-information-sheet-deepfake-threats

2. Le document NIST AI 100-4 (novembre 2024). Reducing Risks Posed by Synthetic Content : une revue de la vérification de l'origine des contenus, du marquage et de la détection des contenus synthétiques, ainsi que des limites de ces technologies. https://www.nist.gov/publications/reducing-risks-posed-synthetic-content-overview-technical-approaches-digital-content

3. Le programme Guardians of Forensic Evidence du NIST. Un programme d'évaluation des outils automatisés de détection des Deepfake. Selon le NIST, il existe un écart entre la grande précision obtenue en recherche et la difficulté d'appliquer ces outils dans le monde réel. https://www.nist.gov/programs-projects/guardians-forensic-evidence

La publication conjointe de la NSA, du FBI et de la CISA

Les conseils pour repérer les deepfakes, avec une source pour chaque recommandation, sont disponibles sous forme de document de deux pages en anglais.Télécharger les conseils

Document à télécharger

Conseils pour repérer les deepfakes.

Ce qu'il faut vérifier dans l'image, la voix et la conversation, et quelles procédures protègent l'organisation quand l'œil ne suffit pas. Le document est en anglais. Laissez vos coordonnées et le téléchargement s'ouvre sur cette page.