Pourquoi le Deepfake est-il une technologie innovante et dangereuse ?

Pinterest LinkedIn +

Avez-vous vu la vidéo de Barack Obama qui insulte Trump ? Ou celle de Tom Cruise avec une sucette, qui fait fureur sur TikTok ? Et bien, elles ne sont pas vraies, ou du moins transformées. Je vais vous expliquer le plus simplement possible cette technologie et ces enjeux. 

Vous voulez faire dire à votre idole qu’il vous adore ? C’est aujourd’hui possible avec ce qu’on appelle les deepfakes. Mais quels sont les secrets de cette nouvelle technologie qui laisse sans voix ?

A l’heure actuelle, les vidéos utilisant le deepfake se retrouvent partout. Mais à l’origine, seuls les sites pornographiques faisaient usage de cette technologie, en remplaçant le visage du figurant par celui d’une personnalité connue. Le résultat est bluffant, preuve en est de l’attractivité qu’a engendrée cette pratique sur ces sites.

Les deepfake se sont ensuite généralisés pour réaliser, par exemple, des parodies de célébrités, des films ou encore des faux discours de politiciens

Concrètement, qu’est ce que c’est ?

Définition de cette pratique

Le Deepfake est une contraction de deep learning et de fake.

Le deep learning regroupe toute les technologies numériques qui mettent en place un système d’algorithmes afin de développer une “intelligence amplifiée” (IA)

L’utilisation -intentionnée- de l’intelligence amplifiée à la place de l’intelligence artificielle reprend les travaux du chercheur Marc Halévy. L’IA regroupe “l’ensemble des théories et des techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence humaine”. Ainsi, il est beaucoup plus logique de parler d’une intelligence amplifiée de l’intelligence humaine que d’une nouvelle forme d’intelligence. Le qualificatif IA que j’utilise dans le texte diffère donc logiquement des initiales classiques de l’intelligence des machines qui sont erronées.

L’anglicisme “fake”, quant à lui, signifie “faux, erroné”. Ainsi, le Deepfake est une “une technologie d’apprentissage profond capable de synthétiser de fausses vidéos réalistes de personnes faisant des déclarations qu’ils n’ont jamais faites”

Deepfake Tom Cruise, exemple de vidéos truquées

Prenons l’exemple des fausses vidéos de Tom Cruise. Le compte DeepTomCruise poste en février 2021 une série de vidéos montrant Tom Cruise se faire un croc-en-jambe et tomber par terre, jouer au golf ou se régaler d’une sucette.Toute la planète s’enflamme, quel intérêt l’acteur aurait-il à s’afficher ainsi? 

L’envers du décor              

En réalité, c’est une personne lambda qui a remplacé son propre visage par celui de Tom Cruise en utilisant le deepfake. Personne n’a rien remarqué. Il a fallu qu’il se dénonce pour découvrir la supercherie.

Ici, le logiciel de deepfake a permis deux niveaux de transformation. 

L’incrustation du visage

Le premier est l’incrustation du visage. En prenant une base de données composée de milliers d’images de Tom Cruise, le système de deep learning a permis d’enregistrer un maximum d’expression de son visage et rendre ainsi le plus fidèle possible la permutation des visages. 

La transformation de la voix

Ensuite, le logiciel permet une transformation de la voix. Il récupère la tonalité de la voix de Tom Cruise en y associant le mouvement de ses lèvres puis le superpose sur le visage du figurant.

A travers ces deux techniques, le rendu vidéo est extrêmement réaliste et permet de limiter au maximum les incohérences que l’on pourrait remarquer à l’image.

Quel est l’intérêt d’une telle pratique ? 

On pourrait finalement associer le deepfake à une copie d’After effect ou autres logiciels de tracking vidéo. Mais, à l’inverse de ces derniers, son intérêt se résume en deux points : sa facilité d’accès et son utilisation à portée de tous.

Une facilité d’accès

On retrouve nombre d’outils de deepfake gratuits, sans licence, non réglementés et qui peuvent être exploités par des amateurs ne possédant que des compétences informatiques de base. Il est très aisé de trouver des logiciels de Deepfake. Il existe même des applications portables permettant, peut être de façon moins parfaite que les logiciels, de réaliser des vidéos fake. Prenons l’exemple de FaceApp qui permet à tous, sans compétences particulières, d’appliquer sur son visage un filtre pour se vieillir.

En 2019, un scandale a éclaté: l’entreprise russe exploitant FaceApp, a été suspectée de récupérer les données personnelles des utilisateurs pour son propre fichier, pratique non conforme au règlement européen des données personnelles (RGPD).

Une facilité de compréhension et d’utilisation

Les logiciels utilisant un Deepfake sont très faciles à comprendre. Une des techniques les plus répandues est celle du “Lip-Sync Deepfake”. Ce procédé permet d’introduire une voix dans une vidéo sans que l’on s’en rende compte. Pour cela, plusieurs étapes simples : Il faut d’abord une vidéo de base. On doit ensuite réaliser un enregistrement vocal du discours que l’on veut implanter, ainsi que le mouvement des lèvres durant ce discours. Ces deux données seront transférées sous forme d’un modèle de réseau neuronal qui synchronisera le nouveau discours sur la vidéo originale.

Le Lip-Sync Deepfake transforme le discours que vous souhaitez grâce à des logiciels de deepfake

Le Lip-Sync Deepfake permet de faire dire ce que l’on veut à qui l’on veut

Cette technique nécessite donc un logiciel de “deepfake” qui, lorsque l’on a choisi sa vidéo, synchronise automatiquement l’ensemble des données transmises et modifie la voix afin de créer de façon très réaliste le faux discours.

 

Attention aux raccourcis

Il est nécessaire de nuancer quelque peu ces propos. Oui, les logiciels de deepfake sont facile d’accès et d’utilisation. Aucune compétence n’est requise pour sa création et n’importe qui peut les utiliser. Mais cela demande du temps et un certain nombre de ressources. Essayer de créer une fake vidéo ne se fait pas en 2h. Il faut compter jusqu’à quelques jours et avoir à notre disposition un très grand nombre d’images de la personne que l’on veut imiter (quelques milliers!). Plus le nombre est élevé, plus il y aura de réalisme à la vidéo. 

Les dangers des Deepfakes

Vous l’avez compris, les Deepfakes sont ultra-réalistes et à la portée de tous. Vient alors à l’esprit la question du détournement des vidéos à des fins diffamatoires ou d’usurpation d’identité. 

L’utilisation du Deepfake permet de transformer le contenu de n’importe quelle vidéo. Manipuler devient de plus en plus aisé à l’heure où les réseaux sociaux sont omniprésents et les contrôles difficiles à mettre en place. Ce qui pose la question de la véracité de ce que l’on visionne et de l’utilisation que l’on a d’internet. Il devient important d’être prudent sur toutes les informations et recherches trouvées sur le web. La désinformation prend tout son sens lorsque l’on devient conscient des dangers qu’elle implique.

Les deepfakes sont dangeureux, il faut s'en méfier
Deepfake : exemple d’escroquerie

Peut-on faire encore confiance aux images, à ce que l’on entend et même à ce que l’on voit ?

Quelle suite à cette pratique ?

Les logiciels de détection

Que présage une telle technologie? Comment est-ce contrôler? Il est clair que la facilité déconcertante avec laquelle il est possible pour n’importe qui d’attenter à la vie privée d’une personne ou d’usurper son identité peut faire peur. Il est donc nécessaire de contrôler cette pratique.

  • Le deepfake Detection Challenge

Des mesures ont déjà été mises en place comme le DeepFake Detection Challenge (DFDC). Cette initiative menée par Facebook propose aux participants d’essayer de trouver un programme capable de déceler les fausses vidéos des vraies. Pour l’instant, le modèle le plus efficace a un taux de précision de 82%

Le Deepfake detection challenge est un défi lancé par facebook afin de créer un logiciel capable de repérer des fakevidéos.
Le DFDC
  • Le Checknew

D’autres initiatives voient le jour afin de prévenir des fake news. Checknew est une rubrique de fact-checking développée par le journal Libération. Elle propose un contenu qui a été vérifié au préalable afin d’être sûr de la véracité des propos que comporte l’article.

  • FaceForensics++

On se rend compte que les contrôles de lutte contre les fakenews sont de plus en plus nombreux même s’il n’existe pas encore de logiciels capables de détecter à 100% une fausse vidéo. FaceForensics++ est une base de données qui permet aux chercheurs d’être au courant des dernières avancées de logiciel de détection de deepfake. Cette ensemble de données se base sur différentes méthodes de deepfake et analyse à travers un programme de deeplearning appelé CNN (Réseau neuronal convolutif).

Processus de détection des deepfakes à partir de FaceForensics++

Les défis de la détection

Si les logiciels de détection de deepfake se multiplient, la difficulté de leur fiabilité s’explique par plusieurs facteurs.

  • La qualité de la vidéo à analyser

Le problème de la qualité de la vidéo est un obstacle auquel se heurtent ces logiciels. Lorsqu’un contenu est mis en ligne sur internet, sa qualité se dégrade du fait de nombreux facteurs – compression des données, redimensionnement etc -.Les performances des logiciels de contrôle s’amoindrissent car une vidéo de qualité médiocre est plus difficilement analysable.

  • La multiplicité des méthodes d’utilisation du deepfake

Une autre difficulté rencontrée est la multiplicité des méthodes de deepfake. Mettre en place un logiciel qui généralise l’ensemble des techniques est d’ailleurs l’enjeu majeur du DFDC.

  • L’évolution croissante de la technologie

Enfin, l’évolution du deepfake et son niveau de complexité croissant est l’un des défis majeurs pour ces logiciels qui doivent en permanence s’adapter.

Et si l’actrice de Wonder women n’était pas Gal Gardot mais Lynda Carter ?

Quelle est l’origine du mot deepfake ?

Le Deepfake est une contraction anglaise entre deux mots, le deep learning et « fake« . Il utilise donc une branche du machine learning en appliquant une simulation de réseaux neuronaux à des ensembles de données, pour créer un faux.

Le deepfake est-il légal ?

Les logiciels de deepfake sont gratuits, sans licence, non réglementés. Il est donc possible pour n’importe qui d’utiliser de façon totalement légal ces logiciels. Là où réside la barrière de la légalité se trouve dans l’utilisation du deepfake à des fins diffamatoires ou non-consenties.

Quels sont les dangers ?

Les Deepfakes sont ultra-réalistes et à la portée de tous. La désinformation, l’usurpation d’identité, les problèmes de copyright, l’atteinte à la vie privée sont des dangers du deepfake auxquels il faut se méfier. L’enjeu des années à venir est de permettre sa bonne utilisation par des logiciels de contrôle fiables.

Quels sont les contrôles ?

Il n’existe pas de véritable contrôle. Seul certains logiciels arrivent à repérer les deepfakes mais avec un taux de précision qui ne dépassent pas 90%. Pour pallier ce problème, les initiatives sont prises. Le Deepfake Detection Challenge est un concours lancé par Facebook. Son but est de trouver le logiciel le plus performant possible pour déceler les fausses vidéos.

Quel est l'avenir du deepfake ?
Partager
A propos de l'auteur

Le monde évolue toujours plus vite qu'on ne le pense. Nouveaux produits, nouvelles technologies, nouveaux horizons... L'innovation est au cœur de notre société. J'aime à être celui qui essaie de comprendre ces changements et partage mes découvertes.