Savez-vous ce que sont les Deepfakes et comment ils peuvent vous affecter ? Seriez-vous capable de détecter un Deepfake et de le différencier d’une vraie vidéo ? Vous souhaitez savoir comment est fabriqué un Deepfake et à quoi il sert ? Pensez-vous que les Deepfakes représentent un risque ou une menace pour les citoyens, les entreprises et les institutions ?
Les deepfakes ou « mensonges profonds » sont des fichiers vidéo, images ou vocaux manipulés par un logiciel d’intelligence artificielle afin qu’ils paraissent originaux, authentiques et réels. Les deepfakes utilisent l’apprentissage de l’intelligence artificielle, ces fichiers peuvent donc facilement nous tromper. Les deepfakes sont utilisés pour induire les destinataires en erreur, c’est pourquoi ils constituent une grande menace pour la société actuelle, facilitant potentiellement la désinformation et amenant les citoyens à se méfier de toute source d’information.
Ci-dessous, nous vous expliquons tout ce que vous devez savoir sur les Deepfakes et vous donnons quelques conseils pour apprendre à les détecter :
Que sont les Deepfakes ?
Les deepfakes ou « mensonges profonds » sont des fichiers vidéo, images ou vocaux manipulés par un logiciel d’intelligence artificielle afin qu’ils paraissent originaux, authentiques et réels.
Bien que les Deepfakes existent depuis la fin des années 1990, ils ont suscité un intérêt croissant en 2017, lorsqu’un utilisateur de Reddit a publié de faux contenus pornographiques présentant les visages de plusieurs actrices célèbres.
Le terme « Deepfakes » combine le mot « fake » (faux, puisque ce type de fichiers sont toujours faux, même si tout est fait pour qu’ils paraissent réels) et le mot « deep », venant de « deep learning » , qui signifie « deep learning ». est un type d’apprentissage automatique (intelligence artificielle).
La capacité de paraître si réel est donnée par la capacité de modélisation des programmes informatiques dédiés à la création de Deepfakes, qui tentent de ressembler le plus possible au fonctionnement des réseaux neuronaux et du cerveau humain, facilitant ainsi nos biais cognitifs et nos schémas mentaux.
Les deepfakes utilisent l’apprentissage automatique de l’intelligence artificielle. Cette technologie est basée sur des algorithmes sophistiqués capables d’analyser si un fichier est réel ou s’il a été modifié et, de cette manière, l’intelligence artificielle peut s’améliorer de plus en plus dans la tâche de falsification de manière plus fiable. Les deepfakes peuvent être générés directement par des logiciels ou des ordinateurs spécialisés dans cet apprentissage automatique, sans nécessiter d’intervention humaine.
Les deepfakes sont utilisés pour induire en erreur les personnes qui reçoivent les fichiers, soit en faisant dire à un homme politique dans une vidéo quelque chose dont il n’a jamais vraiment dit qu’il l’affecterait dans une campagne politique proche d’une élection, soit en incluant l’image d’une personne célèbre (ou de tout autre personne). personne) dans du matériel pornographique dans le but de vous nuire ou de vous faire chanter. [Si vous souhaitez connaître tous les types de cyberintimidation qui existent et comment les prévenir, cliquez ici]
Les matériaux Deepfakes peuvent modifier les traits du visage d’une personne (ou sa voix) et les faire passer pour une autre, générant ainsi un autre fichier très similaire au vrai. Pour cette raison, certains experts considèrent que les Deepfakes sont une évolution intentionnelle des fausses nouvelles qui cherchent clairement à manipuler les masses grâce à la diffusion de ces fichiers sur Internet et les réseaux sociaux. [Si vous souhaitez savoir ce qu’est une Fake News, nous vous proposons ici un Guide Pratique des techniques et outils pour les détecter]
Généralement, les fichiers Deepfakes proviennent de personnalités publiques, car plus vous disposez de données sur la personne réelle, meilleur sera le faux. De plus, les Deepfakes préoccupent de plus en plus les entreprises et les institutions publiques en raison de l’énorme potentiel dont ils disposent pour faciliter les fausses nouvelles , générer des attaques de désinformation , des fraudes de toutes sortes et même des manipulations de processus électoraux .
En janvier 2020, Facebook a interdit les Deepfakes (sauf ceux qui sont clairement des parodies), c’est-à-dire tout contenu modifié dans une intention malveillante.
Pour apprendre à analyser la fiabilité et la crédibilité des données, informations et fichiers que nous recevons quotidiennement, nous vous recommandons de suivre une formation d’analyste du renseignement .
Types de Deepfakes et définition
Il existe principalement deux types de Deepfakes dont l’usage est de plus en plus répandu :
Deepfaces
Les Deepfaces sont des Deepfakes qui consistent à créer à partir de zéro des images convaincantes, bien que complètement fausses . Grâce à l’apprentissage automatique de l’intelligence artificielle, de nouvelles images ou vidéos sont manipulées et générées à partir d’autres et la personne qui y apparaît est remplacée.
L’objectif est de générer différentes images statiques pour créer une séquence vidéo, afin d’obtenir, comme objectif final, une fausse vidéo qui semble 100% réelle.
Deepvoices
Ces types de Deepfakes imitent la voix d’une personne dans un audio, donnant l’impression que la personne a vraiment dit quelque chose qu’elle n’a pas dit, puisqu’elle simule sa vraie voix.
En 2019, la première cybercriminalité s’est produite grâce à l’intelligence artificielle. Grâce à Deepvoices, des cybercriminels ont fait croire à un cadre qu’il parlait au PDG de son entreprise , ce qui l’a amené à leur transférer plus de 250 000 $.
Comment est créé un Deepfake et à quoi sert-il ?
Créer un Deepfake est assez simple, même si plus vous avez de connaissances, plus le résultat final semblera véridique. Il existe néanmoins des « programmes Deepfakes » qui créent des images manipulées sans pratiquement aucune intervention, grâce à des logiciels spécialisés d’intelligence artificielle et de montage audiovisuel.
Ces programmes Deepfakes prennent, grâce à un algorithme de codage d’intelligence artificielle, des milliers de photographies des deux personnes. L’encodeur analyse les similitudes entre les deux visages et les réduit à des caractéristiques communes. Cela devient une sorte d’« analogie anthropomorphique ».
Un deuxième algorithme d’intelligence artificielle décode les images pour récupérer des informations sur les caractéristiques du visage des deux visages. Les deux visages étant différents, il faudra utiliser deux décodeurs différents, un pour chaque image.
Les images codées sont ensuite introduites dans le mauvais décodeur, c’est-à-dire que les images sont échangées avec le décodeur pour l’autre image. Le décodeur doit donc reconstruire l’image qu’il souhaite créer avec les expressions faciales et les mouvements de l’autre image que ce décodeur spécifique s’est chargé de récupérer. De cette façon, la vidéo résultante semble être 100 % réelle.
Une autre façon d’effectuer des Deepfakes consiste à utiliser un réseau contradictoire génératif (Gan). Ce réseau confronte deux algorithmes d’intelligence artificielle, l’un générateur (de la fausse image par exemple) et l’autre discriminateur (qui introduit la fausse image dans la séquence réelle). Il est nécessaire de répéter le processus plusieurs fois pour que les performances des deux algorithmes s’améliorent et aboutissent à des images totalement réalistes.
La plupart des Deepfakes proviennent de la présentation à l’algorithme de nombreuses images d’une personne, qu’il utilise ensuite pour générer de nouvelles images faciales. Le résultat est un fichier vidéo, presque toujours, dans lequel apparaît une personne qui ressemble et parle de la même manière que la personne réelle sans en être une.
La société d’intelligence artificielle DeepTrace a découvert 15 000 vidéos Deepfake sur Internet en septembre 2019, soit le double du chiffre neuf mois plus tôt. 96% de ces vidéos étaient du matériel pornographique manipulé .
Bien que les Deepfakes aient commencé à être utilisés dans du matériel pornographique , ils sont actuellement encore utilisés à cette fin, mais aussi pour :
- Diffuser de fausses nouvelles.
- Générer de la désinformation.
- Discréditer quelqu’un.
- Commettre des délits liés à l’honneur, à l’image ou à la fraude.
- Influencer le vote , la prise de décision ou la pensée de groupe.
- Effectuez votre vengeance.
- Manipuler les marchés financiers.
- Déstabiliser les relations internationales.
Comment détecter un Deepfake ?
Les deepfakes sont difficiles à détecter car, comme mentionné, ils sont assez réalistes.
Cependant, il y a certains détails que nous pouvons prendre en compte lors de la détection des Deepfakes :
Trouver des défauts : Certains Deepfakes présentent des défauts que ceux qui ont manipulé la vidéo n’ont pas pu corriger (par exemple, de petites différences dans les expressions faciales d’un visage à l’autre, le positionnement exact de la tête ou l’éclairage). Pour rendre les images aussi réalistes que possible, des transformations sont effectuées qui laissent des défauts évidents aux images numériques (bords flous, peau artificiellement lisse, mouvements saccadés ou non naturels, etc.). Bien que les gens ne soient souvent pas capables de faire la différence entre une image réelle et un Deepfake, un algorithme peut être appris à détecter ces erreurs.
Clignotement : Un moyen simple de détecter si nous sommes confrontés à un éventuel Deepfake est de regarder combien de fois la personne sur l’image cligne des yeux. Dans un Deepfake, la personne cligne des yeux moins de fois que dans une vraie vidéo. En effet, l’algorithme n’est pas capable de cligner des yeux sans montrer des signes de mensonge, au moins aussi vite qu’un être humain. Pourtant, ce n’est qu’une question de temps avant qu’ils améliorent cela.
Le cou et le visage : les Deepfakes sont principalement des images modifiées de visages, et non du corps entier, car cela serait beaucoup plus compliqué. Il est important de regarder le corps de la personne (ce qu’on en voit) dont le visage a été remplacé. Si les caractéristiques corporelles ne correspondent pas à celles de la personne réelle, nous pouvons avoir un indice supplémentaire qu’il s’agit d’un faux fichier. En fait, les Deep Fakes sont généralement des gros plans du visage, car s’ils étaient à distance, ils auraient besoin de modifier beaucoup plus de contenu vidéo, augmentant ainsi les chances de détecter des erreurs.
Une courte durée : Pratiquement tous les Deepfakes ont une durée très courte, quelques secondes, car le processus d’apprentissage que doit suivre l’algorithme demande beaucoup de travail. Une vidéo trop courte et au contenu peu plausible peut également nous indiquer qu’il s’agit d’un Deepfake.
L’origine de l’enregistrement : découvrir qui a partagé le fichier en premier et sur quels réseaux sociaux, ainsi que vérifier le contexte dans lequel il a été publié, ainsi que ses détails originaux, peut nous aider à détecter un Deepfake. [Pour ce faire, nous recommandons une formation à la fois en recherche en ligne et en cyber-intelligence ]
Le son : Il est courant de constater dans Deepfakes que l’algorithme qui modifie le fichier vidéo n’ajuste pas correctement le son à l’image, il n’y a donc pas de synchronisation entre le mouvement des lèvres et le son.
Les détails : Il est important de connaître les détails de l’enregistrement et, pour cela, la lecture de la vidéo à vitesse réduite peut aider. S’il s’agit d’un Deepfake, nous pouvons constater des modifications soudaines de l’image ou des changements dans l’arrière-plan de la vidéo.
L’intérieur de la bouche : Les algorithmes d’intelligence artificielle sont incapables de copier avec précision la langue, les dents et l’intérieur de la bouche lorsque l’on parle. Si l’on regarde tous ces détails, un petit défaut à l’intérieur de la bouche peut nous montrer qu’il s’agit d’un Deepfake.
Analysez les informations en détail
Comparez les informations en recherchant la source originale et d’autres références supplémentaires. Connaître le défi de savoir choisir et analyser les sources d’information.
Appliquer et développer le bon sens.
Deepfakes : risques ou menaces pour les citoyens, les entreprises et les institutions?
L’ Internet Security Office (OSI) présente une série de menaces liées aux Deepfakes, qui sont développées ci-dessous.
Les deepfakes constituent une menace sérieuse, car n’importe qui pourrait créer un faux dossier sur n’importe qui d’autre, donnant lieu à des fraudes, des vengeances, des moqueries, ils peuvent même servir à discréditer quelqu’un ou comme moyen de cyberintimidation ou d’intervention dans l’intimidation .
Actuellement, nous nous trouvons à une époque où les fausses nouvelles et la désinformation sont à l’ordre du jour, en plus d’atteindre de plus en plus de personnes via Internet.
On peut donc prévoir le risque que les Deepfakes comportent au niveau personnel, social, politique et économique. Ce danger augmente de façon exponentielle en raison des réseaux sociaux, qui permettent à n’importe quel contenu de devenir viral en quelques secondes, ce qui peut nuire à la réputation d’une personne.
L’intelligence artificielle progresse également très rapidement, ce qui rend de plus en plus difficile l’identification et la différenciation entre le matériel réel et les Deepfakes.
Si les fausses nouvelles font changer d’avis depuis des années à travers de faux arguments et théories, combien plus une image ou une vidéo peut-elle accomplir, qui peuvent être plus facilement mémorisées et retenues dans notre cerveau et nous faire tomber dans de multiples biais cognitifs .
De grandes entreprises, comme Facebook, Twitter et Google, conscientes de la menace que représentent les Deepfakes, prennent des mesures pour détecter et empêcher le téléchargement de faux contenus, ainsi que pour les éliminer s’ils se trouvent déjà sur le réseau.
L’impact le plus négatif que les Deepfakes peuvent provoquer est de générer une absence totale de confiance dans la société, ce qui finit par provoquer un grand manque d’intérêt lorsqu’il s’agit de différencier les fichiers réels des Deepfakes. Lorsque cette confiance s’érode, il devient beaucoup plus facile de générer des doutes et d’instiller des idées erronées, ce qui rend la pensée critique difficile .
Pour la criminologie , les Deepfakes peuvent également constituer une menace sérieuse, car, outre tout ce qui est mentionné ci-dessus (fraude, escroqueries, délits informatiques, harcèlement, sextorsion, etc.), ils pourraient être utilisés comme de véritables preuves, dont la vérification est extrêmement difficile, en les tribunaux. Les deepfakes présentent également un risque pour la sécurité des personnes, car dans un avenir pas trop lointain, ces fichiers pourraient être utilisés pour tromper les systèmes de reconnaissance faciale ou vocale, rendant ainsi la biométrie du contrôle d’accès de moins en moins efficace et fiable.