Les deepfakes, produits sous forme de vidéos, d’images ou audios, ont envahi les réseaux sociaux et le monde de la création de contenus en ligne. Boostés par l’intelligence artificielle (IA), ils sont aujourd’hui un outil privilégié des acteurs de la désinformation pour tromper et manipuler les internautes. Que comprendre des deepfakes ? Comment les détecter et contrer leur propagation ?
Les réseaux sociaux Facebook, TikTok, X ou encore Instagram sont inondés de contenus créés de toute pièce à partir de l’intelligence artificielle, plongeant les internautes dans la confusion et rendant la distinction entre le vrai et l’ivraie difficile.
Les exemples récents ayant suscité de vives réactions sur les réseaux sociaux incluent le Professeur Halidou Tinto, chercheur burkinabè et chef de l’Unité de recherche clinique de Nanoro. Deux vidéos ( 1 ; 2 ) générées respectivement en septembre et octobre 2024 prétendaient que le Pr Tinto avait développé des nouveaux remèdes miracles contre le diabète. [Voir le fact-check ici ]. Le footballeur argentin Lionel Messi a également été ciblé par un deepfake dans lequel on le voit, posant avec le président de la Fédération internationale de football association (FIFA), Gianni Infantino dans une position érotique.
Selon le dernier rapport de Security Hero, une plateforme américaine spécialisée dans la lutte contre l’usurpation d’identité, le nombre total de vidéos deepfake en ligne en 2023 est de 95 820 , soit une augmentation de 550 % par rapport à 2019. Ces deepfakes ciblent majoritairement des personnes célèbres travaillant dans l’industrie du divertissement, notamment du monde cinématographique et musical.
C’est quoi les deepfakes ?
Le terme “deepfake” est un néologisme anglophone composé de “deep learning”, provenant de la technologie d’apprentissage profond de l’Intelligence artificielle (IA) et “fake”, qui renvoie au caractère faux du contenu généré. Il a été utilisé pour la première fois en 2017 par un modérateur de la plateforme d’échange Reddit qui se fait appeler “deepfakes”, et qui publie des vidéos pornographiques conçues grâce à l’IA à partir des visages de personnes célèbres, selon le site encyclopédique Britannica.com
Cette technologie, appelée “Generative Adversarial Networks” (GAN), a été inventée en 2014 par le chercheur américain Ian Goodfellow. Elle génère des contenus en utilisant deux algorithmes : l’un crée une image tandis que l’autre tente de déterminer si cette image est authentique ou non, poussant ainsi le premier à améliorer la qualité pour la rendre plus crédible.
“C’est une technique d’intelligence artificielle qui est utilisée pour créer ou modifier du contenu multimédia, c’est-à-dire audios, vidéos ou des images, etc. dans le but de rendre l’information générée ou modifiée crédible aux yeux des personnes qui y auront accès” , explique Wendinmi Rodrigue Ouédraogo, expert en Technologie de l’information (IT).
Les deepfakes, de puissants outils de manipulation
L’inondation des réseaux sociaux par les contenus deepfakes a favorisé la prolifération des fausses informations. Selon Wendinmi Rodrigue Ouédraogo, il existe une réelle menace désinformationnelle imputable à l’évolution fulgurante des technologies de l’IA, permettant une amélioration des algorithmes capables désormais de générer des contenus de plus en plus réalistes, difficilement détectables. “Ce sont de puissants outils de manipulation de l’opinion publique, utilisés pour propager des idéologies politiques, religieuses ou des fausses informations de tout type”, a-t-il soutenu.
Il insiste sur le fait que les deepfakes ciblent des personnes célèbres et des leaders au sein de leur société à qui l’on attribue faussement des propos qu’ils n’ont réellement pas tenus. “Ce qui peut vraiment réduire la confiance et semer la confusion au sein de la population. Cela pourrait provoquer une apathie de la réalité, qui pourrait plonger la population dans une certaine indifférence par rapport à certaines informations, une méfiance généralisée, car le faux serait difficile à être différencié du vrai”, a expliqué l’expert Rodrigue Ouédraogo.
L’IA pour traquer les deepfakes
Face à la menace portée par les deepfakes, les chercheurs s’engagent de plus en plus dans la création d’outils permettant de détecter les contenus en ligne générés par l’intelligence artificielle. Ces outils ou extensions dotés d’une intelligence artificielle sont conçus avec l’implication des géants mondiaux du numérique comme Google, Amazone, Meta et Microsoft.
Depuis février 2024, le groupe Meta a annoncé l’incorporation de nouvelles fonctionnalités de l’IA générative pour étiqueter les images générées par l’IA sur Facebook, Instagram et Threads avec le label “Imagined with AI”.
D’autres outils et plateformes comme DeepWare, Sensity, Truemedia.org permettent aux organes de fact-checking et les internautes d’analyser des textes, des images, des vidéos et audios numériques, pour vérifier leur authenticité. Pour vérifier une image, par exemple, l’éditeur télécharge un fichier sur la page de détection du deepfake afin de demander qu’elle soit traitée.
Analyse, via la plateforme Truemedia.org, du deepfake de Lionel Messi dans une pose intime avec le président de la FIFA, Gianni Infantino
Si des solutions basées sur l’IA existent, elles ont tout de même des limites. Les outils de détection peinent à suivre le rythme et à détecter les contenus synthétiques, car les modèles de langage génératifs sont constamment améliorés.
De plus, les détecteurs peuvent parfois classifier à tort du contenu humain comme étant généré par une IA (faux positif), ou inversement, ne pas être en mesure de détecter du contenu généré par une IA (faux négatif).
Une image de Donald Trump souriant au milieu de femmes noires générée par l’IA, mais non détectée comme synthétique par le détecteur. L’image a été d’abord publiée sur Instagram
La controffensive par l’éducation aux médias
Le développement des deepfakes inquiète les acteurs engagés dans la lutte contre la désinformation au regard de son impact sur la production de l’information et de son influence néfaste sur l’opinion publique, alerte l’expert en technologie de l’information, Wendinmi Rodrigue Ouédraogo.
Pour lui, limiter ces conséquences passe par la mise en place d’initiatives d’éducation des populations aux médias, essentiellement axées sur la compréhension des deepfakes et leurs dangers. “ Par exemple, observer des signes anormaux dans une vidéo, comme une absence de clignement des yeux, des ombres incorrectes, des mouvements étranges, des variations subtiles de lumière, ou une bouche qui bouge de manière peu fluide ”, conseille l’expert.
D’autres gestes tels que le développement de l’esprit critique des internautes, la vérification et la diversification des sources avant tout partage d’information peuvent aider à limiter les dégâts causés par les deepfakes.
Tiomité DA
Fasocheck
