Deepfakes : comment Facebook mène sa lutte ?
Les deepfakes, ces vidéos modifiées grâce à l’intelligence artificielle et diffusant de fausses informations, pullulent actuellement sur la toile. Alors que l’élection présidentielle américaine se profile, Facebook entend bien contrer ce phénomène grâce à différentes mesures. Comment la firme de Mark Zuckerberg va-t-elle pouvoir réduire la visibilité de ces contenus trompeurs ?
Les deepfakes, un phénomène en forte croissance
Il y a fort à parier que vous ayez déjà entendu parler des deepfakes. Barack Obama, Vladimir Poutine ou encore Donald Trump en sont les cibles privilégiées. L’un des exemples les plus connus est celui de l’actuel président des États-Unis, dans une vidéo extrêmement réaliste où il déclare tout bonnement avoir éradiqué le virus du sida.
Mais malgré les apparences, Donald Trump n’a en réalité jamais prononcé ces mots. Il s’agit donc d’un deepfake, à savoir un montage vidéo réalisé grâce à l’intelligence artificielle. Et si dans ce cas les conséquences de cette supercherie produite par Solidarité Sida, pour la bonne cause, sont minimes, imaginez ce qu’il est possible de faire dans d’autres circonstances.
En effet, contraction de « deep learning » et de « fake », les deepfakes peuvent permette à des internautes mal intentionnés de faire dire ce qu’ils veulent à n’importe quelle personne existante. L’objectif est simple : faire le buzz pour manipuler les utilisateurs des différentes plateformes sociales telles que Facebook ou Twitter. Mais à quelques mois désormais de l’élection présidentielle américaine, le fait de générer des vidéos factices et trompeuses de personnalités politiques peut se révéler véritablement problématique.
D’autant que plusieurs outils accessibles facilement sur Internet permettent aujourd’hui de générer des vidéos trafiquées mais extrêmement crédibles. Pour preuve, le nombre de deepfakes mis en ligne a plus que doublé sur les douze derniers mois, signe que cette technologie douteuse est désormais à la portée d’un public plus large.
C’est pour cette raison que Facebook s’est mis en quête de réduire considérablement la visibilité de ces contenus transformés par l’intelligence artificielle.
Le dispositif de Facebook pour lutter contre les deepfakes
La question de la modération des contenus sur Facebook demeure un sujet épineux pour la firme de Menlo Park. En effet, le plus grand réseau social du monde doit trouver le juste équilibre pour parvenir à lutter contre les fausses informations sans être accusé de censure.
Dans le cas des deepfakes, Facebook s’est toutefois engagé à réduire la visibilité de ces vidéos litigieuses. Pour y parvenir, l’entreprise américaine se base ainsi sur deux critères :
- le contenu doit avoir été suffisamment modifié pour induire en erreur les utilisateurs de la plateforme,
- la vidéo doit être le résultat d’une intervention de l’intelligence artificielle ou du machine learning ayant ajouté du contenu en sus pour la rendre authentique.
Bien entendu, les vidéos simplement retouchées pour obtenir une meilleure clarté ne seront pas inquiétées.
Au lieu de supprimer les vidéos étant identifiées comme deepfakes par ses équipes de modération, Facebook a plutôt fait le choix de les labelliser comme « fake news ». Le réseau social sait en effet pertinemment qu’en les effaçant de sa plateforme, elles resteraient disponibles ailleurs sur le web. Avec cet étiquetage, les utilisateurs seront désormais parfaitement informés sur la nature du contenu qu’ils s’apprêtent à regarder ou partager.
Cette gestion des vidéos truquées représente un véritable défi pour Facebook. Pour parvenir à ses fins, l’entreprise a d’ailleurs récemment lancé le « Deepfake Detection Challenge », un projet rassemblant des sociétés du numérique telles que Microsoft ou Amazon et de prestigieuses universités comme le MIT (Massachusetts Institute of Technology) ou l'Université de Californie. Porté par 10 millions de dollars de subventions, il a pour objectif d’optimiser la recherche et le développement d’outils innovants permettant d’identifier les deepfakes.
Si le phénomène des deepfakes n’en est qu’à ses balbutiements, il pourrait prendre une dangereuse ampleur dans les mois à venir. Facebook a par conséquent choisi de s’attaquer dès aujourd’hui à cette problématique en réunissant autour de lui les grands acteurs du secteur et en clarifiant ses règles de modération. Le réseau social de Mark Zuckerberg va en revanche devoir jouer les équilibristes pour ne pas être rapidement taxé d’atteinte à la liberté d’expression par ses utilisateurs.
