Une IA a créé de faux journalistes pour une campagne de propagande en ligne

Des articles de presse ont été publiés alors que les auteurs étaient fictifs, selon une enquête du Daily Beast.

Des médias conservateurs comme Newsmax ou le Washington Examiner ont publié des articles écrits par des “experts”. Après une enquête, le DailyBeast révèle que ces auteurs sont en réalité des personnages fictifs.

Une IA pour créer les visages de faux journalistes
Au total, 19 faux personnages ont été révélés. Ils étaient “journalistes”, “analystes” ou même “consultants politiques”. Leurs noms étaient liés à des profils Twitter ou LinkedIn fictifs. Pour s’approcher encore plus d’un personnage réel, des photos étaient associées aux auteurs. Mais pour éviter que la supercherie soit révélée rapidement grâce aux recherches d’images inversées, ces photos ont été générées par une IA. Elles présentent tout de même quelques imperfections, comme une incisive manquante par exemple.

Chaque image est générée de façon unique, et ne peut donc pas être retracée vers l’image d’origine, souligne TheVerge. Au total, les 19 faux personnages ont “écrit” pour près de 46 publications différentes.

Des articles retirés
Les articles étaient tournés en faveur de certains pays du Golfe. “Les articles ont fait l’éloge des Émirats arabes unis et ont plaidé pour une approche plus stricte du Qatar, de la Turquie, de l’Iran et de ses groupes mandataires en Irak et au Liban“, explique Adam Rawnsley, le journaliste qui a réalisé l’enquête. Les “auteurs” avaient également d’autres éléments en commun. Ils étaient pour la plupart contributeurs de deux sites particuliers : The Arab Eye et Persia Now. Leurs comptes Twitter avaient également été créés entre mars et avril 2020.

Depuis l’enquête du DailyBeast, une partie des médias bernés ont supprimé les articles liés à ces auteurs fictifs. Twitter a également suspendu les comptes associés à ces personnages. “Cette vaste opération d’influence met en évidence la facilité avec laquelle des acteurs malveillants peuvent exploiter l’identité de personnes réelles, duper les médias internationaux et légitimer la propagande de provenance inconnue“, a déclaré Marc Owen Jones à la rédaction TheDailyBeast, de l’Université Hamad Bin Khalifa au Qatar.