Comment l'IA a trompé les gens en leur faisant croire que Trump avait été arrêté

Si vous êtes actif sur Twitter, vous avez peut-être vu des images choquantes de l'ancien président américain Donald Trump arrêté par des policiers, aux prises avec eux et même en train de les fuir. Il s'avère que rien de tout cela n'était réel. Mais comment tout cela est-il arrivé ?

L'arrestation de Donald Trump qui n'a jamais eu lieu

L'ancien président américain a partagé une supposée fuite par l'intermédiaire de son responsable Poignée de vérité sociale le 18 mars. Le message indiquait qu'il s'attendait à une arrestation mardi de la semaine suivante pour des accusations "anciennes et entièrement démystifiées" contre lui. Il ne fallut pas longtemps avant que des images de l'arrestation de Trump ne commencent à apparaître partout sur Internet.

Les images montraient ce qui semblait être des images de l'arrestation de Trump par un groupe d'agents des forces de l'ordre.

Les images ont été générées par l'IA

Les images, cependant, n'étaient pas authentiques. C'étaient des deepfakes faits avec Midjourney, un générateur d'images IA. Midjourney utilise un algorithme d'apprentissage en profondeur pour générer des images à partir de zéro à l'aide d'invites de texte. Dans ce cas, les invites textuelles étaient des variantes de l'arrestation de Trump.

Technologie Deepfake existe depuis un certain temps et devient de plus en plus sophistiqué. Les images générées par l'IA étaient auparavant facilement identifiables: elles manquaient de détails et de réalisme. Cependant, Dernière version de Midjourney (v5) a corrigé la plupart de ces problèmes et était, en fait, la version utilisée pour générer les deepfakes d'arrestation de Trump.

Comment les images sont devenues virales

Eliot Higgins, un journaliste d'investigation, a créé les premières versions des deepfakes d'arrestation de Trump pour visualiser à quoi ressemblerait une arrestation de Trump. Il les a postés sur son compte Twitter. Alors que sa légende était claire dès le départ que les images étaient fausses, il n'a pas fallu longtemps pour que le message devienne viral.

Au fur et à mesure que les images se répandaient sur les réseaux sociaux, de nombreuses personnes pensaient que c'était réel. Le message de Trump sur Truth Social avait déjà rendu les gens méfiants, et les images réalistes n'ont fait qu'alimenter le feu. Il a fallu un certain temps avant qu'il ne devienne clair que les photos étaient fausses et que l'histoire de l'arrestation était un canular.

Les publications sur les réseaux sociaux "signalant" la fausse arrestation ont été supprimées ou portent l'étiquette de désinformation. En guise de sanction, Midjourney a également banni Higgins de son serveur pendant un mois, par Le Washington Post.

L'ère des deepfakes demande de la vigilance

Les deepfakes d'arrestation de Trump mettent en évidence les progrès alarmants de la technologie de l'IA. De fausses images peuvent désormais être créées avec une facilité incroyable et sont si réalistes qu'il est difficile de distinguer ce qui est réel de ce qui ne l'est pas. La vigilance est désormais plus critique que jamais lorsqu'il s'agit de contenu en ligne.