Intelligence artificielle : une fausse image d'une explosion au Pentagone brièvement virale

Une fausse image montrant une explosion au Pentagone est brièvement devenue virale sur Twitter ce lundi 22 mai. Elle a causé un léger affaissement des marchés pendant dix minutes relançant le débat autour des risques liés à l'intelligence artificielle (IA).

Image
Le Pentagone siège du ministère de la défense américain

Images du Pentagone le 2 mars 2022. Une fausse image générée par l'intelligence artificielle montrant une explosion au siège du ministère de la défense circule sur les réseaux sociaux.

AP Photo/Patrick Semansky
Partager1 minute de lecture

La fausse photographie, apparemment réalisée avec un programme d'IA générative (capable de produire du texte et des images à partir d'une simple requête en langage courant). Elle a obligé le ministère américain de la Défense américain à réagir.

"Nous pouvons confirmer qu'il s'agit d'une fausse information et que le Pentagone n'a pas été attaqué aujourd'hui", a déclaré un porte-parole.

Les pompiers de la zone où se trouve le bâtiment (à Arlington, près de Washington) sont aussi intervenus pour indiquer sur Twitter qu'aucune explosion ou incident n'avait eu lieu, ni au Pentagone ni à côté.

L'image semble avoir fait légèrement décrocher les marchés pendant quelques minutes, le S&P 500 perdant 0,29% par rapport à vendredi 18 mai avant de se reprendre.

"Il y a eu une baisse liée à cette fausse information quand les machines l'ont détectée", a relevé Pat O'Hare de Briefing.com, faisant référence aux logiciels de trading automatisés qui sont programmés pour réagir à des publications sur les réseaux sociaux.

Une image relayée par des conspirationnistes de QAnon

"Mais le fait qu'elle soit restée mesurée par rapport à la teneur de cette fausse info suggère que d'autres l'ont aussi jugée vaseuse", a-t-il ajouté pour l'AFP.

Un compte de la mouvance conspirationniste QAnon a été parmi les premiers à relayer la fausse image, dont la source n'est pas connue.

L'incident intervient après que plusieurs fausses photographies produites avec de l'IA générative aient été largement relayées pour montrer les capacités de cette technologie, comme celle de l'arrestation de l'ancien président américain Donald Trump ou celle du Pape en doudoune.

Les logiciels comme DALL-E 2, Midjourney et Stable Diffusion permettent à des amateurs de créer de fausses images convaincantes sans avoir besoin de maîtriser des logiciels d'édition comme Photoshop.

Mais si l'IA générative facilite la création de faux contenus, le problème de leur dissémination et de leur viralité - les composantes les plus dangereuses de la désinformation - relève lui des plateformes, rappellent régulièrement des experts.

"Les utilisateurs se servent de ces outils pour générer des contenus plus efficacement qu'avant (...) mais ils se répandent toujours via les réseaux sociaux", a souligné Sam Altman, le patron d'OpenAI (DALL-E, ChatGPT), lors d'une audition au Congrès mi-mai.

 

               

-1.1542186212246, -14.65576171875