Telegram : une épidémie de "deepfakes" pornographiques se déchaîne en Corée du Sud

La Corée du Sud fait face à une épidémie de deepfakes pornographiques. Collégiennes, étudiantes et même célébrités ont récemment découvert leurs photos dans des salons de discussion Telegram destinés à relayer du contenu à caractère sexuel. Depuis lundi 26 août, les médias du pays commencent à relayer les signalements de nombreux utilisateurs dénonçant ces cyberviolences qui consistent à se servir des photos de femmes et adolescentes pour créer des scenarii porno à l'aide de l'intelligence artificielle. 

Plus inquiétant encore : nombre de ces groupes portent le nom d'établissements scolaires. La presse locale rapporte que près de 500 écoles sont touchées par ce phénomène. Le syndicat des enseignants sud-coréens, lui, compte au moins 200 écoles concernées par cette dernière série d'incidents. Il dénonce une recrudescence de deepfakes ciblant les enseignants, rapporte la BBC. L'engouement suscité par ces hypertrucages est tel que certains canaux regroupent plus de 200 000 utilisateurs. 

Les thématiques des canaux sont aussi variées que les fantasmes des personnes qui les consultent. Militaires, infirmières, policières et même athlètes y sont exposées. La presse rapporte que les premières images sont gratuites et ensuite, elles sont facturées en crypto-monnaie. 

Le gouvernement promet plus de fermeté 

Des révélations qui coïncident avec l'arrestation du patron de Telegram en France samedi 24 août. Face à cette bombe médiatique, le chef d'État sud-coréen, Yoon SukYeol, a réagi publiquement ce mercredi 28 août. "Il s'agit d'un détournement de la technologie sous couvert de protection de l'anonymat. C'est un acte criminel évident", a-t-il déclaré devant la presse, sans toutefois nommer Telegram de manière explicite. 

(Re)lire Qui est Pavel Dourov, le PDG de Telegram arrêté à Paris ?

Le président de la Commission sud-coréenne des normes de communication, régulateur national des médias, a quant à lui promis de "doubler le nombre de personnes surveillant Telegram et les principales plateformes de médias sociaux, qui sont les principaux canaux de diffusion de vidéos de crimes sexuels deepfakes, afin de détecter et de supprimer rapidement les vidéos illégales de crimes sexuels deepfakes". 

Les féministes se mobilisent sur les réseaux sociaux

"Je ne crois pas que ce gouvernement, qui rejette la discrimination structurelle entre les sexes en la qualifiant de simples "conflits personnels", puisse résoudre efficacement ces problèmes", déclarait à l'AFP Bae Bok-joo, militante des droits des femmes et ancienne membre du Parti de la justice, un parti minoritaire.

Sur les réseaux sociaux, les militantes féministes sud-coréennes alertent, préviennent et se mobilisent pour tenter de se protéger des prédateurs virtuels. Certaines activistes animent des comptes anonymes et traduisent leur contenu en anglais pour visibiliser la violence sexiste qui déferle dans le pays. Selon elles, des groupes Telegram masculinistes étaient présents dans "70% d'établissements éducatifs" concernés par ces attaques. L'essor de cette idéologie qui prône la domination totale et absolue de la virilité met en danger les revendications des droits des femmes. Ces chiffres restent, pour l'instant, cantonnés au milieu militant. "La police [sud-]coréenne est spectatrice des crimes misogynes, les féministes sud-coréennes prennent des risques en infiltrant Telegram pour enquêter sur les hommes. Nous avons donc une liste. Il s'agit d'une méthode d'investigation", peut-on lire dans le compte d'une activiste. 

"Ce problème dure depuis au moins vingt ans. Ce cas de trafic deepfakes est l'une des conséquences de l'exploitation sexuelle numérique des femmes que les autorités négligent depuis longtemps", explique à TV5Monde une cybermilitante dont l'anonymat a été requis. Selon cette activiste, ces incidents vont de pair avec l'émergence des mouvements féministe dans le pays. 

Les militantes dénoncent sur les réseaux sociaux une misogynie ambiante qui entrave leur quotidien jusqu'à la sphère la plus intime : la famille. Certains comptes que l'on peut retrouver sous le nom de "Family Room" se spécialisent dans la création d'images pornographiques à partir des photographies des mères, sœurs ou cousines de leurs propres utilisateurs.