Une militante arbore une affiche « Délits sexuels par deepfake en série: l’Etat est complice » le 30 août à Séoul. Lors d’une manifestation à Séoul, quelques dizaines de femmes portant des masques blancs protestent contre les « deepfakes » pornographiques. Ces délits sexuels envahissent le pays, suscitant l’inquiétude croissante des féministes sud-coréennes. L’utilisation de l’intelligence artificielle pour superposer des visages sur des contenus sexuels provoque un raz de marée de préoccupations.
Le 22 août, le journal Hankyoreh a révélé l’existence d’un service coréen sur Telegram permettant de créer un « deepfake » pornographique de n’importe qui pour 650 wons (soit 44 centimes d’euros). Ce service avait déjà attiré près de 227 000 utilisateurs. Les enquêtes ont révélé de multiples chaînes Telegram dédiées au partage de deepfakes sexuels de jeunes sud-coréennes, souvent victimes de leur entourage agresseur.
Certaines chaînes, telles que celles appelées « Family Rooms », montrent des jeunes hommes agressant leurs sœurs ou cousines, diffusant des contenus pornographiques générés à partir de photos prises à leur insu. Ces réseaux peuvent rassembler de petits groupes ou plusieurs milliers de membres. Les établissements scolaires sont particulièrement ciblés par ces réseaux Telegram, gérés par des élèves eux-mêmes.
Une internaute et activiste, Ji-Ah, traque les canaux de deepfakes depuis une semaine, notant que chaque canal est dédié à une école spécifique, probablement géré par des élèves de l’établissement. Un collectif nommé DataSec a créé une carte en ligne appelée la « Deepfake Map » répertoriant les écoles potentiellement ciblées, dont 632 écoles recensées à ce jour. Cette situation est alarmante et met en lumière l’urgence de lutter contre ces délits numériques.
Mots-clés: deepfake, délits sexuels, sécurité en ligne, intelligence artificielle, manifestations féministes, réseaux sociaux.