SEOUL (Reuters) – Zuid-Koreaanse toezichthouders en politie hebben deze week beloofd seksueel uitbuitende deepfakes te bestrijden en Telegram en andere sociale mediabedrijven opgeroepen om met hen samen te werken terwijl ze hard optreden tegen deze praktijk.

Wat heeft de recente opschudding in Zuid-Korea veroorzaakt?

Verschillende binnenlandse media meldden onlangs dat seksueel expliciete deepfake-afbeeldingen en video's van Zuid-Koreaanse vrouwen vaak werden gevonden in Telegram-chatrooms.

Rond dezelfde tijd werden Zuid-Koreaanse feministische groepen en internationale K-popfans actiever op sociale media, waarbij ze tot actie opriepen en tips deelden over hoe zulke chatrooms aan bod konden komen.

De verontwaardiging volgt ook op de veroordeling deze maand van een man wegens zijn betrokkenheid bij een deepfake-pornografiezaak die vrouwelijke studenten van de Seoul National University als doelwit was.

Genderkwesties zijn bijzonder gevoelig in Zuid-Korea en worden fel bediscussieerd in veel publieke fora.

Zijn seksuele deepfakes vaker voorkomend in Zuid-Korea?

Zuid-Korea is het land dat het meest wordt getroffen door deepfake-, met zangers en actrices die 53 procent van de personen uitmaken die in dergelijke deepfakes voorkomen, volgens een rapport uit 2023 over deepfakes wereldwijd van Security Hero, een Amerikaanse startup gericht op identiteitsdiefstal.

De Zuid-Koreaanse politie zegt dat het aantal deepfake zedendelictenzaken die zij dit jaar hebben aangenomen, is gestegen tot 297. Dat staat ter vergelijking met 156 in heel 2021, toen de gegevens voor het eerst werden verzameld. De meeste slachtoffers en daders zijn tieners, zeggen ze.

Zuid-Korea heeft de afgelopen jaren ook te maken gehad met een reeks spraakmakende digitale zedendelictenzaken, variërend van een online sekschantagenetwerk tot spionageporno.

Wat doen de autoriteiten?

De repressie van seksuele deepfakes door Zuid-Korea viel samen met het formeel onderzoeken van Pavel Durov, de in Rusland geboren oprichter van Telegram, die deze week formeel werd onderzocht in Frankrijk, terwijl de autoriteiten daar de georganiseerde misdaad op de berichtenapp onderzoeken.

Naast het aansporen van sociale mediabedrijven om actiever samen te werken bij het verwijderen en blokkeren van dergelijke inhoud, heeft de Zuid-Koreaanse mediatoezichthouder de Franse autoriteiten gevraagd om regelmatige samenwerking bij Telegram-gerelateerde problemen en het faciliteren van directe communicatie met Telegram.

Daarnaast zei de Zuid-Koreaanse regering vrijdag dat zij zal pleiten voor strengere wetten om de aankoop of het bekijken van seksueel uitbuitende deepfakes tot een strafbaar feit te maken.

De Zuid-Koreaanse politie plant een zeven maanden durende inspanning om digitale zedendelicten aan te pakken. Het aantal toezichthoudende medewerkers dat dergelijke zaken monitort, zal worden verhoogd en er zal een 24-uurs hulplijn voor slachtoffers worden opgezet.

Hoe reageren sociale mediabedrijven?

Telegram heeft in een verklaring aan Reuters gezegd dat het actief schadelijke inhoud op zijn platform modereert, waaronder illegale pornografie.

YouTube heeft deze week een kanaal met meer dan een miljoen abonnees in handen van een rechtse Zuid-Koreaanse YouTuber gedemonetiseerd en een van zijn video's verwijderd nadat hij de ernst van deepfake-misdaden bagatelliseerde en vrouwen belachelijk maakte omdat ze bezorgdheid uitten.

Het wezen op schendingen van het intimidatiebeleid van het platform en zei dat het "toegewijd is aan het uitbannen van digitale zedendelicten op ons platform."