SEOUL (Reuters) – A dél-koreai szabályozók és rendőrség ezen a héten megígérték, hogy harcolnak a szexuálisan kizsákmányoló deepfake-ek ellen, és arra ösztönözték a Telegramot és más közösségi média cégeket, hogy működjenek együtt velük a gyakorlat ellen.

Mi okozta a legutóbbi felháborodást Dél-Koreában?

Több hazai médium nemrégiben arról számolt be, hogy szexuálisan explicit deepfake képeket és videókat találtak dél-koreai nőkről a Telegram csevegőszobáiban.

Körülbelül ugyanebben az időben a dél-koreai feminista csoportok és nemzetközi K-pop rajongók is aktívabbak lettek, cselekvésre kérték a társaságot, és tippeket osztottak meg az ilyen csevegőszobák feltárásához.

A felháborodás azt is követi, hogy ebben a hónapban elítéltek egy férfit, aki részt vett egy deepfake pornográfiai ügyben, amely a Szöuli Nemzeti Egyetem női hallgatóit célozta meg.

A nemi kérdések különösen érzékenyek Dél-Koreában, és sok nyilvános fórumon heves vita tárgyalja őket.

Gyakoribbak a szexuális deepfake-ek Dél-Koreában?

Dél-Korea az ország, amelyet leginkább céloznak a deepfake pornográfia, énekesei és színésznői alkotják az ilyen deepfake-eket bemutató személyek 53 százalékát, derül ki a Security Hero, egy amerikai startup, amely az identitáslopás elleni védelemre fókuszáló amerikai startup által készített 2023-as jelentés szerint a deepfake-ekről világszerte.

A dél-koreai rendőrség szerint az idén eddig elvállalt deepfake szexuális bűncselekmények száma 297-re nőtt. Ez összehasonlítható 156 évre 2021-ben, amikor az adatokat először összegyűjtötték. A legtöbb áldozat és elkövető tinédzser, mondják.

Dél-Koreának az utóbbi években számos nagy visszhangot kapott digitális szexuális bűncselekményekkel is kellett megküzdenie, az online szexzuló hálózattól a kémkamerás pornóig.

Mit tesznek a hatóságok?

Dél-korea szexuális deepfake-ek elleni fellépése egybeesett azzal, hogy a Telegram orosz származású alapítója, Pavel Durov hivatalos vizsgálat alá került Franciaországban ezen a héten, miközben a hatóságok szervezett bűnözést vizsgálnak az üzenetküldő alkalmazáson.

A közösségi média cégeket arra ösztönözte, hogy aktívabban működjenek együtt az ilyen tartalmak törlésével és tiltásával, a dél-koreai médiaszabályozó hivatala rendszeres együttműködést kért a francia hatóságoktól a Telegrammal kapcsolatos problémák megoldásában és a közvetlen kommunikáció elősegítésében a Telegrammal.

Emellett a dél-koreai kormány pénteken közölte, hogy szigorúbb törvényeket fog hozni elő, amelyek a szexuális kizsákmányolást okozó deepfake vásárlását vagy megtekintését bűncselekménynek minősítenék.

A dél-koreai rendőrség hét hónapos erőfeszítést tervez a digitális szexuális bűncselekmények elleni fellépésre. Az ilyen ügyeket figyelő szabályozó személyzet száma megnő, és 24 órás segélyvonalat hoznak létre az áldozatok számára.

Hogyan reagálnak a közösségi média cégek?

A Telegram a Reutersnek adott nyilatkozatában közölte, hogy aktívan moderálja a káros tartalmakat, beleértve az illegális pornót is.

A YouTube ezen a héten demonetizálta egy több mint egymillió feliratkozójú csatornát, amely egy jobboldali dél-koreai YouTuber tulajdonában van, és eltávolított egy videóját, miután lekicsinyelte a deepfake bűncselekmények súlyosságát, és gúnyt űzött a nőket aggodalom kifejezése miatt.

A platform zaklatási szabályzatának megsértésére hivatkozott, és azt mondta, hogy "elkötelezett a digitális szexuális bűncselekmények felszámolása iránt a platformunkon."