Aktivis yang mengenakan masker mata memegang poster bertuliskan “Kejahatan seks deepfake berulang, negara juga kaki tangannya,” selama protes terhadap deepfake yang penuh pelecehan seksual di Seoul, Korea Selatan, pada tanggal 30 Agustus.
Anthony Wallace/AFP melalui Getty Images
sembunyikan keterangan
alihkan teks
Anthony Wallace/AFP melalui Getty Images
SEOUL, Korea Selatan — Siswa dari segala usia, guru, tentara, dan kini jurnalis. Semakin banyak wanita Korea Selatan biasa yang menyadari bahwa mereka menjadi target bentuk pelecehan seksual digital yang berkembang pesat: deepfake.
Pihak berwenang Korea Selatan bergegas untuk memberikan tanggapan setelah media lokal dan upaya pengumpulan sumber daya manusia baru-baru ini mengungkap sejumlah besar ruang obrolan pada aplikasi perpesanan Telegram yang mendistribusikan gambar dan video seksual palsu yang dibuat dengan kecerdasan buatan.
Kepolisian Nasional Korea, yang minggu lalu mengumumkan tindakan keras terhadap deepfake yang memuat konten pelecehan seksual, mengatakan pada hari Senin bahwa pihaknya memulai penyelidikan terhadap Telegram atas tuduhan potensial membantu dan bersekongkol dalam penyebaran deepfake yang memuat konten seksual eksplisit di platformnya.
Badan tersebut mengatakan ini adalah pertama kalinya penegak hukum Korea Selatan menyelidiki perusahaan tersebut, yang pendirinya Pavel Durov ditangkap dan didakwa di Prancis bulan lalu atas dugaan aktivitas ilegal di platform tersebut.
Juru bicara Telegram Remi Vaughn mengatakan kepada NPR bahwa perusahaan tersebut “telah aktif menghapus konten yang dilaporkan dari Korea yang melanggar ketentuan layanannya dan akan terus melakukannya.”
Komisi Standar Komunikasi Korea, pengawas media pemerintah, mengatakan bahwa Telegram mematuhi permintaannya dan menghapus 25 deepfake yang ditentukan oleh komisi.
Mayoritas korban deepfake di Korea Selatan adalah wanita dan gadis remaja, menurut jurnalis dan aktivis yang memantau beberapa ruang obrolan.
Laporan media lokal menyebutkan pelaku mengambil foto korban dari media sosial tanpa sepengetahuan atau persetujuan korban. Atau mereka diam-diam mengambil foto wanita di sekitar mereka di rumah atau di sekolah. Mereka kemudian mengubah foto tersebut menggunakan kecerdasan buatan dan membagikan hasilnya di Telegram dengan orang asing atau pengguna yang mengenal korban.
Beberapa ruang obrolan, yang muncul dalam pencarian dengan istilah seperti “ruang kenalan bersama” atau “ruang penghinaan,” memiliki ribuan peserta.
Jumlah ruang obrolan semacam itu yang beroperasi di Telegram dan cakupan dugaan penyalahgunaannya tidak jelas. Banyak ruang obrolan ditutup dan hanya dapat diakses dengan tautan undangan atau izin dari administrator ruang obrolan, dan beberapa dilaporkan telah ditutup sejak aktivis dan media mulai melacaknya.
Dalam sebuah posting di Telegram pada hari Kamis, pendiri sekaligus CEO platform tersebut, Durov, mengatakan bahwa perusahaan telah “berkomitmen untuk bekerja sama dengan regulator guna menemukan keseimbangan yang tepat” antara privasi dan keamanan, sembari mengakui bahwa platform tersebut telah menjadi “lebih mudah disalahgunakan oleh para penjahat.”
Namun, data dari lembaga penegak hukum dan pemerintah Korea Selatan menunjukkan peningkatan tajam dalam kejahatan seks digital yang melibatkan gambar palsu di negara tersebut.
Pengawas media pemerintah mengatakan pihaknya menerima hampir 6.500 permintaan untuk menangani video deepfake yang mengandung pelecehan seksual antara Januari dan Juli tahun ini — empat kali lipat volume permintaan dari periode yang sama tahun lalu.
Menurut polisi, dalam tujuh bulan pertama tahun ini, 297 kasus kejahatan yang melibatkan deepfake eksplisit seksual telah dilaporkan, naik dari 180 di tahun 2023.
Banyak korban dan pelaku adalah remaja. Dari 178 tersangka yang ditangkap polisi selama periode tujuh bulan, 74% berusia 10 hingga 19 tahun, naik dari 65% pada tahun 2021. Dan lebih dari separuh deepfake yang dilacak dan dihapus tahun ini oleh Pusat Advokasi untuk Korban Pelecehan Seksual Daring yang dikelola pemerintah melibatkan anak di bawah umur.
Pelakunya adalah para perempuan yang melakukan bullying
Korea Selatan telah lama memerangi kejahatan seks termasuk pembuatan film ilegal, penyebaran gambar eksplisit seksual tanpa persetujuan, grooming daring, dan pemerasan seksual.
Menurut para ahli kejahatan seks daring, pembuat deepfake yang marak di Telegram kerap menyasar wanita yang mereka kenal secara pribadi, bukan orang asing.
Bagi para korban, kerusakan akibat serangan semacam itu oleh seseorang yang mereka kenal lebih dari sekadar pelanggaran privasi mereka, kata Chang Dahye, seorang peneliti di Institut Kriminologi dan Keadilan Korea di Seoul, yang telah mempelajari serangan seksual daring.
“Mereka kehilangan kepercayaan pada komunitas mereka,” kata Chang. “Mereka takut tidak bisa lagi menjalani kehidupan sehari-hari dengan orang-orang di sekitar mereka. Pada dasarnya, kepercayaan mereka pada hubungan sosial pun runtuh.”
Yang juga membedakan deepfake yang berisi pelecehan seksual dari kejahatan lainnya, menurut Chang, adalah tujuannya.
Beberapa pelaku termotivasi oleh uang atau dendam.
Namun, kata Chang, “bagi sebagian besar pria yang mengonsumsi konten ini, tujuannya adalah untuk meremehkan wanita secara umum.”
Dia menjelaskan bahwa deepfake menekankan wajah yang dapat dikenali dan sering kali menyertai pelecehan seksual verbal.
“Ini adalah bentuk ekspresi kebencian terhadap wanita dan kemarahan terhadap wanita. Dengan mengejek dan meremehkan wanita, mereka mendapatkan penegasan dari satu sama lain,” kata Chang.
Dalam pernyataan bersama minggu lalu, kelompok hak-hak perempuan mengatakan “akar penyebab” pelecehan seksual digital yang berulang adalah seksisme. Mereka menyalahkan pemerintah Presiden Yoon Suk Yeol karena gagal mengenali hal itu dan membiarkan masalah tersebut berkembang.
Yoon mengatakan bahwa “seksisme struktural tidak ada lagi” di Korea Selatan dan berjanji untuk menghapus Kementerian Kesetaraan Gender dan Keluarga negara tersebut.
Jabatan menteri tersebut masih kosong sejak Februari, dan anggaran kementerian untuk pencegahan kekerasan terhadap perempuan dan bantuan bagi korban mengalami pemotongan signifikan tahun ini. Dalam usulan anggaran yang baru diumumkan untuk tahun depan, dana yang dialokasikan untuk Pusat Advokasi Korban Pelecehan Seksual Daring, yang menghapus materi pelecehan seksual daring, menurun dari tahun sebelumnya, meskipun beban kerja pusat tersebut meningkat.
Meskipun adanya pemotongan tersebut, satuan tugas darurat pemerintah multi-lembaga dan Partai Kekuatan Rakyat yang berkuasa baru-baru ini berjanji untuk memperkuat investigasi dan hukuman atas kejahatan deepfake serta meningkatkan dukungan bagi para korban.
Undang-undang yang berkaitan dengan pelecehan seksual digital telah berkembang sedikit demi sedikit karena mencoba mengimbangi jenis kejahatan baru yang muncul dari teknologi baru. Menurut Chang, dari Institut Kriminologi dan Keadilan Korea, hal itu meninggalkan kesenjangan yang terus-menerus antara apa yang dianggap korban sebagai kerusakan dan apa yang dianggap hukum sebagai kejahatan.
Bahkan ketika suatu tindakan dapat dituntut berdasarkan hukum, yang saat ini mengkriminalisasi materi yang direkayasa atau palsu yang “dapat menimbulkan hasrat seksual atau rasa malu” dan dibuat “untuk tujuan penyebaran,” para pelaku sering kali terhindar dari hukuman.
Tingkat penangkapan karena materi seksual palsu tahun lalu adalah 48%, jauh lebih rendah daripada tingkat penangkapan untuk bentuk-bentuk kekerasan seksual digital lainnya, menurut statistik kepolisian.
Dan menurut analisis lembaga penyiaran Korea Selatan MBC, bahkan jika para pelaku diadili di pengadilan, sekitar setengah dari mereka mendapat hukuman percobaan.
Chang mengatakan sistem hukum masih kesulitan mengenali pelecehan seksual digital sebagai kejahatan serius dengan korban yang sebenarnya. “Dalam banyak kasus, hakim menganggap kerusakannya tidak separah kekerasan seksual yang melibatkan kontak fisik langsung,” katanya.
Koresponden NPR Anthony Kuhn memberikan kontribusi pelaporan dari Seoul, Korea Selatan.
