Menggunakan aplikasi bertenaga AI untuk membuat gambar telanjang palsu seseorang tanpa persetujuan mereka melanggar berbagai norma, terutama jika orang tersebut masih di bawah umur.
Namun, hal itu tidak akan melanggar hukum California. Tapi itu akan segera terjadi.
Sepasang rancangan undang-undang yang baru ditandatangani oleh Gubernur Gavin Newsom melarang pembuatan, kepemilikan dan distribusi gambar-gambar bermuatan seksual dari anak di bawah umur meskipun gambar-gambar tersebut dibuat dengan komputer, bukan kamera. Langkah-langkah tersebut mulai berlaku pada 1 Januari.
Perluasan larangan yang dilakukan oleh negara ini terjadi ketika pelajar semakin banyak yang menjadi korban dari aplikasi-aplikasi yang menggunakan kecerdasan buatan, baik untuk mengambil foto seseorang yang berpakaian lengkap dan secara digital menghasilkan tubuh telanjang (aplikasi “undresser”) atau secara mulus menampilkan gambar wajah seseorang. ke tubuh telanjang dari video porno.
Menurut survei yang dirilis bulan lalu oleh Center for Democracy & Technology, 40% siswa yang disurvei mengatakan mereka pernah mendengar tentang semacam gambar palsu yang dibagikan di sekolah mereka. Dari kelompok tersebut, hampir 38% mengatakan gambar-gambar tersebut tidak bersifat konsensual dan bersifat intim atau eksplisit secara seksual.
Sangat sedikit guru yang disurvei mengatakan sekolah mereka memiliki langkah-langkah untuk memperlambat penyebaran deepfake non-konsensual, kata laporan pusat tersebut, sambil menambahkan, “Sayangnya hal ini membuat banyak siswa dan orang tua tidak tahu apa-apa dan mencari jawaban dari sekolah yang tidak memiliki kemampuan untuk menyediakan informasi tersebut. .”
Apa yang cenderung dilakukan sekolah, menurut pusat tersebut, adalah merespons dengan pengusiran atau hukuman lain bagi siswa yang membuat dan menyebarkan deepfake. Misalnya, distrik sekolah Beverly Hills mengeluarkan lima siswa kelas delapan yang membagikan foto telanjang palsu kepada 16 siswa kelas delapan lainnya pada bulan Februari.
Kasus Beverly Hills telah dirujuk ke polisi, namun para ahli hukum mengatakan pada saat itu bahwa ada kesenjangan dalam undang-undang negara bagian yang membuat materi pelecehan seksual terhadap anak-anak yang dihasilkan komputer berada di luar jangkauan jaksa penuntut negara – sebuah situasi yang akan berlaku bahkan jika gambar-gambar tersebut disebarluaskan. dibuat dan didistribusikan oleh orang dewasa.
Kesenjangan ini sebagian berasal dari definisi hukum negara mengenai pornografi anak, yang tidak menyebutkan gambar yang dihasilkan komputer. Pengadilan banding negara bagian memutuskan pada tahun 2011 bahwa, untuk melanggar hukum California, “tampaknya seorang anak sungguhan harus digunakan dalam produksi dan benar-benar terlibat atau melakukan simulasi perilaku seksual yang digambarkan.”
RUU Majelis tahun 1831, yang ditulis oleh Anggota Majelis Marc Berman (D-Menlo Park), memperluas larangan pornografi anak di negara bagian tersebut menjadi materi yang “mengandung penggambaran yang diubah secara digital atau dihasilkan oleh kecerdasan buatan. [of] yang tampak seperti seseorang yang berusia di bawah 18 tahun” yang terlibat atau melakukan simulasi perilaku seksual. Undang-undang negara bagian mendefinisikan perilaku seksual tidak hanya sebagai tindakan seksual, namun menampilkan tubuh telanjang atau fungsi tubuh secara grafis untuk tujuan rangsangan seksual.
Setelah AB 1831 mulai berlaku tahun depan, materi yang dihasilkan oleh AI dan diubah secara digital akan bergabung dengan jenis pornografi anak-anak yang tidak senonoh lainnya karena dianggap ilegal untuk dimiliki, dijual kepada orang dewasa, atau didistribusikan kepada anak di bawah umur. Terlibat dengan cara apa pun dalam distribusi non-komersial atau pertukaran barang-barang tersebut kepada orang dewasa juga merupakan tindakan ilegal karena mengetahui bahwa barang-barang tersebut melibatkan pornografi anak, meskipun barang-barang tersebut tidak bersifat cabul.
RUU Senat tahun 1381, yang ditulis oleh Senator Aisha Wahab (D-Hayward), mencakup landasan serupa, mengubah undang-undang negara bagian untuk secara jelas melarang penggunaan AI untuk membuat gambar anak-anak sungguhan yang terlibat dalam perilaku seksual, atau menggunakan anak-anak sebagai model untuk diubah secara digital atau AI- menghasilkan pornografi anak.
Warga Ventura County dan mantan aktris Disney Kaylin Hayman, 16, adalah pendukung vokal AB 1831, setelah mengalami sendiri masalah tersebut. Menurut kantor kejaksaan Ventura County, seorang pria Pennsylvania membuat gambar yang menyambungkan wajahnya ke tubuh seksual eksplisit – gambar yang pada saat itu tidak dapat dihukum berdasarkan hukum California. Sebaliknya, pria tersebut diadili di pengadilan federal, dinyatakan bersalah dan dijatuhi hukuman 14 tahun penjara, kata kantor kejaksaan.
“Mengadvokasi RUU ini sangat memberdayakan, dan saya berterima kasih kepada kantor kejaksaan serta orang tua saya yang telah mendukung saya melalui proses ini,” kata Hayman dalam siaran persnya. “Undang-undang ini akan revolusioner, dan keadilan akan ditegakkan bagi para korban di masa depan.”
“Melalui kerja sama kami dengan Kaylin Hayman, yang dengan berani berbagi pengalamannya sebagai korban, kami mampu mengungkap kejahatan nyata dari gambar-gambar pelecehan seksual terhadap anak-anak yang dihasilkan komputer,” Dist. Atty. kata Erik Nasarenko dalam rilisnya. “Kekuatan dan tekad Kaylin untuk mengadvokasi RUU ini akan melindungi anak di bawah umur di masa depan, dan upayanya memainkan peran penting dalam mengesahkan undang-undang ini.”
