Dengan video dan audio palsu yang digunakan dalam kampanye politik, California memberlakukan pembatasan terberatnya pada bulan September: undang-undang yang melarang iklan politik dalam waktu 120 hari setelah pemilu yang menyertakan konten yang menipu, dibuat secara digital, atau diubah, kecuali iklan tersebut diberi label “dimanipulasi.” ”
Pada hari Rabu, seorang hakim federal untuk sementara memblokir undang-undang tersebut, dengan mengatakan bahwa undang-undang tersebut melanggar Amandemen Pertama.
Undang-undang lain yang melarang iklan kampanye yang menipu masih berlaku di California, termasuk undang-undang yang mewajibkan kandidat dan komite aksi politik untuk mengungkapkan kapan iklan menggunakan kecerdasan buatan untuk membuat atau mengubah konten secara substansial. Namun perintah awal yang diberikan terhadap RUU Majelis 2839 berarti bahwa tidak akan ada larangan luas terhadap individu yang menggunakan kecerdasan buatan untuk mengkloning gambar atau suara kandidat dan menggambarkan mereka secara salah tanpa mengungkapkan bahwa gambar atau kata-kata tersebut palsu.
Perintah tersebut diajukan oleh Christopher Kohls, seorang komentator konservatif yang telah membuat sejumlah video deepfake yang menyindir Partai Demokrat, termasuk calon presiden dari partai tersebut, Wakil Presiden Kamala Harris. Gubernur Gavin Newsom mengutip salah satu video tersebut – yang menunjukkan klip Harris sementara versi deepfake dari suaranya berbicara tentang menjadi “perekrut keberagaman utama” dan mengakui ketidaktahuan dan ketidakmampuan – ketika dia menandatangani AB 2839, tetapi tindakan tersebut sebenarnya diperkenalkan. pada bulan Februari, jauh sebelum video Harris milik Kohls menjadi viral di X.
Ketika ditanya di X tentang keputusan tersebut, Kohls berkata, “Kebebasan menang! Untuk saat ini.”
Video deepfake yang menyindir politisi, termasuk yang menargetkan Wakil Presiden Kamala Harris, telah menjadi viral di media sosial.
(Darko Vojinovic / Pers Terkait)
Keputusan Hakim Distrik AS John A. Mendez menggambarkan ketegangan antara upaya untuk melindungi terhadap pemalsuan yang didukung AI yang dapat mempengaruhi pemilu dan perlindungan yang kuat dalam Bill of Rights untuk pidato politik.
Saat memberikan perintah awal, Mendez menulis, “Ketika pidato politik dan politik elektoral menjadi isu, Amandemen Pertama hampir secara tegas menyatakan bahwa pengadilan mengizinkan pidato untuk berkembang daripada mendukung upaya negara untuk membatasinya. … [M]bagian dari AB 2839 bertindak seperti palu dan bukannya pisau bedah, berfungsi sebagai alat tumpul yang menghalangi ekspresi humor dan secara inkonstitusional menghambat pertukaran ide yang bebas dan tidak terkekang yang sangat penting bagi perdebatan demokrasi Amerika.”
Robert Weissman, salah satu presiden Public Citizen membantah, “Amandemen Pertama tidak boleh mengikat tangan kita dalam mengatasi ancaman nyata yang serius dan dapat diperkirakan terhadap demokrasi kita.”
Robert Weissman dari organisasi advokasi konsumen Public Citizen mengatakan 20 negara bagian lain telah mengadopsi undang-undang serupa dengan AB 2839, tetapi terdapat perbedaan utama.
(Nick Wass / Pers Terkait)
Weissman mengatakan 20 negara bagian telah mengadopsi undang-undang dengan pendekatan inti yang sama: mewajibkan iklan yang menggunakan AI untuk memanipulasi konten diberi label seperti itu. Namun AB 2839 memiliki beberapa elemen unik yang mungkin mempengaruhi pemikiran Mendez, kata Weissman, termasuk persyaratan bahwa pengungkapan tersebut harus ditampilkan sebesar teks terbesar yang terlihat dalam iklan.
Dalam keputusannya, Mendez, yang ditunjuk oleh Presiden George W. Bush, mencatat bahwa Amandemen Pertama juga mencakup pidato yang salah dan menyesatkan. Bahkan dalam isu yang sama pentingnya dengan menjaga pemilu, tulisnya, pembuat undang-undang hanya dapat mengatur ekspresi melalui cara yang paling tidak membatasi.
AB 2839 – yang mengharuskan video politik untuk terus menampilkan pengungkapan yang diperlukan tentang manipulasi – tidak menggunakan cara yang paling ketat untuk melindungi integritas pemilu, tulis Mendez. Pendekatan yang tidak terlalu membatasi adalah “kontra pidato,” tulisnya, meskipun dia tidak menjelaskan apa dampaknya.
Weissman menjawab, “Ujaran balasan bukanlah solusi yang memadai.” Masalah dengan deepfake bukan karena mereka membuat klaim atau sindiran palsu terhadap seorang kandidat, katanya; “Masalahnya adalah mereka menunjukkan bahwa kandidat mengatakan atau melakukan sesuatu yang sebenarnya tidak mereka lakukan.” Kandidat yang menjadi sasaran dihadapkan pada tugas yang hampir mustahil untuk menjelaskan bahwa mereka sebenarnya tidak melakukan atau mengatakan hal-hal tersebut, katanya, yang jauh lebih sulit daripada melawan tuduhan palsu yang diucapkan oleh lawan atau yang dilontarkan oleh komite aksi politik.
Untuk tantangan yang ditimbulkan oleh iklan deepfake, mengharuskan pengungkapan manipulasi bukanlah solusi yang tepat, katanya. Tapi ini adalah solusi yang paling tidak membatasi.
Liana Keesing dari Issue One, sebuah kelompok advokasi pro-demokrasi, mengatakan pembuatan deepfake belum tentu menjadi masalah. “Yang penting adalah penguatan konten palsu dan menipu tersebut,” kata Keesing, manajer kampanye kelompok tersebut.
Alix Fraser, direktur reformasi teknologi untuk Issue One, mengatakan hal terpenting yang dapat dilakukan anggota parlemen adalah mengatasi bagaimana platform teknologi dirancang. “Apa pagar pembatas di sekitar itu? Pada dasarnya tidak ada masalah apa pun,” katanya, seraya menambahkan, “Itulah masalah inti yang kami lihat.”
