Beberapa hari setelah Wakil Presiden Kamala Harris meluncurkan pencalonan presidennya, sebuah video — yang dibuat dengan bantuan kecerdasan buatan — menjadi viral.
“Saya … adalah kandidat Demokrat Anda untuk presiden karena Joe Biden akhirnya memperlihatkan kepikunannya dalam debat,” sebuah suara yang terdengar seperti suara Harris dalam rekaman audio palsu yang digunakan untuk mengubah salah satu iklan kampanyenya. “Saya dipilih karena saya adalah kandidat yang paling cocok untuk keberagaman.”
Miliarder Elon Musk — yang mendukung lawan Harris dari Partai Republik, mantan Presiden Trump — membagikan video tersebut di X, lalu mengatakan dua hari kemudian bahwa video itu dimaksudkan sebagai parodi. Postingan awalnya ditonton 136 juta kali. Posting berikutnya yang menyebut video itu sebagai parodi ditonton 26 juta kali.
Untuk Demokrat, termasuk Gubernur California Gavin Newsominsiden tersebut bukan hal yang lucu, malah memicu seruan untuk lebih banyak regulasi guna memerangi video buatan AI yang mengandung pesan politik, serta perdebatan baru mengenai peran yang tepat bagi pemerintah dalam upaya membendung teknologi baru tersebut.
Pada hari Jumat, anggota parlemen California memberikan persetujuan akhir terhadap rancangan undang-undang yang akan melarang distribusi iklan kampanye yang menipu atau “komunikasi pemilu” dalam waktu 120 hari sebelum pemilu. RUU 2839 menargetkan konten yang dimanipulasi yang akan merusak reputasi atau prospek elektoral kandidat beserta keyakinan terhadap hasil pemilu. Hal ini dimaksudkan untuk mengatasi video seperti yang dibagikan Musk tentang Harris, meskipun mencakup pengecualian untuk parodi dan satir.
“Kita melihat California akan memasuki pemilihan umum pertamanya, di mana disinformasi yang didukung oleh AI generatif akan mencemari ekosistem informasi kita seperti yang belum pernah terjadi sebelumnya, dan jutaan pemilih tidak akan tahu gambar, audio, atau video mana yang dapat mereka percayai,” kata Anggota Majelis Gail Pellerin (D-Santa Cruz). “Jadi, kita harus melakukan sesuatu.”
Newsom memiliki mengisyaratkan dia akan menandatangani RUU tersebutyang akan berlaku segera, tepat pada saat pemilihan bulan November.
Undang-undang tersebut memperbarui undang-undang California yang melarang orang mendistribusikan media audio atau visual yang menyesatkan yang bertujuan untuk merusak reputasi kandidat atau menipu pemilih dalam waktu 60 hari sebelum pemilihan. Anggota parlemen negara bagian mengatakan undang-undang tersebut perlu diperkuat selama siklus pemilihan di mana orang-orang telah membanjiri media sosial dengan video dan foto yang diubah secara digital yang dikenal sebagai deepfake.
Penggunaan deepfake untuk menyebarkan misinformasi telah membuat khawatir para pembuat undang-undang dan regulator selama siklus pemilihan sebelumnya. Ketakutan ini meningkat setelah peluncuran alat-alat baru bertenaga AI, seperti chatbot yang dapat menghasilkan gambar dan video dengan cepat. Dari panggilan telepon otomatis palsu hingga dukungan palsu dari selebritas terhadap kandidat, konten yang dihasilkan AI sedang menguji platform teknologi dan para pembuat undang-undang.
Berdasarkan AB 2839, seorang kandidat, panitia pemilihan, atau pejabat pemilihan dapat mengajukan perintah pengadilan untuk menghapus deepfake. Mereka juga dapat menuntut orang yang mendistribusikan atau menerbitkan ulang materi yang menyesatkan tersebut untuk ganti rugi.
Undang-undang tersebut juga berlaku untuk media yang menyesatkan yang diunggah 60 hari setelah pemilu, termasuk konten yang secara keliru menggambarkan mesin pemungutan suara, surat suara, lokasi pemungutan suara, atau properti terkait pemilu lainnya dengan cara yang dapat merusak kepercayaan terhadap hasil pemilu.
Hal ini tidak berlaku bagi satir atau parodi yang diberi label demikian, atau bagi stasiun penyiaran jika mereka memberi tahu pemirsa bahwa apa yang digambarkan tidak secara akurat mewakili pidato atau peristiwa.
Kelompok industri teknologi menentang AB 2839, bersama dengan RUU lain yang menargetkan platform daring karena tidak memoderasi konten pemilu yang menipu atau memberi label pada konten yang dihasilkan AI dengan benar.
“Hal ini akan mengakibatkan pembatasan dan pemblokiran kebebasan berbicara yang dilindungi oleh konstitusi,” kata Carl Szabo, wakil presiden dan penasihat umum NetChoice. Anggota kelompok tersebut meliputi Google, X, dan Snap serta perusahaan induk Facebook, Meta, dan raksasa teknologi lainnya.
Platform daring memiliki aturannya sendiri tentang media yang dimanipulasi dan iklan politik, tetapi kebijakan mereka dapat berbeda.
Tidak seperti Meta dan X, TikTok tidak mengizinkan iklan politik dan mengatakan akan menghapus iklan yang diberi label Konten yang dihasilkan AI jika menggambarkan tokoh publik seperti selebriti “ketika digunakan untuk dukungan politik atau komersial.” Truth Social, sebuah platform yang dibuat oleh Trump, tidak membahas media yang dimanipulasi dalam aturannya tentang apa yang tidak diperbolehkan di platformnya.
Regulator federal dan negara bagian sudah menindak konten yang dihasilkan AI.
Komisi Komunikasi Federal pada bulan Mei mengusulkan denda sebesar $6 juta terhadap Steve Kramer, konsultan politik Demokrat di balik panggilan otomatis yang menggunakan AI untuk meniru suara Presiden Biden. Panggilan palsu tersebut menghambat partisipasi dalam pemilihan pendahuluan presiden Demokrat di New Hampshire pada bulan Januari. Kramer, yang mengatakan Berita NBC dia merencanakan panggilan tersebut untuk menarik perhatian terhadap bahaya AI dalam politik, juga menghadapi tuntutan pidana berupa penekanan pemilih dan pelanggaran ringan peniruan identitas kandidat.
Szabo mengatakan undang-undang saat ini sudah cukup untuk mengatasi kekhawatiran tentang deepfake pemilu. NetChoice telah menggugat berbagai negara bagian untuk menghentikan beberapa undang-undang yang bertujuan melindungi anak-anak di media sosial, dengan tuduhan melanggar perlindungan kebebasan berbicara berdasarkan Amandemen ke-1.
“Hanya membuat undang-undang baru tidak akan menghentikan perilaku buruk; Anda justru perlu menegakkan hukum,” kata Szabo.
Menurut lembaga advokasi konsumen nirlaba, lebih dari dua lusin negara bagian telah memberlakukan, meloloskan, atau sedang mengerjakan undang-undang untuk mengatur deepfake. Warga Negara Publik.
Pada tahun 2019, California memberlakukan undang-undang yang bertujuan untuk memerangi media yang dimanipulasi setelah Video yang memperlihatkan Ketua DPR Nancy Pelosi tampak mabuk menjadi viral di media sosial. Menegakkan hukum tersebut merupakan tantangan.
“Kami memang harus menguranginya,” kata Anggota Majelis Marc Berman (D-Menlo Park), yang menulis tagihan“Banyak perhatian tertuju pada potensi risiko teknologi ini, tetapi saya khawatir bahwa pada akhirnya, hal itu tidak banyak membantu.”
Alih-alih mengambil tindakan hukum, kata Danielle Citron, seorang profesor di Fakultas Hukum Universitas Virginia, kandidat politik mungkin memilih untuk membongkar deepfake atau bahkan mengabaikannya untuk membatasi penyebarannya. Pada saat mereka dapat melalui sistem pengadilan, konten tersebut mungkin sudah tersebar luas.
“Undang-undang ini penting karena pesan yang disampaikannya. Undang-undang ini mengajarkan kita sesuatu,” katanya, seraya menambahkan bahwa undang-undang ini memberi tahu orang-orang yang membagikan deepfake bahwa ada biaya yang harus dibayar.
Tahun ini, para legislator bekerja sama dengan California Initiative for Technology and Democracy, sebuah proyek nirlaba California Common Cause, pada beberapa rancangan undang-undang untuk mengatasi deepfake politik.
Beberapa menargetkan platform daring yang dilindungi berdasarkan hukum federal dari tanggung jawab atas konten yang diposting pengguna.
Berman mengajukan RUU yang mengharuskan platform daring dengan sedikitnya 1 juta pengguna di California untuk menghapus atau memberi label konten terkait pemilu yang menyesatkan dalam waktu 120 hari sejak pemilu. Platform harus mengambil tindakan paling lambat 72 jam setelah pengguna melaporkan unggahan tersebut.
Di bawah Nomor 2655yang disahkan Badan Legislatif pada hari Rabu, platform tersebut juga memerlukan prosedur untuk mengidentifikasi, menghapus, dan memberi label konten palsu. Hal ini juga tidak berlaku untuk saluran parodi atau satir atau berita yang memenuhi persyaratan tertentu.
RUU lain, yang ditulis bersama oleh Anggota Majelis Buffy Wicks (D-Oakland), mengharuskan platform daring untuk memberi label pada konten yang dihasilkan AI. Meskipun NetChoice dan TechNet, kelompok industri lain, menentang RUU tersebut, pembuat ChatGPT OpenAI mendukungnya. Nomor 3211Bahasa Indonesia: Reuters dilaporkan.
Namun, kedua RUU tersebut tidak akan berlaku hingga setelah pemilu, yang menggarisbawahi tantangan dalam meloloskan undang-undang baru karena teknologi berkembang pesat.
“Sebagian dari harapan saya dengan memperkenalkan RUU ini adalah perhatian yang ditimbulkannya, dan mudah-mudahan tekanan yang diberikannya pada platform media sosial untuk berperilaku baik saat ini,” kata Berman.
