RUU kontroversial yang mengharuskan pengembang model AI canggih mengadopsi langkah-langkah keamanan selangkah lagi menjadi undang-undang.
RUU tersebut, SB 1047, akan mengharuskan pengembang model AI canggih masa depan untuk membuat pembatas guna mencegah teknologi tersebut disalahgunakan untuk melakukan serangan siber terhadap infrastruktur penting seperti pembangkit listrik.
Pengembang perlu menyerahkan rencana keselamatan mereka kepada jaksa agung, yang dapat meminta pertanggungjawaban mereka jika model AI yang mereka kendalikan secara langsung menyebabkan kerugian atau ancaman langsung terhadap keselamatan publik.
RUU yang diajukan oleh Senator Scott Wiener (D-San Francisco) itu disahkan oleh Majelis negara bagian pada hari Rabu, dengan 41 suara mendukung dan sembilan suara menentang. Pada hari Kamis, langkah tersebut disetujui oleh Senat negara bagian melalui pemungutan suara. RUU tersebut kini akan diserahkan ke kantor Gubernur Gavin Newsom, meskipun belum jelas apakah Newsom akan menandatangani atau memveto RUU tersebut.
“Inovasi dan keselamatan dapat berjalan beriringan — dan California adalah yang terdepan,” kata Wiener dalam sebuah pernyataan.
Seorang juru bicara Newsom mengatakan gubernur akan mengevaluasi rancangan undang-undang itu ketika sampai di mejanya.
RUU Wiener diperdebatkan sengit di komunitas teknologi Bay Area. RUU ini mendapat dukungan dari Center for AI Safety, Kepala Eksekutif Tesla Elon Musk, dewan redaksi LA Times, dan perusahaan rintisan AI Anthropic yang berbasis di San Francisco.
Namun, undang-undang ini ditentang oleh para pemimpin kongres Demokrat dan sejumlah pelaku AI terkemuka, termasuk Meta dan OpenAI, yang menyuarakan kekhawatiran tentang apakah undang-undang tersebut akan menghambat inovasi di California.
Para pemimpin kongres Demokrat, termasuk mantan Ketua DPR Nancy Pelosi, Rep. Ro Khanna (D-Fremont) dan Rep. Zoe Lofgren (D-San José), juga menentang RUU tersebut dan mendesak Newsom untuk memvetonya. Mereka berpendapat undang-undang tersebut dapat merugikan industri AI yang sedang berkembang di California, tempat pembuat ChatGPT OpenAI berada, dan mengutip berbagai upaya yang dilakukan Kongres terkait dengan AI.
“Ada risiko nyata bahwa perusahaan akan memutuskan untuk berbadan hukum di wilayah hukum lain atau tidak merilis model di California,” tulis Khanna, Lofgren, dan enam perwakilan kongres Demokrat lainnya dalam surat kepada Newsom.
“Meskipun kami ingin California menjadi yang terdepan dalam bidang AI dengan cara yang melindungi konsumen, data, kekayaan intelektual, dan banyak lagi, SB 1047 justru lebih banyak merugikan daripada membantu dalam upaya tersebut,” kata Pelosi dalam sebuah pernyataan.
Wiener dan legislator lain yang mendukung RUU tersebut tidak setuju, mereka berpendapat RUU tersebut akan mendorong inovasi sekaligus melindungi masyarakat.
“Anda harus memasang pembatas,” kata Anggota Majelis Devon Mathis (R-Visalia) sebelum pemungutan suara Majelis pada Rabu sore. “Kita harus memastikan mereka akan menjadi pemain yang bertanggung jawab.”
Pendukung SB 1047 mengatakan undang-undang ini mengharuskan pengembang bertanggung jawab atas keamanan model AI canggih yang mereka kendalikan, yang dapat membantu mencegah kejadian AI yang membawa bencana di masa mendatang.
“Saya khawatir perusahaan teknologi tidak akan menyelesaikan sendiri risiko signifikan yang terkait dengan AI karena mereka terkunci dalam persaingan untuk mendapatkan pangsa pasar dan memaksimalkan laba,” kata Yoshua Bengio, seorang profesor di Université de Montréal dan pendiri sekaligus direktur ilmiah Mila — Quebec Artificial Intelligence Institute, dalam jumpa pers minggu ini. “Kita tidak bisa membiarkan mereka menilai pekerjaan rumah mereka sendiri dan berharap yang terbaik.”
Para pendukung juga mengatakan AI harus diatur serupa dengan industri lain yang berpotensi menimbulkan risiko keselamatan.
“Ini keputusan yang sulit dan akan membuat beberapa orang kesal, tetapi, jika mempertimbangkan semuanya, saya pikir California mungkin harus meloloskan RUU keselamatan AI SB 1047,” tulis Musk di X pada hari Senin. “Selama lebih dari 20 tahun, saya telah menjadi pendukung regulasi AI, sama seperti kita meregulasi produk/teknologi apa pun yang berpotensi menimbulkan risiko bagi masyarakat.”
Awal bulan ini, rancangan undang-undang tersebut disahkan oleh komite Senat negara bagian setelah Wiener membuat perubahan signifikan, termasuk menghapus hukuman sumpah palsu dan mengubah standar hukum bagi pengembang mengenai keamanan model AI canggih mereka.
CEO perusahaan rintisan AI Anthropic yang berkantor pusat di San Francisco, Dario Amodei, mengatakan bahwa ia yakin “manfaat RUU tersebut kemungkinan lebih besar daripada biayanya” dalam surat tertanggal 21 Agustus kepada Newsom. Surat tersebut tidak mendukung RUU tersebut tetapi menyampaikan pandangan perusahaan tentang pro dan kontranya.
“Kami ingin memperjelas … bahwa SB 1047 membahas masalah nyata dan serius terkait risiko bencana dalam sistem AI,” tulis Amodei. “Sistem AI mengalami kemajuan kemampuan yang sangat pesat, yang menawarkan harapan besar bagi perekonomian California sekaligus risiko yang besar.”
Tetapi beberapa perusahaan teknologi termasuk OpenAI mengatakan mereka menentang RUU tersebut bahkan setelah adanya perubahan.
“Dampak AI yang luas dan signifikan bagi daya saing dan keamanan nasional AS mengharuskan regulasi model-model perbatasan dibentuk dan diterapkan di tingkat federal,” tulis Kepala Strategi OpenAI Jason Kwon dalam suratnya kepada Wiener pada 21 Agustus. “Seperangkat kebijakan AI yang digerakkan oleh pemerintah federal, bukan serangkaian undang-undang negara bagian, akan mendorong inovasi dan memposisikan AS untuk memimpin pengembangan standar global.”
Wiener mengatakan dia akan menyambut baik undang-undang keselamatan AI federal yang kuat yang mendahului RUU-nya.
“Jika pengalaman masa lalu menjadi indikasi, penerapan kebijakan semacam itu [federal] “Undang-undang ini akan menjadi perjuangan berat,” kata Wiener dalam sebuah pernyataan. “Sementara itu, California harus terus memimpin kebijakan seperti SB 1047 yang mendorong inovasi sekaligus melindungi masyarakat.”
SB 1047 merupakan salah satu dari sekitar 50 rancangan undang-undang terkait AI di Badan Legislatif yang membahas berbagai aspek dampak teknologi terhadap publik, termasuk pekerjaan, deepfake, dan keselamatan.
