CGubernur Alifornia Gavin Newsom telah memveto kebijakan paling komprehensif yang mengatur keamanan kecerdasan buatan di AS.
RUU ini akan menjadi RUU pertama yang meminta pertanggungjawaban pengembang AI atas segala kerugian parah yang disebabkan oleh teknologi mereka. Hal ini menuai kritik keras dari beberapa tokoh Demokrat dan perusahaan teknologi besar, termasuk pencipta ChatGPT OpenAI dan perusahaan modal ventura Andreessen Horowitz, yang memperingatkan bahwa hal itu dapat menghambat inovasi di negara bagian tersebut.
Newsom menggambarkan undang-undang tersebut “berniat baik” namun mengatakan dalam sebuah pernyataan bahwa undang-undang tersebut akan menerapkan “standar yang ketat bahkan untuk fungsi yang paling dasar sekalipun.” Peraturan harus didasarkan pada “bukti empiris dan ilmu pengetahuan,” katanya, sambil menunjuk pada perintah eksekutifnya mengenai AI dan undang-undang lain yang dia tandatangani yang mengatur teknologi seputar risiko yang diketahui seperti palsu.
Perdebatan seputar RUU SB 1047 California menyoroti tantangan yang dihadapi anggota parlemen di seluruh dunia dalam mengendalikan risiko AI sekaligus mendukung teknologi yang sedang berkembang. Para pengambil kebijakan di AS belum mengeluarkan undang-undang komprehensif apa pun seputar teknologi ini sejak peluncuran ChatGPT dua tahun lalu yang memicu ledakan AI generatif global.
Senator Demokrat California Scott Wiener, yang memperkenalkan RUU tersebut, menyebut veto Newsom sebagai “kemunduran bagi semua orang yang percaya pada pengawasan terhadap perusahaan besar.” Dalam sebuah pernyataan yang diposting di X, Wiener berkata, “Akibatnya kita semua menjadi kurang aman.”
‘Perawatan yang masuk akal’
SB 1047 akan mengamanatkan bahwa perusahaan yang mengembangkan model AI yang kuat harus berhati-hati untuk memastikan bahwa teknologi mereka tidak akan menyebabkan “kerusakan parah” seperti korban jiwa massal atau kerusakan properti di atas $500 juta. Perusahaan harus mengambil tindakan pencegahan khusus, termasuk memasang tombol pemutus (kill switch) yang dapat mematikan teknologi mereka. Model AI juga harus melalui pengujian pihak ketiga untuk memastikan model tersebut meminimalkan risiko besar.
RUU ini juga akan menciptakan perlindungan bagi pelapor (whistleblower) bagi karyawan di perusahaan AI yang ingin berbagi masalah keselamatan. Perusahaan yang tidak mematuhi RUU tersebut bisa saja digugat oleh Jaksa Agung California.
Para pendukung undang-undang tersebut mengatakan bahwa undang-undang tersebut akan menciptakan standar hukum yang masuk akal. Namun investor VC, pemimpin startup, dan perusahaan seperti OpenAI memperingatkan bahwa hal ini akan memperlambat inovasi dan mendorong perusahaan AI keluar dari negara bagian tersebut.
“Revolusi AI baru saja dimulai, dan status unik California sebagai pemimpin global dalam AI memicu dinamisme perekonomian negara bagian ini,” Jason Kwon, kepala strategi OpenAI, menulis dalam suratnya bulan lalu yang menentang undang-undang tersebut. “SB 1047 akan mengancam pertumbuhan tersebut, memperlambat laju inovasi, dan menyebabkan para insinyur dan pengusaha kelas dunia California meninggalkan negara bagian tersebut untuk mencari peluang yang lebih besar di tempat lain.”
Anggota parlemen menentang
Anggota parlemen termasuk mantan Ketua DPR Nancy Pelosi, Perwakilan Ro Khanna, dan Walikota San Francisco London Breed juga menyuarakan penolakan mereka, sejalan dengan kekhawatiran dari industri teknologi bahwa RUU tersebut dapat menghambat kepemimpinan California dalam inovasi AI. Newsom baru-baru ini mengatakan dia khawatir RUU tersebut mungkin memiliki “efek mengerikan” pada pengembangan AI.
RUU tersebut mendapat dukungan dari beberapa nama terkemuka di bidang teknologi akhir bulan lalu, menjelang disahkannya undang-undang di California. Elon Musk tiba-tiba menyuarakan dukungannya, meskipun dia mengatakan itu adalah “keputusan yang sulit dan akan membuat beberapa orang kesal.” Saingan OpenAI, Anthropic, yang memiliki reputasi berorientasi pada keselamatan, mengatakan bahwa “manfaatnya mungkin lebih besar daripada biayanya,” meskipun perusahaan tersebut mengatakan beberapa aspek masih “mengkhawatirkan atau ambigu bagi kami.”
Wiener membela rancangan undang-undang tersebut, dengan menekankan bahwa ketentuan-ketentuan di dalamnya hanya berlaku bagi perusahaan-perusahaan yang menghabiskan lebih dari $100 juta untuk melatih model-model besar atau $10 juta untuk menyempurnakan model, batasan yang akan mengecualikan sebagian besar perusahaan rintisan kecil. Anggota parlemen tersebut juga mencatat bahwa Kongres secara historis lambat dalam mengatur teknologi itu sendiri.
Saat mengumumkan vetonya, Newsom mengatakan dia akan berkonsultasi dengan para ahli dari luar, termasuk pakar AI dan pengusaha Fei-Fei Li, untuk “mengembangkan batasan yang bisa diterapkan” pada teknologi tersebut dan terus bekerja dengan badan legislatif negara bagian mengenai topik tersebut.
Gubernur juga menandatangani undang-undang pada hari Minggu, SB 896, yang mengatur bagaimana lembaga negara menggunakan AI.
