Gubernur Kalifornia memveto rancangan undang-undang keselamatan AI yang penting

Gubernur California Gavin Newsom memveto Undang-Undang Inovasi yang Aman dan Terjamin untuk Model Kecerdasan Buatan Frontier (SB 1047) hari ini. Dalam pesan vetonya, Gubernur Newsom mengutip beberapa faktor dalam keputusannya, termasuk beban yang akan ditimpakan oleh RUU tersebut kepada perusahaan-perusahaan AI, keunggulan California dalam bidang tersebut, dan kritik bahwa RUU tersebut mungkin terlalu luas.

“Meskipun bermaksud baik, SB 1047 tidak memperhitungkan apakah sistem AI diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan penting, atau penggunaan data sensitif. Sebaliknya, rancangan undang-undang tersebut menerapkan standar yang ketat bahkan untuk fungsi yang paling dasar sekalipun – selama sistem besar menerapkannya. Saya tidak percaya ini adalah pendekatan terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi.”

Newsom menulis bahwa RUU tersebut dapat “memberikan masyarakat rasa aman yang salah dalam mengendalikan teknologi yang bergerak cepat ini.”

“Model yang lebih kecil dan terspesialisasi mungkin sama atau bahkan lebih berbahaya dibandingkan model yang ditargetkan oleh SB 1047 – dengan potensi mengorbankan inovasi yang mendorong kemajuan demi kepentingan publik.”

Gubernur mengatakan dia setuju bahwa harus ada protokol keselamatan dan pagar pembatas, serta konsekuensi yang “jelas dan dapat ditegakkan” bagi pelaku kejahatan. Namun, ia menyatakan bahwa ia tidak yakin negara harus “menerima solusi yang tidak didasarkan pada analisis lintasan empiris sistem dan kemampuan Al.”

Berikut pesan veto selengkapnya:

Dalam postingan di X, Senator Scott Wiener, penulis utama rancangan undang-undang tersebut, menyebut veto tersebut sebagai “kemunduran bagi semua orang yang percaya pada pengawasan terhadap perusahaan-perusahaan besar yang membuat keputusan penting” yang mempengaruhi keselamatan dan kesejahteraan publik serta “masa depan planet ini.”

“Veto ini memberikan kita kenyataan yang meresahkan bahwa perusahaan yang ingin menciptakan teknologi yang sangat kuat tidak menghadapi batasan yang mengikat dari para pembuat kebijakan AS, terutama mengingat kelumpuhan Kongres yang terus berlanjut dalam mengatur industri teknologi dengan cara apa pun yang berarti.”

Pada akhir bulan Agustus, SB 1047 tiba di meja Gubernur Newsom, siap untuk menjadi kerangka hukum paling ketat seputar AI di AS, dengan batas waktu untuk menandatangani atau memvetonya pada tanggal 30 September.

Hal ini akan diterapkan pada perusahaan-perusahaan AI tercakup yang melakukan bisnis di California dengan model yang membutuhkan biaya pelatihan lebih dari $100 juta atau penyesuaian lebih dari $10 juta, sehingga menambahkan persyaratan agar pengembang menerapkan perlindungan seperti “tombol pemutus” dan menyusun protokol untuk pengujian. mengurangi kemungkinan terjadinya bencana seperti serangan siber atau pandemi. Teks ini juga memberikan perlindungan bagi pelapor untuk melaporkan pelanggaran dan memungkinkan Kejaksaan Agung untuk menuntut kerugian yang disebabkan oleh insiden keselamatan.

Perubahan sejak diperkenalkannya hal ini termasuk penghapusan proposal untuk badan pengatur baru dan memberikan wewenang kepada jaksa agung negara bagian untuk menuntut pengembang atas potensi insiden sebelum hal itu terjadi. Sebagian besar perusahaan yang tercakup dalam undang-undang tersebut menolak undang-undang tersebut, meskipun beberapa perusahaan meredam kritik mereka setelah amandemen tersebut.

Dalam surat kepada penulis RUU Senator Wiener, kepala strategi OpenAI Jason Kwon mengatakan SB 1047 akan memperlambat kemajuan dan sebagai gantinya pemerintah federal harus menangani regulasi AI. Sementara itu, CEO Anthropic Dario Amodei menulis kepada gubernur setelah RUU tersebut diamandemen, menyebutkan pro dan kontra yang dirasakannya dan mengatakan, “… SB 1047 yang baru telah ditingkatkan secara substansial, hingga pada titik di mana kami yakin manfaatnya mungkin lebih besar daripada biayanya. ”

Chamber of Progress, sebuah koalisi yang mewakili Amazon, Meta, dan Google, juga memperingatkan bahwa undang-undang tersebut akan “melumpuhkan inovasi.”

Manajer urusan masyarakat Meta Jamie Radice mengirim email pernyataan Meta tentang veto ke Tepi:

“Kami senang Gubernur Newsom memveto SB1047. RUU ini akan menghambat inovasi AI, merugikan pertumbuhan bisnis dan penciptaan lapangan kerja, serta mematahkan tradisi panjang negara dalam mendorong pengembangan sumber terbuka. Kami mendukung peraturan AI yang bertanggung jawab dan tetap berkomitmen untuk bermitra dengan pembuat undang-undang untuk mendorong pendekatan yang lebih baik.”

Penentang RUU tersebut termasuk mantan Ketua DPR Nancy Pelosi, Walikota San Francisco London Breed, dan delapan anggota Kongres dari Partai Demokrat dari California. Di sisi lain, pendukung vokal termasuk Elon Musk, nama-nama terkemuka Hollywood seperti Mark Hamill, Alyssa Milano, Shonda Rhimes, dan JJ Abrams, dan serikat pekerja termasuk SAG-AFTRA dan SEIU.

Pemerintah federal juga sedang mencari cara untuk mengatur AI. Pada bulan Mei, Senat mengusulkan peta jalan senilai $32 miliar yang mencakup beberapa bidang yang harus diperhatikan oleh anggota parlemen, termasuk dampak AI terhadap pemilu, keamanan nasional, konten berhak cipta, dan banyak lagi.