FILE — Gubernur Kalifornia Gavin Newsom memveto SB1046, sebuah peraturan yang diperebutkan dengan hangat dan dianggap sebagai undang-undang keselamatan AI yang paling ketat di negaranya. (Foto AP/Rich Pedroncelli, File)
Pedroncelli yang kaya/AP
sembunyikan keterangan
beralih keterangan
Pedroncelli yang kaya/AP
Gubernur California Gavin Newsom pada hari Minggu memveto rancangan undang-undang yang akan memberlakukan peraturan negara yang paling luas jangkauannya mengenai industri kecerdasan buatan yang sedang berkembang pesat.
Para legislator California secara mayoritas meloloskan RUU yang disebut SB 1047, yang dipandang sebagai cetak biru potensial untuk legislasi AI nasional.
Tindakan tersebut akan membuat perusahaan teknologi bertanggung jawab secara hukum atas kerugian yang disebabkan oleh model AI. Selain itu, RUU ini akan mengharuskan perusahaan-perusahaan teknologi untuk mengaktifkan “tombol mematikan” (kill switch) bagi teknologi AI jika sistem tersebut disalahgunakan atau menjadi tidak bertanggung jawab.
Newsom menggambarkan RUU tersebut “berniat baik,” namun mencatat bahwa persyaratannya akan memerlukan peraturan yang “ketat” yang akan menyulitkan perusahaan-perusahaan kecerdasan buatan terkemuka di negara bagian tersebut.
Dalam pesan vetonya, Newsom mengatakan RUU tersebut terlalu berfokus pada model AI yang terbesar dan paling kuat, dan mengatakan bahwa perusahaan baru yang lebih kecil juga bisa menimbulkan gangguan yang sama.
“Model yang lebih kecil dan terspesialisasi mungkin sama atau bahkan lebih berbahaya dibandingkan model yang ditargetkan oleh SB 1047 – dengan potensi mengorbankan inovasi yang mendorong kemajuan demi kepentingan publik,” tulis Newsom.
Senator California Scott Wiener, salah satu penulis RUU tersebut, mengkritik langkah Newsom dan mengatakan bahwa veto tersebut merupakan kemunduran bagi akuntabilitas kecerdasan buatan.
“Veto ini memberikan kita kenyataan yang meresahkan bahwa perusahaan yang ingin menciptakan teknologi yang sangat kuat tidak menghadapi batasan yang mengikat dari para pembuat kebijakan AS, terutama mengingat kelumpuhan Kongres yang terus berlanjut dalam mengatur industri teknologi dengan cara apa pun yang berarti,” tulis Wiener di X.
RUU yang sekarang sudah tidak ada lagi akan memaksa industri untuk melakukan uji keamanan pada model AI yang sangat kuat. Tanpa persyaratan seperti itu, tulis Wiener pada hari Minggu, industri hanya bisa mengawasi dirinya sendiri.
“Meskipun laboratorium-laboratorium AI yang besar telah membuat komitmen yang mengagumkan untuk memantau dan memitigasi risiko-risiko ini, kenyataannya komitmen sukarela dari industri tidak dapat ditegakkan dan jarang memberikan hasil yang baik bagi masyarakat.”
Banyak pemain berpengaruh di Silicon Valley, termasuk perusahaan modal ventura Andreessen Horowitz, OpenAI, dan kelompok perdagangan yang mewakili Google dan Meta, melobi untuk menentang RUU tersebut, dengan alasan bahwa hal tersebut akan memperlambat pengembangan AI dan menghambat pertumbuhan perusahaan-perusahaan yang masih dalam tahap awal.
“SB 1047 akan mengancam pertumbuhan tersebut, memperlambat laju inovasi, dan menyebabkan para insinyur dan pengusaha kelas dunia California meninggalkan negara bagian tersebut untuk mencari peluang yang lebih besar di tempat lain,” Chief Strategy Officer OpenAI Jason Kwon menulis dalam surat yang dikirim bulan lalu ke Wiener.
Namun, para pemimpin teknologi lainnya mendukung RUU tersebut, termasuk Elon Musk dan ilmuwan AI perintis seperti Geoffrey Hinton dan Yoshua Bengio, yang menandatangani surat yang mendesak Newsom untuk menandatanganinya.
“Kami percaya bahwa model AI yang paling kuat akan segera menimbulkan risiko besar, seperti perluasan akses terhadap senjata biologis dan serangan siber terhadap infrastruktur penting. Adalah layak dan pantas bagi perusahaan-perusahaan AI terdepan untuk menguji apakah model AI yang paling kuat dapat menyebabkan kerugian yang parah, dan bagi perusahaan-perusahaan ini untuk menerapkan perlindungan yang wajar terhadap risiko-risiko tersebut,” menulis Hinton dan puluhan mantan dan karyawan saat ini di perusahaan AI terkemuka.
Pada hari Minggu, dalam postingannya di X, Wiener menyebut veto tersebut sebagai “kemunduran” bagi “semua orang yang percaya pada pengawasan terhadap perusahaan besar yang membuat keputusan penting yang mempengaruhi keselamatan dan kesejahteraan masyarakat.”
Negara bagian lain, seperti Colorado Dan Utahtelah memberlakukan undang-undang yang dirancang secara lebih sempit untuk mengatasi bagaimana AI dapat melanggengkan bias dalam keputusan ketenagakerjaan dan layanan kesehatan, serta permasalahan perlindungan konsumen terkait AI lainnya.
Newsom baru-baru ini menandatangani undang-undang AI lainnya menjadi undang-undang, termasuk undang-undang yang bertujuan untuk menindak penyebaran deepfake selama pemilu. Yang lain melindungi aktor agar kemiripan mereka tidak direplikasi oleh AI tanpa persetujuan mereka.
Ketika miliaran dolar dikucurkan untuk pengembangan AI, dan seiring dengan semakin banyaknya penggunaan AI dalam kehidupan sehari-hari, anggota parlemen di Washington masih belum mengusulkan satu pun undang-undang federal untuk melindungi masyarakat dari potensi bahayanya, atau melakukan pengawasan terhadap perkembangan AI yang pesat. .
