Gubernur Gavin Newsom pada hari Minggu memveto SB 1047, rancangan undang-undang keselamatan kecerdasan buatan yang akan menetapkan persyaratan bagi pengembang model AI tingkat lanjut untuk membuat protokol yang bertujuan mencegah bencana.
RUU tersebut, yang diperkenalkan oleh Senator Scott Wiener (D-San Francisco), akan mewajibkan pengembang untuk menyerahkan rencana keselamatan mereka kepada jaksa agung negara bagian, yang dapat meminta pertanggungjawaban mereka jika model AI yang mereka kendalikan secara langsung menyebabkan kerugian atau ancaman terhadap keselamatan publik.
Selain itu, undang-undang tersebut mengharuskan perusahaan teknologi untuk dapat mematikan model AI yang mereka kendalikan secara langsung jika terjadi kesalahan.
Dalam pesan vetonya, Newsom mengatakan undang-undang tersebut dapat memberikan masyarakat “rasa aman yang salah dalam mengendalikan teknologi yang bergerak cepat ini” karena undang-undang tersebut hanya menargetkan model AI berskala besar dan mahal dan bukan sistem khusus yang lebih kecil.
“Meskipun bermaksud baik, SB 1047 tidak memperhitungkan apakah sistem AI diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan penting, atau penggunaan data sensitif,” pesan veto Newsom menyatakan. “Sebaliknya, RUU ini menerapkan standar yang ketat bahkan untuk fungsi yang paling dasar – selama sistem besar menerapkannya. Saya tidak percaya ini adalah pendekatan terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi.”
Gubernur pada hari Minggu juga mengumumkan bahwa pemerintahannya telah merekrut para pemimpin di bidang ini untuk membantu negara bagian menciptakan perlindungan yang bisa diterapkan untuk penerapan AI, dengan fokus pada analisis kemampuan dan risikonya. Newsom berjanji akan terus bekerja sama dengan Badan Legislatif mengenai masalah ini pada sesi berikutnya.
RUU tersebut diperdebatkan dengan sengit di Silicon Valley, mendapat dukungan dari Pusat Keamanan AI, Kepala Eksekutif SpaceX Elon Musk, dewan redaksi LA Times, dan peneliti AI terkemuka, namun ditentang oleh perusahaan induk Facebook, Meta, pembuat ChatGPT OpenAI, dan beberapa anggota Kongres dari Partai Demokrat. termasuk Perwakilan Nancy Pelosi (D-San Francisco).
Para pendukung mengatakan bahwa penting untuk menetapkan batasan bagi teknologi AI yang berkembang pesat untuk mencegah dampak buruk di masa depan, sementara para penentang mengatakan bahwa langkah-langkah tersebut dapat menghambat inovasi.
Meskipun ada kemungkinan suatu rancangan undang-undang dapat mengatasi veto gubernur dengan dua pertiga suara dari kedua majelis, hal ini merupakan rintangan besar yang harus diatasi dan merupakan hal yang tidak biasa.
Wiener menyebut veto Newsom sebagai “peluang yang terlewatkan” bagi California untuk memimpin regulasi teknologi inovatif.
“Veto ini merupakan kemunduran bagi semua orang yang percaya pada pengawasan terhadap perusahaan besar yang mengambil keputusan penting yang berdampak pada keselamatan dan kesejahteraan masyarakat serta masa depan planet ini,” kata Wiener dalam pernyataan yang diposting di media sosial.
Newsom mengatakan awal bulan ini pada acara fireside chat di Dreamforce, sebuah konferensi teknologi di San Francisco, bahwa SB 1047 telah menimbulkan wacana publik yang sangat besar, dan menambahkan bahwa ia telah “menciptakan sistem cuacanya sendiri.”
Ia juga berbicara tentang tantangan dalam mengatur AI.
“Kami telah bekerja selama beberapa tahun terakhir untuk menghasilkan beberapa peraturan rasional yang mendukung pengambilan risiko, namun tidak gegabah…,” kata Newsom.
Pendukung dan penentang SB 1047 mengumpulkan sumber daya untuk mengekspresikan pandangan mereka. Lebih dari 125 aktor, produser, sutradara, artis musik, dan pemimpin industri hiburan lainnya, termasuk tokoh Demokrat, menandatangani surat yang mendesak Newsom untuk menandatangani RUU tersebut. Penandatangan surat termasuk aktor Pedro Pascal dan Alec Baldwin, serta produser eksekutif “Bridgerton” Shonda Rhimes.
“Kami ingin terus percaya bahwa Anda adalah pemimpin yang akan membela kesejahteraan semua orang, bukan hanya demi segelintir raksasa Silicon Valley,” kata surat itu.
Sementara itu, Chamber of Progress, yang menentang RUU tersebut, merilis lagu rock yang dihasilkan AI dengan lirik termasuk, “veto the chain that hold us down.”
“Ini adalah salah satu tagihan yang jarang muncul di meja Anda, dan hal ini bergantung pada siapa orang terakhir yang dihubungi dalam hal seberapa persuasif tagihan tersebut,” kata Newsom dalam wawancara dengan The Times awal bulan ini. “Ini memecah belah banyak orang.”
