HAICEO penAI Sam Altman mengundurkan diri dari komite internal yang dibentuk perusahaan untuk memberi nasihat kepada dewan direksi mengenai keputusan “keamanan dan keselamatan kritis” di tengah perlombaan untuk mengembangkan teknologi kecerdasan buatan yang semakin canggih.
Komite yang dibentuk pada bulan Mei tersebut telah mengevaluasi proses dan perlindungan OpenAI selama periode 90 hari. OpenAI menerbitkan rekomendasi komite tersebut setelah penilaian pada tanggal 16 September. Pertama dalam daftar: menetapkan tata kelola independen untuk keselamatan dan keamanan.
Dengan demikian, Altman, yang selain melayani dewan OpenAI, mengawasi operasi bisnis perusahaan dalam perannya sebagai CEO, tidak akan lagi bertugas di komite keselamatan. Sejalan dengan rekomendasi komite, OpenAI mengatakan komite yang baru independen tersebut akan diketuai oleh Zico Kolter, Direktur Departemen Pembelajaran Mesin di Universitas Carnegie Mellon, yang bergabung dengan dewan OpenAI pada bulan Agustus. Anggota komite lainnya akan mencakup anggota dewan OpenAI, salah satu pendiri dan CEO Quora Adam D’Angelo, pensiunan Jenderal Angkatan Darat AS Paul Nakasone, dan mantan presiden Sony Entertainment Nicole Seligman. Bersama Altman, ketua dewan OpenAI Bret Taylor dan beberapa ahli teknis dan kebijakan perusahaan juga akan mengundurkan diri dari komite.
Baca selengkapnya: 100 Tokoh Paling Berpengaruh dalam AI versi TIME 2024
Rekomendasi lain dari komite tersebut mencakup peningkatan langkah-langkah keamanan, bersikap transparan tentang pekerjaan OpenAI, dan menyatukan kerangka kerja keselamatan perusahaan. Komite tersebut juga mengatakan akan menjajaki lebih banyak peluang untuk berkolaborasi dengan organisasi eksternal, seperti yang digunakan untuk mengevaluasi serangkaian model penalaran OpenAI yang baru-baru ini dirilis untuk mengetahui kemampuan yang berbahaya.
Komite Keamanan dan Keselamatan bukanlah upaya pertama OpenAI dalam menciptakan pengawasan independen. Cabang OpenAI yang mencari laba, yang didirikan pada tahun 2019, dikendalikan oleh entitas nirlaba dengan dewan “mayoritas independen”, yang bertugas memastikannya bertindak sesuai dengan misinya untuk mengembangkan kecerdasan umum buatan (AGI) yang aman dan bermanfaat secara luas—sistem yang melampaui manusia dalam banyak hal.
Pada bulan November, dewan direksi OpenAI memecat Altman, dengan mengatakan bahwa ia tidak “secara konsisten bersikap jujur dalam komunikasinya dengan dewan direksi, sehingga menghambat kemampuannya untuk melaksanakan tanggung jawabnya.” Setelah karyawan dan investor memberontak—dan anggota dewan direksi sekaligus presiden perusahaan Greg Brockman mengundurkan diri—ia segera diangkat kembali sebagai CEO, dan anggota dewan direksi Helen Toner, Tasha McCauley, dan Ilya Sutskever mengundurkan diri. Brockman kemudian kembali menjabat sebagai presiden perusahaan.
Baca selengkapnya: Kronologi Semua Tuduhan Terbaru yang Ditujukan pada OpenAI dan Sam Altman
Insiden tersebut menyoroti tantangan utama bagi perusahaan yang berkembang pesat tersebut. Kritikus termasuk Toner dan McCauley berpendapat bahwa memiliki dewan yang secara formal independen tidak cukup untuk mengimbangi insentif laba yang besar yang dihadapi perusahaan. Awal bulan ini, Reuters melaporkan bahwa upaya penggalangan dana OpenAI yang sedang berlangsung, yang dapat melambungkan valuasinya hingga $150 miliar, mungkin bergantung pada perubahan struktur perusahaannya.
Toner dan McCauley mengatakan independensi dewan direksi tidak cukup dan pemerintah harus memainkan peran aktif dalam mengatur AI. “Bahkan dengan niat terbaik, tanpa pengawasan eksternal, pengaturan mandiri semacam ini akan berakhir tidak dapat ditegakkan,” tulis mantan anggota dewan direksi di Economist pada bulan Mei, merefleksikan bencana ruang rapat OpenAI pada bulan November.
Di masa lalu, Altman telah mendesak regulasi sistem AI, tetapi OpenAI juga melobi menentang RUU AI California, yang akan mewajibkan protokol keselamatan bagi pengembang. Bertentangan dengan posisi perusahaan, lebih dari 30 karyawan OpenAI saat ini dan sebelumnya telah secara terbuka mendukung RUU tersebut.
Pembentukan Komite Keamanan dan Keselamatan pada akhir Mei menyusul bulan yang sangat bergejolak bagi OpenAI. Ilya Sutskever dan Jan Leike, dua pemimpin tim “superalignment” perusahaan, yang berfokus pada upaya memastikan bahwa jika sistem AI melampaui kecerdasan tingkat manusia, sistem tersebut tetap berada di bawah kendali manusia, mengundurkan diri. Leike menuduh OpenAI memprioritaskan “produk yang mengilap” daripada keselamatan dalam sebuah posting di X. Tim tersebut dibubarkan setelah kepergian mereka. Pada bulan yang sama, OpenAI dikecam karena meminta karyawan yang keluar untuk menandatangani perjanjian yang mencegah mereka mengkritik perusahaan atau kehilangan ekuitas yang mereka miliki. (OpenAI kemudian mengatakan bahwa ketentuan ini tidak dan tidak akan diberlakukan dan bahwa ketentuan tersebut akan dihapus dari semua dokumen keluar ke depannya).
