Tiga Hukum Robotika Rodney Brooks

Rodney Brooks adalah Profesor Robotika Panasonic (emeritus) di MIT, tempat ia menjabat sebagai direktur Lab AI dan kemudian CSAIL. Ia merupakan salah satu pendiri iRobot, Rethink Robotics, dan Robust AIBahasa Indonesia: di mana ia saat ini menjabat sebagai CTO. Artikel ini dibagikan dengan izin dari blognya.

Berikut ini beberapa hal yang saya pelajari tentang robotika setelah bekerja di bidang ini selama hampir lima dekade. Untuk menghormati Isaac Asimov dan Arthur C. Clarke, dua penulis fiksi ilmiah andalan saya semasa kecil, saya menyebut mereka sebagai tiga hukum robotika.

1. Penampilan visual robot memberikan janji tentang apa yang dapat dilakukannya dan seberapa pintarnya. Robot harus memenuhi atau sedikit melebihi janji tersebut atau janjinya tidak akan diterima.
2. Bila robot dan manusia hidup berdampingan dalam ruang yang sama, robot tidak boleh merampas hak manusia, terutama bila robot mengalami kegagalan, yang kadang tak dapat dielakkan.
3. Teknologi untuk robot memerlukan 10+ tahun peningkatan yang stabil di luar demo lab tugas target untuk mencapai biaya rendah dan keterbatasannya dikarakterisasi dengan cukup baik sehingga dapat berfungsi 99,9 persen dari waktu. Setiap 10 tahun berikutnya akan mendapatkan nilai 9 lagi dalam keandalan.

Di bawah ini saya akan menjelaskan masing-masing hukum ini secara lebih rinci. Namun dalam posting terkait, berikut adalah tiga hukum kecerdasan buatan saya.

Perhatikan bahwa undang-undang ini ditulis dari sudut pandang membuat robot bekerja di dunia nyata, di mana orang membayarnya, dan di mana orang menginginkan laba atas investasi mereka. Ini sangat berbeda dengan mendemonstrasikan robot atau teknologi robot di laboratorium.

Di laboratorium, ada barisan mahasiswa pascasarjana yang bersemangat untuk menunjukkan ide terbaru mereka, yang telah mereka kerjakan dengan sangat keras, untuk menunjukkan kepantasan ide tersebut. Minat mereka adalah untuk menunjukkan bahwa teknik atau teknologi yang telah mereka kembangkan masuk akal dan menjanjikan. Mereka akan melakukan segala daya mereka untuk merawat robot tersebut selama demonstrasi untuk menunjukkan hal itu, dan mereka akan dengan bersemangat menjelaskan segala hal tentang apa yang telah mereka kembangkan dan apa yang akan terjadi selanjutnya.

Di dunia nyata, yang ada hanya pelanggan, atau karyawan, atau kerabat pelanggan. Robot harus bekerja tanpa campur tangan eksternal dari orang-orang yang merancang dan membangunnya. Robot harus memberikan pengalaman yang baik bagi orang-orang di sekitarnya atau tidak akan ada lebih banyak penjualan kepada pelanggan tersebut, dan mungkin pelanggan lainnya.

Jadi, undang-undang ini bukan tentang apa yang mungkin atau bisa dilakukan. Undang-undang ini tentang robot sungguhan yang digunakan di dunia nyata. Undang-undang ini bukan tentang demonstrasi penelitian. Undang-undang ini tentang robot dalam kehidupan sehari-hari.

Janji yang Diberikan Melalui Penampilan

Berbagai perusahaan saya telah memproduksi berbagai macam robot dan menjualnya dalam skala besar. Banyak pemikiran yang dituangkan ke dalam tampilan visual robot saat dirancang, karena hal itu memberi tahu pembeli atau pengguna apa yang diharapkan darinya.

iRobot Roomba dirancang dengan cermat untuk memadukan tampilan dengan fungsi.Stok Tersedia

Roomba, dari iRobot, tampak seperti cakram pipih. Alat ini membersihkan lantai. Bentuk cakramnya sedemikian rupa sehingga dapat berputar di tempat tanpa menabrak apa pun yang belum ditabraknya. Profil cakram yang rendah dimaksudkan agar dapat masuk ke bawah pijakan kaki di dapur dan membersihkan lantai yang sedikit menjorok ke lemari dapur. Alat ini tidak tampak seperti dapat naik turun tangga atau bahkan naik atau turun satu langkah di dalam rumah dan alat ini tidak dapat melakukannya. Alat ini memiliki pegangan, yang membuatnya tampak seperti dapat diangkat oleh seseorang, dan memang dapat diangkat. Tidak seperti Rosey the Robot yang fiktif, alat ini tidak tampak dapat membersihkan jendela, dan memang tidak dapat melakukannya. Alat ini membersihkan lantai, dan hanya itu saja.

Packbot, robot militer yang dapat dioperasikan dari jarak jauh, juga dari iRobot, tampak sangat berbeda. Robot ini memiliki roda beroda, seperti tank mini, dan penampilannya menjanjikan kepada siapa pun yang melihatnya bahwa robot ini dapat melintasi medan yang berat, dan tidak akan terhenti oleh anak tangga, batu, atau jatuhnya tanah. Ketika bencana Fukushima terjadi, pada tahun 2011, Packbot dapat beroperasi di gedung reaktor yang telah hancur dan hancur oleh tsunami, membuka gagang pintu dengan kendali jarak jauh, menaiki tangga yang tertutup puing-puing, dan mengarahkan kamera mereka ke pengukur tekanan dan suhu analog sehingga pekerja yang mencoba mengamankan pabrik nuklir memiliki beberapa data tentang apa yang terjadi di area pabrik yang sangat radioaktif.

Sebuah iRobot PackBot mengambil sebuah objek demonstrasi di Detasemen Perbaikan Robotika Gabungan di Kompleks Pangkalan Kemenangan di Baghdad.Bahasa Indonesia

Inti dari hukum pertama robotika ini adalah untuk memperingatkan agar tidak membuat robot tampak lebih dari yang sebenarnya. Mungkin itu akan mendatangkan dana untuk perusahaan Anda, yang membuat investor percaya bahwa pada waktunya robot akan mampu melakukan semua hal yang ditunjukkan oleh penampilan fisiknya. Namun, robot akan mengecewakan pelanggan jika tidak dapat melakukan hal-hal yang tampak seperti dapat dilakukan oleh sesuatu dengan penampilan fisik seperti itu. Mempercantik robot berisiko menjanjikan terlalu banyak hal yang sebenarnya dapat dilakukan robot sebagai produk. Itu berisiko mengecewakan pelanggan. Dan pelanggan yang kecewa tidak akan menjadi pendukung produk/robot Anda, atau menjadi pembeli tetap.

Melestarikan Hak Pilihan Rakyat

Hal terburuk yang dapat diterima orang-orang tentang kemampuan robot di tempat kerja adalah membuat pekerjaan atau kehidupan mereka menjadi lebih sulit, dengan tidak membiarkan mereka melakukan apa yang perlu mereka lakukan.

Robot yang bekerja di rumah sakit untuk mengambil kain atau piring kotor dari lantai pasien ke tempat yang akan dibersihkan dimaksudkan untuk memudahkan kehidupan para perawat. Namun, sering kali mereka melakukan hal yang sebaliknya. Jika robot tidak menyadari apa yang sedang terjadi dan tidak menghindar ketika terjadi keadaan darurat, mereka mungkin akan menghalangi beberapa pekerjaan penyelamatan nyawa oleh para perawat—misalnya, mendorong brankar dengan pasien yang sakit kritis ke tempat yang mereka butuhkan untuk perawatan segera. Hal itu tidak membuat robot seperti itu disukai oleh staf rumah sakit. Hal itu telah mengganggu fungsi pekerjaan utama mereka, fungsi yang dibanggakan oleh staf, dan yang memotivasi mereka untuk melakukan pekerjaan tersebut.

Perilaku robot di rumah sakit yang kurang baik, tetapi masih tidak dapat diterima, adalah menyuruh mereka menunggu di depan pintu lift, di tengah, dan menghalangi orang. Hal ini mempersulit orang untuk melakukan beberapa hal yang perlu mereka lakukan sepanjang waktu di lingkungan tersebut—masuk dan keluar lift.

Kita yang tinggal di San Francisco atau Austin, Texas, telah melihat sendiri robot yang mengganggu manusia setiap hari selama beberapa tahun terakhir. Robot yang dimaksud adalah kendaraan otonom, yang berkeliling kota tanpa ada manusia yang menumpanginya. Saya melihat robot-robot ini setiap kali saya keluar rumah, baik dengan berjalan kaki maupun dengan mobil.

Beberapa kendaraan terkenal karena menghalangi persimpangan, dan sama sekali tidak ada yang dapat dilakukan oleh pengemudi, pejalan kaki, atau polisi lainnya. Kami hanya harus menunggu hingga beberapa operator jarak jauh yang tersembunyi jauh di dalam perusahaan yang mengerahkan mereka memutuskan untuk memperhatikan kendaraan yang macet dan menyingkirkannya dari jalan orang-orang. Lebih buruk lagi, mereka akan berkeliaran ke lokasi kebakaran di mana ada truk pemadam kebakaran dan petugas pemadam kebakaran dan bangunan yang terbakar, menjadi bingung dan berhenti begitu saja, terkadang di atas selang pemadam kebakaran.

Tidak ada cara bagi petugas pemadam kebakaran untuk menggerakkan kendaraan, atau berkomunikasi dengan mereka. Hal ini berbeda dengan mobil yang dikendarai oleh pengemudi manusia. Petugas pemadam kebakaran dapat menggunakan interaksi sosial normal mereka untuk berkomunikasi dengan pengemudi, dan menggunakan posisi istimewa mereka di masyarakat sebagai responden garis depan untuk memberikan tekanan sosial pada pengemudi manusia agar bekerja sama dengan mereka. Tidak demikian halnya dengan kendaraan otonom.

Kendaraan otonom mengambil alih kendali orang-orang yang melakukan aktivitas rutin di jalan, tetapi yang lebih parah lagi, mengambil alih kendali petugas pemadam kebakaran yang bertugas melindungi manusia lain. Robot yang dikerahkan dan tidak menghormati manusia dan apa yang perlu mereka lakukan tidak akan dihormati oleh manusia dan robot-robot itu akan berakhir tanpa tugas.

Robot Kuat yang Bekerja Setiap Saat

Membuat robot yang bekerja dengan andal di dunia nyata itu sulit. Bahkan, membuat apa pun yang bekerja secara fisik di dunia nyata, dan andal, itu sangat sulit.

Agar pelanggan senang dengan robot, robot tersebut harus terlihat berfungsi setiap kali mencoba melakukan suatu tugas, jika tidak, pengguna akan frustrasi dan bertanya-tanya apakah robot membuat hidup mereka lebih baik atau tidak.

Tapi apa yang terjadi muncul maksud di sini? Artinya pengguna dapat berasumsi bahwa ini akan berhasil, sebagai pemahaman bawaan mereka tentang apa yang akan terjadi di dunia.

Bagian yang sulit adalah robot berinteraksi dengan dunia fisik nyata.

Program perangkat lunak berinteraksi dengan mesin abstrak yang dipahami dengan baik, sehingga cenderung tidak gagal dengan cara yang mana instruksi di dalamnya tidak dijalankan secara konsisten oleh perangkat keras tempat program tersebut berjalan. Program yang sama tersebut juga dapat berinteraksi dengan dunia fisik, baik itu manusia, koneksi jaringan, atau perangkat input seperti tetikus. Saat itulah program tersebut mungkin gagal karena instruksi di dalamnya didasarkan pada asumsi di dunia nyata yang tidak terpenuhi.

Robot tunduk pada gaya di dunia nyata, tunduk pada posisi pasti objek yang relatif terhadapnya, dan tunduk pada interaksi dengan manusia yang perilakunya sangat bervariasi. Tidak ada tim mahasiswa pascasarjana atau insinyur junior yang ingin membuat robot berhasil pada percobaan ke-8.354 untuk melakukan hal yang sama yang telah berhasil berkali-kali sebelumnya. Mendapatkan perangkat lunak yang beradaptasi secara memadai dengan perubahan yang tidak pasti di dunia pada contoh dan waktu tertentu adalah tantangan nyata yang muncul dalam robotika.

Video yang bagus tidak sama dengan bekerja untuk pelanggan setiap saat. Sebagian besar berita tentang robot yang kita lihat adalah demonstrasi laboratorium. Tidak ada data tentang seberapa umum solusinya, atau berapa kali pengambilan gambar yang diperlukan untuk mendapatkan video yang ditampilkan. Lebih buruk lagi, terkadang video dioperasikan dari jarak jauh atau dipercepat berkali-kali.

Saya jarang melihat teknologi baru yang kurang dari sepuluh tahun sejak demo lab berhasil menjadi robot yang dikerahkan. Perlu waktu untuk melihat seberapa baik metode tersebut bekerja, dan untuk mengkarakterisasikannya dengan cukup baik sehingga tidak mungkin gagal pada robot yang dikerahkan yang bekerja sendiri di dunia nyata. Bahkan saat itu akan ada kegagalan, dan perlu waktu bertahun-tahun lagi untuk mengatasi area masalah dan membangunnya ke dalam produk robot dengan cara yang defensif sehingga kegagalan tidak terjadi lagi.

Kebanyakan robot memerlukan tombol pemutus atau estop pada robot tersebut sehingga manusia dapat mematikannya. Jika pelanggan merasa perlu menekan tombol itu, maka orang-orang yang telah membangun dan menjual robot tersebut telah gagal. Mereka belum membuatnya beroperasi dengan cukup baik sehingga robot tidak pernah mengalami kondisi yang tidak beres.