TEra AI juga membuka Era Perdebatan Tentang AI. Dan Yuval Noah Harari, penulis sapiens Dan Homo Deus, dan salah satu pemikir besar kita mengenai perubahan besar umat manusia, sejarah dan masa depan, kini keluar bersama Nexus: Sejarah Singkat Jaringan Informasi dari Zaman Batu hingga AI.
Harari umumnya termasuk dalam kategori AI yang mengkhawatirkan, tetapi pemikirannya mendorong pembicaraan melampaui argumen yang biasa. Buku ini mengulas sejarah manusia melalui kacamata bagaimana kita mengumpulkan dan menyusun informasi. Bagi Harari, hal ini penting, karena cara kita menggunakan—dan menyalahgunakan—informasi sangat penting dalam perkembangan sejarah kita dan masa depan kita dengan AI.
Dalam apa yang Harari sebut sebagai “pandangan naif terhadap informasi”, manusia berasumsi bahwa lebih banyak informasi akan menghasilkan pemahaman dan bahkan kebijaksanaan yang lebih besar tentang dunia. Namun tentu saja hal ini tidak benar. “Jika kita begitu bijaksana, mengapa kita begitu merusak diri sendiri?” Harari bertanya. Mengapa kita menghasilkan sesuatu yang bisa menghancurkan kita jika kita tidak bisa mengendalikannya?
Bagi Harari—mengutip pemikir besar lainnya—kesalahannya, Brutus sayang, bukan pada diri kita sendiri, tetapi pada jaringan informasi kita. Informasi yang buruk menyebabkan keputusan yang buruk. Hanya karena kita mengonsumsi lebih banyak junk food yang membuat ketagihan, kita juga mengonsumsi lebih banyak informasi sampah yang membuat ketagihan.
Ia berargumentasi bahwa permasalahan dengan kecerdasan buatan adalah “AI bukanlah sebuah alat, melainkan sebuah agen.” Dan tidak seperti alat yang berpotensi menimbulkan kehancuran, “AI dapat memproses informasi dengan sendirinya, dan dengan demikian menggantikan manusia dalam pengambilan keputusan.” Dalam beberapa hal, hal ini sudah terjadi. Misalnya, ketika Facebook digunakan di Myanmar—algoritmenya “belajar bahwa kemarahan menciptakan keterlibatan, dan tanpa perintah eksplisit dari atas, mereka memutuskan untuk mendorong kemarahan.”
Perbedaan saya dengan Harari adalah bahwa ia tampaknya menganggap sifat manusia bersifat tetap, dan algoritma pasti mengeksploitasi kelemahan dan bias manusia. Agar adil, Harari memang menulis bahwa “sebagai sejarawan saya percaya pada kemungkinan perubahan,” namun kemungkinan perubahan pada tingkat individu terbanjiri oleh gelombang sejarah yang ia liput, dengan fokus yang sangat besar pada sistem dan institusi. , bukan individu manusia yang membentuk lembaga-lembaga tersebut.
Harari mengakui bahwa bahaya AI “bukan karena kedengkian komputer namun karena kekurangan kita sendiri.” Namun ia mengabaikan fakta bahwa kita tidak hanya ditentukan oleh kekurangan kita dan meremehkan kapasitas manusia untuk berkembang. Aleksandr Solzhenitsyn, yang tidak asing dengan sistem yang menggunakan jaringan informasi dengan kejam, masih melihat perjuangan utama terjadi dalam diri setiap manusia: “Garis yang memisahkan yang baik dan yang jahat,” tulisnya, “tidak melewati negara, atau antar kelas. , juga tidak antar partai politik—tetapi menembus setiap hati manusia—dan melalui seluruh hati manusia.”
Jadi ya, AI dan algoritma pasti akan terus digunakan untuk mengeksploitasi hal terburuk dalam diri kita. Namun teknologi yang sama juga dapat digunakan untuk memperkuat sisi terbaik kita, untuk mengembangkan sifat-sifat terbaik kita. Harari sendiri menyatakan bahwa “selain keserakahan, keangkuhan, dan kekejaman, manusia juga mampu memiliki cinta, kasih sayang, kerendahan hati, dan kegembiraan.” Namun mengapa berasumsi bahwa AI hanya akan digunakan untuk mengeksploitasi sifat buruk kita dan bukan untuk memperkuat kebajikan kita? Bagaimanapun juga, apa yang terbaik dalam diri kita setidaknya tertanam dan terkodekan secara mendalam seperti apa yang terburuk dalam diri kita. Dan kode tersebut juga merupakan sumber terbuka untuk dikembangkan oleh pengembang.
Harari menyesalkan “perintah eksplisit dari atas” yang memandu algoritma, namun AI dapat mengizinkan perintah yang sangat berbeda dari atas yang mengedepankan kebajikan dan kerja sama, bukan perpecahan dan kemarahan. “Lembaga akan mati tanpa mekanisme koreksi diri,” tulis Harari. Dan kebutuhan untuk melakukan “kerja keras dan biasa-biasa saja” untuk membangun mekanisme koreksi diri adalah apa yang Harari sebut sebagai hal yang paling penting dalam buku ini. Namun bukan hanya institusi saja yang memerlukan mekanisme koreksi diri. Itu juga manusia. Dengan menggunakan AI, dengan kekuatan hiper-personalisasinya, sebagai pelatih real-time untuk memperkuat yang terbaik dalam diri kita, kita dapat mencapai kesuksesan juga dapat memperkuat mekanisme koreksi diri individu dan menempatkan diri kita pada posisi yang lebih baik untuk membangun mekanisme tersebut bagi institusi kita. “Kehidupan manusia adalah tindakan penyeimbang antara upaya memperbaiki diri dan menerima diri kita apa adanya,” tulisnya. AI dapat membantu kita menyeimbangkan hal tersebut.
Baca selengkapnya: Bagaimana AI Dapat Membantu Manusia Menjadi Lebih Manusiawi
Harari mengangkat alegori Gua Plato, di mana orang terjebak di dalam gua dan hanya melihat bayangan di dinding, yang mereka salah sangka sebagai kenyataan. Namun teknologi sebelum AI telah menjebak kita dalam Gua Plato. Kami sudah kecanduan layar. Kita sudah sepenuhnya terpolarisasi. Algoritme sudah berhasil membuat kita terjebak dalam badai kemarahan yang tiada henti. Bukankah AI bisa menjadi teknologi yang membawa kita keluar dari Gua Plato?
Seperti yang ditulis Harari, “teknologi jarang bersifat deterministik,” yang berarti, pada akhirnya, AIlah yang akan menjadi penentu kita. “Hal ini memiliki potensi positif yang sangat besar untuk menciptakan sistem layanan kesehatan terbaik dalam sejarah, untuk membantu menyelesaikan krisis iklim,” tulisnya, “dan hal ini juga dapat menyebabkan munculnya rezim totaliter distopia dan kerajaan baru.”
Tentu saja, akan ada banyak perusahaan yang terus menggunakan algoritma untuk memecah belah kita dan memangsa naluri kita yang paling dasar. Namun kita juga masih bisa menciptakan model alternatif yang meningkatkan rasa kemanusiaan kita. Seperti yang ditulis Harari, “meskipun komputer belum mencapai potensi maksimalnya, hal serupa juga terjadi pada manusia.”
Baca selengkapnya: Perubahan Perilaku Berbasis AI Dapat Mengubah Layanan Kesehatan
Kebetulan, dalam percakapannya dengan Jordan Klepper di The Daily Show, Harari menyuarakan rangkuman paling penting dan penuh harapan mengenai keberadaan kita dengan AI: “Jika untuk setiap dolar dan setiap menit yang kita investasikan dalam pengembangan kecerdasan buatan, kita juga berinvestasi dalam mengeksplorasi dan mengembangkan pikiran kita sendiri, itu akan baik-baik saja. Namun jika kita bertaruh pada teknologi, AI, dan mengabaikan pengembangan diri, ini adalah berita buruk bagi umat manusia.”
Amin! Ketika kita menyadari bahwa manusia sedang dalam proses dan bahwa kita semua sedang dalam perjalanan evolusi, kita dapat menggunakan semua alat yang kita miliki, termasuk AI, untuk menjadi versi terbaik dari diri kita sendiri. Ini adalah titik kritis dalam hubungan kemanusiaan dan teknologi yang kita hadapi, dan keputusan yang kita ambil di tahun-tahun mendatang akan menentukan apakah hal ini, seperti yang dikatakan Harari, akan menjadi “kesalahan besar atau awal dari harapan baru.” bab dalam evolusi kehidupan.”
