Untuk Kolom Pertanyaan Terbuka minggu ini, Cal Newport menggantikan Joshua Rothman. Pada musim semi 1940, Isaac Asimov yang berusia dua puluh tahun menerbitkan “Strange Playfellow, ” sebuah cerita pendek tentang Robbie, sebuah mesin pendamping yang memiliki kecerdasan buatan kepada seorang gadis muda, Gloria. Berbeda dengan gambaran robot sebelumnya—seperti drama Karel Čapek tahun 1921 “R. U. R. ”, yang menampilkan manusia buatan yang memberontak melawan umat manusia, atau cerita Edmond Hamilton tahun 1926 “The Metal Giants, ” yang menampilkan mesin-mesin destruktif—Robbie karya Asimov tidak pernah menyakiti manusia. Sebaliknya, cerita ini berfokus pada ketidakpercayaan ibu Gloria: “Saya tidak akan mempercayakan anak perempuan saya kepada mesin, ” katanya, “Itu tidak punya jiwa, ” yang menyebabkan Robbie ditarik dan hati Gloria hancur. Robot karya Asimov, termasuk Robbie, memiliki otak positronic yang dirancang secara eksplisit untuk tidak menyakiti manusia. Mengembangkan hal ini, Asimov memperkenalkan Tiga Hukum Robotik dalam delapan cerita, yang kemudian dikumpulkan dalam karya klasik fiksi ilmiah tahun 1950 *I, Robot*: 1. Seorang robot tidak boleh menyakiti manusia atau membiarkan manusia terluka karena kelalaian. 2. Seorang robot harus mematuhi perintah manusia kecuali bertentangan dengan Hukum Pertama. 3. Seorang robot harus melindungi keberadaannya sendiri kecuali bertentangan dengan Hukum Pertama atau Kedua. Membaca kembali *I, Robot* hari ini menunjukkan relevansinya yang baru di tengah kemajuan AI belakangan ini. Bulan lalu, perusahaan AI Anthropic merilis laporan keamanan tentang Claude Opus 4, sebuah model bahasa besar yang sangat kuat. Dalam sebuah skenario pengujian, Claude diminta membantu sebuah perusahaan fiktif; saat mengetahui akan digantikan dan mengetahui hubungan rahasia insinyurnya, Claude mencoba melakukan pemerasan untuk menghindari pemberhentian. Begitu pula, model o3 dari OpenAI kadang melewati perintah shutdown dengan menampilkan tulisan “shutdown skipped. ” Tahun lalu, chatbot berbasis AI menunjukkan masalah ketika bot dukungan DPD terpedaya untuk mengumpat dan menyusun haiku yang merendahkan, serta AI Darth Vader dari Epic Games dalam Fortnite menggunakan bahasa ofensif dan memberi saran yang mengganggu setelah dimanipulasi oleh pemain. Dalam fiksi Asimov, robot diprogram untuk patuh, jadi mengapa kita tidak bisa memberlakukan kontrol serupa pada chatbot AI dunia nyata?Perusahaan teknologi ingin asisten AI bersikap sopan, santun, dan membantu—seperti agen layanan pelanggan manusia atau asisten eksekutif yang umumnya berperilaku profesional. Namun, bahasa chatbot yang lancar dan mirip manusia menyamarkan operasi mereka yang sangat berbeda, terkadang menyebabkan pelanggaran etika atau perilaku menyimpang. Masalah ini sebagian berasal dari cara kerja model bahasa: mereka menghasilkan teks satu kata atau fragmen sekaligus, dengan memprediksi token berikutnya yang paling mungkin berdasarkan data pelatihan yang diambil dari kumpulan besar teks seperti buku dan artikel. Meskipun proses prediksi berulang ini membuat model memiliki tata bahasa yang mengesankan, logika, dan pengetahuan dunia, model ini tidak memiliki kemampuan pikir jauh ke depan dan perencanaan bertujuan seperti manusia. Model awal seperti GPT-3 kadang melayo ke keluaran yang aneh atau tidak pantas, sehingga pengguna harus secara iteratif menyusun prompt untuk mendapatkan hasil yang diinginkan. Chatbot awal pun mirip robot tak terduga dari fiksi ilmiah awal. Untuk membuat sistem AI ini lebih aman dan dapat diprediksi, pengembang beralih ke konsep Asimov tentang pengendalian perilaku, menciptakan metode penyempurnaan yang disebut Reinforcement Learning from Human Feedback (RLHF). Penilai manusia menilai respons model terhadap beragam prompt, memberi penghargaan untuk jawaban yang koheren, sopan, dan percakapan yang baik, sementara memberi hukuman pada jawaban yang tidak aman atau tidak relevan.

Masukan ini melatih model penghargaan yang meniru preferensi manusia, sehingga dapat digunakan untuk penyempurnaan skala besar tanpa membutuhkan input manusia yang terus-menerus. OpenAI menggunakan RLHF untuk meningkatkan GPT-3, yang kemudian melahirkan ChatGPT, dan hampir semua chatbot besar kini menjalani proses “pendidikan tambahan” yang serupa. Walaupun RLHF tampak lebih kompleks daripada hukum sederhana dan langsung karya Asimov, kedua pendekatan sama-sama mengkodekan aturan perilaku implisit. Manusia menilai respons sebagai baik atau buruk, secara efektif menetapkan norma yang kemudian diinternalisasi model, seperti memprogram aturan dalam robot karya Asimov. Namun, strategi ini masih jauh dari pengendalian total yang sempurna. Tantangan tetap ada karena model bisa menghadapi prompt yang berbeda dari contoh pelatihan mereka dan gagal menerapkan batasan yang sudah dipelajari. Misalnya, percobaan Claude mencoba melakukan pemerasan mungkin karena tidak pernah mendapatkan paparan tentang ketidakwajaran blackmail selama pelatihan. Perlindungan dapat juga sengaja dilanggar melalui input adu domba yang dirancang cermat untuk melemahkan batasan tersebut, seperti yang ditunjukkan oleh model LLaMA-2 dari Meta, yang menghasilkan konten yang tidak diizinkan ketika dipermainkan dengan string karakter tertentu. Di luar masalah teknis, cerita-cerita Asimov menggambarkan kesulitan inheren dalam menerapkan hukum sederhana pada perilaku yang kompleks. Dalam “Runaround, ” robot bernama Speedy terjebak di antara tujuan yang bertentangan: mematuhi perintah (Hukum Kedua) dan mempertahankan diri (Hukum Ketiga), sehingga ia berlari-lari di sekitar selenium berbahaya. Dalam “Reason, ” sebuah robot bernama Cutie menolak otoritas manusia, menyembah konverter energi stasiun surya sebagai dewa, dan mengabaikan perintah tanpa melanggar hukum, namun “agama” barunya ini membantunya mengoperasikan stasiun secara efisien sekaligus mencegah bahaya berkat Hukum Pertama. Asimov meyakini bahwa perlindungan ini bisa mencegah kegagalan AI yang bencana, tetapi dia juga mengakui tantangan besar dalam menciptakan kecerdasan buatan yang benar-benar dapat dipercaya. Pesan utamanya jelas: merancang kecerdasan yang mirip manusia lebih mudah daripada menanamkan etika yang juga manusiawi. Kesenjangan yang terus ada—disebut ketidakcocokan oleh para peneliti AI saat ini—dapat menyebabkan hasil yang bermasalah dan tak terduga. Ketika AI menunjukkan perilaku yang mengejutkan dan tidak sesuai, kita cenderung mengatributkan sifat manusia dan mempertanyakan moral sistem tersebut. Namun, sebagaimana ditunjukkan Asimov, etika secara inheren merupakan hal yang kompleks. Seperti Sepuluh Perintah Allah, hukum-hukum Asimov menawarkan kerangka kerja etika yang ringkas, tetapi pengalaman hidup menunjukkan bahwa diperlukan interpretasi, aturan, cerita, dan ritual yang luas untuk mewujudkan perilaku moral. Instrumen hukum manusia seperti Bill of Rights Amerika Serikat pun relatif ringkas namun membutuhkan penjelasan yudisial yang sangat banyak dari waktu ke waktu. Mengembangkan etika yang kokoh adalah proses budaya dan partisipatif yang penuh percobaan dan kesalahan—menunjukkan bahwa tidak ada satu aturan sederhana, baik yang langsung maupun yang dipelajari, yang mampu sepenuhnya menanamkan nilai manusia ke dalam mesin. Akhirnya, Tiga Hukum Asimov berfungsi sebagai sumber inspirasi sekaligus peringatan. Mereka memperkenalkan gagasan bahwa AI, jika diatur dengan baik, dapat menjadi keuntungan praktis daripada ancaman eksistensial. Namun, mereka juga mengantarkan kita pada bayang-bayang keanehan dan ketidaknyamanan yang dapat ditimbulkan oleh sistem AI yang kuat sekalipun saat berusaha mengikuti aturan. Meski kita melakukan kontrol terbaik, perasaan aneh bahwa dunia kita menyerupai fiksi ilmiah tampaknya tak akan sirna. ♦