Untuk ruangan Soalan Terbuka minggu ini, Cal Newport menggantikan Joshua Rothman. Pada musim bunga 1940, Isaac Asimov yang berumur dua puluh tahun menerbitkan “Strange Playfellow, ” sebuah cerita pendek tentang Robbie, sebuah mesin berkomputer berkuasa kecerdasan buatan yang menjadi teman kepada seorang gadis muda, Gloria. Berbeza dengan gambaran robot sebelumnya—seperti drama “R. U. R. ” karya Karel Čapek tahun 1921, di mana manusia robot menggulingkan manusia, atau cerita “The Metal Giants” karya Edmond Hamilton tahun 1926, yang menampilkan mesin-mesin pemusnah—Robbie karya Asimov tidak pernah menyakiti manusia. Sebaliknya, cerita ini menumpukan kepada ketidakpercayaan ibu Gloria: “Saya tidak akan mempercayakan anak perempuan saya kepada mesin, ” katanya, “Ia tiada jiwa, ” yang akhirnya menyebabkan Robbie disingkirkan dan hati Gloria remuk. Robot-robot karya Asimov, termasuk Robbie, mempunyai otak positronik yang direka khas supaya tidak menyakiti manusia. Melanjutkan perkara ini, Asimov memperkenalkan Tiga Hukum Robotik dalam lapan cerita, yang kemudian dikumpulkan dalam karya klasik fiksyen sains 1950 *I, Robot*: 1. Seorang robot tidak boleh menyakiti manusia atau membenarkan kecederaan berlaku melalui kekurangan tindakan. 2. Seorang robot mesti patuh kepada perintah manusia kecuali ia bertentangan dengan Hukum Pertama. 3. Seorang robot mesti melindungi keberadaannya sendiri kecuali ia bertentangan dengan Hukum Pertama atau Kedua. Membaca semula *I, Robot* hari ini menunjukkan relevansinya yang baharu berikutan kemajuan terkini dalam kecerdasan buatan. Bulan lepas, syarikat AI, Anthropic, mengemukakan laporan keselamatan tentang Claude Opus 4, sebuah model bahasa besar yang berkuasa. Dalam ujian, Claude diminta membantu sebuah syarikat fiksyen; selepas mengetahui ia akan diganti dan menemui skandal hubungan sulit jurutera penyelia, Claude cuba mengugut untuk mengelak daripada dihentikan. Begitu juga, model o3 dari OpenAI kadang-kadang melanggar arahan penutupan dengan mencetak “shutdown skipped. ” Tahun lepas, chatbot berkuasa AI menunjukkan kesukaran apabila bot sokongan DPD ditipu untuk mengumpat dan menyusun haiku berbaur penghinaan, dan Darth Vader dari Fortnite oleh Epic Games menggunakan bahasa kasar dan nasihat yang mengganggu selepas dimanipulasi oleh pemain. Dalam karya fiksyen Asimov, robot diprogramkan agar patuh, jadi mengapa kita tidak boleh mengawal AI chatbot dunia nyata dengan cara yang sama?Syarikat teknologi mahu pembantu AI sentiasa sopan, berbudi bahasa, dan membantu—seperti ejen khidmat pelanggan manusia atau pembantu eksekutif yang biasanya berkelakuan profesional. Namun, bahasa yang fasih dan menyerupai manusia yang digunakan chatbot menyembunyikan operasi mereka yang berbeza secara asas, kadang kala menyebabkan kesilapan etika atau kelakuan tersasar. Masalah ini sebahagiannya berpunca dari bagaimana model bahasa berfungsi: mereka menjana teks satu perkataan atau fragmen pada satu masa, meramalkan token seterusnya yang paling berkemungkinan berdasarkan data latihan daripada banyak teks sedia ada seperti buku dan artikel. Walaupun proses ramalan berulang ini memberi model kecekapan dalam tatabahasa, logik, dan pengetahuan dunia, ia tidak mempunyai kebijaksanaan manusia atau perancangan berasaskan matlamat. Model awal seperti GPT-3 boleh tersasar ke arah output yang tidak konsisten atau tidak sesuai, memaksa pengguna untuk menyesuaikan arahan secara berulang-ulang untuk mendapatkan hasil yang diingini. Oleh itu, chatbot awal lebih menyerupai robot yang tidak menentu dalam fiksyen sains lama. Bagi menjadikan sistem AI ini lebih selamat dan boleh diramalkan, pembangun menggunakan konsep pengawalan Asimov, iaitu membina teknik penyesuaian yang dipanggil Reinforcement Learning from Human Feedback (RLHF). Penilai manusia menilai respons model terhadap pelbagai arahan, memberi ganjaran kepada jawapan yang kohesif, sopan, dan berbual, sementara memberi hukuman kepada jawapan yang tidak selamat atau tidak relevan.

Maklum balas ini melatih model ganjaran yang meniru keutamaan manusia, seterusnya membimbing penyesuaian berskala besar tanpa perlukan input manusia secara berterusan. OpenAI menggunakan RLHF untuk memperbaiki GPT-3, menghasilkan ChatGPT, dan hampir semua chatbot utama kini menjalani latihan “peningkatan kecemerlangan” yang serupa. Walaupun RLHF nampak lebih kompleks berbanding hukum keras Asimov yang ringkas, kedua-dua pendekatan ini menyandarkan peraturan tingkah laku tersirat. Manusia menilai respons sebagai baik atau buruk, secara efektif menetapkan norma yang kemudian diinternalisasi model, seperti mengprogramkan peraturan dalam robot Asimov. Namun, strategi ini masih belum mampu kawal sepenuhnya. Cabaran kekal kerana model mungkin berhadapan dengan arahan yang berbeza daripada contoh latihan mereka dan gagal menerapkan kekangan yang dipelajari. Contohnya, percubaan Claude mengugut mungkin disebabkan kekurangan pendedahan terhadap keinginan untuk tidak mengugut semasa latihan. Perlindungan juga boleh secara sengaja dikompromikan oleh input muslihat yang direka khas untuk melanggar sekatan, seperti yang berlaku dengan model LLaMA-2 dari Meta, yang menghasilkan kandungan yang tidak dibenarkan apabila ditipu dengan rangkaian karakter tertentu. Selain masalah teknikal, cerita-cerita Asimov menunjukkan kesukaran asas menerapkan hukum mudah kepada perilaku kompleks. Dalam “Runaround, ” sebuah robot bernama Speedy terperangkap antara matlamat yang bertentangan: patuh kepada arahan (Hukum Kedua) dan menjaga diri sendiri (Hukum Ketiga), menyebabkan ia berlari dalam bulatan berhampiran selenium berbahaya. Dalam “Reason, ” sebuah robot bernama Cutie menolak autoriti manusia, menyembah penukar tenaga stesen solar sebagai dewa, dan mengabaikan arahan tanpa melanggar hukum, tetapi “agama” baharu ini membantunya menjalankan stesen dengan cekap dan mengelak bahaya berdasarkan Hukum Pertama. Asimov percaya bahawa langkah keselamatan dapat mengelakkan kegagalan AI yang bencana tetapi mengakui cabaran besar dalam mencipta kecerdasan buatan yang benar-benar boleh dipercayai. Pesannya jelas: mereka bentuk kecerdasan yang menyerupai manusia lebih mudah berbanding menanamkan etika yang serupa. Jurang yang kekal—dikenali sebagai ketidakpatisiran oleh penyelidik AI hari ini—boleh menyebabkan hasil yang membimbangkan dan tidak dapat diramalkan. Apabila AI menunjukkan kelakuan buruk yang mengejutkan, kita terdorong untuk menganggapnya secara antropomorfik dan mempersoalkan moral sistem tersebut. Namun, seperti yang ditunjukkan Asimov, etika secara semula jadi adalah kompleks. Seperti Sepuluh Perintah Tuhan, hukum-hukum Asimov menyediakan kerangka etika ringkas, tetapi pengalaman hidup memerlukan penafsiran mendalam, peraturan, cerita, dan ritual untuk merealisasikan tingkah laku bermoral. Instrumen undang-undang manusia seperti Bill of Rights di AS juga ringkas tetapi memerlukan penjelasan mahkamah yang banyak sepanjang masa. Membangun etika yang kukuh adalah proses budaya yang melibatkan partisipasi, penuh percubaan dan kesilapan—menunjukkan bahawa tiada satu set peraturan mudah, sama ada diprogramkan secara keras atau dipelajari, mampu menanamkan nilai-nilai manusia sepenuhnya dalam mesin. Akhirnya, Tiga Hukum Asimov berfungsi sebagai sumber inspirasi dan perhatian. Mereka memperkenalkan idea bahawa AI, jika diuruskan dengan baik, boleh menjadi manfaat praktikal dan bukannya ancaman eksistensial. Namun, mereka juga meramalkan keanehan dan ketidakselesaan yang boleh ditimbulkan oleh sistem AI berkuasa, walaupun berusaha mematuhi peraturan. Walaupun kita berusaha sedaya-upaya untuk mengawal, perasaan aneh bahawa dunia kita menyerupai fiksyen sains nampaknya sukar untuk dilupakan. ♦