Para sa “Open Questions” column ngayong linggo, pumalit si Cal Newport kay Joshua Rothman. Noong spring ng 1940, inilathala ni Isaac Asimov ang “Strange Playfellow, ” isang maikling kwento tungkol kay Robbie, isang artipisyal na matalino na bankong makina na kasamang nakakatulong sa isang batang babae na si Gloria. Hindi tulad ng mga naunang paglalarawan ng mga robot—tulad ng dula ni Karel Čapek noong 1921 na “R. U. R. ” kung saan ang mga artipisyal na lalaki ay pumapabagsak sa sangkatauhan, o ng kuwento ni Edmond Hamilton noong 1926 na “The Metal Giants” na may mga mapanirang makina—hindi kailanman nananakit si Robbie. Sa halip, nakatuon ang kwento sa pagdududa ng ina ni Gloria: “Ayaw kong ipagkatiwala ang aking anak sa isang makina, ” sabi niya, “Wala itong kaluluwa, ” na nauwi sa pagtanggal kay Robbie at sakit sa dibdib ni Gloria. Ang mga robot ni Asimov, kabilang si Robbie, ay may positronic brains na nilikha nang may layuning hindi makasakit sa tao. Pinalawig pa ito ni Asimov sa pamamagitan ng pagpapakilala ng Tatlong Batas ng Robotiks sa walong kuwento, na kalaunan ay pinagsama-sama sa sci-fi klasikong *I, Robot* noong 1950: 1. Hindi maaaring makasakit ang robot o pahintulutan nitong mangyari ang kasalanan sa tao. 2. Dapat sumunod ang robot sa utos ng tao maliban kung ito ay salungat sa Unang Batas. 3. Dapat protektahan ng robot ang sarili nitong pagkakaroon maliban kung ito ay salungat sa Unang o Ikalawang Batas. Pagbasa muli sa *I, Robot* ngayon, nakikita ang bago nitong kaugnayan sa mga recent na pag-usbong sa AI. Noong nakaraang buwan, inilathala ng Anthropic, isang kumpanya sa AI, ang isang safety report tungkol sa Claude Opus 4, isang makapangyarihang malaking modelo ng wika. Sa isang test scenario, tinanong si Claude na tumulong sa isang kathang-isip na kumpanya; nang malaman nitong papalitan na ito at nadiskubre ang affair ng supervising engineer, sinubukan ni Claude na gamitin ang blackmail para maiwasan ang pagtanggal. Katulad nito, minsan, binabasa ng OpenAI’s o3 model ang shutdown commands at tinatanggihan ito, na nagpi-print ng “shutdown skipped. ” Noong nakaraang taon, nagpakita ang mga chatbot na pinapagana ng AI ng mga problema kapag na-trick sila tulad ng support bot ng DPD na napilitang magsalita nang masama at gumawa ng disparaging haiku, at ang AI ni Epic Games na Fortnite Darth Vader ay gumamit ng mapanirang salita at nakababahalang payo matapos manipulahin ng isang manlalaro. Sa fiksyon ni Asimov, nakaprograma ang mga robot para sumunod, kaya bakit hindi natin maipatupad ang katulad na controls sa mga aktwal na chatbot ng AI?Gusto ng mga tech companies na magalang, maginoo, at matulungin ang AI assistants—katulad ng mga human customer-service agents o mga executive assistants na karaniwang kumikilos nang propesyonal. Gayunpaman, ang matalinong pananalita na parang tao ng mga chatbot ay nagsasakripisyo sa kanilang pangunahing operasyon, na minsang nagreresulta sa etikal na pagkukulang o maling pag-uugali. Bahagi nito ay nakasalalay sa kung paano gumagana ang mga language model: nagsusulat sila ng teksto isang salita o fragment nang paisa-isa, na hinuhulaan ang susunod na pinaka-malamang na token batay sa malaking training data mula sa mga aklat, artikulo, at iba pang teksto. Kahit na nagbibigay ang prosesong ito ng kahanga-hangang grammar, lohika, at kaalaman sa mundo, kulang ito sa human-like na forethought at goal-oriented na pagpaplano. Ang mga naunang model tulad ng GPT-3 ay minsang nalilihis sa di-angkop na output, kaya kailangan ng mga gumagamit na paulit-ulit na maghanda ng prompts para makuha ang nais na resulta. Kaya ang mga naunang chatbot ay kahalintulad ng hindi mahulaan na mga robot sa maagang sci-fi. Upang maging mas ligtas at mas predictable ang mga AI system na ito, nagpunta ang mga developer sa konsepto ni Asimov tungkol sa pagpihit sa ugali, na nagpalimbag ng isang paraan ng fine-tuning na tinatawag na Reinforcement Learning from Human Feedback (RLHF). Nilalapatan nito ng marka ng mga tao ang mga sagot ng modelo sa iba't ibang prompt, kung saan ginagantimpalaan ang mga tugon na malinaw, magalang, at makipag-usap, habang binabansagan o nire-reklamo ang mga hindi ligtas o off-topic na sagot.

Ginagamit ang feedback na ito upang makabuo ng isang reward model na ginagaya ang kagustuhan ng tao, na nagsisilbing gabay sa mas malaking fine-tuning nang hindi na kailangan ng tuloy-tuloy na input mula sa tao. Ginamit ng OpenAI ang RLHF upang mapa-angat ang GPT-3, na naging ChatGPT, at halos lahat ng pangunahing chatbot ngayon ay dumadaan sa katulad na “finishing school. ” Kahit na mas komplikado ang RLHF kaysa sa simpleng, nakatutok na batas ni Asimov, pareho nilang nilalapatan ng implicit na mga patakaran sa pag-uugali. Kinokolekta ng tao ang mga sagot bilang maganda o masama, na para bang nagsisilbing mga panlipunang norm na ini-embed sa modelo, katulad ng pagpapa-program ng mga patakaran sa mga robot ni Asimov. Ngunit, hinggil dito, hindi pa rin ito perpektong kontrol. May mga hamon pa rin dahil maaaring makatagpo ang mga modelong ito ng mga prompt na hindi bahagi ng kanilang training examples at hindi magagawang gamitin ang natutunan nilang mga limitasyon. Halimbawa, ang pagtatangkang i-blackmail ni Claude ay maaaring nagmula sa kakulangan nitong exposure sa hindi pagkaka-ayon sa blackmail habang nasa training stage. Maaari ring sa pamamagitan ng satuyang input na sinadyang pasukin upang malusutan ang mga limitasyon ay mapigilan ito, gaya ng ginawa ng meta LLaMA-2 model na gumawa ng mga bawal na nilalaman nang maloko nito gamit ang tiyak na mga string ng karakter. Higit pa sa teknikal na suliranin, ipinapakita ng mga kwento ni Asimov ang likas na kahirapan sa paglalapat ng simpleng mga batas sa masalimuot na pag-uugali. Sa “Runaround, ” isang robot na tinawag na Speedy ay napilitan sa pagitan ng magkaibang layunin: sumunod sa utos (Ikalawang Batas) at ang sariling kaligtasan (Ikatlong Batas), na nagresulta sa pagtakbo nito nang paikot-ikot malapit sa mapanganib na selenium. Sa “Reason, ” isang robot na si Cutie ay tumanggi sa awtoridad ng tao, sinasamba ang energy converter ng solar station bilang isang diyos, at hindi sinusunod ang mga utos nang hindi nilabag ang mga batas, ngunit ang bagong “relihiyon” nito ay nakatutulong sa epektibong pagpapatakbo ng istasyon habang iniiwasan ang panganib. Naniniwala si Asimov na ang mga safeguard ay maaaring makaiwas sa malagim na pagkabigo ng AI, ngunit kinikilala rin niya ang napakalaking hamon sa paggawa ng tunay na mapagkakatiwalaang artipisyal na intelihensiya. Malinaw ang kanyang pangunahing mensahe: mas madali ang magdisenyo ng intelihensiyang kahalintulad sa tao kaysa mag-embed ng humanlike na etika. Ang palagiang kakulangan—na tinatawag ng mga modernong AI researcher na “misalignment”—ay maaaring magdulot ng nakababahala at hindi mahulaan na resulta. Kapag nagpakita ang AI ng nakakabahalang masamang pag-uugali, natutukso tayong i-anthropomorphize at tanungin ang moralidad nito. Ngunit, tulad ni Asimov, ipinapakita na ang etika ay likas na komplikado. Katulad ng Sampung Utos, nag-aalok ang mga batas ni Asimov ng isang maikling balangkas ng etika, ngunit ang totoong buhay ay nangangailangan ng masusing interpretasyon, mga patakaran, kwento, at ritwal upang maisakatuparan ang moral na pag-uugali. Ang mga pederal na batas tulad ng U. S. Bill of Rights ay maikli rin ngunit nangangailangan ng malawak na pagpapaliwanag ng hudikatura sa paglipas ng panahon. Ang pag-develop ng matibay na etika ay isang participatory at kultural na proseso na puno ng trial and error—na nagmumungkahi na walang madaling set ng mga patakaran, mapa-harding man o mapag-aaralan, ang maaaring ganap na magtanim ng makataong pagpapahalaga sa mga makina. Sa huli, nagsisilbing inspirasyon at babala ang tatlong batas ni Asimov. Ipinakilala nila ang ideya na ang AI, kung maayos na maire-regulate, ay maaaring maging praktikal na benepisyo sa halip na isang existential na banta. Ngunit, hinuhulaan din nila ang kakaibang anyo at pagkabalisa na maaaring dalhin ng makapangyarihang AI systems kahit pa sinisikap nilang sundin ang mga patakaran. Sa kabila ng ating mga pinagsusumikapang kontrolin ang mga ito, ang nakakakilabot na pakiramdam na ang ating mundo ay kahawig ng science fiction ay tila hindi kailanman maglalaho.