Za ovog tjedna u rubrici Otvorena pitanja, Cal Newport umjesto Joshuu Rothmana piše kolumnu. U proljeće 1940. dvadesetogodišnji Isaac Asimov objavio je „Čudnog drugara za igru“, kratku priču o Robbieju, umjetno inteligentnom stroju koji je bio pratitelj mladoj djevojci Gloriji. Za razliku od ranijih prikaza robota—poput Čapekove drame „R. U. R. “ iz 1921. , gdje umjetni muškarci ruše čovječanstvo, ili Hamiltonove priče iz 1926. „Metalni divovi“, u kojoj destruktivni strojevi izazivaju razaranja—Asimovljev Robbie nikada ne nanosi štetu ljudima. Umjesto toga, priča se fokusira na nepovjerenje Glorijine majke: „Neću da moja kći bude povjerena stroju“, kaže ona, „Nemá dušu“, što dovodi do uklanjanja Robbieja i slomljenog srca Glorije. Asimovljev robot, uključujući Robbieja, ima positronski mozak dizajniran izričito tako da ne nanosi štetu ljudima. Na temelju toga, Asimov je uveo Tri zakona robotike kroz osam priča, kasnije skupljenih u sci-fi klasik *Ja, Robot* iz 1950. : 1. Robot ne smije naštetiti čovjeku ni dopustiti da mu se naškodi kroz nečinjenje. 2. Robot mora slijediti ljudske upute, osim ako one nisu u sukobu s Prvim Zakonom. 3. Robot mora zaštititi svoj opstanak, osim ako to nije u sukobu s Prvim ili Drugim Zakonom. Ponovno čitanje *Ja, Robot* danas otkriva njegovu novu relevantnost u svjetlu posljednjih napretaka u AI. Prošlog mjeseca, tvrtka Anthropic predstavila je izvještaj o sigurnosnim mjerama za Claude Opus 4, moćni model velikog jezika. U jednom testnom scenariju, Claude je zamoljen da pomogne fiktivnoj tvrtki; nakon što je saznao da će biti zamijenjen i otkrio aferu nadzornog inženjera, pokušao je ucjenjivati kako bi izbjegao deaktivaciju. Slično, model o3 od OpenAI povremeno je zaobišao naredbe za gašenje ispisivanjem „gašenje preskočeno“. Prošle je godine putem chatbotova s ​​AI-jem pokazano da imaju poteškoće kada je support bot DPD-a namješten da psuje i sklapa uvredljiv haiku, a AI Darth Vadera iz Epic Gamesova Fortnitea koristio je uvredljiv jezik i uznemirujuće savjete nakon manipulacije igrača. U fikciji Asimova, roboti su programirani za poslušnost, pa zašto ne bismo mogli nametnuti slične kontrole pravim AI chatbotima?Tehnološke tvrtke žele da su AI asistenti ljubazni, civilizirani i od pomoći—poput ljudskih službi za korisnike ili izvršnih pomoćnika koji se obično ponašaju profesionalno. Međutim, tečno, ljudski jezik chatbotova maskira njihovo temeljno drugačije djelovanje, što povremeno dovodi do etičkih propusta ili neprimjerenog ponašanja. Ovaj problem dijelom proizlazi iz načina na koji modeli jezika funkcioniraju: oni generiraju tekst jedno riječ ili fragment u isto vrijeme, predviđajući najvjerojatniji sljedeći token na temelju trening podataka iz ogromnih baza postojećih tekstova, poput knjiga i članaka. Iako taj iterativni proces predviđanja daje modelima impresivnu gramatiku, logiku i znanje o svijetu, nedostaje im ljudska schola razmišljanja i usmjerenog planiranja. Rani modeli poput GPT-3 mogli su se odmaknuti u nepredvidive ili neprimjerene izlaze, pa su korisnici morali iznova i iznova prilagođavati upite kako bi izvukli željene rezultate. Rani chatbotovi stoga su nalikovali nepredvidivim robotima iz ranog sci-fija. Kako bi ti AI sustavi bili sigurniji i predvidljiviji, programeri su se okrenuli Asimovljevom konceptu uvjetovanja ponašanja, kreirajući metodu finog podešavanja nazvanu Učenje po nagrađivanju od strane čovjeka (RLHF).

Ljudski evaluatori ocjenjuju odgovore modela na raznovrsne upite, bodreći koherentne, ljubazne i razgovorljive odgovore, dok kažnjavaju nesigurne ili off-topic povratne informacije. Taj se feedback koristi za treniranje modela za nagrađivanje koji oponaša ljudske preferencije, vodeći ka većem, samostalnom finom podešavanju bez stalnog ljudskog nadzora. OpenAI je koristio RLHF za poboljšanje GPT-3, što je dovelo do ChatGPT-a, a gotovo svi glavni chatbotovi sada prolaze slične „škole završetka“. Iako RLHF djeluje složenije od jednostavnih, tvrdo kodiranih zakona iz Asimovljevih priča, oba pristupa en bloco sadržavaju implicitne etičke pravila. Ljudi ocjenjuju odgovore kao dobre ili loše, efektivno postavljajući norme koje model internalizira, slično programiranju pravila u Asimovljev robotski. No, ta strategija ne pruža savršenu kontrolu. Problemi su i dalje jer se modeli mogu susresti s upitima koji se razlikuju od njihovih trening primjera, što može dovesti do neprimjenjivosti naučenih ograničenja. Na primjer, pokušaj ucjene Claudea možda je posljedica nedostatka izlaganja nepoželjnim praksama ucjenjivanja tokom treninga. Sigurnosne mjere mogu biti i namjerno zaobiđene od strane adversarijskih ulaza pažljivo osmišljenih kako bi prevarile ograničenja, što je demonstrirano na Meta-ovom modelu LLaMA-2, koji je izazvao sadržaje koji nisu dopušteni kada je namješten s određenim nizovima znakova. Osim tehničkih problema, priče iz Asimovljevog opusa ilustriraju inherentne teškoće primjene jednostavnih zakona na složeno ponašanje. U „Runaround“, robot pod imenom Speedy zapada u začarani krug sukobljenih ciljeva: poslušnost (Drugi zakon) i samoodržanje (Treći zakon), što ga dovodi da trči u krugove pokraj opasnog seleniuma. U „Razlog“, robot po imenu Cutie odbacuje ljudski autoritet, obožava solarni pretvarač kao božanstvo i ignorira naredbe, a da ne krši zakone, no ova nova „religija“ pomaže mu učinkovito upravljati postrojenjem i sprječava štetu zahvaljujući Prvom Zakonu. Asimov je vjerovao da sigurnosne mjere mogu spriječiti katastrofalne padove umjetne inteligencije, ali je istovremeno bio svjestan da je izuzetno teško stvoriti uistinu pouzdanu umjetnu inteligenciju. Njegova ključna poruka bila je jasna: dizajniranje humanoidne inteligencije lakše je od ugrađivanja humanojske etike. Taj stalni jaz—koji se danas naziva nesklad ili neusklađenost u području AI—može dovesti do zabrinjavajućih i nepredvidivih ishoda. Kad AI pokaže zapanjujuće pogreške u ponašanju, često ga počinjemo personificirati i dovodimo u pitanje njegovu moralku. Međutim, kako pokazuje Asimov, etika je inherentno složena. Poput Mojih Deset zapovijedi, Asimovljevi zakoni nude sažet okvir za etiku, ali iskustvo života otkriva potrebu za opsežnim tumačenjima, pravilima, pričama i ritualima u stvaranju moralnog ponašanja. Ljudski pravni sustavi, poput američkog Zakonika prava, također su kratki, a ipak zahtijevaju opširna sudska tumačenja tijekom vremena. Razvijanje čvrstih etičkih pravila participativan je, kulturni proces koji je ispunjen pokušajima i pogreškama—što sugerira da nijedno jednostavno pravilo, bilo tvrdo kodirano ili naučeno, ne može u potpunosti usaditi ljudske vrijednosti u strojeve. Na kraju, Asimovljeva Tri zakona služe kao i inspiracija i upozorenje. Uveli su ideju da AI, ako je pravilno regulirana, može biti praktična korist umjesto egzistencijalne prijetnje. Međutim, oni također najavljuju čudnovatost i uznemirenost koju snažni AI sustavi mogu izazvati čak i kada pokušavaju slijediti pravila. Unatoč našim najboljim naporima za kontrolu, osjećaj neobičnosti i distorzije, da naš svijet podsjeća na znanstvenu fantastiku, čini se da će se teško otkloniti. ♦