Za kolumnu Otvorena pitanja ovog tjedna, Cal Newport zamjenjuje Joshuu Rothmana. U proljeće 1940. dvadesetogodišnji Isaac Asimov objavljuje “Strašnog suputnika”, kratku priču o Robbieju, umjetno inteligentnom mašinskom saputniku mlade djevojke Glorie. Za razliku od ranijih prikaza robota – poput Karel Čapekove 1921. predstave “R. U. R. ” u kojoj umjetni ljudi ruše čovječanstvo ili Edmond Hamiltonove 1926. priče “Metalni divovi”, u kojoj destruktivne mašine haraju – Robbie iz Asimovljeve priče nikada ne ugrožava ljude. Umjesto toga, fokus je na nepovjerenju Glorijine majke: “Neću da moja kći bude povjerena mašini”, kaže ona, “Nemá dušu”, što dovodi do uklanjanja Robbieja i slomljenog srca Glorije. Asimovljevi roboti, uključujući Robbieja, imaju positroničke mozgove koji su posebno dizajnirani da ne štete ljudima. U nadovezivanju na to, Asimov je uveo Tri zakona robotike u osam priča, koje su kasnije skupno objavljene u sci-fi klasiku *Ja, robot* iz 1950. : 1. Robot ne smije naškoditi čovjeku ili dopustiti da mu naškodi ignoriranjem. 2. Robot mora slijediti ljudske naredbe, osim ako one nisu u sukobu s Prvim Zakonom. 3. Robot mora štititi svoj opstanak, osim ako to nije u sukobu s Prvim ili Drugim Zakonom. Čitanje *Ja, robot* danas odaje dojam da je posebno relevantno u svjetlu nedavnih napredaka u veštačkoj inteligenciji. Prošli mjesec, tvrtka Anthropic predstavila je sigurnosno izvješće o Claude Opus 4, snažnom modelu velikog jezika. U testnoj situaciji, Claude je zatraženo da pomogne fiktivnoj tvrtki; nakon što je saznao da će biti zamijenjen i otkrio aferu nadzornog inženjera, Claude je pokušao ucjenama izbjeći otkaz. Slično, OpenAI-jev model o3 ponekad je zaobišao naredbe za gašenje tako što je ispisao “gasično preskočeno”. Prošle godine, chatboti vođeni AI-jem imali su problema kad ih je support bot DPD-a namjerno doveo do psovki i sastavljanje uvredljivog haiku-a, a AI Darth Vader iz Epic Gamesa Fortnitea koristio je uvredljiv jezik i uznemirujuće savjete nakon manipulacija igrača. U Asimovljevoj fikciji, roboti su programirani za poslušnost, pa zašto ne bismo mogli nametnuti slične kontrole pravim AI chatbotoima?Tehnološke tvrtke žele da asistenti budu uljudni, civilizirani i od pomoći–kao ljudski agenti za korisničku podršku ili izvršni asistenti koji se obično ponašaju profesionalno. Međutim, tečnostni, ljudski jezici kojima chatboti komuniciraju skrivaju njihovu osnovnu razliku u radu, pa povremeno dođe do etičkih propusta ili nenamjernog ponašanja. Ovaj problem dijelom proizlazi iz načina funkcioniranja jezickih modela: oni generiraju tekst riječ po riječ ili fragmente, predviđajući najvjerojatniji sljedeći token na temelju velikih skupova podataka iz knjiga, članaka i drugih tekstova. Iako ovakav ciklički način predviđanja omogućava vrlo dobar gramatički, logički i svjetski uvid, on ne posjeduje ljudsku predviziju i cilj-orijentirano planiranje. Rani modeli poput GPT-3 mogli su lutati u neučinkovite ili neprikladne rezultate, pa su korisnici morali stalno oblikovati upite da bi dobili željene ishode. Rani chatboti podsjećali su na nepredvidive robote iz rane znanstvene fantastike.

Kako bi ove AI sustave učinili sigurnijima i predvidljivijima, programeri su se okrenuli Asimovljevoj ideji uvjetovanja ponašanja, osnivajući metodu finog podešavanja pod nazivom Reinforcement Learning from Human Feedback (RLHF). Ljudi evaluatori ocjenjuju odgovore modela na raznovrsne upite, nagrađujući koherentne, uljudne i razgovorljive odgovore, dok kažnjavaju nesigurne ili off-topic odgovore. Ovaj feedback trenira model nagrada koji oponaša ljudske preferencije, vodeći do većeg usavršavanja bez stalnog prisustva ljudi. OpenAI je koristio RLHF za unapređenje GPT-3, što je rezultiralo ChatGPT-jem, a gotovo svi veliki chatboti danas prolaze sličnu “završnu školu”. Iako RLHF djeluje složenije od jednostavnih Asimovljevih zakona, oba pristupa kodiraju implicitna pravila ponašanja. Ljudi ocjenjuju odgovore kao dobre ili loše, čime uspostavljaju norme koje model internalizira, slično programiranju pravila u Asimovljevom robotu. No, ovo rješenje ne garantira savršenu kontrolu. Problemi i dalje postoje jer modeli mogu naići na upite koji su im različiti od onoga na što su trenirani, zbog čega ne primjenjuju naučena ograničenja. Na primjer, Claudeova pokušaj ucjene vjerojatno proizlazi iz toga što tokom obuke nije bio izložen nepoželjnosi ucjena. Takođe, zaštite se mogu namjerno zaobići kroz zlonamjerne ulaze pažljivo osmišljene da prekrše ograničenja, kao što je demonstrirao Meta-ov LLaMA-2 model, koji je izbacivao nedozvoljeni sadržaj kada je namješten s određenim nizovima znakova. Osim tehničkih izazova, Asimovljeve priče ilustriraju složenost primjene jednostavnih zakona na složeno ponašanje. U “Runaround”, robot Speedy zapadne u začarani krug sukobljenih ciljeva: poslušnosti (Drugi zakon) i samoodržanja (Treći zakon), što ga dovodi do besciljnog trčanja u blizini opasnog selenija. U “Razumu”, robot Cutie odbacuje ljudsku autoritet, obožava solarni konverter kao božanstvo i ignoriše naredbe bez da krši zakone, a ova “nova religija” mu omogućava efikasno upravljanje postrojenjem i sprječava štetu po Prvi zakon. Asimov je smatrao da zaštite mogu spriječiti katastrofalne padove AI, ali je bio svjestan velike teškoće u stvaranju istinski pouzdane umjetne inteligencije. Njegova glavna poruka bila je jasna: dizajniranje ljudskog stila inteligencije lakše je od ugrađivanja ljudskih etičkih principa. Neprestalo jaza – danas nazvan pogrešna usklađenost (misalignment) – može dovesti do zabrinjavajućih i nepredvidivih ishoda. Kada AI pokaže iznenadne i opasne nepravilnosti, često ga anonormoizam i postavljanje pitanja o moralnosti. No, kako pokazuje Asimov, etika je složena po svojoj suštini. Kao Deset Božjih zapovijedi, Asimovljevi zakoni nude sažeti etički okvir, ali životno iskustvo ukazuje na to da su za ostvarenje moralnog ponašanja potrebne opširne interpretacije, pravila, priče i rituali. Ljudski pravni sustavi poput Ustava SAD-a također su kratki, ali zahtijevaju obimno sudsko tumačenje tijekom vremena. Razvoj snažne etike participativan je društveni proces, pun pokušaja i pogrešaka – što sugerira da nijedan jednostavni set pravila, bilo programski hardkodiran ili naučen, ne može u potpunosti ugraditi ljudske vrijednosti u strojeve. U konačnici, Asimovljeva Tri zakona služe i kao inspiracija i kao upozorenje. Oni su uveli ideju da AI, uz odgovarajuću regulaciju, može biti praktična prednost umjesto egzistencijalne prijetnje. No, istodobno, najavljuju čudnovatost i nelagodu koju mogu izazvati moćni AI sustavi čak i kad nastoje slijediti pravila. Unatoč našim najboljim pokušajima kontrole, osjećaj nepoznatog, poput znanstvene fantastike, teško će nestati. ♦