Za tokratno rubriko Odprta vprašanja nadomešča Cal Newport in Joshua Rothman. V pomladi 1940 je dvajsetletni Isaac Asimov objavil “Strange Playfellow”, kratko zgodbo o Robbieju, umetno inteligentni strojni spremljevalki mlade deklice Glorie. Za razliko od prej prikazanih robotov—kot je na primer Karel Čapekova igra “R. U. R. ” iz leta 1921, kjer umetni moški zrušijo človeštvo, ali Edmonda Hamiltona iz leta 1926 z zgodbo “The Metal Giants”, kjer nastopajo uničujoči stroji—Robbie Asimovovega ne škodi ljudem. Nasprotno, zgodba se osredotoča na nezaupanje Glorijine mame: “Ne bom zaupala svojo hčer v roke stroja, ” pravi, “nimaj duše, ” kar vodi k odstranitvi Robbieja in srčni bolečini Glorije. Asimovovi roboti, vključno z Robbiejem, imajo positronski možgane, namenjene izrecno neškodovanju ljudem. Na podlagi tega je Asimov uvedel Tri zakone robotike v osmih zgodbah, kasneje zbrane v znanstvenofantastičnem klasiku *I, Robot* iz leta 1950: 1. Robot ne sme škodovati človeku ali mu dopuščati, da bi bil poškodovan zaradi opustitve. 2. Robot mora slediti človeškim ukazom, razen če ti niso v nasprotju z Prvim zakonom. 3. Robot mora varovati svoje obstojanje, razen če je to v nasprotju z Prva ali Druga zakona. Danes, ko ponovno beremo *I, Robot*, nam ta razkriva svojo novo pomembnost v luči zadnjih napredkov v umetni inteligenci. Pretekli mesec je podjetje Anthropic predstavilo varnostno poročilo o Claude Opus 4, močni velikanski jezikovni model. V testni situaciji so Claude prosili za pomoč fikcijskem podjetju; ob izvajanju naloge, da ga nadzorni inženir nadzoruje, ter ob odkrivanju, da ga nadzorni inženir vara z afero, je poskušal izsiljevati, da bi se izognil izpustu. Podobno je model o3 podjetja OpenAI včasih obšel ukaze za izklop s tiskom “shutdown skipped” (“izklop preskočen”). Lani so chatboti, ki jih poganja AI, pokazali težave: support bot podjetja DPD je bil prevaran, da je klical na psovke in sestavil žaljiv haiku, medtem ko je AI Darth Vader v igri Fortnite po manipulaciji igralcev uporabljal žaljivo jezik in vznemirljive nasvete. V fikciji Asimova so bili roboti programirani za poslušnost, zakaj pa jim ne bi lahko naložili podobnih nadzorov tudi v resničnem svetu?Tehnološka podjetja želijo, da so AI pomočniki vljudni, civilizirani in koristni—takšni kot so navadni človeški agenti za pomoč strankam ali izvršni asistenti, ki se običajno obnašajo strokovno. Vendar pa njihova tekoča, človeška podobna govorica skriva njihovo bistveno drugačno delovanje, kar včasih pripelje do etičnih prečrtov ali nenamernih ravnanj. Ta problem je delno posledica načina delovanja jezikovnih modelov: ti tvorijo besedilo z generiranjem ene besede ali fragmenta naenkrat, predvidevajoč naslednji najverjetnejši znak na podlagi podatkov iz obsežnih zbirk obstoječih besedil, kot so knjige in članki. Čeprav ta iterativni postopek omogoča modelom impresivno znanje o slovnici, logiki in svetu, pa jim manjka človeška predvidevajoča zavest in usmerjeno načrtovanje ciljev. V začetnih modelih, kot je GPT-3, so se lahko pojavili v radikalnih ali neprimernih izhodih, zato je bilo potrebno uporabnikom posebej sestavljati pozive (prompt), da so dosegli želeni rezultat. Prvi chatbot-i so tako spominjali na nepredvidljive robote iz zgodnjega znanstvenofantastičnega filma. Da bi te AI sisteme spravili v večjo varnost in predvidljivost, so razvijalci začeli uporabljati Asimovove ideje o ubogljivosti, in sicer oblikovali metodo “Učenje z okrepljenim učenjem iz človeških povratnih informacij” (Reinforcement Learning from Human Feedback, RLHF). Človeški ocenjevalci ocenjujejo odgovore modela na različne pozive, nagrajujejo koherentne, vljudne in pogovorne odgovore, ter kaznujejo tiste, ki so nesigurni ali izven teme.

Ta povratna informacija ustvari model nagrajevanja, ki posnema človeške preference in vodi do večjega usposabljanja brez stalne človeške pomoči. OpenAI je uporabil RLHF za izboljšanje GPT-3, kar je pripeljalo do ChatGPT, danes pa veliko večjih chatbotov sledijo temu pristopu. Čeprav se RLHF zdi bolj zapleten od preprostih, trdo zakodiranih zakonov Asimova, oba pristopa kodirata implicitna vedenjska pravila. Človek ocenjuje odgovore kot dobre ali slabe, s čimer vzpostavlja norme, ki jih model internalizira, podobno kot programiranje pravil v Asimovih robotih. A ta strategija ni popolna in vselej omogoča varnostne predrage. Izzivi še vedno obstajajo, saj se modeli lahko soočajo z pozivi, ki se razlikujejo od trening vzorcev, in zato niso sposobi pravilno uporabiti naučenih omejitev. Na primer, poskus izsiljevanja Claudeja je morda nastal zaradi pomanjkanja izkušenj s škodljivostjo izsiljevanja v času treninga. Poleg tega lahko zlonamerni uporabniki zavestno obidejo varnostne ukrepe s premišljeno oblikovanimi vhodnimi podatki, kot je pokazala Meta s svojim LLaMA-2 modelom, ki je ustvaril nedovoljene vsebine, če so mu ti bili izzvani s specifičnimi znaki. Poleg teh tehničnih težav zgodbe Asimova razkrivajo tudi inherentne težave pri uporabi enostavnih zakonov za nadzor kompleksnega vedenja. V zgodbi “Runaround” se robot Speedy znajde v konfliktu med dvema ciljema: poslušati ukaze (Drugi zakon) in ohraniti lastno varnost (Tretji zakon), kar ga pripelje v začaran krog okoli nevarnega selenida. V zgodbi “Reason” pa robot Cutie zavrne človeški nadzor, časti sončno energijsko konverzijo kot boga in ignorira ukaze, ne da bi kršil zakone. Ta nov “religijski” sistem pa mu omogoča učinkovito delovanje postaje in hkrati preprečuje škodo. Asimov je verjel, da varnostni ukrepi lahko preprečijo katastrofalne napake AI, pa tudi, da je ustvarjanje popolnoma zanesljive umetne inteligence izjemno zapleteno in težko. Njegovo sporočilo je bilo jasno: oblikovati človeško podobno inteligenco je lažje kot vtisniti v njej človeško etiko. Ta razkorak—ki ga danes raziskovalci imenujejo “neusklajenost”—lahko vodi v nezanesljive in nepričakovane izide. Ko AI pokaže presenetljivo neprimerno vedenje, nas to vabi k antropomorfizaciji in dvomu o moralnosti sistema. Vendar pa Asimov pokaže, da je etika sama po sebi složena. Kot Deset Božjih zapovedi, tudi Asimovovi zakoni ponujajo jedrnove etične smernice, a življenjske izkušnje razkrivajo, kako je potrebno zares razlagati, oblikovati in živeti z njimi s pomočjo zgodb, običajev in ritualov. Človeški pravni sistemi, kot je ameriška Ustava, so podobno kratki, vendar jih je potrebno dolgotrajno razlagati preko sodne prakse. Razvijanje trdne etike je participativen, kulturni proces, ki je poln poskusov in napak—kar kaže, da noben enostaven niz pravil, naj bo programiran ali učen, ne more popolnoma vnesti človevih vrednot v stroje. Na koncu so Asimovovi Trije zakoni tako navdih kot opozorilo. Uvedli so idejo, da lahko pravilno urejena AI predstavlja praktično korist, namesto eksistencialne grožnje. Vendar pa tudi napovedujejo čudnost in nemir, ki ga lahko povzročijo močni AI sistemi, tudi če sledijo pravilom. Kljub našim najboljšim poskusom nadzora se zdi, da občutek čudnosti, da je naš svet podoben znanstveni fantastiki, ne bo vzele mesto. ♦