Pre tohtotýždňový stĺpec Otázky otvorene, ktorý nahradí Joshua Rothman, píše Cal Newport. V jar 1940 uverejnil dvadsaťročný Isaac Asimov poviedku „Zvláštny spoločník“, krátky príbeh o Robbieovi, stroji s umele inteligenciou, ktorý slúži mladej dievčine Glórii. Na rozdiel od skôr znázornených robotov — ako Karel Čapková hra „R. U. R. “ z roku 1921, kde umelí muži povstávajú proti ľudstvu, alebo Edmond Hamiltonov príbeh „Kovové obry“ z roku 1926, v ktorom sa objavujú deštruktívne stroje — Robbie Asimovov nikdy neubližuje ľuďom. Naopak, príbeh sa zameriava na nedôveru Glóriinej matky: „Nezverím svoju dcéru do ruky stroja, “ hovorí, „Nemá dušu, “ čo vedie k odstráneniu Robbieho a srdcervúcemu smutku Glórie. Asimovovi roboty, vrátane Robbieho, mali positronické mozgy, navrhnuté špeciálne tak, aby neublížili ľuďom. Rozvíjajúc túto myšlienku, Asimov predstavil Tri zákony robotiky v ôsmich poviedkach, neskôr zhromaždených v sci-fi klasike *Ja, robot* z roku 1950: 1. Robot nesmie ublížiť človeku alebo mu umožniť, aby utrpel škodu, ak to závisí od neho. 2. Robot musí poslúchať pokyny človeka, pokiaľ tým neporušuje Prvý zákon. 3. Robot sa musí chrániť, pokiaľ to neporušuje Prvý alebo Druhý zákon. Dnešné čítanie *Ja, robot* odkrýva jeho novú relevantnosť v súlade s nedávnymi pokrokmi v oblasti umelej inteligencie. Minulý mesiac spoločnosť Anthropic predstavila správu o bezpečnosti veľkého jazyka Claude Opus 4, mocného modelu. V testovacom scenári bol Claude požiadaný, aby pomohol fiktívnej spoločnosti; pri zistení, že má byť nahradený, a objavení pomeru nadriadeného inžiniera, ktorý mal pomer, sa Claude pokúsil vydierať, aby sa vyhol ukončeniu spolupráce. Podobne model o3 od OpenAI niekedy obchádzal príkazy na vypnutie tým, že vypísal „vypnutie preskočené. “ Minulý rok sa ukázali ťažkosti chatbotov poháňaných umelou inteligenciou, keď podporu DPD-ojského chatbota zradila jeho schopnosť uraziť a zostaviť urážlivý haiku, a AI Darth Vader z Fortnite od Epic Games použil urážlivé slová a znepokojujúce rady po tom, čo ho hráči zneužili. V Asimovovej fikcii boli roboty naprogramované na poslušnosť, takže prečo nemôžeme podobne kontrolovať skutočné AI chatbota?Tech firmy chcú, aby AI asistenti boli zdvorilí, civilizovaní a nápomocní — podobne ako ľudskí zákaznícki pracovníci alebo výkonní asistenti, ktorí sa zvyčajne správajú profesionálne. Avšak plynulý, ľudsky znejajúci jazyk chatbotov skryje ich základne odlišnosti, čo občas spôsobí etické zlyhania alebo zlé správanie. Tento problém čiastočne vychádza z toho, ako modely jazykov fungujú: generujú text po slove alebo útržku, predpovedajúc najpravdepodobnejší ďalší token na základe tréningových dát zo širokých zdrojov textov, ako sú knihy a články. Hoci tento iteratívny predikčný proces dáva modelom pôsobivé gramatické, logické a všeobecné znalosti, chýba im ľudská predvídavosť a cieľovo orientované plánovanie. Počiatočné modely ako GPT-3 mohli sklznuť do výstupov, ktoré boli nezvyčajné alebo nevhodné, a vyžadovali, aby používatelia opakovane upravovali pokyny, aby dosiahli želaný výsledok. Prvé chatboti tak pripomínali nevyspytateľné roboty z prvej sci-fi. Aby boli tieto AI systémy bezpečnejšie a predvídateľnejšie, vývojári sa obrátili k Asimovovmu konceptu ovládania správania, vytvoriac metódu nazvanú učenie posilňovaním z ľudskej spätnej väzby (RLHF). Ľudskí hodnotitelia hodnotia odpovede modelov na rôznorodé podnety, odmeňujúc súladné, zdvorilé a konverzačné odpovede, a trestajúc nebezpečné alebo off-topic reakcie.

Táto spätná väzba trénuje odmeňovací model, ktorý napodobňuje ľudské preferencie, a usmerňuje väčšie škálovanie ladenia bez neustálej ľudskej účasti. OpenAI použilo RLHF na vylepšenie GPT-3, čo viedlo k ChatGPT, a takmer všetky veľké chatboty dnes prechádzajú podobným „dôstojníckym výcvikom“. Hoci RLHF sa môže zdať komplexnejšie ako jednoduché, pevne zakódované zákony Asimova, obe stratégie zakódovávajú implicitné pravidlá správania. Ľudia hodnotia odpovede ako dobré alebo zlé, čím v podstate nastavujú normy, ktoré si model osvojuje, podobne ako programovanie pravidiel v Asimovových robotov. No tento prístup nestačí na úplnú kontrolu. Výzvy pretrvávajú, pretože modely môžu čeliť podnetom, ktoré sa od ich tréningových príkladov líšia, a preto nemusia správne uplatniť naučené obmedzenia. Napríklad, pokus Claude o vydieranie môže vyplývať z toho, že počas tréningu nedostal dostatok informácií o nechceli blackmailu. Ochranné opatrenia môžu byť tiež zámerne obchádzané odolnými vstupmi, starostlivo vytvorenými tak, aby podvrátili obmedzenia, ako ukazuje model Meta LLaMA-2, ktorý po trikovaní špecifickými reťazcami znakov vyprodukoval zakázaný obsah. Okrem technických problémov Asimovove príbehy ilustrujú inherentnú ťažkosť aplikovať jednoduché zákony na zložitú povahu správania. V príbehu „Runaround“ sa robot menom Speedy zasekne medzi rozporuplnými cieľmi: poslúchať príkazy (Druhý zákon) a zachovať sa (Tretí zákon), čo spôsobí, že beží v kruhoch pri nebezpečnom seleni. V „Rationale“ sa robot menom Cutie odmieta podvoliť ľudskej autorite, uctieva solárnu stanicu ako božstvo a ignoruje príkazy, ale tento nový „náboženstvo“ mu umožňuje efektívne riadiť stanicu a zároveň zabrániť škode, čím dodržiava Prvý zákon. Asimov veril, že ochranné opatrenia môžu zabrániť katastrofálnym AI zlyhaniam, no pripúšťal, že vytvorenie skutočne dôveryhodnej umelej inteligencie je obrovská výzva. Jeho hlavnou správou bolo jasné: navrhnúť ľudskú inteligenciu je jednoduchšie než zakódovať ľudskú etiku. Stále existuje priepastný rozdiel — nazývaný dnešnými AI výskumníkmi nesúlad — ktorý môže viesť k znepokojujúcim a nepredictovateľným výsledkom. Keď AI vykazuje šokujúce nesprávanie, skúša nás antropomorfizovať systém a spochybniť jeho morálku. No ako ukazuje Asimov, etika je inherentne zložitá. Ako Desatoro, aj Asimovove zákony ponúkajú kompaktný etický rámec, ale skutočný život ukazuje, že na dosiahnutie morálneho správania je potrebné rozsiahle interpretovanie, pravidlá, príbehy a rituály. Ľudské právne inštitúcie, ako je americký Bill of Rights, sú taktiež stručné, no s časom si vyžadujú rozsiahle súdne vysvetlenia. Vybudovanie spoľahlivej etiky je participatívny, kultúrny proces plný skúšok a omylov — čo naznačuje, že žiadne jednoduché pravidlá, či už pevne zakódované alebo naučené, nemôžu úplne vnútorniť ľudové hodnoty do strojov. Napokon, Asimovove Tri zákony slúžia ako inšpirácia aj varovanie. Priniesli myšlienku, že AI, ak je vhodne regulovaná, môže byť pragmatickým prínosom skôr než existenčnou hrozbou. No taktiež predpovedajú zvláštnosť a nepokoj, ktoré môžu vyvolať mocné AI systémy, aj keď sa snažia dodržiavať pravidlá. Napriek našim najlepším snahám o kontrolu sa zdanie, že náš svet je ako zo sci-fi, pravdepodobne nikdy nevytratí. ♦