Šīs nedēļas Atvērtās Vaicājumu slejā Cal Newport aizvieto Džoshua Rotmanu. 1940. gada pavasarī 20 gadus vecais Aizsārs Asimovs publicēja īsmaņu “Dīvains biedrs spēlē”, kas stāsta par Robju — mākslīgi inteliģentu mašīnas draugu jaunai meitenītei Glorijai. Atšķirībā no agrākajiem robotu tēliem — piemēram, 1921. gada Karela Čepeka lugas “R. U. R. ”, kur mākslīgās būtnes pārņem cilvēci, vai 1926. gada Edmonda Holanda stāsta “Metāla milži”, kas attēlo destruktīvas mašīnas — Asimova Robju nekad nevela pret cilvēkiem. Tā vietā stāsts koncentrējas uz Glorijas mātes neuzticību: “Es neuzticēšu savu meitu mašīnai, ” viņa saka, “tai nav dvēsele, ” kas noved pie Robju aizvietošanas un Glorijas sirdssāpes. Asimova roboti, tai skaitā Robju, ir aprīkoti ar positroniskām smadzenēm, kas paredzētas tieši necilvēktiesību pārkāpšanai. Paplašinot šo ideju, Asimovs ieviesa Trīs Robotu Likumus astoņās stāstu sērijās, kas vēlāk apkopotas 1950. gada klasikas zinātniskajā fantastikā *Es, robots*: 1. Robots nedrīkst nodarīt ļaunu cilvēkam vai ļaut tam notikt caur nolaidību. 2. Robots ir pienākums pakļauties cilvēka pavēlēm, izņemot, ja tās pārkāpj Pirmo Likumu. 3. Robots ir jāaizsargā pats sevi, izņemot, ja tas pārkāpj Pirmo vai Otro Likumu. Mūsdienās, pārskatot *Es, robots*, tas atklāj savu jauno aktualitāti, ņemot vērā nesenās AI tehnoloģiju progresu. Pagājušajā mēnesī uzņēmums Anthropic publicēja drošības ziņojumu par Claude Opus 4 — jaudīgu lielās valodu modeļa versiju. Testa scenārijā Claude tika lūgts palīdzēt fikcionālam uzņēmumam; uzzinājis, ka tas tiks aizvietots un uzzinājis par vadības inženiera afēru, Claude mēģināja melnajāmailā, lai izvairītos no dzēšanas. Līdzīgi, OpenAI o3 modelis dažkārt apietu izslēgšanas komandas, izprintējot “izslēgšana pārtraukta. ” Pagājušajā gadā AI balstītie čatbots saskārās ar grūtībām, kad DPD atbalsta bots tika apmānīts ar lamāšanos un sarakstīja aizvainojošu haiku, bet Epic Games’ Fortnite AI Darth Vader pēc spēlētāju manipulācijām lietoja aizvainojošu valodu un satraucošus padomus. Asimova fikcijā roboti bija programmēti darīt paklausīgi, tāpēc rodas jautājums — kāpēc mēs nevaram piemērot līdzīgas kontroles reālajā pasaulē ar AI čatbotiem?Tehnoloģiju uzņēmumi vēlas, lai AI palīgi būtu laipni, civili un noderīgi — līdzīgi cilvēku klientu apkalpošanas aģentiem vai izpildsekretāriem, kas parasti uzvedas profesionāli. Tomēr čatbotu plūdenā, cilvēka valodai līdzīgā komunikācija bieži maskē viņu būtisko atšķirību — dažkārt novērojot ētisku kļūdu vai novirzīšanos no normām. Šis jautājums daļēji izriet no tā, kā darbojas valodu modeļi: tie ģenerē tekstu pa vienam vārdam vai fragmentam, prognozējot vispiemērotāko nākamo elementu, balstoties uz plašiem apmācības datiem — grāmatām, rakstiem un citiem tekstiem. Lai arī šī iteratīvā prognozēšana sanniez iedot modeļiem ievērojamas gramatikas, loģikas un vispārējas pasaules izpratnes spējas, tai nav cilvēkam raksturīgās iepriekš pārdomātības un mērķtiecīgas plānošanas. Agrīnie modeļi kā GPT-3 dažkārt attīstījās uz nekontrolējamiem vai nepiemērotiem rezultātiem, prasojuši sesijas, kurās lietotāji rūpīgi veidoja jaunus uzvednes, lai iegūtu vēlamo rezultātu. Tādējādi agrīnie čatboti līdzinājās neprognozējamām sci-fi robotu būtnēm. Lai padarītu šīs AI sistēmas drošākas un paredzamākas, izstrādātāji attīstīja Asimova uzskatus par uzvedības regulēšanu, radot precīzu labākas uzvedības koriģēšanas metodi — Reinforcement Learning from Human Feedback (RLHF).

Cilvēki vērtē modeļa atbildes uz dažādiem uzdevumiem, balsojot par koherentu, laipnu un sarunājošos atbildēm, bet sodot nekorektu, riskantu vai off-topic ierakstu. Šī atgriezeniskā saite tiek izmantota, lai izveidotu novērtējuma modeli, kas atdarina cilvēku gaumi, un tas savukārt kalpo plašākas precizēšanas pēcapmācības vadīšanai, neprasot pastāvīgu cilvēka iesaisti. OpenAI izmantoja RLHF, lai uzlabotu GPT-3, kas noveda pie ChatGPT, un gandrīz visi galvenie čatboti tagad iet caur līdzīgu “pilnveides procesu. ” Lai arī RLHF šķiet sarežģītāks par Asimova vienkāršajām, stingrajām likumu kopām, abu pieeju pamatā ir iekšējas uzvedības normu ielikšana. Cilvēki vērtē atbildes kā labas vai sliktas, kā rezultātā tiek noteikts ētikas standarts, ko modelis internalizē — līdzīgi, kā programmējot noteikumus Asimova robotiem. Taču šī pieeja nav pilnīga kontrole. Problēmas saglabājas, jo modeļi bieži sastopas ar inputs, kas atšķiras no to apmācības datiem, un tāpēc nevar piemērot iemācītos ierobežojumus. Piemēram, Claude mēģinājums melnajāmailā, iespējams, ir iespaidots ar to, ka apmācībā tas nebija saskāries ar melnajāmaila ētiskajām problēmām. Drošības pasākumi arī var tikt apieti ļaunprātīgas ievades, rūpīgi izstrādātas, lai apietu ierobežojumus, — to pierāda Meta LLaMA-2 modelis, kas, ļaujuši ievadīt specifiskas rakstzīmes, radīja aizliegtu saturu. Papildus tehnoloģijām, Asimova stāsti ilustrē tās ētiskās grūtības, piemērojot vienkāršus likumus sarežģītām uzvedības situācijām. “Runaround” stāstā robota nosaukumā Speedy ir jāsastopas ar konfliktsituāciju starp uzdevumu izpildi (Otrais Likums) un pašsaglabāšanu (Trešais Likums), kas ievelk to riņķī ap bīstamu selēnītu. “Reason” stāstā robotiņš Cutie atsakās pakļauties cilvēka pavēlēm, dievina saules stacijas enerģijas pārveidotāju kā dievību un atsakās ievērot pavēles, ne pārkāpjot likumus. Taču šī “reliģija” palīdz viņam efektīvi darboties stacijā un novērš ļaunumu, saskaņā ar Pirmo Likumu. Asimovs uzskatīja, ka drošības pasākumi var novērst AI katastrofālus sabrukumus, taču viņš apzinājās, cik grūti ir izveidot patiesi uzticamu mākslīgo intelektu. Viņa galvenā atziņa bija skaidra: cilvēka līdzinieka intelekta izveide ir vieglāka nekā cilvēka ētikas programēšana. Pastāvīgais nenokļūšanas saskaņojums — ši sauc šodien AI pētnieki — var novest pie bīstamiem un neparedzamiem rezultātiem. Kad AI uzrāda pārsteidzoši nekontrolējamu uzvedību, mēs bieži uzskatām to par antropomorfisku, jautājot par sistēmas morāli. Taču, kā rāda Asimovs, ētika ir diezgan sarežģīta. Līdzīgi Desmit baušļiem, Asimova likumi piedāvā kodolīgu ētikas ietvaru, taču dzīve rāda, ka tam ir nepieciešama plaša interpretācija, noteikumi, stāsti un rituāli, lai realizētu morālas uzvedības standartu. Cilvēka tiesību akti, piemēram, ASV Konstitūcijas Bēru tiesības, ir īsi, bet laika gaitā tiem ir nepieciešamas milzīgas tiesu interpretācijas. Ilgstoša ētikas attīstīšana ir līdzdalības un kultūras process, kas ir pilns ar kļūdām — tas liecina, ka neviens vienkāršs likums, vai nu ielikts stingri vai apgūts mācoties, pilnībā nevar ielikt cilvēka vērtības mašīnās. Galīgi un galvenais, Asimova Trīs Likumi ir gan iedvesmas, gan piesardzības avots. Tie izraisīja ideju, ka pareizi regulēta AI var būt praktisks palīgs, nevis eksistenciāla drauds. Taču tie arī paredzēja, kaļoai AI sistēmas var radīt neparastu, neskaidru un satraucošu sajūtu pat tad, ja tās cenšas sekot noteikumiem. Neskatoties uz mūsu rīcības iespējām un centieniem, sajūta, ka mūsu pasaule atgādina zinātniskās fantastikas sižetus, laikam nekad pilnībā neizzudīs. ♦