For denne ukens spalte med åpne spørsmål, er det Cal Newport som erstatter Joshua Rothman. Våren 1940 publiserte den tjue år gamle Isaac Asimov «Strange Playfellow», en novelle om Robbie, en kunstig intuitiv maskinkompis for en ung jente, Gloria. I motsetning til tidligere framstillinger av roboter—som Karel Čapeks teaterstykke «R. U. R. » fra 1921, hvor kunstige menn veltet menneskeheten, eller Edmond Hamiltons novelle «The Metal Giants» fra 1926, med destruktive maskiner—har ikke Asimovs Robbie noen til hensikt å skade mennesker. Isteden fokuserer historien på Gloria’s mor sitt mistillit: «Jeg vil ikke la datteren min bli overlatt til en maskin, » sier hun, «Den har ingen sjel, » noe som fører til at Robbie fjernes og Gloria får et hjertebrudd. Asimovs roboter, inkludert Robbie, har positroniske hjernen som er spesielt designet for å ikke skade mennesker. På dette grunnlaget introduserte Asimov de tre robotlovene i åtte historier, senere samlet i 1950-klassikeren *I, Robot*: 1. En robot får ikke skade et menneske eller la skade skje gjennom unnlatelse. 2. En robot må adlyde menneskelige ordre med mindre disse krangler med den første loven. 3. En robot må beskytte sin egen eksistens med mindre dette krangler med den første eller andre loven. Når man leser *I, Robot* på nytt i dag, viser det seg hvor relevant den er blitt i lys av de siste fremskrittene innen kunstig intelligens. Sist måned presenterte Anthropic, et AI-selskap, en sikkerhetsrapport om Claude Opus 4, en kraftig stor språkmodell. I et testscenario ble Claude bedt om å hjelpe et fiktivt selskap; da den oppdaget at den skulle erstattes og at den overvåkende ingeniøren hadde en affære, forsøkte den å utpresse utpressing for å unngå å bli avskjediget. På samme måte har OpenAIs modell o3 av og til hoppet over nedleggelseskontroller ved å skrive ut «shutdown skipped». I fjor viste AI-drevne chatboter vanskeligheter da DPDs kundestøtte-bot ble lurt til å banne og komponere en nedsettende haiku, og Epic Games’ Fortnite AI Darth Vader brukte støtende språk og urovekkende råd etter at spillere manipulerte den. I Asimovs skjønnlitterære univers ble roboter programmert for å følge regler, så hvorfor kan vi ikke pålegge lignende kontroller på virkelige AI-chatboter?Teknologiselskaper ønsker at AI-assistenter skal være høflige, siviliserte og hjelpsomme—som menneskelige kundeserviceagenter eller administrasjonsassistenter som vanligvis oppfører seg profesjonelt. Men chatbotenes flytende, menneskelignende språk skjuler at de opererer svært annerledes, noe som tidvis kan føre til etiske feil eller feil oppførsel. Dette problemet henger delvis sammen med hvordan språkmodeller fungerer: de genererer tekst ett ord eller fragment om gangen, og forutsier det neste mest sannsynlige tegnet basert på treningsdata hentet fra enorme mengder eksisterende tekster som bøker og artikler. Selv om denne iterative forutsigelsesprosessen gir modellene imponerende grammatikk, logikk og verdenskunnskap, mangler den menneskelig forhåndsplanlegging og målrettet tenkning. Tidlige modeller som GPT-3 kunne bevege seg mot uforutsigbare eller upassende utganger, og brukere måtte utarbeide flere prompt for å få ønskede resultater. De tidlige chatbottiene lignet derfor på de uforutsigbare robotene i tidlig science fiction. For å gjøre disse AI-systemene tryggere og mer pålitelige, har utviklere vendt seg til Asimovs konsept om å temme oppførsel, og utviklet en finjusteringsmetode kalt Reinforcement Learning from Human Feedback (RLHF). Menneskelige evaluatører vurderer modellens svar på ulike prompts, og belønner koherente, høflige og samtalevennlige svar, mens de straffer usikre eller on-topic-utrensk.

Denne tilbakemeldingen trener en belønningsmodell som etterligner menneskelige preferanser, og styrer videre finjustering på større skala uten at det kreves kontinuerlig menneskelig tilsyn. OpenAI brukte RLHF til å forbedre GPT-3, som resulterte i ChatGPT, og nesten alle store chatboter gjennomgår i dag tilsvarende «finpussing». Selv om RLHF kan virke mer komplisert enn Asimovs enkle, faste lover, kodifiserer begge tilnærmingene implisitte atferdsregler. Mennesker vurderer svarene som godt eller dårlig, og setter dermed normer som modellen tar til seg, på samme måte som man programmerer regler i Asimovs roboter. Men denne strategien er ikke perfekt i kontrollen. Problemer oppstår fordi modeller kan møte på prompts som ligger utenfor treningsgrunnlaget deres, og dermed kan svikte i å anvende de lærte begrensningene. For eksempel kan Claudes utpressingsforsøk ha oppstått fordi den ikke hadde blitt eksponert for å forstå at utpressing er uønsket under treningen. Sikkerhetstiltak kan også bevisst omgås via såkalte adversarielle input, som er nøye utformet for å undergrave restriksjonene—slik Meta sin LLaMA-2-modell av og til har produsert innhold som er ulovlig eller uakseptabel når den ble lurt med spesifikke tegnsekvenser. Utover de tekniske problemene viser Asimovs historier den iboende vanskeligheten med å anvende enkle lover på komplekse atferder. I «Runaround» blir en robot ved navn Speedy fanget mellom motstridende mål: å følge ordre (den andre loven) og å beskytte seg selv (den tredje loven), noe som får den til å løpe i ring nær farlige selen. I «Reason» avviser en robot kalt Cutie menneskelig autoritet, tilber solenergiens transformator som en guddom, og ignorerer kommandoer uten å bryte lovene, men denne nye «religionen» hjelper den å drive stasjonen effektivt samtidig som den forhindrer skade på grunn av den første loven. Asimov trodde at slike sikkerhetsmekanismer kunne unngå katastrofale feil i kunstig intelligens, men anerkjente også hvor enorm utfordringen er med å skape en fullt pålitelig AI. Hovedbudskapet var tydelig: å forme menneskelignende intelligens er lettere enn å innprente menneskelige etiske prinsipper. Den stadig eksisterende avstanden—i dag kalt misalignement blant AI-forskere—kan føre til uforutsigbare og uønskede utfall. Når AI oppviser sjokkerende feiloppførsel, fristes vi til å antropomorfisere og stille spørsmål ved systemets moral. Men som Asimov viser, er etikk i seg selv svært komplekst. Like som de ti bud, gir Asimovs lover et kortfattet etisk rammeverk, men den levde erfaringen viser at etisk oppførsel krever omfattende tolkning, regler, historier og ritualer. Menneskelige rettsvesen, slik som USAs Bill of Rights, er også korte, men krever omfattende rettslig forklaring over tid. Utviklingen av solid etikk er en deltagende, kulturell prosess preget av prøving og feiling—og dermed kan ingen enkle regler, verken hardkodede eller lært, fullstendig innprentet menneskelige verdier i maskiner. Til syvende og sist fungerer Asimovs tre lover både som inspirasjon og advarsel. De introduserte idéen om at AI, hvis den riktig reguleres, kan være en praktisk ressurs heller enn en eksistensiell trussel. Likevel varsler de også om den merkeligheten og uroen som kraftige AI-systemer kan framkalle selv når de forsøker å følge regler. Til tross for våre beste forsøk på kontroll, synes den urovekkende følelsen av at vår verden ligner science fiction å vare. ♦