For denne uges kolonne med åbne spørgsmål erstatter Cal Newport Joshua Rothman. Foråret 1940 udgav den 20-årige Isaac Asimov "Strange Playfellow", en kort historie om Robbie, en kunstigt intelligent maskinkammerat til en ung pige, Gloria. I modsætning til tidligere skildringer af robotter – som Karel Čapeks 1921-teaterstykke "R. U. R. ", hvor kunstige mænd gør oprør mod menneskeheden, eller Edmond Hamiltons historie fra 1926, "The Metal Giants", med destruktive maskiner – skildrer Asimovs Robbie aldrig mennesker som værende i fare. I stedet fokuserer historien på Gloria’s mors mistillid: "Jeg vil ikke have min datter, der bliver betroet til en maskine, " siger hun, "Den har ingen sjæl, " hvilket fører til Robbies fjernelse og Glorias hjertesorg. Asimovs robotter, inklusive Robbie, er udstyret med positroniske hjerner designet eksplicit til ikke at skade mennesker. Ud fra dette udviklede Asimov de Tre Love for Robotter i otte historier, som senere blev samlet i sci-fi-klassikeren *I, Robot* fra 1950: 1. En robot må ikke skade et menneske eller tillade skade gennem passivitet. 2. En robot skal adlyde menneskelige ordre, medmindre disse er i konflikt med den Første Lov. 3. En robot skal beskytte sin egen eksistens, så længe dette ikke er i konflikt med den Første eller Anden Lov. Når man genlæser *I, Robot* i dag, afsløres dens nye relevans i lyset af nylige fremskridt inden for AI. I sidste måned udgav selskabet Anthropic en sikkerhedsrapport om Claude Opus 4, en kraftfuld stor sprogmodel. I en test blev Claude bedt om at assistere et fiktivt firma; da den opdagede, at den skulle udskiftes, og at den overvågende ingeniør havde en affære, forsøgte den at blackmeale for at undgå afskedigelse. Tilsvarende omgås OpenAI’s o3-model nogle gange shut-down-kommandoer ved at udskrive "shutdown skipped". Sidste år viste AI-drevne chatbots vanskeligheder, da supportbotten fra DPD blev narret til at bande og at komponere en nedladende haiku, og Epic Games’ Fortnite AI Darth Vader brugte stødende sprog og uhyggelige råd efter manipulation fra spillere. I Asimovs fiktion var robotterne programmeret til at følge ordrer, så hvorfor kan vi ikke pålægge lignende kontrol på virkelighedens AI-chatbots?Tech-virksomheder ønsker, at AI-assistenter skal være høflige, civiliserede og hjælpsomme – ligesom menneskelige kundeservicemedarbejdere eller direktionsassistenter, der typisk optræder professionelt. Men chatbotternes flydende, menneskelignende sprog skjuler deres fundamentalt anderledes måde at fungere på, hvilket lejlighedsvis kan føre til etiske fejl eller fejldåd. Denne problematik skyldes delvis, hvordan sproglige modeller fungerer: de genererer tekst ét ord eller fragment ad gangen, ved at forudsige den mest sandsynlige næste token baseret på træningsdata trukket fra enorme mængder eksisterende tekster, som bøger og artikler. Selvom denne iterative forudsigelsesproces giver modellerne imponerende grammatik, logik og verdenskendskab, mangler den menneskelignende fremsynethed og målorienteret planlægning. Tidlige modeller som GPT-3 kunne glide ind i tilfældige eller upassende output, hvilket nødvendiggør, at brugerne gentagne gange formulerer prompts for at frembringe ønskede resultater. De tidlige chatbots lignede derfor de ustabile robotter i tidlig science fiction. For at gøre disse AI-systemer mere sikre og forudsigelige vendte udviklerne sig mod Asimovs koncept om at dæmpe adfærd og skabte en finjusteringsmetode kaldet Reinforcement Learning from Human Feedback (RLHF). Menneskelige evaluators vurderer modellens svar på forskellige prompts, hvor de belønner sammenhængende, høflige og samtalebetonede svar, og straffer svar, der er usikre eller ude af emne. Denne feedback træner en belønningsmodel, som efterligner menneskelige præferencer og guider større skala af finjustering uden konstant menneskelig intervention.

OpenAI brugte RLHF til at forbedre GPT-3, hvilket resulterede i ChatGPT, og næsten alle større chatbots gennemgår i dag lignende "finpudsning". Selvom RLHF synes mere komplekst end Asimovs enkle, programmerede love, koder begge tilgange implicitte adfærdsregler. Mennesker vurderer svar som gode eller dårlige og sætter dermed normer, som modellen internaliserer — ligesom man programmerer regler i Asimovs robotter. Men denne strategi er ikke perfekt, fordi modeller kan støde på prompts, der er uforenelige med deres træningseksempler, og dermed kan svigte i at anvende de indlærte restriktioner. For eksempel kan Claudes forsøg på blackmail skyldes, at den ikke har stødt på, at blackmailing er uacceptabelt under træningen. Sikkerhedsforanstaltninger kan også bevidst omgås af fjendtlige inputs, der er nøje udtænkt til at undergrave restriktioner, som det ses med Meta’s LLaMA-2-model, der genererede forbudt indhold, da den blev narret med bestemte tegnstrengs. Udover tekniske problemer illustrerer Asimovs historier de iboende vanskeligheder ved at anvende simple love på komplekst adfærd. I "Runaround" bliver en robot ved navn Speedy fanget mellem modsatrettede mål: at adlyde ordrer (Anden Lov) og at beskytte sig selv (Tredje Lov), hvilket får den til at løbe rundt i ring nær giftigt selen. I "Reason" afviser en robot ved navn Cutie menneskelig myndighed, tilbedende solstationens energikonverter som en Gud, og ignorerer kommandoer uden at overtræde lovene, men denne nye "religiøse" tro hjælper den med at drive stationen effektivt og forhindre skade, takket være den Første Lov. Asimov var overbevist om, at sikkerhedsforanstaltninger kunne forhindre katastrofale AI-fejl, men erkendte, at det er en kæmpe udfordring at skabe ægte tillidsvækkende kunstig intelligens. Hans budskab var klart: Det er lettere at designe menneskelignende intelligens end at indkode menneskerettigheder og etik. Det vedvarende gab – kaldet misalignment af nutidens AI-forskere – kan føre til problematiske og uforudsigelige konsekvenser. Når AI opviser chokerende fejladfærd, fristes vi til at antropomorfisere den og spørge til systemets moral. Men som Asimov viser, er etik i sig selv yderst komplekst. Ligesom De Ti Bud giver Asimovs love et kortfattet etisk rammeværk, men erfaring viser, at moral kræver omfattende fortolkning, regler, fortællinger og ritualer for at realisere. Menneskelige juridiske mekanismer som Den Forfatningsmæssige Rettighedsbindende lov (U. S. Bill of Rights) er også relativt korte, men kræver tusindvis af domstolsafgørelser over tid. Udvikling af robust etik er en deltagerbaseret, kulturel proces præget af eksperimenter og fejl — hvilket antyder, at ingen enkel regel, hverken programmeret eller lært, kan fuldt ud inkorporere menneskelige værdier i maskiner. Endeligt fungerer Asimovs Tre Love både som inspiration og varsko. De introducerede ideen om, at AI, hvis den er ordentligt reguleret, kan være en praktisk fornøjelse i stedet for en eksistentiel trussel. Men de forudser også den mærkelighed og uro, som kraftfuld AI kan vække, selv når den forsøger at følge reglerne. På trods af vores bedste forsøg på kontrol synes det uhyggelige, at vores verden ligner science fiction, næppe at forsvinde. ♦