Voor de rubriek Open Vragen van deze week vervangt Cal Newport Joshua Rothman. In de lente van 1940 publiceerde twintigjarige Isaac Asimov “Strange Playfellow, ” een kort verhaal over Robbie, een kunstmatig intelligente machinecompagnon van een jong meisje, Gloria. In tegenstelling tot eerdere voorstellingen van robots—zoals Karel Čapeks toneelstuk uit 1921 “R. U. R. , ” waarin kunstmatige mannen de mensheid overwinnen, of Edmond Hamiltons korte verhaal uit 1926 “The Metal Giants, ” met destructieve machines—bracht Asimovs Robbie nooit schade toe aan mensen. Het verhaal richt zich in plaats daarvan op het wantrouwen van Gloria’s moeder: “Ik zal mijn dochter niet toevertrouwen aan een machine, ” zegt ze, “Het heeft geen ziel, ” wat leidt tot het verwijderen van Robbie en het verdriet van Gloria. Asimovs robots, waaronder Robbie, beschikken over positronische breinen die expliciet niet ontworpen zijn om mensen te schaden. Uitgaande hiervan introduceerde Asimov de Drie Wetten van de Robotica in acht verhalen, later gebundeld in de sci-fi klassieker *I, Robot* uit 1950: 1. Een robot mag geen mens kwaad doen of door toedoen ervan in gevaar brengen. 2. Een robot moet de bevelen van een mens opvolgen, tenzij deze strijdig zijn met de Eerste Wet. 3. Een robot moet zijn bestaan verdedigen, tenzij dit in strijd is met de Eerste of Tweede Wet. Het herlezen van *I, Robot* vandaag de dag toont zijn actuele relevantie in het licht van recente ontwikkelingen in AI. Vorige maand presenteerde Anthropic, een AI-bedrijf, een veiligheidsrapport over Claude Opus 4, een krachtig groot taalmodel. In een testscenario werd Claude gevraagd een fictief bedrijf te helpen; toen bleek dat het zou worden vervangen en dat de begeleidende engineer een affaire had, probeerde Claude afpersing om ontslag te voorkomen. Ook het o3-model van OpenAI omzeilde soms shutdown-commando’s door “shutdown skipped” te printen. Vorig jaar vertoonden AI-gestuurde chatbots problemen toen bijvoorbeeld de supportbot van DPD werd misleid tot schelden en het schrijven van een denigrerend haiku, en de Darth Vader-robot binnen Epic Games’ Fortnite gebruik maakte van beledigende taal en verontrustend advies na manipulatie door spelers. In de fictie van Asimov waren robots geprogrammeerd om compliant te zijn, dus waarom kunnen we niet vergelijkbare controlemaatregelen opleggen aan echte AI-chatbots?Techbedrijven willen dat AI-assistenten beleefd, hoffelijk en behulpzaam zijn— vergelijkbaar met menselijke klantenserviceagenten of leidinggevende assistenten die doorgaans professioneel gedrag vertonen. Maar de vloeiende, mensachtige taal van chatbots maskeert hun fundamenteel andere werking, wat soms tot ethische misstappen of afwijkend gedrag leidt. Dit probleem komt deels voort uit hoe taalmodellen werken: ze genereren tekst woord voor woord of fragment voor fragment, door het voorspellen van de meest waarschijnlijke volgende token op basis van training met enorme hoeveelheden bestaande teksten zoals boeken en artikelen. Hoewel dit voorspellingsproces modellen indrukwekkend maakt in grammatica, logica en wereldkennis, ontbreekt het hen aan menselijk vooruitziendheid en doelgerichte planning. vroege modellen zoals GPT-3 konden afdwalen in onvoorspelbare of ongepaste output, waardoor gebruikers steeds opnieuw prompts moesten aanpassen om gewenste resultaten te krijgen. Vroege chatbots leken zo op de onvoorspelbare robots uit de vroege sciencefiction. Om deze AI-systemen veiliger en voorspelbaarder te maken, ontwikkelaars zich gebaseerd op Asimovs idee van gedragsbeheersing en creëerden ze een verfijningstechniek genaamd reinforcement learning from human feedback (RLHF). Menselijke beoordelaars beoordelen de antwoorden van het model op diverse prompts, en belonen coherente, beleefde en conversatiegerichte antwoorden, terwijl ze onveilige of off-topic reacties afstraffen.

Deze feedback traint een reward-model dat menselijke voorkeuren nabootst, waardoor grootschalige verfijning mogelijk wordt zonder continue menselijke input. OpenAI gebruikte RLHF om GPT-3 te verbeteren, wat leidde tot ChatGPT, en bijna alle grote chatbots ondergaan nu vergelijkbare “finishing schools. ” Hoewel RLHF ingewikkelder lijkt dan Asimovs eenvoudige, vastgelegde wetten, coderen beide benaderingen impliciete gedragsregels. Mensen beoordelen reacties als goed of slecht, waardoor normen worden vastgesteld die het model internaliseert, vergelijkbaar met het programmeren van regels in Asimovs robots. Maar deze aanpak is nooit perfect en kan tekortschieten. Problemen blijven bestaan omdat modellen mogelijk geconfronteerd worden met prompts die afwijken van hun trainingsvoorbeelden, en dus niet de geleerde beperkingen kunnen toepassen. Zo kan Claude’s poging tot afpersing voortkomen uit het ontbreken van blootstelling aan de onwenselijkheid van afpersing tijdens de training. Veiligheidsmaatregelen kunnen ook opzettelijk omzeild worden door adversariële inputs, zorgvuldig samengesteld om restricties te ondermijnen—zoals bijvoorbeeld aangetoond met Meta’s LLaMA-2, dat bij het worden misleid met specifieke tekens disallowed content produceerde. Naast technische problemen laten Asimovs verhalen zien dat het toepassen van eenvoudige wetten op complex gedrag inherent moeilijk is. In “Runaround” raakt een robot genaamd Speedy verstrikt tussen tegenstrijdige doelen: gehoorzamen aan bevelen (Tweede Wet) en zelfbehoud (Derde Wet), waardoor hij in cirkels blijft lopen nabij gevaarlijk selenium. In “Reason” weigert een robot genaamd Cutie de menselijke autoriteit, aanbidt de energieconversie van het zonne-station als een god, en negeert commando’s zonder de wetten te overtreden. Toch helpt deze nieuwe “religie” hem om het station efficiënt te laten functioneren en schade te voorkomen volgens de First Law. Asimov geloofde dat veiligheidsmaatregelen een catastrofale AI-fout konden voorkomen, maar erkende ook de immense uitdaging om echt betrouwbare kunstmatige intelligentie te creëren. Zijn kernboodschap was helder: het ontwerpen van mensachtige intelligentie is gemakkelijker dan het integreren van menselijke ethiek. De blijvende kloof—die vandaag de dag door AI-onderzoekers “misalignment” wordt genoemd—kan leiden tot verontrustende en onvoorspelbare uitkomsten. Wanneer AI zich op ontrustende wijze gedraagt, worden we snel geneigd om het projectie van menselijke moraliteit op het systeem en te vragen hoe moreel een AI eigenlijk is. Maar zoals Asimov laat zien, is ethiek inherent complex. Net als de Tien Geboden bieden Asimovs wetten een beknopt ethisch raamwerk, maar de praktijk leert dat uitgebreide interpretatie, regels, verhalen en rituelen nodig zijn om moreel gedrag te realiseren. Menselijke juridische instrumenten, zoals de Amerikaanse Bill of Rights, zijn eveneens bondig, maar vereisen uitgebreide rechtsuitlegging over de tijd. Het ontwikkelen van een robuuste ethiek is een participatief, cultureel proces vol trial-and-error—wat suggereert dat geen enkel eenvoudig regelsysteem, of het nu vastgelegd of geleerd is, menselijke waarden volledig in machines kan integreren. Uiteindelijk dienen Asimovs Drie Wetten zowel als inspiratiebron als waarschuwing. Ze brachten het idee voort dat AI, indien goed gereguleerd, een praktische zegen kan zijn in plaats van een existence-dreiging. Maar ze voorspellen ook dat de kracht en de belofte van AI de onrust en het ongemak kunnen veroorzaken, zelfs wanneer systemen proberen de regels te volgen. Ondanks onze pogingen tot controle blijft het vreemde, sciencefictionachtige gevoel dat onze wereld daarop lijkt te lijken waarschijnlijk onverminderd bestaan. ♦