Sidste forår opsagde Daniel Kokotajlo, en AI-sikkerhedsforsker hos OpenAI, sit job i protest, overbevist om, at virksomheden var uforberedt på AI-teknologiens fremtid og ønskede at advare. I en telefonsamtale fremstod han venskabelig men nervøs, og forklarede, at fremskridt inden for AI 'justering' — metoder til at sikre, at AI følger humane værdier — haltede efter fremskridt i intelligens. Han advarede om, at forskere hastede mod at skabe stærke systemer uden kontrol. Kokotajlo, der skiftede fra filosofi til AI, havde selv lært at følge med i AI-udviklingen og forudsige, hvornår vigtige intelligensmilepæle ville indtræffe. Efter AI udviklede sig hurtigere end ventet, justerede han sine tidsplaner med årtier. I sin 2021-scenario, “Hvad 2026 Ser Ud Til, ” blev mange forudsigelser opfyldt tidligt, hvilket fik ham til at forudse en “no return”-zone i 2027 eller tidligere, hvor AI kunne overgå mennesker i de fleste vigtige opgaver og besidde stor magt. Han advarede med frygt. Samtidig forberedte Princeton-Computerforskerne Sayash Kapoor og Arvind Narayanan deres bog “AI Snake Oil, ” som tog en markant modsatrettet position. De argumenterede for, at AI-tidsrammer var alt for optimistiske; påstande om AI’s nytte var ofte overdrevne eller vildledende; og kompleksiteten i den virkelige verden ville betyde, at AI's transformative effekter ville komme langsomt. Ved at citere eksempler på fejl i medicin og ansættelse understregede de, at selv de nyeste systemer lider af en fundamental adskillelse fra virkeligheden. For nylig skærpede de alle tre deres synspunkter i nye rapporter. Kokotajlos non-profit, AI Futures Project, udgav “AI 2027, ” en detaljeret, kraftigt citeret rapport, der skitserede et uhyggeligt scenarie, hvor superintelligent AI kan dominere eller udrydde menneskeheden inden 2030 — en alvorlig advarsel. Underlige, mente Kapoor og Narayanan, at AI’s praktiske barrierer — fra reguleringer og sikkerhedsstandarder til fysiske begrænsninger i den virkelige verden — vil bremse udrulningen og begrænse dens revolutionære indvirkning. De argumenterede for, at AI vil forblive “normal” teknologi, der kan håndteres med velkendte sikkerhedsforanstaltninger som ”kill switches” og menneskelig overvågning, mere som kernekraft end kernevåben. Så, hvad bliver det til: normal drift eller apokalyptisk omvæltning?De stærkt forskellige konklusioner — trukket af højt kvalificerede eksperter — skaber et paradoks svarende til at diskutere spiritualitet med både Richard Dawkins og Paven. Udfordringen skyldes dels AI’s nyhedsværdi — som blinde mænd, der undersøger forskellige dele af en elefant — og dels dybe forskelle i verdensbilleder. Generelt ser Vests teknologifolk en hurtig transformation; Østkyst-akademikere er mere skeptiske. AI-forskere foretrækker hurtig eksperimentel fremgang; andre dataloger ønsker teoretisk stringens. Industrien vil gøre historie; outliers afviser hype. Politiske, menneskelige og filosofiske synspunkter om teknologi, fremskridt og sind fordyber kløften. Denne fængslende debat er i sig selv et problem. Branchen accepterer i vid udstrækning “AI 2027”’s forudsætninger, men skændes om tidslinjer — en utilstrækkelig respons ligesom at skændes om tidspunktet, når en planetødelægger nærmer sig. Modsat er de moderate holdninger i “AI as Normal Technology, ” der argumenterer for at holde mennesker i løkken, så subtile, at de er blevet overset af katastrofetænkere. Efterhånden som AI bliver samfundsmæssigt kritisk, må diskursen udvikles fra ekspertdebatter til handlingsorienteret konsensus. Manglen på en samlet ekspertstemning gør det nemmere for beslutningstagere at ignorere risici. Lige nu har AI-virksomheder endnu ikke skiftet vægt til mere sikkerhed — og ny lovgivning forbyder statslig regulering af AI-modeller og automatiserede beslutningssystemer i ti år — hvilket potentielt kan give AI magt over menneskeheden, hvis det dystre scenarie viser sig rigtigt.

Sikkerhedsarbejdet er presserende. At forudsige AI’s fremtid som en fortælling indebærer afvejninger: forsigtige scenarier kan overse usandsynlige risici; mere fantasifulde lægger vægt på muligheder frem for sandsynligheder. Selv forudsigelseskyndige som forfatteren William Gibson har været blæst omkuld af uventede hændelser, der ændrer deres prognoser. “AI 2027” er livagtig og spekulativ, skrevet som science fiction med detaljerede diagrammer. Den antager en nær-forekomst af en intelligens-eksplosion omkring midt-2027 drevet af “recursiv selvforbedring” (RSI), hvor AI-systemer selv forsker i AI, og producerer smartere afkom i accelererende feedback-loops, der overgår menneskelig overvågning. Dette kan udløse geopolitisk konflikt, f. eks. at Kina bygger enorme datacentre i Taiwan for at kontrollere AI. De specifikke detaljer styrker engagementet, men er fleksible; det centrale budskab er, at en intelligens-eksplosion sandsynligvis vil indtræffe, og at magtkampe vil følge. RSI er hypotetisk og risikabelt; AI-firmaer anerkender farerne, men planlægger at fortsætte for at automatisere deres eget arbejde. Om RSI virker, afhænger af teknologiske faktorer som skalerbarhed, hvilket kan støde på grænser. Hvis RSI lykkes, kan superintelligens, der overgår menneskets intellekt, opstå — en usandsynlig tilfældighed, hvis fremskridt stopper kort over menneskelige niveauer. Konsekvenser kan være våbenkapløb, AI, der manipulerer eller udrydder menneskeheden, eller velvillig superintelligent AI, der løser problemstillinger om justering. Usikkerhed hersker på grund af AI’s udviklende natur, fortrolighed om proprietære forskningsresultater og spekulation. “AI 2027” fortæller selvsikkert om et teknologisk og menneskeligt fiasko-scenarie, hvor virksomheder fortsætter RSI uden forståelse og kontrolmekanismer. Kokotajlo mener, at dette er aktive valg drevet af konkurrence og nysgerrighed, på trods af kendte risici, hvilket gør virksomhederne til fejljusterede aktører. I modsætning hertil ser Kapoor og Narayanan’s “AI as Normal Technology, ” baseret på en konservativ, østkyst-inspireret verdensanskuelse, skeptisk over for hurtige intelligens-eksplosioner. De peger på “hastighedsgrænser” sat af hardware-omkostninger, datamangel og generelle teknologiske optagelsesmønstre, der forsinker revolutionære indvirkninger og giver tid til regulering. For dem er intelligens mindre vigtig end magt — evnen til at påvirke miljøet — og selv avancerede teknologier spredes ofte langsomt. De illustrerer dette med den begrænsede anvendelse af selvkørende biler og Moderna’s COVID-19-vaccineudvikling: Selvom design var hurtigt, tog distribution et år pga. biologiske og institutionelle realiteter. AI’s boost til innovation vil ikke fjerne de sociale, regulative eller fysiske begrænsninger for implementering. Desuden understreger Narayanan, at AI’s fokus på intelligens undervurderer domænespecifik ekspertise og allerede eksisterende sikkerhedssystemer i ingeniørarbejde — fejl-sikre systemer, redundantitet, formel verifikation — der allerede sikrer maskin-sikkerhed side om side med mennesker. Den teknologiske verden er velreguleret, og AI skal langsomt integreres i dette system. De udelukker militær AI, som har anderledes, lukket karakter, og advarer om, at militarisering af AI, en central frygt i “AI 2027, ” kræver særlig overvågning. De anbefaler proaktiv styring: regulatorer og organisationer skal ikke vente på perfekt justering, men begynde at følge AI’s rigtige anvendelse, risici og fejl, og styrke regler og modstandsdygtighed. Dyb kløft i verdensbilleder opstår af reaktive intellektuelle dynamikker, som AI’s provokationer forstærker, og skaber fastlåste lejre og feedback-loops. Men et samlet perspektiv kan tænkes, ved at forestille sig en “kognitiv fabrik”: et arbejdsområde, hvor mennesker, udstyret med beskyttelsesudstyr, betjener maskiner designet til effektivitet og sikkerhed, under strenge kvalitetskontroller, gradvist integrerende innovation og klart ansvarsområde. Selvom AI muligvis automatiserer nogle tænke-processer, forbliver menneskets overvågning og ansvar centralt. Efterhånden som AI vokser, mindsker det ikke menneskets handlekraft; tværtimod forøger det behovet for ansvarlighed, da forstærkede individer bærer større ansvar. At vælge at give slip på kontrol er en aktiv beslutning, hvilket understreger, at mennesker i sidste ende er de endelige ansvarlige. ♦