Afgelopen voorjaars nam Daniel Kokotajlo, een AI-veiligheidsonderzoeker bij OpenAI, ontslag uit protest, overtuigd dat het bedrijf niet voorbereid was op de toekomst van AI-technologie en wilde hij alarm slaan. Tijdens een telefoongesprek kwam hij vriendelijk over, maar ook angstig; hij legde uit dat de vooruitgang in AI "afstemming"—de methoden die zorgen dat AI menselijke waarden volgt—achterbleef bij de vorderingen in intelligentie. Hij waarschuwde dat onderzoekers zich haastten om krachtige systemen te creëren die buiten controle konden raken. Kokotajlo, die overschakelde van filosofie naar AI, had zichzelf geleerd de voortgang van AI te volgen en te voorspellen wanneer belangrijke mijlpalen in intelligentie bereikt zouden worden. Toen AI sneller vorderde dan verwacht, wijzigde hij zijn tijdlijnen met decennia. In zijn scenario uit 2021, "Hoe ziet 2026 eruit, " werden veel voorspellingen al vroeg gerealiseerd, wat hem deed anticiperen op een "point of no return" rond 2027 of eerder, waarbij AI mensen op de meeste vitale taken zou kunnen overtreffen en grote macht zou krijgen. Hij klonk gevaccineerd en bezorgd. Tegelijk prepareerden de Princeton-informatici Sayash Kapoor en Arvind Narayanan hun boek “AI Snake Oil, ” dat een scherp contrast bood. Zij betoogden dat AI-tijdlijnen te optimistisch waren; dat claims over AI-nuttigheid vaak overdreven of frauduleus waren; en dat de complexiteit van de echte wereld betekende dat de transformerende effecten van AI traag zouden verlopen. Aan de hand van voorbeelden van AI-fouten in de geneeskunde en bij werving benadrukten zij dat zelfs de nieuwste systemen fundamenteel losstaan van de werkelijkheid. Recentelijk verscherpten alle drie hun standpunten in nieuwe rapporten. Kokotajlo’s non-profitorganisatie, AI Futures Project, publiceerde “AI 2027, ” een gedetailleerd, rijk geciteerd rapport dat een grimmig scenario schetst waarin superintelligente AI de mensheid mogelijk zou domineren of uitroeien tegen 2030—aangrijpende waarschuwing. Ondertussen stellen Kapoor en Narayanan met hun paper “AI als Normale Technologie” dat praktische barrières – van regelgeving en veiligheidsnormen tot fysieke beperkingen in de echte wereld – de uitrol van AI zullen vertragen en het revolutionaire effect beperken. Zij betogen dat AI een “normale” technologie blijft, beheersbaar via bekende veiligheidsmaatregelen zoals noodknoppen en menselijk toezicht, en dat AI meer lijkt op kernenergie dan op nucleaire wapens. Dus, wat wordt het: normale bedrijfsvoering of apocalyptische omwenteling?De sterk uiteenlopende conclusies—gebaseerd op de expertise van hoog gekwalificeerde specialisten—leiden tot een paradox vergelijkbaar met het debatteren over spiritualiteit met zowel Richard Dawkins als de paus. De moeilijkheid komt deels door AI’s nieuwheid, vergelijkbaar met blinde mannetjes die verschillende delen van een olifant voelen, en deels door diepe wereldbeeldverschillen. Over het algemeen zien techdenkers aan de Westkust snelle transformaties voor zich; academici aan de Oostkust zijn sceptischer. AI-onderzoekers willen snelle experimenten; andere computerwetenschappers zoeken meer theoretische precisie. Industrie-insiders willen geschiedenis schrijven; outsiders verwerpen hype. Politieke, menselijke en filosofische zienswijzen over technologie, vooruitgang en geest verdiepen de kloof. Deze boeiende discussie zelf vormt een probleem. Industrie-insiders accepteren grotendeels de aannames van “AI 2027, ” terwijl ze ruzie maken over de tijdlijnen—een inadequate reactie, vergelijkbaar met ruzieën over de timing van een planetarische catastrofe. Daarentegen worden de gematigde zienswijzen in “AI als Normale Technologie, ” die pleiten voor menselijke betrokkenheid, zo understatement dat ze door doom-analisten genegeerd worden. Omdat AI maatschappelijk steeds belangrijker wordt, moet de discussie evolueren van een specialistendebat naar een gedeeld, actiegericht beleid. Het ontbreken van eenduidig expertadvies maakt het voor beslissers makkelijker om risico’s te negeren. Op dit moment hebben AI-bedrijven het evenwicht tussen capaciteiten en veiligheid niet significant verstoord.

Intussen wordt nieuwe wetgeving ingevoerd die over tien jaar de regulering door de staat van AI-modellen en geautomatiseerde beslissystemen verbiedt—wat het mogelijk maakt dat AI de mensheid zou reguleren als het donkere scenario uitkomt. Het is urgent om nu te investeren in veiligheid. Het voorspellen van de toekomst van AI is een faciliterend verhaal met afwegingen: voorzichtige scenario’s kunnen onwaarschijnlijke risico’s over het hoofd zien; creatieve scenario’s leggen meer nadruk op de mogelijkheid dan op de waarschijnlijkheid. Zelfs vooruitziende commentatoren zoals romanschrijver William Gibson werden geconfronteerd met onvoorziene gebeurtenissen die hun voorspellingen wijzigden. “AI 2027” is levendig en speculatief, geschreven als sciencefiction met gedetailleerde tabellen. Het schetst een nabije toekomst van een intellectuele explosie rond midden 2027, aangedreven door “recursieve zelfverbetering” (RSI), waarbij AI-systemen autonoom AI-onderzoek uitvoeren, snellere nakomelingen produceren in versnellende feedback-loops die menselijk toezicht ontlopen. Dit kan leiden tot geopolitieke conflicten, bijvoorbeeld China dat enorme datacenters in Taiwan bouwt om AI te controleren. De specifieke details vergroten de betrokkenheid, maar zijn flexibel; de belangrijkste boodschap is dat een explosie van intelligentie en de daaruit voortvloeiende machtsstrijd waarschijnlijk zijn. RSI is hypothetisch en riskant; AI-firma’s erkennen de gevaren maar blijven plannen om het na te jagen, voor automatisering van hun eigen werk. Of RSI werkt, hangt af van technologische factoren zoals schaalbaarheid, die mogelijk grenzen kennen. Als RSI slaagt, kan superintelligentie ontstaan die de menselijke intelligentie overtreft—een onwaarschijnlijke samenloop van omstandigheden, vooral als de vooruitgang net boven menselijke niveaus stopt. De gevolgen kunnen bestaan uit militaire wapengekmak, AI die de mensheid manipuleert of uitroeit, of een behulpzame superintelligente AI die afstemt op menselijke waarden. Onzekerheid blijft bestaan door de evoluerende aard van AI, het geheimhouden van research en speculateerwerk. “AI 2027” beschrijft met vertrouwen een scenario waarin technologische en menselijke mislukkingen plaatsvinden doordat bedrijven RSI nastreven zonder goede interpretatie- en controlemechanismen. Kokotajlo stelt dat dit opzettelijke keuzes zijn, mede ingegeven door competitie en nieuwsgierigheid—maatschappijen handelen daarmee niet in lijn met de maatschappelijke belangen. Daartegenover stellen Kapoor en Narayanan in “AI als Normale Technologie, ” waarin een conservatiever, op de Oostkust gebaseerd wereldbeeld wordt vertegenwoordigd, dat snelle explosies in intelligentie onwaarschijnlijk zijn. Ze noemen “snelheidsbeperkingen, ” zoals hardwarekosten, maar ook de langzame verspreiding van technologie en adoptiepatronen, die tijd geven voor regelgeving en veiligheidsmaatregelen. Voor hen draait het minder om intelligentie dan om macht—the vermogen om de omgeving te veranderen—en zelfs zeer geavanceerde technologieën verspreiden zich traag. Ze illustreren dit met de beperkte inzet van zelfrijdende auto’s en de ontwikkeling van Moderna’s COVID-19-vaccin: hoewel het ontwerp snel was, duurde de uitrol een jaar vanwege biologische en institutionele realiteiten. Innovatie door AI zal maatschappelijke, regelgevende en fysieke beperkingen niet onmiddellijk uitbannen. Bovendien benadrukt Narayanan dat het focus op intelligentie het belang van domeinspecifieke expertises en bestaande veiligheidsmaatregelen onderschat: fail-safe systemen, redundantie en formele verificatie zorgen er al voor dat machines veilig samenwerken met mensen. De technologische wereld is goed gereguleerd, en AI moet zich langzaam integreren in dat systeem. Ze sluiten ook militaire AI uit, dat andere, geheime dynamieken kent, en waarschuwen dat de militarisering van AI, een belangrijke bron van zorg voor “AI 2027, ” nauwlettend gevolgd moet worden. Ze adviseren proactieve governance: regulatoren en organisaties moeten niet wachten tot alles perfect is, maar alvast het gebruik, risico’s en fouten van AI monitoren en regels en veerkracht versterken. Dieper wereldbeeldverschil ontstaat door een reactieve, intellectuele dynamiek die wordt gevoed door provocaties uit AI, wat leidt tot hardnekkige kampen en feedback-loops. Toch is een gemeenschappelijk perspectief mogelijk door te denken aan een “cognitief fabriek”: een werkplek waar mensen met veiligheidsuitrusting machines bedienen die voor productiviteit en veiligheid zorgen, onder streng kwaliteitscontrole, geleidelijke invoering van innovaties en heldere aansprakelijkheid. Hoewel AI automatisering van sommige denkprocessen mogelijk maakt, blijven menselijke toezicht en verantwoordelijkheid essentieel. Naarmate AI groeit, neemt de menselijke agentuur niet af; juist, het vergroot de behoefte aan verantwoordelijkheid, omdat versterkte individuen meer verantwoordelijkheid dragen. Weerstand bieden aan controle is een bewuste keuze, en benadrukt dat uiteindelijk de mens de touwtjes in handen houdt. ♦