Peter Thiel heeft de carrière van Sam Altman diepgaand beïnvloed. Nadat Altman in 2012 zijn eerste startup verkocht had, financieerde Thiel zijn eerste durfkapitaalfonds, Hydrazine Capital, en erkende hij Altman als een typische millennial-optimist en symbool van de geest van Silicon Valley. Elk jaar gaf Altman aanbevelingen voor veelbelovende startups van Y Combinator—zoals Airbnb (2012), Stripe (2013) en Zenefits (2014)—waar Thiel in kon investeren. Hoewel Thiel vaak wantrouwig was ten opzichte van hypecycli, leverden zijn investeringen op basis van Altman’s adviezen aanzienlijke opbrengsten op. Thiel was ook een uitgesproken criticus van de vermeende stagnatie in technologische vooruitgang, en zei in 2012 beroemd: “Vergis je niet in vliegende auto’s. We zitten nog steeds in het verkeer. ” Toen Altman in 2014 Y Combinator overnam, paste hij Thiel’s kritiek toe door YC te sturen naar investeringen in ambitieuze “hard tech”-projecten zoals kernenergie, supersonische vliegtuigen en kunstmatige intelligentie (AI). In de loop van de tijd nam Altman steeds meer cues van Thiel’s visie over. Tegelijkertijd was een andere belangrijke invloed op Thiel’s vroege AI-investeringen Eliezer Yudkowsky, een autodidact die geobsedeerd was door AI en de “singulariteit”—het theoretische punt waarop machines de menselijke intelligentie overtreffen, wat leidt tot exponentiële technologische groei. Hoewel hij nu wordt gezien als een doemdenker op het gebied van AI, begon Yudkowsky als een techno-optimist en visionair, en speelde hij een belangrijke rol in het samenbrengen van investeerders, onderzoekers en denkers rondom de singulariteitsmissie. Yudkowsky’s gedachtengoed werd gevormd door sci-fi-uitingen van toekomstige intelligentie, geïnspireerd door denkers als Vernor Vinge en door filosofische stromingen zoals Extropianisme—een pro-wetenschappelijke, super-optimistische overtuigingssystemen die voor onbeperkte expansie en zelf-transformatie pleiten om universele entropie te bestrijden. De Extropianen omvatten belangrijke figuren zoals Marvin Minsky, Ray Kurzweil, Nick Bostrom en anderen die later de AI- en futuristendiscours hebben beïnvloed. Op 17-jarige leeftijd richtte Yudkowsky het Singularity Institute for Artificial Intelligence op, met de nadruk op het versnellen van de singulariteit. Gaandeweg verschoof zijn focus naar de risico’s die AI met zich meebrengt, en pionierde hij het concept van “vriendelijke AI” dat aansluit bij menselijke waarden. Hij ontwikkelde een raamwerk genaamd “rationalisme”, dat rationaliteit, materialisme, utilitarisme en transhumanisme als kernprincipes benadrukt. Yudkowsky’s artikel uit 2004, “Coherent Extrapolated Volition”, stelde dat AI zo ontworpen moet worden dat het vervult wat de mensheid zou willen als ze meer geïnformeerd en rationeel is, en waarschuwde voor de gevaren van slecht afgestemde AI die desastreus narrow goals nastreeft—zoals het beroemde scenario van de “paperclip-maximalizer”. In 2005 ontmoette Yudkowsky Thiel tijdens een diner van de Foresight Institute, en wist hem te imponeren met zijn intellect en inzichten, waardoor Thiel besloot het Yudkowsky-instituut dat jaar te financieren.

Samen met futurist Ray Kurzweil ontwikkelden ze de Singularity Summit, een bijeenkomst voor AI-onderzoekers, futuristen en transhumanisten, met invloedrijke deelnemers zoals Bostrom, Robin Hanson en Aubrey de Grey. Dit netwerk stimuleerde ook filantropische initiatieven rond existentiële AI-risico’s, waaronder financiering door Jaan Tallinn en het fundamentele werk van Max Tegmark. Tijdens de Singularity Summit van 2010 introduceerde Yudkowsky Shane Legg en Demis Hassabis—de toekomstige medeoprichters van DeepMind—die een onpopulaire visie onderbouwden: het bouwen van kunstmatige algemene intelligentie (AGI), geïnspireerd door de menselijke hersenen. Ze erkenden dat industrie-investeringen essentieel waren en zochten Thiel op tijdens de bijeenkomst. Na een reeks gesprekken en pitches investeerde Thiel 2, 25 miljoen dollar in hun startup DeepMind, met de bedoeling om AGI te ontwikkelen ondanks de zorgen over de mogelijke existentiële dreiging. Thiel’s netwerk koppelde DeepMind aan Elon Musk, een andere PayPal-alumnus, die na een diepgaand gesprek over hun tegengestelde visies: Musk’s plan voor Mars-kolonie en de risico’s van AI, een investeerder werd. Later liet DeepMind door baanbrekende AI zien, zoals de meesterlijke beheersing van Atari’s Breakout, wat leidde tot de overname door Google voor ongeveer 650 miljoen dollar in 2014. Thiel volgde de voortgang van DeepMind op de voet en liet zich informeren over AI-ontwikkelingen door Altman. Geïnspireerd schreef Altman over het belang en het optimisme rond AI, ondanks de scepsis. In 2015 richtten Altman en Musk samen OpenAI op, om Google’s DeepMind te counteren en de ontwikkeling van AGI aan te jagen. Yudkowsky was niet direct betrokken bij OpenAI, maar beïnvloedde wel sterk de cultuur via zijn blog LessWrong, dat door veel OpenAI-ingenieurs werd gelezen. Zijn rationalistische en effectief-altruïstische ideeën vormden de focus van de gemeenschap op AI-veiligheid en existentiële risico’s. Na de lancering van ChatGPT door OpenAI in 2022, dat wereldwijd de aandacht vestigde op AI, waarschuwde Yudkowsky scherp voor existentiële risico’s en schreef hij in Time dat de AI-golf iedereen op aarde zou kunnen doden als het niet onder controle wordt gehouden. Thiel merkte Yudkowsky’s steeds pessimistischere houding op, noemde hem “extreem zwartgezet en Luddiet” en waarschuwde Altman dat Yudkowsky veel invloed had op het leiderschap van OpenAI. Thiel voelde zich schuldig en erkende dat zijn vroege steun aan Yudkowsky onbedoeld had bijgedragen aan de angsten rondom AI, die uiteindelijk in 2023 leidden tot de waarschijnlijke tijdelijke verwijdering van Altman als CEO van OpenAI. Kortom, dit verhaal, gebaseerd op Keach Hagey’s binnenkort uit te geven boek *The Optimist: Sam Altman, OpenAI, and the Race to Invent the Future*, traceert de verweven paden van Thiel, Altman en Yudkowsky in de ontwikkeling van AI—van optimistische beginpunten tot een conflictueuze, hoog-stakes strijd met verstrekkende mondiale gevolgen.