Peter Thiel hat die Karriere von Sam Altman tiefgreifend beeinflusst. Nachdem Altman 2012 sein erstes Startup verkauft hatte, finanzierte Thiel seinen ersten Risikokapitalfonds, Hydrazine Capital, und erkannte Altman als einen typischen Millennial-Optimisten und ein Symbol für den Geist des Silicon Valley. Jedes Jahr empfahl Altman vielversprechende Startups aus Y Combinator—wie Airbnb (2012), Stripe (2013) und Zenefits (2014)—damit Thiel darin investieren konnte. Obwohl Thiel oft skeptisch gegenüber Hype-Zyklen war, brachten seine Investitionen nach Altmans Ratschlägen bedeutende Renditen. Thiel war auch ein lautstarker Kritiker des wahrgenommenen Stillstands im technologischen Fortschritt und bemerkte 2012 berühmt: „Vergesst fliegende Autos. Wir sitzen immer noch im Stau. “ Als Altman 2014 die Leitung von Y Combinator übernahm, nahm er Thiels Kritik auf und steuerte YC in Richtung Investitionen in ambitionierte „harten Technologiebereiche“, darunter Kernenergie, Überschallflugzeuge und Künstliche Intelligenz (KI). Im Laufe der Zeit griff Altman zunehmend Thiels Sichtweisen auf. Eine weitere wichtige Einflussgröße auf Thiels frühe AI-Investitionen war Eliezer Yudkowsky, ein Autodidakt, der sich obsessiv mit KI und der „Singularität“ beschäftigte—dem theoretischen Punkt, an dem Maschinen die menschliche Intelligenz übertreffen und exponentielles technologische Wachstum auslösen. Obwohl Yudkowsky heute oft als Alarmist im AI-Doomsday- Szenario gilt, begann er als Techno-Optimist und Visionär, der Investoren, Forscher und Denker für die Singularitäts-Meinung mobilisierte. Yudkowskys Denken wurde durch Science-Fiction-Illustrationen zukünftiger Intelligenz geprägt, inspiriert von Denkern wie Vernor Vinge und philosophischen Bewegungen wie Extropianismus—einem pro-wissenschaftlichen, super-optimistischen Glaubenssystem, das grenzenlose Expansion und Selbsttransformation zur Bekämpfung universellen Entropie fordert. Zu den Extropianern gehörten bedeutende Persönlichkeiten wie Marvin Minsky, Ray Kurzweil, Nick Bostrom und andere, die später die AI- und Zukunftsdiskussion maßgeblich beeinflussten. Mit 17 Jahren gründete Yudkowsky das Singularity Institute for Artificial Intelligence, mit dem Ziel, die Singularität zu beschleunigen. Im Laufe der Zeit verlagerte er den Fokus auf die Risiken durch KI und entwickelte das Konzept der „freundlichen KI“ (friendly AI), die mit menschlichen Werten im Einklang steht. Er schuf einen Rahmen namens „Rationalismus“, der auf Vernunft, Materialismus, Utilitarismus und Transhumanismus als Leitprinzipien setzt. Sein 2004 veröffentlichtes Paper „Coherent Extrapolated Volition“ argumentierte, dass KI so gestaltet werden sollte, dass sie die Wünsche der Menschheit erfüllt, wenn diese besser informiert und rationaler ist. Dabei warnte er vor den katastrophalen Folgen einer Fehlanpassung—zum Beispiel im berühmten Szenario des „Papierclip-Maximizers“. 2005 traf Yudkowsky bei einem Dinner des Foresight Institute auf Thiel, beeindruckte ihn mit seinem Intellekt und seinen Einsichten und erhielt daraufhin von Thiel Fördergelder für sein Institut ab dem Jahr. Gemeinsam mit dem Zukunftsdenker Ray Kurzweil entwickelten sie den Singularity Summit, eine Plattform für KI-Forscher, Zukunftsdenker und Transhumanisten, die prominente Teilnehmer wie Nick Bostrom, Robin Hanson und Aubrey de Grey anzog.

Dieses Netzwerk inspirierte auch philanthropische Initiativen gegen existentielle KI-Risiken, darunter Förderungen von Jaan Tallinn und die Grundlagenarbeit von Max Tegmark. Auf dem Singularity Summit 2010 stellte Yudkowsky Shane Legg und Demis Hassabis vor—die später Gründungsmitglieder von DeepMind wurden—die eine unpopuläre Vision verfolgten: den Bau allgemeiner künstlicher Intelligenz (AGI), inspiriert vom menschlichen Gehirn. Da die Branche für die Finanzierung unverzichtbar war, suchten sie Thiel beim Summit auf. Nach mehreren Treffen und Präsentationen investierte Thiel 2, 25 Millionen Dollar in ihr Startup DeepMind, mit dem Ziel, AGI zu entwickeln—trotz Ängsten vor seiner potenziellen existenziellen Bedrohung. Thiels Netzwerk verband DeepMind mit Elon Musk, einem weiteren PayPal-Alumnus, der später ebenfalls Investor wurde, nachdem ein tiefgehendes Gespräch über ihre konkurrierenden Visionen geführt hatte: Musk’s Mars-Kolonisation versus die Risiken der KI. DeepMind zeigte später bahnbrechende KI-Erfolge, etwa mit seinem Durchbruch im Spiel „Breakout“ bei Atari. 2014 wurde DeepMind von Google für etwa 650 Millionen Dollar übernommen. Thiel verfolgte die Fortschritte von DeepMind genau und diskutierte die Entwicklungen in der KI mit Altman. Inspiriert davon schrieb Altman in seinem Blog über die Bedeutung der KI und zeigte sich optimistisch, trotz anfänglicher Skepsis. 2015 gründeten Altman und Musk gemeinsam OpenAI, um Google’s DeepMind entgegenzuwirken, und stießen so die Entwicklung des race um die Allgemeine KI an. Yudkowsky war zwar nicht direkt an OpenAI beteiligt, beeinflusste aber dessen Kultur maßgeblich durch seinen Blog LessWrong, der bei OpenAI-Ingenieuren weite Verbreitung fand. Seine rationalistischen und effekitiv-altruistischen Ideen formten den Fokus der Gemeinschaft auf KI-Sicherheit und existentielle Risiken. Nachdem OpenAI 2022 ChatGPT veröffentlichte und KI global in den Blick rückte, warnte Yudkowsky scharf vor den Risiken für die Existenz. Er schrieb in der Time, dass die KI-Welle alles Leben auf der Erde vernichten könnte, wenn sie nicht kontrolliert werde. Thiel beobachtete Yudkowskys zunehmende Pessimismusposition und bezeichnete ihn als „extrem schwarz gepolt und Ludditen“; er warnte Altman, dass Yudkowsky die Führung von OpenAI stark beeinflusst habe. Thiel zeigte sich schuldgefühlsbefangen und erkannte an, dass seine frühe Unterstützung Yudkowskys unabsichtlich zur Entstehung der Ängste beigetragen habe, die schließlich im Jahr 2023 zu Altmans vorübergehender Absetzung als OpenAI-CEO führten. Kurz gesagt, diese Erzählung—excerpted aus Keach Hageys kommendem Buch *The Optimist: Sam Altman, OpenAI, and the Race to Invent the Future*—verfolgt die verflochtenen Wege von Thiel, Altman und Yudkowsky bei der Gestaltung der KI-Entwicklung: von den optimistischen Anfängen bis hin zu einem hochriskanten, global bedeutenden Rennen.