Peter Thiel a profondément influencé la carrière de Sam Altman. Après qu’Altman ait vendu sa première startup en 2012, Thiel a financé son premier fonds de capital-risque, Hydrazine Capital, en reconnaissant en Altman un optimiste millénariste typique et un symbole de l’esprit de la Silicon Valley. Chaque année, Altman recommandait à Thiel des startups prometteuses du programme Y Combinator — comme Airbnb (2012), Stripe (2013) et Zenefits (2014) — pour que Thiel y investisse. Bien que souvent méfiant face aux cycles de hype, les investissements de Thiel suivant les conseils d’Altman ont permis d’obtenir des rendements importants. Thiel était aussi un critique virulent du prétendu stagnation dans le progrès technologique, déclarant en 2012 : « Oubliez les voitures volantes. Nous sommes encore coincés dans la circulation. » Lorsque Altman prit la direction de Y Combinator en 2014, il adopta la critique de Thiel en orientant YC vers l’investissement dans des projets ambitieux de « tech dure », notamment l’énergie nucléaire, les avions supersoniques et l’intelligence artificielle (IA). Au fil du temps, Altman prit de plus en plus de repères dans la vision de Thiel. Parallèlement, une autre influence majeure sur les premiers investissements de Thiel dans l’IA fut Eliezer Yudkowsky, autodidacte obsessionnel de l’IA et de la « singularité » — le point théorique où les machines surpassent l’intelligence humaine, entraînant une croissance technologique exponentielle. Bien qu’aujourd’hui considéré comme un prophète du cataclysme de l’IA, Yudkowsky a commencé comme un techno-optimiste et un visionnaire, jouant un rôle clé dans le rassemblement des investisseurs, chercheurs et penseurs autour de la mission de la singularité. La réflexion de Yudkowsky a été façonnée par des illustrations de la science-fiction sur l’intelligence future, inspirées par des penseurs comme Vernor Vinge et par des mouvements philosophiques tels que l’Extropianisme — une doctrine pro-science, ultra-optimiste, prônant une expansion sans limite et une autotransformation pour lutter contre l’entropie universelle. Les Extropiens incluaient des figures notables telles que Marvin Minsky, Ray Kurzweil, Nick Bostrom, et d’autres qui ont influencé par la suite le discours sur l’IA et le futurisme. À 17 ans, Yudkowsky fonda l’Instituts de la Singularité pour l’Intelligence Artificielle, insistant sur l’accélération de la singularité. Avec le temps, il se concentra sur les risques posés par l’IA, en développant le concept d’« IA amicale » qui s’aligne avec les valeurs humaines. Il développa un cadre appelé « rationalisme », mettant en avant la raison, le matérialisme, l’utilitarisme et le transhumanisme comme principes directeurs. Le papier de Yudkowsky de 2004, « Coherent Extrapolated Volition », soutenait que l’IA devrait être conçue pour réaliser ce que l’humanité voudrait si elle était mieux informée et plus rationnelle, tout en avertissant que des IA mal alignées pourraient poursuivre de façon catastrophique des objectifs étroits — comme dans le scénario célèbre du « maximisateur de trombones en papier ». En 2005, lors d’un dîner du Foresight Institute, Yudkowsky rencontra Thiel, qui fut impressionné par son intellect et ses idées, ce qui conduisit Thiel à financer l’institut de Yudkowsky dès cette année-là.

Avec le futurologue Ray Kurzweil, ils créèrent le Singularity Summit, un centre pour chercheurs en IA, futurologues et transhumanistes, attirant des participants influents comme Nick Bostrom, Robin Hanson et Aubrey de Grey. Ce réseau inspira également des efforts philanthropiques sur le risque existentiel lié à l’IA, notamment avec des financements de Jaan Tallinn et les travaux fondamentaux de Max Tegmark. Lors du Singularity Summit de 2010, Yudkowsky présenta Shane Legg et Demis Hassabis — futurs cofondateurs de DeepMind — qui partageaient une vision peu populaire pour créer une intelligence artificielle générale (AGI), inspirée par le cerveau humain. Reconnaissant que le financement industriel était essentiel, ils cherchèrent Thiel lors du sommet. Après une série de rencontres et de propositions, Thiel investit 2, 25 millions de dollars dans leur startup DeepMind, visant à créer une AGI malgré les craintes sur sa menace existentielle potentielle. Le réseau de Thiel connecta DeepMind à Elon Musk, autre ancien de PayPal, qui devint investisseur après une discussion profonde sur leurs visions opposées : la colonisation de Mars par Musk versus les risques de l’IA. Plus tard, DeepMind démontra une avancée majeure en IA avec sa maîtrise du jeu Atari Breakout, ce qui conduisit Google à acquérir DeepMind pour environ 650 millions de dollars en 2014. Thiel suivit de près la progression de DeepMind et discuta des avancées en IA avec Altman. Inspiré, Altman écrivit un article soulignant l’importance et l’attitude optimiste envers l’IA, malgré le scepticisme. En 2015, Altman et Musk cofondèrent OpenAI pour faire contrepoids à DeepMind de Google, lançant la course au développement de l’AGI. Yudkowsky, bien qu’il ne soit pas directement impliqué dans OpenAI, a fortement influencé sa culture via son blog LessWrong, largement consulté par les ingénieurs d’OpenAI. Ses idées rationalistes et alignées avec l’Effectuial Altruism ont façonné l’orientation du groupe vers la sécurité de l’IA et le risque existentiel. Après la sortie de ChatGPT par OpenAI en 2022, qui a permis de faire connaître l’IA au grand public, Yudkowsky lança de sévères avertissements quant au risque existentiel, écrivant dans Time que la vague de l’IA pourrait tuer tout le monde sur Terre si elle n’était pas contrôlée. Thiel observa la montée de la pessimisme de Yudkowsky, le qualifiant de « très noir et Luddiste », et avertit Altman que Yudkowsky avait beaucoup influencé la direction d’OpenAI. Thiel se sentit coupable, reconnaissant que son soutien initial à Yudkowsky avait involontairement contribué à alimenter les inquiétudes sur l’IA, qui conduisirent en partie au départ temporaire d’Altman de son poste de PDG d’OpenAI en 2023. En résumé, cette narration, extrait du prochain livre de Keach Hagey, *The Optimist: Sam Altman, OpenAI, and the Race to Invent the Future*, retrace les parcours imbriqués de Thiel, Altman et Yudkowsky dans l’évolution de l’IA — depuis ses débuts optimistes jusqu’à une course tendue à enjeux élevés aux conséquences mondiales profondes.