Hur Peter Thiel, Sam Altman och Eliezer Yudkowsky Formade AI:s Utveckling

Peter Thiel har haft ett djupt påverkan på Sam Altmans karriär. Efter att Altman sålde sin första startup 2012 finansierade Thiel hans första riskkapitalfond, Hydrazine Capital, och såg Altman som en quintessential millennialsoptimist och en symbol för Silicon Valleys anda. Varje år rekommenderade Altman lovande startups från Y Combinator — som Airbnb (2012), Stripe (2013) och Zenefits (2014) — för Thiel att investera i. Trots att han ofta var försiktig med hypecykler gav Thiels investeringar, baserade på Altmans råd, betydande avkastning. Thiel var också en vokal kritiker av den upplevda stagnationen inom teknologisk utveckling och sade ofta i 2012 att “Glöm flygande bilar. Vi sitter fortfarande i trafiken. ” När Altman tog över Y Combinator 2014 omfamnade han Thiels kritik genom att styra YC mot att investera i ambitiösa “hard tech”-projekt, inklusive kärnkraft, supersoniska plan och artificiell intelligens (AI). Med tiden tog Altman alltmer ledtrådar från Thiels perspektiv. Samtidigt var en annan viktig influens på Thiels tidiga AI-investeringar Eliezer Yudkowsky, en autodidakt som var besatt av AI och “singulariteten”—det teoretiska ögonblicket då maskiner överträffar människans intelligens, vilket leder till exponentiell teknologisk tillväxt. Även om han numera ofta ses som en AI-dito-ordsprofet började Yudkowsky som en techno-optimist och visionär, och var avgörande för att mobilisera investerare, forskare och tänkare kring singularitetsuppdraget. Yudkowskys tänkande formades av science fiction-bilder av framtida intelligens, inspirerade av tänkare som Vernor Vinge och filosofiska rörelser som Extropianism—en vetenskapsbaserad, super-optimistisk tro på obegränsad expansion och självtransformation för att bekämpa universell entropi. Extropianerna inkluderade framstående figurer som Marvin Minsky, Ray Kurzweil, Nick Bostrom och andra som senare formade AI- och futuristisk diskurs. Som 17-åring grundade Yudkowsky Singularity Institute for Artificial Intelligence, med fokus på att skynda på singulariteten. Han skiftade över tid till att fokusera på riskerna med AI och var en pionjär för konceptet “friendly AI” som ska vara i harmoni med humanistiska värderingar. Han utvecklade ett ramverk kallat “rationalism” som betonar förnuft, materialism, utilitarism och transhumanism som ledstjärnor. Yudkowskys 2004-artikel “Coherent Extrapolated Volition” hävdade att AI bör konstrueras för att tillgodose vad mänskligheten skulle vilja om den vore mer informerad och rationell, och varnade för att en missanpassad AI kan få katastrofala följder—som det välkända scenariot med “papperclipsmakaren”. År 2005, vid ett Foresight Institute-middag, träffade Yudkowsky Thiel och imponerade på honom med sin intellekt och insikter, vilket ledde till att Thiel började finansiera Yudkowskys institut samma år.
Tillsammans med futuristen Ray Kurzweil utvecklade de Singularity Summit, en mötesplats för AI-forskare, futurister och transhumanoider, vilken lockade inflytelserika deltagare som Nick Bostrom, Robin Hanson och Aubrey de Grey. Detta nätverk inspirerade även filantropiska insatser för att hantera existentiella AI-risker, bland annat med finansiering från Jaan Tallinn och grundforskning av Max Tegmark. Vid Singularity Summit 2010 introducerades Shane Legg och Demis Hassabis—framtida medgrundare till DeepMind—som delade en ovanlig vision om att bygga artificiell generell intelligens (AGI), inspirerad av den mänskliga hjärnan. Eftersom industribehovet av finansiering var avgörande, sökte de kontakt med Thiel vid summitet. Efter ett antal möten och presentationer investerade Thiel 2, 25 miljoner dollar i deras startup DeepMind, med målet att skapa AGI trots rädslan för dess potentiella existentiala hot. Thiels nätverk kopplade samman DeepMind med Elon Musk, en annan PayPal-alum, som blev investerare efter ett djupgående samtal om deras motsatta visioner: Musks Mars-kolonisering kontra AI:s risker. DeepMind visade senare genombrott inom AI genom att bemästra Atari-spelet Breakout, vilket ledde till Googles förvärv av DeepMind för cirka 650 miljoner dollar år 2014. Thiel följde noga DeepMinds utveckling och diskuterade AI-nyheter med Altman. Inspirerad skrev Altman blogginlägg om AI:s betydelse och optimism trots skeptik. År 2015 grundade Altman och Musk OpenAI för att motverka Google och DeepMind, vilket startade en kapplöpning om att utveckla AGI. Yudkowsky, även om han inte var direkt involverad i OpenAI, hade stor påverkan på organisationens kultur via sin blogg LessWrong, som var mycket läst av OpenAI:s ingenjörer. Hans rationalistiska och effektiv-altruistiska idéer formade fokuset på AI-säkerhet och existentiell risk. Efter att OpenAI släppte ChatGPT 2022 och väckte världens uppmärksamhet, utfärdade Yudkowsky varningsrop om AI:s existentiella hot, och skrev i Time att AI-vågen kan döda all mänskligheten om den inte kontrolleras. Thiel observerade Yudkowskys alltmer pessimistiska hållning och kallade honom “extremely black-pilled and Luddite”, samt varnade Altman för att Yudkowsky hade påverkat mycket av OpenAI:s ledarskap. Thiel kände skuld, erkände att hans tidiga stöd för Yudkowsky oavsiktligt bidragit till den AI-ångest som till slut ledde till att Altman tillfälligt blev avsatt som CEO för OpenAI 2023. Sammanfattningsvis spårar denna berättelse, hämtad ur Keach Hageys kommande bok *The Optimist: Sam Altman, OpenAI, and the Race to Invent the Future*, de sammanflätade vägarna för Thiel, Altman och Yudkowsky i deras formande av AI:s utveckling — från optimistiska början till ett spänt, högriskrace med globala konsekvenser.
Brief news summary
Peter Thiel påverkade Sam Altmans karriär avsevärt genom att finansiera Altmans första riskkapitalfond och stödja hans ledarskap på Y Combinator, vilket ledde till investeringar i stora startupföretag som Airbnb och Stripe. Rädd för teknologisk stagnation uppmuntrade Thiel Altman att styra Y Combinator mot ambitiösa hårda teknikprojekt, särskilt inom artificiell intelligens. Samtidigt gick Eliezer Yudkowsky, en självutbildad AI-expert stödjer av Thiel, från AI-optimism till att lyfta fram dess existentiella risker och förespråka för “vänlig AI” för att förhindra katastrof. Yudkowskys Extropian-bakgrund kopplade honom till futurister som DeepMind-grundarna Demis Hassabis och Shane Legg, även de stödda av Thiel, vars AI-framsteg influerade Altman. Senare grundade Altman tillsammans med Elon Musk OpenAI, vilket inledde en konkurrenskraftig AI-marknad. Även om Yudkowsky inte var direkt involverad i OpenAI påverkades organisationen av hans rationalistiska och Effektiva Altruism-ideér, vilket formade dess försiktiga strategi. Innan Altmans avsked från OpenAI 2023 varnar Thiel honom för Yudkowskys ökande inflytande, vilket visar deras komplexa och avgörande roller i att forma AI:s utveckling och framtida riktning.
AI-powered Lead Generation in Social Media
and Search Engines
Let AI take control and automatically generate leads for you!

I'm your Content Manager, ready to handle your first test assignment
Learn how AI can help your business.
Let’s talk!

Googles AI-Läge: En total omarbetning av sökningen
Google har introducerat en transformationell uppdatering av sin sökmotor med lanseringen av en innovativ "AI-läge", som erbjuder en chatbot-liknande konversationsupplevelse.

Worldcoin möter global granskning på grund av int…
Worldcoin, ett kryptovalutaprojekt som syftar till att tillhandahålla global digital identitetsverifiering och rättvis tillgång till digitala tillgångar, har nyligen mött omfattande internationell granskning på grund av allvarliga sekretessproblem.

Ledarskapsutmaningar i AI-åldern
När artificiell intelligens snabbt utvecklas i en otroligt snabb takt står organisationer och samhället inför nya utmaningar och möjligheter inom ledarskap.

VanEck lanserar NODE-ETF för att ta del av blockk…
Om internetet förändrade kommunikationen, omdefinierar blockchain tillit.

Ripple lanserar gränsöverskridande blockchain-bet…
Ripple har introducerat blockchain-baserade gränsöverskridande betalningar i Förenade Arabemiraten (UAE), vilket kan påskynda adOptionsen av kryptovalutor i en nation som omfamnar digitala tillgångar.

Min spanska lärare lärde mig vad AI inte kan göra
När AI alltmer formar utbildningen är det viktigt att betona ett tidlöst och effektivt undervisningsverktyg: högkvalitativa, personliga relationer med elever.

Utbildning & teknik: blockchain | Kommersiell utb…
Utbildning är en datatung sektor där företag fokuserar på att göra data tillgänglig, säker och pålitlig för användare.