Hvordan Peter Thiel, Sam Altman og Eliezer Yudkowsky har formet udviklingen af AI

Peter Thiel har dybt påvirket Sam Altmans karriere. Efter Altman solgte sin første startup i 2012, finansierede Thiel hans første venturefond, Hydrazine Capital, og anerkendte Altman som en gennemgående millennial-optimist og et symbol på Silicon Valleys ånd. Hvert år anbefalede Altman lovende startups fra Y Combinator – som Airbnb (2012), Stripe (2013) og Zenefits (2014) – til Thiel for investering. Selvom Thiel ofte var forsigtig med hype-cykluser, gav hans investeringer efter Altmans råd betydelige afkast. Thiel var også en højrøstet kritiker af den opfattede stagnation i teknologisk fremskridt og udtalte i 2012, “Glem flyvende biler. Vi sidder stadig i trafikken. ” Da Altman overtog Y Combinator i 2014, tog han Thiels kritik til sig ved at styre YC mod investeringer i ambitiøse “hard tech”-projekter, herunder kernekraft, supersoniske fly og kunstig intelligens (AI). Over tid fulgte Altman i stigende grad Thiels perspektiv. Samtidig var en anden vigtig indflydelse på Thiels tidlige AI-investeringer Eliezer Yudkowsky, en autodidakt med en besættelse af AI og “singulariteten” – det teoretiske punkt, hvor maskiner overstiger menneskelig intelligens, hvilket fører til eksponentiel teknologisk vækst. Selvom Yudkowsky i dag ses som en AI-doomsday-profet, begyndte han som en techno-optimist og visionær, der spillede en central rolle i at samle investorer, forskere og tænkere omkring singularitets-missionen. Yudkowskys tanker blev formet af sci-fi-illustrationer af fremtidig intelligens, inspireret af tænkere som Vernor Vinge og filosofiske bevægelser som Extropianisme – en science-pro-videnskab, super-optimistisk tro, der arbejder for ubegrænset ekspansion og selvtransformation for at bekæmpe universel entropi. Extropianerne inkluderede bemærkelsesværdige personer som Marvin Minsky, Ray Kurzweil, Nick Bostrom og andre, der senere har påvirket AI og futuristisk diskurs. Som 17-årig grundlagde Yudkowsky Singularitetsinstituttet for Kunstig Intelligens med fokus på at fremskynde singulariteten. Over tid vendte han sig mod risiciene ved AI og var banebrydende for begrebet “venlig AI”, der stemmer overens med menneskelige værdier. Han udviklede en ramme kaldet “rationalisme”, der understregede fornuft, materialisme, utilitarisme og transhumanisme som ledende principper. Yudkowskys artikel fra 2004, “Coherent Extrapolated Volition”, argumenterede for, at AI skulle designes til at opfylde, hvad menneskeheden ville ønske, hvis vi var mere informerede og rationelle, og advarede mod, hvordan misalignede AI kunne forfølge snævre mål – som den kendte “ papirclips-optimér” scenarie. I 2005 mødtes Yudkowsky og Thiel til en middag hos Foresight Institute, hvor Yudkowsky imponeredte Thiel med sin intellekt og indsigt. Det førte til, at Thiel finansierede Yudkowskys institut fra samme år.
Sammen med futuristen Ray Kurzweil udviklede de Singularity Summit, et centrum for AI-forskere, futurister og transhumanister, med deltagere som Nick Bostrom, Robin Hanson og Aubrey de Grey. Dette netværk inspirerede også filantropiske initiativer mod eksistentielle AI-risici, blandt andet med finansiering fra Jaan Tallinn og grundlæggende arbejde af Max Tegmark. Ved Singularity Summit i 2010 introducerede Yudkowsky Shane Legg og Demis Hassabis – fremtidige medstiftere af DeepMind, som delte en udbredt vision om at bygge kunstig generel intelligens (AGI), inspireret af den menneskelige hjerne. De anerkendte, at industrifinansiering var nødvendig, og søgte derfor Thiel på summitet. Efter en række møder og pitches investerede Thiel 2, 25 millioner dollar i deres startup DeepMind, med målet om at skabe AGI trods frygt for dets potentielle eksistentielle trusler. Thiels netværk forbinder DeepMind med Elon Musk, en tidligere PayPal-kollega, som blev investor efter en dybdegående samtale om deres modsatrettede visioner: Musks Mars-kolonisering versus AI’s risici. DeepMind viste senere banebrydende AI gennem sit mesterværk i Atari-spillet Breakout, hvilket førte til Googles opkøb af DeepMind for omkring 650 millioner dollars i 2014. Thiel fulgte nøje udviklingen i DeepMind og diskuterede AI-udviklinger med Altman. Inspireret skrev Altman blogindlæg om AI’s betydning og optimisme trods skepsis. I 2015 grundlagde Altman og Musk OpenAI som modvægt til Google’s DeepMind, hvilket tændte kapløbet om udvikling af AGI. Yudkowsky, selvom han ikke var direkte involveret i OpenAI, havde stor indflydelse på dets kultur gennem sin blog LessWrong, der blev bredt læst af OpenAI’s ingeniører. Hans rationalistiske og effektive-altruisme-tilknyttede idéer formede fokus på AI-sikkerhed og eksistentielle risici. Efter OpenAI lancerede ChatGPT i 2022 og bragte AI i fokus globalt, kom Yudkowsky med kraftige advarsler om eksistentielle risici og skrev i Time Magazine, at AI-bølgen måske kan dræbe alle på Jorden, hvis den ikke kontrolleres. Thiel bemærkede Yudkowskys stadig mere pessimistiske holdning og kaldte ham “ekstremt sortpilled og Ludditte”. Han advarede også Altman om, at Yudkowsky havde stor indflydelse på OpenAI’s ledelse. Thiel følte sig skyldig og erkendte, at hans tidlige støtte til Yudkowsky utilsigtet havde bidraget til de AI-angst, der senere medførte, at Altman midlertidigt blev fjernet som CEO for OpenAI i 2023. Kort sagt følger denne fortælling, trukket fra Keach Hageys kommende bog *The Optimist: Sam Altman, OpenAI og kapløbet om at opfinde fremtiden*, de indbyrdes forbundne veje for Thiel, Altman og Yudkowsky i formningen af AI’s udvikling – fra optimistiske begyndelser til en betændt, højrisikobetonet kapløb med dybtgående globale konsekvenser.
Brief news summary
Peter Thiel påvirkede Sam Altmans karriere betydeligt ved at finansiere Altmans første venturefond og støtte hans lederskab i Y Combinator, hvilket førte til investeringer i store startups som Airbnb og Stripe. Bekymret for teknologisk stagnation opmuntrede Thiel Altman til at styre Y Combinator mod ambitiøse hårde teknologiprojekter, især inden for kunstig intelligens. Samtidig skiftede Eliezer Yudkowsky, en selvuddannet AI-ekspert støttet af Thiel, fra optimisme om AI til at fremhæve dens eksistentielle risici og advokere for “venlig AI” for at forhindre katastrofe. Yudkowskys Extropian-baggrund knyttede ham til futurister som DeepMind-grundlæggerne Demis Hassabis og Shane Legg, også støttet af Thiel, hvis AI-fremskridt påvirkede Altman. Senere var Altman medstifter af OpenAI sammen med Elon Musk, hvilket skabte en konkurrentpræget AI-lande. Selvom Yudkowsky ikke var direkte involveret i OpenAI, påvirkede hans rationalistiske og Effective Altruism-ideer dets forsigtige strategi. Før Altmans fjernelse fra OpenAI i 2023 advarede Thiel ham om Yudkowskys stigende indflydelse, hvilket illustrerede deres komplekse og centrale roller i formningen af AI’s udvikling og fremtidige kurs.
AI-powered Lead Generation in Social Media
and Search Engines
Let AI take control and automatically generate leads for you!

I'm your Content Manager, ready to handle your first test assignment
Learn how AI can help your business.
Let’s talk!

Google's AI-tilstand: En total genindretning af s…
Google har lanceret en transformerende opdatering af sin søgemaskine med introduktionen af en innovativ "AI-tilstand", der tilbyder en chatbot-lignende samtaleoplevelse.

Worldcoin står over for global kritik på grund af…
Worldcoin, et kryptovalutaprojekt med henblik på at tilbyde global digital identitetsbekræftelse og retfærdig adgang til digitale aktiver, har for nylig stået over for omfattende international opmærksomhed på grund af alvorlige privatlivsproblemer.

Ledelsesudfordringer i AI'ens æra
Efterhånden som kunstig intelligens udvikler sig hurtigt og på en hidtil uset måde, står organisationer og samfund over for nye udfordringer og muligheder inden for ledelse.

VanEck lancerer NODE ETF for at udnytte blockchai…
Hvis internettet transformerede kommunikationen, omdefinerer blockchain tillid.

Ripple lancerer grænseoverskridende blockchain-be…
Ripple har introduceret blockchain-baserede grænseoverskridende betalinger i De Forenede Arabiske Emirates (UAE), hvilket potentielt kan fremskynde adoptionen af kryptovalutaer i en nation, der omfavner digitale aktiver.

Min spanolærer lærte mig, hvad AI ikke kan gøre
Da AI i stigende grad former uddannelse, er det vigtigt at understrege et tidløst, effektivt undervisningsværktøj: kvalitetsfulde, personlige relationer til eleverne.

Uddannelse og teknologi: blockchain | Kommerciel …
Uddannelse er en datatung sektor, hvor virksomheder fokuserer på at gøre data tilgængelige, sikre og pålidelige for brugerne.