Jak Peter Thiel, Sam Altman a Eliezer Yudkowsky ovlivnili vývoj umělé inteligence

Peter Thiel měl hluboký vliv na kariéru Sama Altmana. Poté, co Altman v roce 2012 prodal svůj první startup, Thiel financoval jeho první investiční fond Hydrazine Capital a rozpoznal v něm vrcholného mileniála optimistu a symbol ducha Silicon Valley. Každý rok Altman doporučoval slibné startupy z Y Combinator — jako Airbnb (2012), Stripe (2013) a Zenefits (2014) — aby do nich Thiel mohl investovat. Přestože často váhal před hype cykly, investice podle Altmanových rad přinesly významné výnosy. Thiel byl také hlasitým kritikem vnímané stagnace technologického pokroku a v roce 2012 prohlásil slavnou větu: „Zapomeňte na létající auta. Stále sedíme v dopravních zácpách. “ Když v roce 2014 převzal Altman vedení Y Combinator, převzal i Thielovu kritiku a zaměřil se na investice do ambiciózních projektů „hard tech“, včetně jaderné energie, nadzvukových letadel a umělé inteligence (AI). Postupem času začal Altman stále více sledovat Thielovo názory. Současně na začátku také významně působil Eliezer Yudkowsky, samouk posedlý AI a konceptem „singularity“ — teoretickým bodem, kdy stroje překonají lidskou inteligenci, což by vedlo k exponenciálnímu technologickému růstu. Ačkoliv je dnes vnímán jako apokalyptický prorok AI, začínal jako techno-optimista a vizionář, který hrál klíčovou roli při shromažďování investorů, výzkumníků a myslitelů kolem poslání singularity. Yudkowskyho myšlení utvářela sci-fi zobrazování budoucí inteligence, inspirované mysliteli jako Vernor Vinge a filozofickými směry jako Extropianismus — pro-vedařskou, velmi optimistickou víru v neomezenou expanzi a sebetransformaci, která měla bojovat s univerzální entropií. Extropiané zahrnovali významné osobnosti jako Marvin Minsky, Ray Kurzweil, Nick Bostrom a další, kteří později utvářeli diskurs o AI a futuristické myšlení. Ve svých 17 letech Yudkowsky založil Singularity Institute for Artificial Intelligence s cílem urychlit singularitu. Postupem času se však zaměřil na rizika spojená s AI a přišel s konceptem „přátelské AI“, která by byla v souladu s lidskými hodnotami. Vytvořil rámec zvaný „racionalismus“, zdůrazňující rozum, materialismus, utilitarismus a transhumanismus jako hlavní principy. V roce 2004 publikoval svůj článek „Koherentní extrapolovaná vůle“ (Coherent Extrapolated Volition), v němž tvrdil, že AI by měla být navržena tak, aby plnila přání lidstva, pokud bychom byli lépe informovaní a racionální. Varoval před nebezpečím, že špatně nastavená AI by mohla neúmyslně sledovat jen úzké cíle — například známý scénář „maximalizátora kancelářských sponěk“ (paperclip maximizer). V roce 2005 se na večeři Foresight Institute seznámil s Thielem a zaujal ho jeho intelekt a názory, což vedlo Thiela k financování Yudkowskyho institutu od toho roku.
Spolu s futuristou Rayem Kurzweilem vytvořili Singularity Summit, centrum pro výzkumníky AI, futuristy a transhumanisty. Při této příležitosti vystoupili i vlivní účastníci jako Nick Bostrom, Robin Hanson nebo Aubrey de Grey. Tato síť inspirovala také filantropické projekty zaměřené na existenciální riziko AI, včetně financí od Jána Tallina a základních či výzkumných prací Maxe Tegmarka. Na Singularity Summitu v roce 2010 představil Yudkowsky Shanee Legg a Demise Hassabise — budoucí spoluzakladatele DeepMind — kteří měli odvětví inspirovat vizí umělé obecné inteligence (AGI) vycházející z lidského mozku. Uvědomili si, že financování od průmyslu je nezbytné, a proto se obrátili na Thiela. Po sérii setkání a pitchů Thiel investoval 2, 25 milionu dolarů do jejich startupu DeepMind, s cílem vytvořit AGI navzdory obavám z jejího možného existenčního ohrožení. Thielova síť spojila DeepMind s Elonem Muskem, dalším bývalým PayPalem, který se stal investorem po intenzivní diskusi o jejich konkurenčních vizích: Musk o kolonizaci Marsu a AI o rizicích. DeepMind později předvedl průlomové AI díky zvládnutí hry Atari Breakout, což přispělo k akvizici Googlem za asi 650 milionů dolarů v roce 2014. Thiel pečlivě sledoval pokrok DeepMind a diskutoval o vývoji AI s Altmnem. Inspirován tím, Altman napsal blog, ve kterém vyzdvihl význam AI a vyjádřil optimism, i přes skeptické názory. V roce 2015 spolu založili OpenAI, abychom vyvážili vliv Googleho a jeho DeepMind, čímž odstartovali závod na vývoj AGI. Yudkowsky, i když přímo s OpenAI nepracoval, měl značný vliv na její kulturu prostřednictvím svého blogu LessWrong, který četli i inženýři OpenAI. Jeho racionalistické a efektivistické myšlenky ovlivnily zaměření komunity na bezpečnost AI a její existenční rizika. Po vydání ChatGPT v roce 2022, které přineslo AI do celosvětové pozornosti, vydal Yudkowsky ostré varování ohledně existenčního rizika, když v časopise Time napsal, že AI vlnu by mohlo zničit celé lidstvo, pokud ji nebudeme kontrolovat. Thiel sledoval Yudkowskyho stále pesimističtější postoje a označil ho za „extrémně černě naladěného a Luddita“ a varoval Altmana, že jeho názory moc ovlivnily vedení OpenAI. Thiel cítil vinu, neboť si uvědomoval, že jeho raná podpora Yudkowskému nepřímo přispěla k vytvoření AI úzkostí, které nakonec vedly k dočasnému odvolání Altmana z pozice CEO OpenAI v roce 2023. Celkově tento příběh, čerpající z připravované knihy Keacha Hageyho *The Optimist: Sam Altman, OpenAI a závod o vynalezení budoucnosti, * sleduje spletité cesty Thiela, Altmana a Yudkowskyho v utváření vývoje AI — od optimistických začátků po komplikovaný, vysoce rizikový závod s globálními důsledky.
Brief news summary
Peter Thiel významně ovlivnil kariéru Sama Altmana tím, že financoval Altmanův první venture fond a podporoval jeho vedení v Y Combinator, což vedlo k investicím do velkých startupů jako Airbnb a Stripe. Znepokojený technologickou stagnací, Thiel povzbudil Altmana, aby nasměroval Y Combinator směrem k ambitním hard tech projektům, zvláště v oblasti umělé inteligence. Současně se Eliezer Yudkowsky, samoučený expert na AI podporovaný Thielem, přesunul od optimismu o AI k upozorňování na její existenční rizika a prosazování „přátelské AI“ jako prevence katastrofy. Yudkowskiho extropické zázemí ho spojilo s futuristy, jako jsou zakladatelé DeepMind Demis Hassabis a Shane Legg, také podporovaní Thielem, jejichž pokroky v AI ovlivnily Altmana. Později Altman spoluzaložil OpenAI s Elonem Muskem, čímž zahájil konkurenční boj v oblasti AI. Ačkoliv se Yudkowsky přímo do OpenAI nezapojil, jeho rationalistické a efektivní altruistické myšlenky ovlivnily její opatrnou strategii. Před Altmanovým odstraněním z pozice v OpenAI v roce 2023 mu Thiel varoval před rostoucím vlivem Yudkowského, čímž ilustrovaly jejich složité a klíčové role při utváření vývoje a budoucí trajektorie AI.
AI-powered Lead Generation in Social Media
and Search Engines
Let AI take control and automatically generate leads for you!

I'm your Content Manager, ready to handle your first test assignment
Learn how AI can help your business.
Let’s talk!

Režim umělé inteligence od Googlu: úplné přepraco…
Google představil revoluční aktualizaci svého vyhledávače s uvedením inovativního „režimu AI“, který nabízí konverzační zážitek podobný chatbotu.

Worldcoin čelí celosvětové kontrole kvůli obavám …
Worldcoin, kryptoměnový projekt, jehož cílem je poskytnout celosvětovou digitální identitu a spravedlivý přístup k digitálním aktivům, nedávno čelil rozsáhlému mezinárodnímu dohledu kvůli vážným obavám o soukromí.

Výzvy vedení v době umělé inteligence
Jak rychlý pokrok umělé inteligence probíhá bezprecedentním tempem, organizace i společnost čelí novým výzvám a příležitostem v oblasti vedení.

VanEck uvádí na trh ETF NODE, který má využít dal…
Pokud internet změnil komunikaci, blockchain předefinovává důvěru.

Ripple spouští přeshraniční platby na blockchainu…
Ripple představil platby přeshraničního převodu založené na blockchainu v Spojených arabských emirátech (SAE), což může urychlit přijetí kryptoměn v zemi, která přijímá digitální aktiva.

Můj španělský učitel mě naučil, co AI nedokáže.
Jak se umělá inteligence stále více prosazuje v oblasti vzdělávání, je důležité zdůraznit nadčasový a účinný nástroj výuky: kvalitní osobní vztahy se studenty.

Vzdělávání a technologie: blockchain | Komerční v…
Vzdělávání je oblast bohatá na data, kde se firmy zaměřují na zpřístupnění, zabezpečení a důvěryhodnost dat pro uživatele.