Ako Peter Thiel, Sam Altman a Eliezer Yudkowsky formovali vývoj umelej inteligencie

Peter Thiel hlboko ovplyvnil kariéru Sama Altmana. Po tom, ako Altman predal svoj prvý startup v roku 2012, Thiel financoval jeho prvý venture fond Hydrazine Capital, pričom uznal Altmana ako typického millenniálneho optimistu a symbol ducha Silicon Valley. Každý rok Altman odporúčal sľubné startupy z Y Combinator – ako Airbnb (2012), Stripe (2013) a Zenefits (2014) – aby do nich Thiel investoval. Hoci bol Thiel často opatrný voči hype cyklom, jeho investície na základe Altmanových odporúčaní priniesli významné výnosy. Thiel tiež verejne kritizoval vnímané zastavenie v technologickom pokroku a v slávnej poznámke z roku 2012 poznamenal: „ Zabudnite na lietajúce autá. Stále sedíme v zápche. “ Keď sa Altman v roku 2014 ujal vedenia Y Combinator, prijal Thielovu kritiku a nasmeroval YC k investíciám do odvážnych projektov v oblasti „ťažkej technológie“, vrátane jadrovej energie, supersonických lietadiel a umelej inteligencie (AI). Postupne čítal Altmana stále viac z Thielovho pohľadu. Zároveň bola ďalšou kľúčovou postavou pri raných investíciách do AI Eliezer Yudkowsky, samouk zameraný na AI a „singularitu“ – teoretický bod, kedy stroje prekona ľudskú inteligenciu a dôjde k exponenciálnemu technologickému rastu. Hoci je dnes vnímaný ako prorok apokalyptického vývoja AI, Yudkowsky začínal ako techno-optimista a vizionár, ktorý zohral dôležitú úlohu pri zbere investorov, výskumníkov a mysliteľov okolo poslání singularity. Yudkowskyho myslenie bolo formované sci-fi ilustráciami o budúcej inteligencii, inšpirovanými mysliteľmi ako Vernor Vinge a filozofickými prúdmi ako Extropianizmus – proved العلوم, super-optimistický systém vier, ktorý zastáva neobmedzenú expanziu a sebapremenu ako spôsob boja proti univerzálnej entropii. Medzi extropiánmi boli významné osobnosti ako Marvin Minsky, Ray Kurzweil, Nick Bostrom a ďalší, ktorí neskôr formovali diskurz o AI a futurizme. Ako 17-ročný Yudkowsky založil Singularity Institute for Artificial Intelligence s cieľom urýchliť singularitu. Postupom času sa sústreďoval na riziká spojené s AI a vyvíjal koncept „priateľskej AI“, ktorá je v súlade s ľudskými hodnotami. Vypracoval rámec nazývaný „racionalizmus“, zdôrazňujúci rozum, materializmus, utilitarizmus a transhumanizmus ako hlavné princípy. Yudkowskyhočasťou jeho 2004 práce „Koherentná Extrapolovaná Voliteľnosť“ tvrdil, že AI by mala byť navrhnutá tak, aby napĺňala predstavy ľudí, ak by boli nielen informovanejšie, ale aj racionálnejšie. Varoval pred nebezpečenstvami, ak by AI nesúladne sledovala úzke ciele – napríklad známy scenár „maximalizátora spinky“. V roku 2005 sa na večeri Foresight Institute stretol s Thielom a zaujal ho svojou inteligenciou a pohľadmi, čo viedlo Thiela k financovaniu Yudkowskyho inštitúcie od toho roka.
Spolu s futuristom Rayom Kurzweilom vyvinuli Singularity Summit, centrum pre výskumníkov AI, futuristov a transhumanistov, kde účastníci ako Nick Bostrom, Robin Hanson či Aubrey de Grey formovali diskusiu o AI a futurizme. Tento network tiež inšpiroval filantropické projekty zamerané na existenčné riziko AI, vrátane financovania od Jaana Tallinn a základného výskumu Maxa Tegmarka. Na Singularity Summite v roku 2010 Yudkowsky predstavil Shanea Legga a Demisa Hassabisa – budúcich spoluzakladateľov DeepMind – ktorí mali odvážnu víziu vytvoriť všeobecnú umelú inteligenciu (AGI), inšpirovanú ľudským mozgom. Uvedomujúc si, že financovanie od priemyslu je nevyhnutné, hľadali Thiela na summite. Po sérii stretnutí a prezentácií Thiel investoval 2, 25 milióna dolárov do ich startupu DeepMind, s cieľom vytvoriť AGI, napriek obavám zo svojho potenciálneho existenčného ohrozenia. Thielova sieť spojila DeepMind s Elonem Muskom, ďalším bývalým PayPalom, ktorý sa stal investorom po hlbšej diskusii o ich konkurenčných víziách: Muskova kolonizácia Marsu verzus riziká AI. Neskôr DeepMind demonštrovalo prelomové pokroky v AI s ovládnutím hry Breakout od Atari, čo viedlo k odkúpeniu DeepMind spoločnosťou Google za približne 650 miliónov dolárov v roku 2014. Thiel dôsledne sledoval pokrok DeepMind a diskutoval o vývoji AI s Altmansom. Inšpirovaný tým, Altman písal blog o význame AI a optimizme napriek skeptickému pohľadu. V roku 2015 založili Altmana a Muska spoločne OpenAI, aby vyvážili Google’s DeepMind a odštartovali súťaž vo vývoji AGI. Yudkowsky, hoci priamo nebol zapojený do OpenAI, výrazne ovplyvnil jeho kultúru prostredníctvom svojho blogu LessWrong, ktorý bol široko čítaný inžiniermi OpenAI. Jeho racionalistické a úsilia založené na efektívnom altruizme formovali zameranie komunity na bezpečnosť AI a existenčné riziká. Po tom, čo v roku 2022 OpenAI uvoľnilo ChatGPT, ktoré prinieslo AI do svetového povedomia, Yudkowsky vydal ostré varovania týkajúce sa existenčných rizík, nadiktoval v časopise Time, že vlna AI by mohla zabiť všetkých na Zemi, ak by nebola kontrolovaná. Thiel sledoval jeho rastúci pesimizmus a nazval ho „extrémne black-pilled a Ludditom“ a upozornil Altmana, že Yudkowsky ovplyvnil väčšiu časť vedenia OpenAI. Thiel cítil vinu, priznavši, že jeho skorá podpora Yudkowskému neúmyselne prispela k vzniku obáv z AI, ktoré nakoniec viedli k dočasnému odvolaniu Altmana z pozície generálneho riaditeľa OpenAI v roku 2023. V súhrne táto naratíva, úryvok z pripravovanej knihy Keacha Hageyho *The Optimist: Sam Altman, OpenAI a závod o vynájdenie budúcnosti*, sleduje prepojené cesty Thiela, Altmana a Yudkowského pri formovaní vývoja AI – od optimistických začiatkov po komplikovaný, vysoko rizikový závod, ktorý má hlboké globálne dôsledky.
Brief news summary
Peter Thiel významne ovplyvnil kariéru Sama Altmana tým, že finančne podporil Altmanov prvý fond na rizikový kapitál a podporoval jeho vedúcu úlohu v Y Combinator, čo viedlo k investíciám do významných startupov ako Airbnb a Stripe. Znepokojený technologickým zastavením, Thiel povzbudzoval Altmana, aby nasmeroval Y Combinator k ambicióznym projektom v tvrdých technológiách, najmä v oblasti umelej inteligencie. Súčasne sa Eliezer Yudkowsky, samoučný expert na umelú inteligenciu podporovaný Thielom, presunul od optimismu o AI k zdôrazňovaniu jej existenčných rizík a obhajobe „priateľskej AI“ na prevenciu katastrofy. Yudkowskyho extropické zázemie ho spojilo s futuristami, ako sú zakladatelia DeepMind Demis Hassabis a Shane Legg, tiež podporovaní Thielom, ktorých pokroky v AI ovplyvnili Altmana. Neskôr bol Altman spoluzakladateľom OpenAI s Elonom Muskom, čo odštartovalo konkurenčný AI svet. Hoci Yudkowsky sa priamo nezúčastňoval na OpenAI, jeho racionalistické a efektívne altruistické myšlienky ovplyvnili opatrnú stratégiu tejto organizácie. Pred Altmanovým vylúčením z OpenAI v roku 2023 Thiel na neho upozornil na rastúci vplyv Yudkowskyho, čím ilustroval ich komplexné a kľúčové úlohy pri formovaní vývoja a budúcnosti AI.
AI-powered Lead Generation in Social Media
and Search Engines
Let AI take control and automatically generate leads for you!

I'm your Content Manager, ready to handle your first test assignment
Learn how AI can help your business.
Let’s talk!

Režim AI od Google: úplná premena vyhľadávania
Google predstavil transformačnú aktualizáciu svojho vyhľadávacieho nástroja s uvedením inovatívneho "AI režimu", ktorý ponúka konverzačný zážitok podobný chatbotu.

Worldcoin čelí globálnemu sledovaniu kvôli obavám…
Worldcoin, kryptomenový projekt zameraný na poskytovanie globálnej digitálnej identity a spravodlivý prístup k digitálnym aktívam, nedávno čelil rozsiahlemu medzinárodnému dohľadu kvôli vážnym problémom s ochranou súkromia.

Výzvy vedenia v ére umelej inteligencie
Ako sa umelá inteligencia rýchlo vyvíja nevídaným tempom, organizácie a spoločnosť čelia novým výzvam a príležitostiam v oblasti vedenia.

VanEck uvádza ETF NODE na odomknutie ďalšej kapit…
Ak internet zmenil komunikáciu, blockchain redefinuje dôveru.

Ripple spúšťa cezhraničné blockchainové platby v …
Ripple zaviedol platobné systémy umožňujúce cezhraničné platby na blockchaine v Spojených Arabských Emirátoch (SAE), čo môže urýchliť adopciu kryptomien v krajine, ktorá prijíma digitálne aktíva.

Môj španielsky učiteľ ma naučil, čo AI nedokáže.
Keď umelá inteligencia čoraz viac formuje vzdelávanie, je dôležité zdôrazniť nadčasový, účinný vyučovací nástroj: kvalitné osobné vzťahy so študentmi.

Vzdelávanie a technológie: blockchain | Obchodné …
Výchova je oblasť bohatá na dáta, kde sa podniky zameriavajú na zabezpečenie dostupnosti, bezpečnosti a dôveryhodnosti údajov pre používateľov.