Jak Peter Thiel, Sam Altman i Eliezer Yudkowsky wpłynęli na rozwój sztucznej inteligencji

Peter Thiel miał głęboki wpływ na karierę Sama Altmana. Po tym jak Altman sprzedał swój pierwszy startup w 2012 roku, Thiel sfinansował jego pierwszy fundusz venture, Hydrazine Capital, dostrzegając w nim kwintesencję millenialskiego optymizmu i symbol ducha Silicon Valley. Co roku Altman polecał obiecujące startupy z Y Combinator — takie jak Airbnb (2012), Stripe (2013) i Zenefits (2014) — aby Thiel mógł w nie zainwestować. Chociaż często podchodził ostrożnie do cykli hype’u, inwestycje Thiela na podstawie porad Altmana przyniosły znaczne zyski. Thiel był również głośnym krytykiem postrzeganego zastoję w postępie technologicznym, słynącym z powiedzenia w 2012 roku: „Zapomnij o latających samochodach. Wciąż stoimy w korkach. ” Gdy Altman objął w 2014 roku kierownictwo Y Combinator, zaakceptował krytykę Thiela i skierował YC w stronę inwestowania w ambitne projekty „twardej technologii”, obejmujące energię nuklearną, samoloty nadzwyczesne i sztuczną inteligencję (AI). Z czasem coraz częściej czerpał z perspektywy Thiela. Równocześnie innym kluczowym wpływem na wczesne inwestycje Thiela w AI był Eliezer Yudkowsky, samouk pasjonujący się AI i „osobliwością” — teoretycznym punktem, w którym maszyny przewyższałyby ludzką inteligencję, co miało prowadzić do wykładniczego rozwoju technologicznego. Choć obecnie postrzegany jako prorok katastrofy AI, Yudkowsky zaczął jako techno-optymista i wizjoner, odgrywając istotną rolę w mobilizacji inwestorów, badaczy i myślicieli wokół misji osobliwości. Myślenie Yudkowsky’ego ukształtowane było przez ilustracje przyszłej inteligencji w science fiction, inspirowane myślicielami takimi jak Vernor Vinge oraz ruchami filozoficznymi, takimi jak Extropianizm — pro-naukową, superoptymistyczną doktrynę popierającą nieograniczoną ekspansję i samotransformację jako walce z uniwersalnym entropią. Extropianie to m. in. Marvin Minsky, Ray Kurzweil, Nick Bostrom i inni, którzy później wpłynęli na dyskurs o AI i futurologię. W wieku 17 lat Yudkowsky założył Singularity Institute for Artificial Intelligence, akcentując przyspieszenie osobliwości. Z czasem skupił się na zagrożeniach związanych z AI, wprowadzając koncepcję „przyjaznej AI”, zgodnej z wartościami ludzkimi. Opracował ramy nazwaną „racjonalizmem”, opierającą się na rozumie, materializmie, utylitaryzmie i transhumanizmie jako zasadach przewodnich. W 2004 roku Yudkowsky opublikował pracę „Coherent Extrapolated Volition”, argumentując, że AI powinna być zaprojektowana tak, by realizować to, czego ludzkość chciałaby, gdyby była bardziej poinformowana i racjonalna.
Ostrzegał, że niezgodna z nami AI mogłaby katastrofalnie realizować wąskie cele — na przykład słynny scenariusz „maksymalizatora spinaczy biurowych”. W 2005 roku podczas obiadu zorganizowanego przez Foresight Institute, Yudkowsky spotkał Thiela i zaimponował mu swoją inteligencją oraz spostrzeżeniami, co skłoniło Thiela do finansowania instytutu Yudkowsky’ego od tego roku. Wspólnie z futurologiem Rayem Kurzweilem opracowali Konferencję o Osobliwości (Singularity Summit), miejsce spotkań badaczy AI, futurologów i transhumanistów, które przyciągało wpływowych uczestników, takich jak Nick Bostrom, Robin Hanson czy Aubrey de Grey. Ta sieć zainspirowała również działania filantropijne na rzecz egzystencjalnego ryzyka AI, w tym finansowanie od Jaana Tallinna oraz podstawowe badania Maxa Tegmarka. Na Singularity Summit w 2010 roku Yudkowsky przedstawił Shane’a Legga i Demisa Hassabis — przyszłych założycieli DeepMind — którzy mieli odważną wizję budowy sztucznej ogólnej inteligencji (AGI), inspirowaną ludzkim mózgiem. Zdając sobie sprawę, że finansowanie przemysłu jest kluczowe, poszukali Thiela na tym szczycie. Po kilku spotkaniach i prezentacjach Thiel zainwestował 2, 25 miliona dolarów w ich startup DeepMind, mając na celu stworzenie AGI pomimo obaw o jego potencjalne zagrożenie egzystencjalne. Sieć Thiela połączyła DeepMind z Elonem Muskiem, innym absolwentem PayPal, który został inwestorem po głębokiej rozmowie o ich konkurujących wizjach: kolonizacji Marsa przez Muska kontra ryzyko AI. Później DeepMind zaprezentowało przełomowe osiągnięcia AI, opanowując grę Atari Breakout, co doprowadziło do przejęcia firmy przez Google za około 650 milionów dolarów w 2014 roku. Thiel śledził uważnie postępy DeepMind i dyskutował o rozwoju AI z Altmana. Zainspirowany, Altman pisał blogi o znaczeniu AI i jego optymizmie mimo sceptycyzmu. W 2015 roku wspólnie z Muskiem założył OpenAI, by przeciwdziałać dominacji Google’a z DeepMind i rozpalić wyścig o rozwój AGI. Yudkowsky, choć nie był bezpośrednio zaangażowany w OpenAI, miał znaczny wpływ na jej kulturę poprzez swojego bloga LessWrong, szeroko czytanego przez inżynierów OpenAI. Jego idee racjonalizmu i skutecznego altruizmu ukształtowały skupienie społeczności na bezpieczeństwie AI i zagrożeniach egzystencjalnych. Po premierze ChatGPT przez OpenAI w 2022 roku, która przyciągnęła uwagę świata, Yudkowsky wydał ostrzeżenia o ryzyku egzystencjalnym, pisząc w Time, że fala AI może zabić wszystkich na Ziemi, jeśli nie zostanie zatrzymana. Thiel obserwował coraz bardziej pesymistyczne stanowisko Yudkowsky’ego, nazywając go „bardzo czarnym pillem i Ludditą”, oraz ostrzegał Altmana, że Yudkowsky wywierał wpływ na dużą część liderów OpenAI. Thiel odczuwał wyrzuty sumienia, przyznając, że jego wczesne wsparcie dla Yudkowsky’ego nieumyślnie przyczyniło się do powstania lęków wokół AI, które ostatecznie doprowadziły do tymczasowego odsunięcia Altmana od stanowiska CEO OpenAI w 2023 roku. Podsumowując, ten opis, zaczerpnięty z nadchodzącej książki Keacha Hagey’ego *The Optimist: Sam Altman, OpenAI i wyścig do wynalezienia przyszłości*, śledzi powiązane ścieżki Thiela, Altmana i Yudkowsky’ego w kształtowaniu rozwoju AI — od optymistycznych początków po pełen napięcia, wysokostakesowy wyścig, mający głębokie skutki dla świata.
Brief news summary
Peter Thiel miał znaczący wpływ na karierę Sama Altmana, finansując jego pierwszy fundusz venture oraz wspierając jego działalność w Y Combinator, co doprowadziło do inwestycji w ważne startupy, takie jak Airbnb i Stripe. Zaniepokojony stagnacją technologiczną, Thiel zachęcał Altmana do kierowania Y Combinator ku ambitnym projektom z dziedziny twardej technologii, szczególnie w obszarze sztucznej inteligencji. Równocześnie Eliezer Yudkowsky, samouk ekspert od AI wspierany przez Thiela, przeszedł od optymizmu wobec AI do podkreślania jej egzystencjalnych zagrożeń i postulatów “przyjaznej sztucznej inteligencji”, aby zapobiec katastrofie. Tło Yudkowskiego jako Extropiana łączyło go z futurystami takimi jak Demis Hassabis i Shane Legg, założyciele DeepMind, których również wspierał Thiel, a ich osiągnięcia w dziedzinie AI miały wpływ na Altmana. Altman później współzałożył OpenAI z Elonem Muskiem, inicjując konkurencyjny krajobraz sztucznej inteligencji. Chociaż Yudkowsky nie był bezpośrednio zaangażowany w działanie OpenAI, jego racjonalistyczne i efektowne idee altruistyczne wywarły wpływ na ostrożną strategię organizacji. Przed usunięciem Altmana z OpenAI w 2023 roku, Thiel ostrzegł go o rosnącym wpływie Yudkowskiego, ukazując ich skomplikowane i kluczowe role w kształtowaniu rozwoju sztucznej inteligencji i jej przyszłości.
AI-powered Lead Generation in Social Media
and Search Engines
Let AI take control and automatically generate leads for you!

I'm your Content Manager, ready to handle your first test assignment
Learn how AI can help your business.
Let’s talk!

Tryb AI Google: Całkowite przemyślenie wyszukiwan…
Google wprowadziło rewolucyjną aktualizację swojej wyszukiwarki, uruchamiając innowacyjny „tryb AI”, oferujący konwersacyjną, rozmowną formę interakcji podobną do chatbota.

Worldcoin poddane globalnej kontroli ze względu n…
Worldcoin, projekt kryptowalutowy mający na celu zapewnienie globalnej weryfikacji tożsamości cyfrowej i równego dostępu do aktywów cyfrowych, niedawno stanął w obliczu szerokiej międzynarodowej krytyki ze względu na poważne obawy dotyczące prywatności.

Wyzwania przywództwa w erze sztucznej inteligencji
W miarę jak sztuczna inteligencja szybko rozwija się w niespotykanym dotąd tempie, organizacje i społeczeństwo stają wobec nowych wyzwań i możliwości w dziedzinie przywództwa.

VanEck uruchamia ETF NODE, by wejść w kolejny eta…
Jeśli internet zrewolucjonizował komunikację, to blockchain redefiniuje zaufanie.

Ripple uruchamia międzynarodowe płatności oparte …
Ripple wprowadził płatności transgraniczne oparte na technologii blockchain w Zjednoczonych Emiratach Arabskich (ZEA), co może przyspieszyć adopcję kryptowalut w kraju, który popiera cyfrowe aktywa.

Mój nauczyciel języka hiszpańskiego nauczył mnie,…
W miarę jak sztuczna inteligencja coraz bardziej kształtuje edukację, ważne jest, aby podkreślać ponadczasowe, skuteczne narzędzie nauczania: wysokiej jakości, osobiste relacje z uczniami.

Edukacja i technologia: blockchain | Edukacja kom…
Edukacja jest sektorem bogatym w dane, w którym firmy koncentrują się na zapewnieniu dostępu do danych, ich bezpieczeństwa i wiarygodności dla użytkowników.