Как Питър Тийл, Сам Олтман и Елиезер Юдковски формираха развитието на изкуствения интелект

Питър Тийл оказа дълбоко влияние върху кариерата на Сам Алтман. След като Алтман продаде първия си стартъп през 2012 г. , Тийл финансира неговия първи фонд за рисков капитал, Hydrazine Capital, Recognizing Altman as a quintessential millennial optimist and a symbol of Silicon Valley’s spirit. Всяка година Алтман препоръчваше обещаващи стартъпи от Y Combinator — като Airbnb (2012), Stripe (2013) и Zenefits (2014) — за инвестиции от Тийл. Макар и често скептичен към хипе цикли, инвестициите на Тийл след съветите на Алтман носеха значителни приходи. Тийл също бе гласов критик на възприеманото застоятие в технологичния прогрес, като си спомнял през 2012 г. с думите: „Забравете летящите коли. Все още седим в задръствания. “ Когато Алтман пое управлението на Y Combinator през 2014 г. , той прие критиката на Тийл, като насочи YC към инвестиране в амбициозни „трудни технологии“ — като ядрена енергетика, свръхзвукови самолети и изкуствен интелект (ИИ). С течение на времето Алтман все повече черпеше от възгледите на Тийл. В същото време, друга важна фигура, оказала влияние върху ранните инвестиции на Тийл в ИИ, бе Елиезер Юдковски — самоук, обсебен от ИИ и „сингулярността“ — теоретичната точка, в която машините превъзхождат човешкия интелект, водейки до експоненциален технологичен напредък. Макар сега да се разглежда като пророк на апокалипсиса за ИИ, Юдковски започна като техно-оптимист и визионер, който беше важна фигура в събирането на инвеститори, изследователи и мислители около мисията за сингулярността. Мисленето на Юдковски бе оформено от научно-фантастичните образи за бъдещ интелект, вдъхновени от мислители като Върнор Виндж и философски течения като екстропатия — движение за подкрепа на науката, супер-оптимистично вярване в безкрайното разширение и самопреобразяване с цел борба срещу универсалната ентропия. Екстропатите включваха известни личности като Марвин Мински, Рей Курцвейл, Ник Бостром и други, които по-късно оформяха дискурса за ИИ и футуризма. На 17 години, Юдковски основа Института за сингулярност за изкуствен интелект, като подчертваше ускоряване на сингулярността. След това се фокусира върху рисковете, които поставя ИИ, и разработи концепцията за „приятелски ИИ“, насочен към хармонизация с човешките ценности. Той създаде рамка, наречена „рационализъм“, подчертаваща разума, материализма, утилитаризма и транхуманизма като принципи на ръководство. Публикацията му от 2004 г. „Кохерентна екстриполирана воляция“ твърдеше, че ИИ трябва да бъде проектиран да изпълнява това, което човечеството би искало, ако е по-информирано и рационално, като предупреждава за опасността от неправилното насочване на ИИ към тесни цели — например известният сценарий за „максимизатора на метални клинове“ („paperclip maximizer“). През 2005 г. , на вечеря на институт „Форсайт“, Юдковски срещна Тийл и го впечатли със своя интелект и прозрения, което доведе до това, че Тийл финансира неговия институт от същата година. Заедно с футуриста Рей Курцвейл, те разработиха Конгреса за сингулярността — център за изследване на ИИ, футуристи и транхуманисти, привличащи влиятелни участници като Ник Бостром, Робин Хансън и Обри де Грей.
Тази мрежа вдъхнови и благотворителни инициативи за изследване на риск за съществуването, включително финансиране от Ян Талин и основополагащата работа на Макс Тегмарк. На Сингулярният конгрес през 2010 г. Юдковски представи Шейн Лег и Демис Хасабис — бъдещи съоснователи на DeepMind, които споделяха непопулярен поглед за създаване на изкуствено общо интелигентство (AGI), вдъхновено от човешкия мозък. Разпознавайки, че финансиране от индустрията е от съществено значение, те потърсиха Тийл на конгреса. След серия срещи и презентации, Тийл инвестира 2, 25 милиона долара в тяхното стартиране DeepMind, с цел създаване на AGI въпреки опасенията за неговата потенциална екзистенциална заплаха. Мрежата на Тийл свърза DeepMind с Илън Мъск — друг бивш съосновател на PayPal, който стана инвеститор след дълбок разговор за техните конкурентни визии: колонизацията на Марс срещу рисковете на ИИ. По-късно DeepMind показа значителен напредък в ИИ чрез овладяването на играта на Atari „Breakout“, което доведе до придобиването му от Google за около 650 милиона долара през 2014 г. Тийл следеше тясно развитието на DeepMind и обсъждаше напредъка на ИИ с Алтман. Вдъхновен, Алтман публикува блог за значението на ИИ и за оптимизма, въпреки скептицизма. През 2015 г. Алтман и Мъск създадоха заедно OpenAI, за да противопоставят развитието на AI на Google’s DeepMind, като стартираха състезание за създаване на AGI. Юдковски, въпреки че не участва директно в OpenAI, оказа сериозно влияние върху неговата култура чрез блога си LessWrong, който беше широко четен от инженерите на OpenAI. Неговите идеи, свързани с рационализма и ефективния алтруизъм, формираха фокуса върху безопасността на ИИ и рисковете за съществуването. След като OpenAI пусна ChatGPT през 2022 г. и ИИ стана глобална тема, Юдковски издаде строги предупреждения за екзистенциалния риск, като писах в Time, че вълната от ИИ може да убие всички на Планетата, ако не се контролира. Тийл наблюдаваше все по-скептичната и песимистична позиция на Юдковски, наричайки го „крайно черноглед и Лъддит“, и предупреди Алтман, че Юдковски е оказал влияние върху много от лидерите на OpenAI. Тийл се почувства виновен, като призна, че ранната му подкрепа за Юдковски неизбежно е помогнала за създаването на страховете от ИИ, които в крайна сметка доведоха до временното отстраняване на Алтман като главен изпълнителен директор на OpenAI през 2023 г. Общо взето, тази история, взета от предстоящата книга на Кийч Хейджи *The Optimist: Sam Altman, OpenAI, and the Race to Invent the Future*, проследява взаимосвързаните пътища на Тийл, Алтман и Юдковски в оформянето на еволюцията на ИИ — от оптимистичните начала до напрегната, високорискова надпревара със сериозни глобални последици.
Brief news summary
Питър Тийл оказа значително влияние върху кариерата на Сам Алтман, като финансира първия му инвестиционен фонд и подкрепя неговото лидерство в Y Combinator, което доведе до инвестирания в големи стартъпи като Airbnb и Stripe. Загрижен за технологичната стагнация, Тийл насърчи Алтман да насочи Y Combinator към амбициозни проекти в областта на тежките технологии, особено в изкуствения интелект. В същото време Елайзер Юдковски, самонаучен експерт по ИИ, подкрепян от Тийл, променя мисленето си от оптимизъм към ИИ към подчертаване на неговите екзистенциални рискове и застъпване за „приятелски ИИ“, за да се избегне катастрофа. Произходът на Юдковски от движението Екстропиън го свързва с футуристи като основателите на DeepMind Демис Хасабис и Шейн Лег, които също са подкрепяни от Тийл и чиито напредъци в областта на ИИ оказват влияние върху Алтман. По-късно Алтман създава съвместно с Илон Мъск OpenAI, въвеждайки в конкурентната сцена развитие на изкуствения интелект. Макар Юдковски да не е пряко участвал в OpenAI, неговите идеи за рационализъм и ефективен алтруизъм повлияват неговата предпазлива стратегия. Преди Алтман да бъде отстранен от OpenAI през 2023 г., Тийл го предупреди за нарастващото влияние на Юдковски, илюстрирайки техните сложни и ключови роли във формирането на бъдещето и развитието на ИИ.
AI-powered Lead Generation in Social Media
and Search Engines
Let AI take control and automatically generate leads for you!

I'm your Content Manager, ready to handle your first test assignment
Learn how AI can help your business.
Let’s talk!

ИК модел на Google: пълно преосмисляне на търсене…
Google представи трансформативна актуализация на своята търсачка с въвеждането на иновативен „AI режим“, който предлага чатбот-подобно разговорно изживяване.

Ворлдкойн се изправя пред глобално внимание зарад…
Worldcoin, проект за криптовалута, който има за цел да предостави глобална дигитална идентичност и равноправен достъп до дигитални активи, наскоро срещна сериозно международно внимание поради сериозни съображения за поверителността.

Предизвикателства пред лидерството в епохата на и…
Тъй като изкуственият интелект се развива бързо и безпрецедентно, организациите и обществото срещат нови предизвикателства и възможности в лидерството.

ВанЕк стартира ETF NODE, за да влезе в следващата…
Ако интернетът преобрази комуникацията, то блокчейнът преоткрива доверието.

Ripple стартира трансгранични блокчейн плащания в…
Рипъл въведе трансгранични плащания, базирани на блокчейн, в Обединените арабски емирства (ОАЕ), потенциално ускорявайки приемането на криптовалути в страна, която подкрепя цифровите активи.

Моят испански учител ме научи на това, което изку…
Докато изкуственият интелект все повече оформя образованието, е важно да подчертаем вечен и ефективен учебен инструмент: висококачествените лични връзки с учениците.

Образование и технологии: блокчейн | Комерсиално …
Образованието е сектор богат на данни, където бизнеса се фокусира върху правенето на данните достъпни, сигурни и надеждни за потребителите.