Затяжні ризики та вплив попереджень про AI: інсайти від Хелен Тонер та Ел'єзера Юдковського

Протягом короткого часу ті, хто попереджав про потенційні небезпеки AI, привернули увагу всього світу. Запуск ChatGPT в 2022 році став шоком для технічної спільноти: факт, що комп'ютерні програми тепер можуть демонструвати людський інтелект, натякав на те, що інші суттєві просування можуть бути не за горами. Експерти, які давно висловлювали занепокоєння щодо потенціалу AI у створенні біозброї та ризику виникнення загрозливого суперрозуму, нарешті знайшли слухача. Однак неясно, чи мали їхні попередження якісь наслідки. Хоча політики провели численні слухання та запропонували різні заходи щодо AI в останні роки, розвиток технології здебільшого триває безперешкодно. Для тих, хто побоюється руйнівного потенціалу AI, ризики все ще залишаються; просто не всі більше звертають на них увагу.
Чи не прогледіли вони свою вирішальну можливість вплинути на ситуацію? У недавній статті для The Atlantic мій колега Росс Андерсен взяв інтерв'ю у двох ключових фігур із цієї групи: Хелен Тонер, колишньої члена ради директорів OpenAI, яка пішла у відставку після несподіваного звільнення генерального директора Сема Альтмана минулого року, та Ел'єзера Юдковського, співзасновника Інституту дослідження машинного інтелекту, який займається екзистенційними загрозами, пов'язаними з AI. Росс прагнув розкрити інсайти, які ці люди здобули під час свого короткого моменту в центрі уваги. "Я стежу за цією групою, яка стурбована AI та екзистенційними ризиками, більше десяти років, і спостереження за явищем ChatGPT було сюрреалістичним, оскільки те, що раніше було порівняно маловідомою субкультурою, раптово вийшло на передній план, " поділився зі мною Росс. "Тепер, коли цей момент минув, я хотів відновити зв'язок і зрозуміти, що вони засвоїли. " Попередження про AI залишили свій слід Автор: Росс Андерсен Читати повну статтю. Що читати далі P. S. Сьогодні завершується цьогорічний фестиваль Atlantic, і ви можете переглянути сесії на нашому YouTube-каналі. Я рекомендую подивитися обговорення генерального директора Atlantic Ніка Томпсона щодо нового дослідження, яке виявило несподіваний зв'язок між генеративним AI та теоріями змови. — Деймон
Brief news summary
Запуск ChatGPT у 2022 році викликав глобальні дебати щодо ризиків, які становить штучний інтелект, особливо у контексті біозброї та виникнення ворожого суперінтелекту. Цей сплеск уваги привернув увагу скептиків AI, таких як Хелен Тонер та Ел'єзер Юдковський, які давно попереджували про загрози, пов'язані з AI. Незважаючи на численні політичні слухання і вимоги до жорсткішого регулювання, швидкий розвиток AI продовжується майже безперешкодно, залишаючи прихильників безпеки у відчутті маргіналізації. У нещодавній статті в The Atlantic Росс Андерсен досліджує інсайти цих експертів, підкреслюючи важливі зміни в спільноті Тонер. Протягом більше десяти років Андерсен займався дискусіями про ризики AI і розмірковує над майбутнім цього руху на тлі зниження суспільного інтересу. Постійні діалоги ще раз підкреслюють сталі занепокоєння щодо траєкторії AI та потенційних ризиків, незважаючи на зниження обізнаності. Читачів заохочується більш детально вивчити ці критичні питання у повній статті.
AI-powered Lead Generation in Social Media
and Search Engines
Let AI take control and automatically generate leads for you!

I'm your Content Manager, ready to handle your first test assignment
Learn how AI can help your business.
Let’s talk!

Блокчейн у уряді: прозорість і відповідальність
Уряди всього світу дедалі більше досліджують технологію блокчейн для підвищення прозорості та відповідальності у публічних послугах.

Як великі технологічні гіганти від Amazon до Nvid…
Microsoft увійшов у сферу охорони здоров’я майже 20 років тому і нині інтегрує штучний інтелект у свої хмарні рішення для автоматизації роботи лікарень.

Чому центральні банки випробовують інструменти гр…
Домінуюче впровадження технології блокчейн у фінансових послугах вже не є питанням «чи», а «коли» регуляції погодяться підтримувати її використання.

Познайомтесь з AlphaEvolve — штучним інтелектом в…
Google DeepMind презентувала AlphaEvolve — агента штучного інтелекту, здатного вигадувати цілком нові комп’ютерні алгоритми та одразу впроваджувати їх у масштабній обчислювальній інфраструктурі Google.

Роль блокчейна у ініціативах сталого розвитку лан…
В останні роки світова увага до сталого розвитку та етичних бізнес-практик суттєво трансформувала діяльність компаній, зокрема управління ланцюгами постачання.

4 цілі при розвитку навичок роботи з ШІ
Після виявлення високих витрат на залучення зовнішніх експертів у галузі штучного інтелекту, деякі ІТ-директори розробили методи розвитку навичок в галузі AI всередині компанії — не лише в ІТ-відділі, а й по всій організації.

Літня Мерсінгер з CFTC очолить Блокчейн-асоціацію
Комісар Комісії з торгівлі товарними ф’ючерсами (CFTC) Саммер Мерсінгер має стати новим головою правління Blockchain Association.