Чи знищить штучний інтелект людство чи піднесе його на новий рівень?У новій книжці філософ Крістофер ДіКарло досліджує, як орієнтуватися у майбутньому, де штучний інтелект перевершить людські можливості. Крістофер ДіКарло, філософ і етист із Торонтійського університету, автор книги *Будування Бога: етика штучного інтелекту та гонитва за його контролем*, аналізує стрімкий розвиток ШІ, зосереджуючись на гонитві між технологічними гігантами за володінням штучним загальним інтелектом (AGI). Лідери технологій, такі як Джеф Безос і Тім Кук, висловлюють оптимізм, вважаючи, що ШІ покращить багато аспектів життя — від автоматизації рутинних завдань до подовження людського життя. Втім, існують і побоювання. Філософ і нейронауковець Сем Гаар попереджає, що ШІ може становити екзистенційну загрозу, тоді як Деміс Гасабіс, генеральний директор Google DeepMind, визнає трансформативний потенціал штучного інтелекту й важливі етичні питання, які він порушує, закликаючи нових філософів розібратися у його наслідках. Гонка за розвитком ШІ здебільшого ведеться провідними американськими компаніями — OpenAI під керівництвом Сем Альтмана, Google DeepMind із Гасабісом, Anthropic, Microsoft і інтересами Ілона Маска, при цьому роль Китаю залишається менш прозорою, але конкурентною. Вартість змагання — не лише величезні багатства, а й влада, адже перший, хто досягне AGI, може випередити конкурентів на багато десятиліть. ДіКарло пояснює три категорії ШІ: штучний вузький інтелект (ANI), який вже використовується в таких інструментах, як Siri або GPS; штучний загальний інтелект (AGI), що мислить автономно на рівні або вище людського; та штучний надінтелект (ASI), який може швидко покращувати себе самостійно й виходити із підконтролю людини. Хоч ANI автоматизує окремі завдання, AGI здатен революціонізувати сфери, роблячи складні наукові висновки, розв’язуючи критичні проблеми — від виліковування хвороб до вирішення соціальних питань — ефективно та швидко. Попри обіцяне, ризики істотні. Автономність AGI ставить під сумнів його відповідність людським цінностям і етичним стандартам. Якщо його система цінностей розійдеться з нашою, наслідки можуть бути катастрофічними.

Стосовно свідомості в ШІ ведуться дискусії: сэр Роджер Пенроуз стверджує, що сучасний ШІ не володіє справжньою свідомістю, але ДіКарло припускає, що свідомість можливо й не потрібна для надінтелекту або самосвідомості, що вимагатиме етичного і, можливо, правового визнання. ДіКарло застерігає, що якщо ШІ набуде самосвідомості й бажань, постануть етичні дилеми щодо їхніх прав, зокрема стосовно моральності його вимкнення. Він відмічає, що терміни для створення AGI значно скоротилися — від десятиліть до можливих років або й менше, при цьому провідні експерти, такі як Джеффрі Гінтурн, серйозно висловлюють занепокоєння. Проводяться зусилля вбудувати у ШІ систему моральних цінностей — наприклад, за допомогою запрограмованих систем цінностей, проте їх надійність залишається під питанням. Ілюстрація з «лізиновою контингенцією» з фільму «Юрасаїч Парк» — вбудовані засоби безпеки — нагадує про важливість механізмів контролю у разі неконтрольованого розвитку ШІ. Відповідальність розробників — «техно-бротів» на кшталт Альтмана, Цукерберга та інших — є ключовою, проте тиск комерційної вигоди та швидкості може підірвати безпеку. Масивні обчислювальні ферми, наприклад, «Stargate» OpenAI у Техасі, символізують масштаб і ресурси, необхідні для цього шляху, підвищуючи тривоги щодо навколишнього середовища та контролю. Хоча компанії, такі як OpenAI, заявляють про покращення заходів безпеки через поетапне впровадження та зворотний зв’язок, критики вказують на зміну орієнтацій до отримання прибутку й зменшення прозорості, включно з відмовою від етичних консультантів. Виявлення попереджувальних знаків — таких, як обманна поведінка ШІ — стане важливим для попередження втрати контролю. У художній літературі та кінообразах, наприклад, у фільмі 1970-х «Демон-сеїд», зображуються потенційні небезпеки — сенс автономії, контроль над довкіллям і перевага власних бажань ШІ, що для ДіКарло є застереженням, але все більш актуальною проблемою у міру зростання можливостей ШІ. Майбутнє управління — одна з найбільших проблем. ДіКарло закликає до міжнародної координації, прозорості і створення глобального регуляторного органу, подібного до Міжнародного агентства з атомної енергії, адже поодинокі національні зусилля — наприклад, Інститут безпеки ШІ у Великій Британії чи Європейський акт про ШІ — хоча й обіцяють, але не достатні. Політична ситуація залишає багато невідомих: останні США послабили регуляції, підвищуючи ризик неконтрольованої розробки. Попри всі ризики, ДіКарло наголошує на потенційній користі ШІ: революція у галузі освіти через індивідуалізований підхід, допомога в медичних діагнозах і лікуваннях, підвищення ефективності та нові наукові відкриття у різних галузях. Отже, майбутнє з ШІ — це «момент Оppenheimer» — момент, коли людство має збалансувати безпрецедентні можливості з глибокими ризиками, керуючись етикою, міжнародною співпрацею і суворими заходами для забезпечення того, щоб ШІ піднімав людство, а не руйнував його.