У сьогоднішній колонці я розглядаю запит читача щодо мотивів, які стоять за прагненням до створення штучного загального інтелекту (AGI) та штучного суперинтелекту (ASI), зокрема, чи походить цей потяг з віри в проявлену долю. Дякую за проникливе запитання. **Розуміння проявленої долі** Історично проявлена доля відноситься до віри XIX століття в те, що американські поселенці покликані розширюватися по континенту. Хоча деякі вважають це моральним обов'язком, інші критикують його як виправдання імпералізму. Цей термін вказує на очевидну, незворотну долю, яку потрібно слідувати без запитань. **Прагнення до AGI та ASI** Наразі значні дослідження в сфері штучного інтелекту намагаються досягти AGI, що дорівнює людському інтелекту, та ASI, що перевищує людський розум. Думки про наслідки досягнення AGI або ASI поділяються. "Кемп халепи" попереджає, що ці форми ШІ можуть становити екзистенційні загрози для людства, тоді як "акселераціоністи" вважають, що такі досягнення вирішать основні глобальні проблеми і покращать життя. **Дослідження проявленої долі в розвитку ШІ** Чотири ключові питання досліджують, чи впливають мотиви розвитку AGI та ASI на проявлену долю: 1. Чи мотивує прагнення до AGI почуття проявленої долі? 2. Чи інформується прагнення до ASI цією вірою? 3. Чи сприймається загальний прогрес ШІ як прояв цієї долі? 4. Чи розвиваємо ми ШІ лише заради самого процесу, незалежно від AGI або ASI? Є вагомий аргумент, що наше прагнення до просування ШІ говорить про ширшу людську долю створення та еволюції інтелекту, що здається самоочевидним для багатьох. Прихильники вказують на потенційні прориви, тоді як деякі бачать це як частину космічного призначення. **Історичні паралелі та ризики** Аналогія між нашими технологічними прагненнями сьогодні та історичним заходом на захід вказує на те, що прагнення до AGI/ASI може сприйматися як неминуча та почесна місія, незважаючи на вроджені ризики.

Ключові паралелі включають: 1. Неминучість прагнення до AGI/ASI. 2. Спільне ідеологічне виправдання того, що це досягнення — обов'язок людства. 3. Технологічні інновації, що сприяють прогресу. 4. Значні наслідки для суспільства та екосистем. 5. Ключові учасники, включаючи уряди та корпорації, що формують напрямок ШІ. 6. Спокуса дослідження невідомого в інтелекті. **Розрізнення AGI та ASI** AGI відповідає людському інтелекту, зменшуючи деякі екзистенційні ризики, тоді як ASI, будучи вищим, підвищує значні занепокоєння. Прагнення до AGI може привести нас до ASI, що може посилити екзистенційні загрози, ускладнюючи концепцію проявленої долі. **Роздуми про доречність проявленої долі** Зрештою, застосування проявленої долі до наших амбіцій у сфері ШІ є невизначеним. Критики застерігають від уявлення, що це надає безпечною шлях до прогресу ШІ, ігноруючи суттєві етичні міркування. Цитата Вільяма Дженнінгса Брайана свідчить про те, що наша доля формуються виборами, а не передвстановленою. Оскільки ШІ швидко еволюціонує, ми повинні активно формувати його майбутнє або сподіватися на сприятливий результат. Який шлях долі, на вашу думку, є актуальним?