"Інтелект дає владу. Отже, хто буде контролювати цю владу?" Теорія Периферії Відомий піонер штучного інтелекту попереджає, що не тільки дедалі потужніші технології можуть зашкодити світу, але й ті, хто їх контролює, можуть становити значні ризики. В інтерв'ю CNBC експерт з комп'ютерних наук Йошуа Бенджіо висловив занепокоєння щодо «периферії» технологій, яка прагне замінити людей на штучний інтелект. Бенджіо очолює Інститут алгоритмів навчання при Університеті Монреаля і підписав відкритий лист "Право на попередження" від дослідників OpenAI, які стверджують, що їх змушують замовчувати про небезпеки ШІ. Відомий разом із Яном ЛеКуном та Джеффрі Гінтоном як "хрещені батьки" ШІ, Бенджіо запитав: "Хто буде контролювати цю владу?" під час Саміту One Young World у Монреалі. "Є люди, які можуть хотіти зловживати цією владою, та ті, хто може вітати заміну людей машинами, " попередив Бенджіо.

"Ця периферія може набути значної влади, якщо ми не встановимо захисні міри вже зараз. " Гроші Говорять Системи ШІ потребують мільярди для розвитку, що підкреслює важливість фінансового впливу. "Дуже мало організацій і країн можуть собі це дозволити, " зазначив Бенджіо. "Це вже відбувається. " "Буде концентрація влади: економічна, потенційно шкідлива для ринків; політична, можливо, загрозлива для демократії; і військова, потенційно дестабілізуюча геополітику, " додав він. Експерти обговорюють можливість і терміни досягнення загального штучного інтелекту, або ШІ на рівні людини. Бенджіо припускає, що ми в біді, якщо це станеться раніше, ніж будуть прийняті глобальні політики. "Якщо це за п'ять років, ми не готові, " наголосив він, "тому що у нас немає методів для забезпечення того, щоб ці системи не завдали шкоди або не обернулися проти людей. " Хоча Бенджіо не перший, хто попереджає про небезпеки ШІ, його думки мають вагу з огляду на його роль у розробці ШІ. Більше про попередження щодо AGI: прихильники ШІ бояться, що Сингулярність може статися під президентством Трампа.