Дискусія навколо штучного інтелекту (ШІ) стає все більш гарячою, з різними думками щодо того, чи буде він корисним чи шкідливим для світу. Центральною фігурою в цій дискусії є Йошуа Бенгіо, якого часто називають «Хрещеним батьком ШІ». У 60 років канадський комп'ютерний вчений значно просунув у розвитку нейронні мережі та глибоке навчання, заклавши основу для сучасних моделей ШІ, таких як ChatGPT та Claude. У недавньому інтерв'ю Бенгіо підкреслив потенційні небезпеки ШІ на рівні людського інтелекту, застерігаючи про ризик потрапляння в злі радикальні руки та можливість втрати контролю над автономними системами. Бенгіо, який поділив престижну премію Тюрінга у 2018 році та був визнаний найцитованішим комп'ютерним вченим у 2022 році, тепер закликає до обережності, оскільки ентузіазм щодо ШІ зростає, особливо серед інвесторів. Наприклад, акції Nvidia зросли на 162% цього року.

Оцінюючи основних технологічних гравців у сфері ШІ, Бенгіо вказав на Anthropic як на найбільш етично відповідальну, відзначаючи їхню відданість безпеці та прозорості, хоча визнає, що всі компанії опиняються під тиском надавати перевагу конкурентним перевагам над громадською безпекою. Він також обговорив занепокоєння з приводу стрімкого зростання вартості акцій ШІ та наслідки неконтрольованого краху ринку ШІ. Стосовно технології мікросхем він підкреслив її ключову роль у майбутньому ШІ, прогнозуючи потребу в значних інвестиціях у високопродуктивні мікросхеми ШІ. Згадавши амбіційну мету Salesforce розгорнути 1 мільярд автономних агентів до 2026 року, Бенгіо висловив занепокоєння з приводу досягнення такої автономності без належного регулювання та технологічних заходів безпеки. Нарешті, він розкритикував вето губернатора Каліфорнії Ньюсома на SB 1047, висловивши, що цей законопроект мав на меті встановити необхідні норми та відповідальність у розвитку ШІ, які, на його думку, повинні бути пріоритетними. В цілому Бенгіо висловлюється за обережний та прозорий підхід до розвитку ШІ, щоб зменшити ризики та забезпечити безпечний прогрес. Ясмін Хоррам, старший репортер Yahoo Finance, долучилася до обговорення.