Дискуссия вокруг искусственного интеллекта (ИИ) накаляется, с различными мнениями о том, будет ли он полезен или вреден для мира. Центральной фигурой в этой дискуссии является Йошуа Бенжио, которого часто называют «крестным отцом ИИ». В возрасте 60 лет канадский ученый в области компьютерных наук значительно продвинул нейронные сети и глубокое обучение, заложив основу для современных моделей ИИ, таких как ChatGPT и Claude. В недавнем интервью Бенжио подчеркнул потенциальные опасности ИИ на уровне человека, предупреждая о риске его попадания в злонамеренные руки и возможности потери контроля над автономными системами. Бенжио, который в 2018 году получил престижную премию Тьюринга и был назван самым цитируемым компьютерным ученым в 2022 году, теперь выступает за осторожность по мере роста энтузиазма по ИИ, особенно среди инвесторов. Например, акции Nvidia в этом году взлетели на 162%.

Оценивая крупных технических игроков в области ИИ, Бенжио указал на Anthropic как на самого этичного, отметив их приверженность безопасности и прозрачности, хотя он признает, что все компании сталкиваются с давлением расставить приоритеты в конкурентных преимуществах над общественной безопасностью. Он также обсудил опасения по поводу взлетной стоимости акций ИИ и последствий неконтролируемого краха рынка ИИ. Что касается технологии чипов, он подчеркнул её важную роль в будущем ИИ, предсказывая необходимость значительных инвестиций в высокопроизводительные чипы ИИ. Упомянув амбициозную цель Salesforce развернуть 1 миллиард автономных агентов к 2026 году, Бенжио выразил опасения по поводу достижения такой автономии без надлежащих нормативных и технологических мер безопасности. Наконец, он раскритиковал вето губернатора Калифорнии Ньюсома на SB 1047, выразив мнение, что законопроект был направлен на установление необходимых регулирований и подотчетности в разработке ИИ, что, по его мнению, должно быть в приоритете. В общем, Бенжио выступает за осторожный и прозрачный подход к разработке ИИ для снижения рисков и обеспечения безопасных улучшений. Ясмин Хоррам, старший корреспондент Yahoo Finance, внесла свой вклад в обсуждение.