Джеффри Хинтон, которого часто называют «крестным отцом ИИ», проснулся в прошлом году посреди ночи, чтобы узнать, что он получил Нобелевскую премию по физике. Он сказал, что никогда не ожидал получить такую честь. «Я мечтал выиграть её за понимание того, как работает мозг. Но я еще не разгадал, как он работает, а всё равно получил её», — отметил Хинтон. 77-летний ученый получил награду за свои революционные вклады в нейронные сети — внедрение в 1986 году метода предсказания следующего слова в последовательности, которое стало основополагающим принципом современных больших языковых моделей. Хотя Хинтон считает, что искусственный интеллект кардинально изменит такие области, как образование и медицина, и, возможно, поможет решить проблему изменения климата, он все более тревожится из-за быстрых темпов его развития. «Самый эмоциональный способ понять это — представить, что мы как кто-то, у кого есть очень милый тигрёнок», — объяснил Хинтон. «Если ты не можешь быть абсолютно уверен, что он не захочет убить тебя, когда вырастет, тебе стоит волноваться». «Люди этого еще не поняли» Путь пионера ИИ оценивается им в вероятность от 10% до 20%, что искусственный интеллект в конечном итоге отнимет контроль у человека. «Люди этого еще не поняли, не осознали, что нас ждет», — предостерег он. Его опасения совпадают с мнением лидеров отрасли, таких как генеральный директор Google Сундар Пичаи, Илон Маск из X-AI и глава OpenAI Сэм Альтман, которые также выразили озабоченность.

Однако Хинтон критикует эти компании за то, что они ставят прибыль превыше безопасности. «Если взглянуть на то, что сейчас делают крупные компании, они борются за снижение регулирования ИИ. Регулирования почти нет, а они хотят его еще меньше», — заявил Хинтон. Он особенно недоволен Google, где ранее работал, за отмену политики в отношении использования ИИ в военных целях. Хинтон считает, что компании, разрабатывающие ИИ, должны выделять гораздо больше ресурсов — «примерно треть» своих вычислительных мощностей — на исследования безопасности, по сравнению с тем, что они делают сейчас. CBS News обратилось ко всем названным лабораториям искусственного интеллекта с вопросом, какой процент их вычислительных ресурсов идет на исследования в области безопасности. Никто не предоставил конкретные цифры. Все подчеркнули важность безопасности и поддержки регулирования как принципа, но в основном выступали против предлагаемых законодателями мер.