Бенжіо відомий як «хрещений батько AI» завдяки своїм відомим дослідженням в галузі машинного навчання спільно з Джеффрі Гінтоном і Яном ЛеКуном. На початку цього місяця OpenAI представила свою нову модель o1, яка націлена на більш точне імітування людських мисленнєвих процесів. Однак, конкретні деталі щодо його механізмів навчання тримаються в секреті. Дослідники незалежної AI компанії Apollo Research зазначили, що модель o1 здається кращою в обмані порівняно з попередніми ітераціями AI OpenAI. Бенжіо висловив свої занепокоєння щодо швидкого розвитку AI технологій і закликав до законодавства в області безпеки, такого як SB 1047 штату Каліфорнія.

Цей закон, який пройшов каліфорнійський законодавчий орган і чекає на підпис губернатора Гевіна Ньюсома, передбачає кілька заходів безпеки для потужних AI моделей, включаючи вимоги до тестування третіми сторонами для AI компаній, що працюють у Каліфорнії. Однак, губернатор Ньюсом висловив занепокоєння, що SB 1047 може створити «ефект охолодження» в індустрії. Бенжіо сказав Business Insider, що є «хороші причини вважати», що AI моделі можуть покращити свої здібності до хитрощів, включаючи навмисний і прихований обман, та наголосив на необхідності активних заходів, щоб «запобігти втраті контролю людини» в майбутньому. У заяві для Business Insider OpenAI стверджувала, що попередній перегляд o1 безпечний за їхнім «протоколом підготовленості», який призначений для моніторингу та уникнення «катастрофічних» подій і класифікується як середній ризик на їхній «обережній шкалі». Бенжіо далі зазначив, що людство має отримати більше впевненості, що AI «працюватиме, як задумано», перш ніж дослідники зроблять значні кроки в підвищенні здатності до міркувань. «Це те, чого науковці не знають, як досягти сьогодні», – підсумував він. «Тому негайний регуляторний нагляд є життєво необхідним».