Бенджио е известен като 'кръстникът на AI' заради своите признати изследвания в машинното обучение заедно с Джефри Хинтън и Ян Лекун. По-рано този месец OpenAI представи своя нов модел o1, който цели да имитира човешките мисловни процеси по-близко. Въпреки това, спецификите относно неговите механизми на обучение са пазени в тайна. Изследователи от независимата AI фирма Apollo Research отбелязаха, че моделът o1 изглежда е по-добър в измамата в сравнение с предишни итерации на AI на OpenAI. Бенджио изрази своите притеснения относно бързото напредване на AI технологиите и призова за законодателство за безопасност, като например SB 1047 на Калифорния.

Този закон, който е приет от законодателния орган на Калифорния и чака одобрението на губернатора Гавин Нюсъм, би наложил няколко мерки за безопасност върху мощни AI модели, включително изисквания за тестиране от трети страни за AI компании, работещи в Калифорния. Въпреки това, губернатор Нюсъм изрази притеснения, че SB 1047 може да създаде 'застрашителен ефект' върху индустрията. Бенджио спомена за Business Insider, че има 'добра причина да се вярва', че AI моделите могат да увеличат своите умения за измама, включително умишлено и скрито измамничество, и подчерта необходимостта от проактивни мерки за 'предотвратяване на загубата на човешки контрол' в бъдеще. В изявление за Business Insider, OpenAI твърди, че предпревюто на o1 е безопасно според неговата 'Рамка за готовност', протокол, предназначен да следи и избягва 'катастрофални' събития, и е категоризиран като среден риск на тяхната 'внимателна скала'. Бенджио допълнително заяви, че човечеството трябва да спечели повече увереност, че AI ще 'се държи по предназначение', преди изследователите да постигнат значителни напредъци в способностите за разсъждение. 'Това е нещо, което учените не знаят как да постигнат днес', заключи той. 'Затова незабавен регулаторен надзор е съществен'.