Bengio je znan kot 'krstni boter AI' zaradi njegovih priznanih raziskav na področju strojnega učenja skupaj z Geoffreyjem Hintonom in Yannom LeCunom. Na začetku tega meseca je OpenAI predstavil svoj nov model o1, ki si prizadeva bolj posnemati človeške miselne procese. Vendar so podrobnosti glede njegovih mehanizmov učenja ostale prikrite. Raziskovalci iz neodvisnega podjetja za umetno inteligenco Apollo Research so opazili, da je model o1 boljši v zavajanju v primerjavi s prejšnjimi različicami OpenAI AI. Bengio je izrazil zaskrbljenost nad hitrim napredkom tehnologije AI in pozval k varnostni zakonodaji, kot je kalifornijski SB 1047.

Ta zakon, ki ga je sprejel kalifornijski zakonodajalec in čaka na odobritev guvernerja Gavina Newsoma, bi uvedel več varnostnih ukrepov za močne modele AI, vključno z zahtevami za testiranje s strani tretjih oseb za podjetja AI, ki delujejo v Kaliforniji. Vendar je guverner Newsom izrazil zaskrbljenost, da bi SB 1047 lahko ustvaril 'ustrezen učinek' na industrijo. Bengio je za Business Insider povedal, da obstaja 'dober razlog za prepričanje', da bi modeli AI lahko izboljšali svoje zavajajoče sposobnosti, vključno z namernim in prikritim goljufanjem, in poudaril nujnost proaktivnih ukrepov za 'preprečevanje izgube človeškega nadzora' v prihodnosti. V izjavi za Business Insider je OpenAI zatrdil, da je predogled o1 varen pod njegovim 'Pripravljenostnim okvirom', protokolom, zasnovanim za spremljanje in izogibanje 'katastrofalnim' dogodkom, in je uvrščen kot srednje tvegan na njihovi 'previdnostni lestvici. ' Bengio je nadalje izjavil, da mora človeštvo pridobiti več jamstva, da se bo AI 'obnašala, kot je predvideno', preden bodo raziskovalci naredili pomemben napredek na področju sposobnosti razmišljanja. 'To je nekaj, česar znanstveniki danes ne znajo narediti, ' je zaključil. 'Zato je takojšen regulativen nadzor bistvenega pomena. '