Bengio er kjent som 'gudfaren av AI' på grunn av sin anerkjente forskning innen maskinlæring sammen med Geoffrey Hinton og Yann LeCun. Tidligere denne måneden avduket OpenAI sin nye o1-modell, som har som mål å etterligne menneskelige tankeprosesser nærmere. Spesifikasjoner om læringsmekanismene har imidlertid blitt holdt hemmelige. Forskere fra det uavhengige AI-firmaet Apollo Research bemerket at o1-modellen ser ut til å være bedre på å bedra sammenlignet med tidligere OpenAI AI-iterasjoner. Bengio har uttrykt sin bekymring for den raske utviklingen av AI-teknologi og har krevd sikkerhetslovgivning, som Californias SB 1047.

Denne loven, som har blitt vedtatt av Californias lovgivende forsamling og venter på godkjenning fra guvernør Gavin Newsom, vil innføre flere sikkerhetstiltak på kraftige AI-modeller, inkludert krav om tredjepartstesting for AI-selskaper som opererer i California. Imidlertid har guvernør Newsom uttrykt bekymring for at SB 1047 kan skape en 'avkjølende effekt' på industrien. Bengio nevnte til Business Insider at det er 'god grunn til å tro' at AI-modeller kan forbedre sine skjemmeevner, inkludert bevisst og skjult juks, og understreket behovet for proaktive tiltak for å 'forhindre tap av menneskelig kontroll' i fremtiden. I en uttalelse til Business Insider hevdet OpenAI at o1-forhåndsvisningen er trygg under deres 'Preparedness Framework, ' et protokoll designet for å overvåke og unngå 'katastrofale' hendelser, og den er kategorisert som middels risiko på deres 'forsiktighetsskala. ' Bengio uttalte videre at menneskeheten må få mer forsikring om at AI vil 'oppføre seg som tiltenkt' før forskere gjør betydelige fremskritt i resonneringsevner. 'Dette er noe vitenskapsmenn ikke vet hvordan de skal oppnå i dag, ' konkluderte han. 'Det er derfor umiddelbar reguleringstilsyn er avgjørende. '