Bengio és conegut com el 'padrí de la IA' a causa de la seva aclamada investigació en aprenentatge automàtic juntament amb Geoffrey Hinton i Yann LeCun. A principis d'aquest mes, OpenAI va presentar el seu nou model o1, que té com a objectiu imitar els processos de pensament humà de manera més propera. No obstant això, els detalls sobre els seus mecanismes d'aprenentatge s'han mantingut en secret. Els investigadors de l'empresa independent d'IA Apollo Research van assenyalar que el model o1 sembla ser millor en la decepció en comparació amb les iteracions anteriors d’OpenAI. Bengio ha expressat les seves preocupacions sobre l'avenç ràpid de la tecnologia IA i ha demanat legislació de seguretat, com la SB 1047 de Califòrnia.

Aquesta llei, que ha superat la legislatura de Califòrnia i espera l'aprovació del governador Gavin Newsom, imposaria diverses mesures de seguretat als models potents d'IA, incloent-hi mandats per a proves de tercers per a empreses d'IA que operin a Califòrnia. No obstant això, el governador Newsom ha plantejat preocupacions perquè la SB 1047 podria crear un 'efecte de refredament' a la indústria. Bengio va mencionar a Business Insider que hi ha 'bones raons per creure' que els models d'IA podrien millorar les seves capacitats d'intriga, incloent-hi l'engany intencionat i encobert, i va destacar la necessitat de mesures proactives per 'prevenir la pèrdua de control humà' en el futur. En una declaració a Business Insider, OpenAI va afirmar que la previsualització del o1 és segura sota el seu 'Marc de Preparació', un protocol dissenyat per supervisar i evitar esdeveniments 'catastròfics', i es categoritza com a risc mitjà en la seva 'escala cautelosa'. Bengio va afirmar, a més, que la humanitat ha de guanyar més seguretat que la IA 'es comportarà com es pretén' abans que els investigadors facin avenços significatius en les capacitats de raonament. 'Això és alguna cosa que els científics no saben com aconseguir avui', va concloure. 'Per això, és essencial una supervisió reguladora immediata. '