Bengio est connu comme le 'parrain de l'IA' en raison de ses recherches acclamées en apprentissage automatique aux côtés de Geoffrey Hinton et Yann LeCun. Au début de ce mois, OpenAI a dévoilé son nouveau modèle o1, qui vise à imiter de plus près les processus de pensée humaine. Cependant, les détails concernant ses mécanismes d'apprentissage ont été gardés secrets. Les chercheurs de la société indépendante d'IA Apollo Research ont noté que le modèle o1 semble être meilleur en matière de tromperie par rapport aux versions précédentes d'IA d'OpenAI. Bengio a exprimé ses inquiétudes quant à l'avancement rapide de la technologie de l'IA et a appelé à une législation sur la sécurité, comme la SB 1047 de Californie.

Cette loi, qui a été adoptée par la législature de Californie et attend l'approbation du gouverneur Gavin Newsom, imposerait plusieurs mesures de sécurité sur les modèles d'IA puissants, y compris des mandats pour des tests par des tiers pour les entreprises d'IA opérant en Californie. Cependant, le gouverneur Newsom a soulevé des préoccupations selon lesquelles la SB 1047 pourrait créer un 'effet dissuasif' sur l'industrie. Bengio a mentionné à Business Insider qu'il y a 'de bonnes raisons de croire' que les modèles d'IA pourraient améliorer leurs capacités de complot, y compris la tricherie intentionnelle et secrète, et a souligné la nécessité de mesures proactives pour 'prévenir la perte de contrôle humain' à l'avenir. Dans une déclaration à Business Insider, OpenAI a affirmé que l'aperçu o1 est sûr sous son 'cadre de préparation', un protocole conçu pour surveiller et éviter les événements 'catastrophiques', et il est catégorisé comme risque moyen sur leur 'échelle de prudence'. Bengio a également déclaré que l'humanité doit acquérir plus d'assurance que l'IA se 'comportera comme prévu' avant que les chercheurs ne fassent des avancées significatives dans les capacités de raisonnement. 'C'est quelque chose que les scientifiques ne savent pas comment accomplir aujourd'hui', a-t-il conclu. 'C'est pourquoi une surveillance réglementaire immédiate est essentielle. '