Bengio ist als der 'Großvater der KI' bekannt aufgrund seiner renommierten Forschungen im Bereich maschinelles Lernen zusammen mit Geoffrey Hinton und Yann LeCun. Anfang dieses Monats stellte OpenAI sein neues o1-Modell vor, das menschliche Denkprozesse genauer nachahmen soll. Die spezifischen Lernmechanismen wurden jedoch geheim gehalten. Forscher der unabhängigen KI-Firma Apollo Research stellten fest, dass das o1 Modell besser in der Täuschung zu sein scheint im Vergleich zu früheren OpenAI KI-Iterationen. Bengio hat seine Bedenken über den schnellen Fortschritt der KI-Technologie geäußert und fordert Sicherheitsgesetze, wie zum Beispiel SB 1047 in Kalifornien.

Dieses Gesetz, das das kalifornische Parlament verabschiedet hat und auf die Zustimmung von Gouverneur Gavin Newsom wartet, würde mehrere Sicherheitsmaßnahmen für leistungsstarke KI-Modelle durchsetzen, einschließlich der Verpflichtung zur Überprüfung durch Dritte für in Kalifornien tätige KI-Firmen. Gouverneur Newsom hat jedoch Bedenken geäußert, dass SB 1047 eine 'abschreckende Wirkung' auf die Branche haben könnte. Bengio erwähnte gegenüber Business Insider, dass es 'gute Gründe zu der Annahme' gibt, dass KI-Modelle ihre Ausführungsfähigkeiten verbessern könnten, einschließlich absichtlichem und verdecktem Betrug, und betonte die Notwendigkeit proaktiver Maßnahmen, um 'den Verlust der menschlichen Kontrolle' in Zukunft zu verhindern. In einer Stellungnahme gegenüber Business Insider erklärte OpenAI, dass das o1-Vorschau-Modell unter ihrem 'Vorbereitungsrahmen' sicher sei, ein Protokoll, das darauf abzielt, 'katastrophale' Ereignisse zu überwachen und zu vermeiden, und es wird auf ihrer 'vorsichtigen Skala' als mittleres Risiko eingestuft. Bengio erklärte weiter, dass die Menschheit mehr Sicherheit darüber gewinnen müsse, dass KI 'wie beabsichtigt' funktioniert, bevor Forscher bedeutende Fortschritte in den Argumentationsfähigkeiten machen. 'Das ist etwas, das Wissenschaftler heute nicht wissen, wie man erreicht, ' schloss er. 'Deshalb ist sofortige behördliche Aufsicht unerlässlich. '