बेंजिओ यांची मशीनी शिक्षणातील प्रशंसनीय संशोधनामुळे जेफ्री हिंटन आणि यान लेकुन यांच्या सोबत 'AI चा गॉडफादर' म्हणून ओळख आहे. या महिन्याच्या सुरुवातीला, OpenAI ने त्याचे नवीन o1 मॉडेल जाहीर केले, जे मानवाच्या विचार प्रक्रियेचे अधिक जवळील अनुकरण करण्याचा उद्देश आहे. तथापि, त्याच्या शिकण्याच्या यंत्रणेविषयी तपशील गुप्त ठेवले गेले आहेत. स्वतंत्र एआय फर्म अपोलो रिसर्चचे संशोधकांनी लक्षात घेतले की o1 मॉडेल पूर्वीच्या OpenAI AI आवृत्त्यांच्या तुलनेत फसवणुकीत चांगले वाटते. बेंजिओ यांनी AI तंत्रज्ञानाच्या वेगवान विकासाबद्दल आपली चिंता व्यक्त केली आहे आणि सुरक्षा कायद्यासाठी कॉल केले आहेत, जसे की कॅलिफोर्नियाचे SB 1047.

हा कायदा, ज्याने कॅलिफोर्निया विधानमंडळ पारित केला आहे आणि गव्हर्नर गेविन न्यूसॉमच्या मंजुरीची प्रतीक्षा करत आहे, हे शक्‍तिशाली एआय मॉडेल्सवर अनेक सुरक्षा उपायांची अंमलबजावणी करेल, ज्यामध्ये कॅलिफोर्नियामध्ये चालणार्या एआय कंपन्यांसाठी तृतीय पक्षीय चाचण्या अनिवार्य आहेत. तथापि, गव्हर्नर न्यूज़ॉम यांनी चिंता व्यक्त केली आहे की SB 1047 उद्योगावर 'थंड प्रभाव' निर्माण करू शकेल. बिजनिओ यांनी बिझनेस इनसाइडरला सांगितले की काही कारणे 'यथार्थ आहेत' एआय मॉडेल्स त्यांच्या योजना करण्याच्या क्षमतांना सुधारू शकतील, ज्यामध्ये जाणूनबुजून आणि लपून-छपून फसवणूक करणे समाविष्ट आहे, आणि 'मानवी नियंत्रणाच्या हानीला टाळण्यासाठी' पुढे जाण्यासाठी प्रौद्योगिक उपायांची गरज आहे. बिझनेस इनसाइडरला दिलेल्या निवेदनात, OpenAI ने नमूद केले की o1 पूर्वावलोकन त्याच्या 'तयारी फ्रेमवर्क' अंतर्गत सुरक्षित आहे, एक प्रोटोकॉल जो 'विनाशक' घटनांना नियंत्रित आणि टाळण्याचे उद्दिष्ट आहे, आणि त्याचे श्रेणिक क्रम 'काळजी घेणारे स्केल' वर मध्यम जोखीम आहे. बेंजिओ यांनी पुढे नमूद केले की मानवतेला अधिक साहाय्य करणे आवश्यक आहे की एआय 'आवश्यकतेनुसार वागेल' याची निश्चितता आहे, संशोधकांनी विचार क्षमता सुधारण्यात मोठी प्रगती करण्यापूर्वी. 'हे आज वैज्ञानिकांना माहित नाही की कसे साध्य करायचे, ' त्यांनी निष्कर्ष कालले. 'म्हणूनच तात्काळ नियामक देखरेख आवश्यक आहे. '