बुद्धिमत्ता सत्ता देते. मग त्या सत्तेवर कोण नियंत्रण ठेवणार? फ्रिंज थियरी एक प्रमुख एआय अग्रणी चेतावणी देत आहे की केवळ वाढती शक्तिशाली तंत्रज्ञान जगाला हानी पोहचवू शकते असे नाही, तर ज्यांच्या हातात नियंत्रण आहे ते देखील गंभीर धोका पोहचवू शकतात. सीएनबीसीच्या एका मुलाखतीत, संगणक विज्ञान विशेषज्ञ योशुआ बेंजिओने तंत्रज्ञानाच्या "फ्रिंज" बद्दल चिंता व्यक्त केल्या, जे एआयद्वारे मानवांची जागा घेण्याचा प्रयत्न करत आहेत. बेंजिओ मॉन्ट्रियल विद्यापीठाच्या इन्स्टिट्यूट फॉर लर्निंग अल्गोरिदम्सचे नेतृत्व करतात आणि ओपनएआय संशोधकांच्या "राईट टू वॉर्न" या मागणीपत्रावर सही केली आहे, ज्यात एआयच्या धोकेबद्दल बोलण्यास रोखले जात असल्याचा दावा आहे. यान लेक्यून आणि जेफ्री हिंटन यांच्यासह एआय "गॉडफादर्स" म्हणून ओळखल्या जाणा-या बेंजिओने मॉन्ट्रियलमध्ये 'वन यंग वर्ल्ड समिट' दरम्यान विचारले, "त्या सत्तेवर कोण नियंत्रण ठेवणार?" "असे लोक आहेत जे त्या सत्तेचा दुरुपयोग करू इच्छितात, आणि काही लोक मानवांच्या जागी यंत्रांचा स्वीकार करू इच्छितात, " बेंजिओने चेतावणी दिली.

"जर आपण आत्ता संरक्षक उपाय योजना केल्या नाहीत, तर हा फ्रिंज सत्ता मिळवू शकतो. " धन महत्त्वाचे आहे एआय प्रणाली विकसित करण्यासाठी अब्जावधींची आवश्यकता असते, जे आर्थिक प्रभावाच्या महत्त्वाला अधोरेखित करते. "फार काही संस्था आणि देश यासाठी परवडू शकतात, " बेंजिओने नमूद केले. "हे आधीच घडत आहे. " "सत्तेची एकाग्रता होऊ शकते: आर्थिक, जे बाजारपेठेला हानिकारक ठरू शकते; राजकीय, जे लोकशाहीसाठी धोकादायक असू शकते; आणि लष्करी, जे जागतिक राजकारण अस्थिर करू शकते, " त्यांनी जोडले. वैज्ञानिक कृत्रिम साधारण बुद्धिमत्ता किंवा मानवस्तरीय एआय प्राप्त करण्याच्या क्षमतेबद्दल व त्याच्या वेळेबद्दल चर्चा करतात. बेंजिओ सुचवतात की जर हे जागतिक धोरणे लागू होण्यापूर्वी झाले तर आपण अडचणीत आहोत. "जर ते पाच वर्षे दूर असेल, तर आपण तयार नाही, " त्याने जोर दिला, "कारण आपल्याकडे अशा प्रणालींना हानी पोहचवणे किंवा मानवांवर उभे राहणे टाळण्याची साधने नाहीत. " एआयच्या धोक्यांबद्दल पहिल्यांदा चेतावणी देणारे नाही असले तरी, बेंजिओचे विचार त्यांच्या विकासातील भूमिकेमुळे अधिक महत्त्वाचे ठरतात. एजीआय चेतावण्यांबद्दल अधिक: एआय प्रेमिकांना भीती आहे की ट्रम्प यांच्या अध्यक्षतेत सिंग्युलॅरिटी होऊ शकते.