पिछले वसंत में, ओपनएआई के एआई सेफ़्टी रिसर्चर डैनियल कोकमटाज्लो ने विरोधस्वरूप इस्तीफा दे दिया, यह मानते हुए कि कंपनी एआई तकनीक के भविष्य के लिए तैयार नहीं है और वह चेतावनी देना चाहता था कि खतरा बढ़ रहा है। फोन बातचीत में, वह मैत्रीपूर्ण लेकिन चिंतित दिखे, यह समझाते हुए कि एआई "अलाइनमेंट"—मानव मूल्यों का पालन करने वाली विधियों—में प्रगति बहुत धीमी है और बुद्धिमत्ता के विकास की तुलना में पिछड़ रही है। उन्होंने चेतावनी दी कि शोधकर्ता नियंत्रण से बाहर शक्तिशाली प्रणालियों के निर्माण की ओर तेज़ी से बढ़ रहे हैं। कोकमटाज्लो, जो दार्शनिक स्नातक अध्ययन से एआई में आए थे, ने स्वशिक्षित होकर एआई प्रगति का ट्रैक रखा और अनुमान लगाया कि कब महत्वपूर्ण बुद्धिमत्ता मील के पत्थर पूरे हो सकते हैं। जब एआई अपेक्षा से तेजी से बढ़ा, तो उन्होंने अपने समयरेखा को दशकों पीछे कर दिया। 2021 की उनकी परिकल्पना, “What 2026 Looks Like, ” में कई पूर्वानुमान जल्दी ही पूरे हुए, जिससे उन्होंने 2027 या उससे पहले “नो विर्ङეთु बिंदु” देखने की संभावना जताई, जहां एआई मानव से अधिक महत्वपूर्ण कार्यों में पार कर जाएगा और बहुत सशक्त हो जाएगा। यह भयभीत करने वाला था। साझा ही, प्रिंसटन के कंप्यूटर वैज्ञानिक सायास कपूर और अरविंद नारायणन ने अपनी किताब “AI Snake Oil” तैयार की, जिसमें उनका दृष्टिकोण काफी अलग था। उन्होंने तर्क दिया कि एआई के समयरेखा बहुत आशावादी हैं; एआई की उपयोगिता के दावों को अक्सर अतिरंजित या धोखाधड़ी माना गया है; और वास्तविक दुनिया की जटिलता के कारण, एआई का परिवर्तनकारी प्रभाव धीमा होगा। चिकित्सा और भर्ती जैसी क्षेत्रों में एआई की गलतियों के उदाहरण देते हुए, उन्होंने जोर दिया कि यहाँ तक कि नवीनतम प्रणालियों में भी वास्तविकता से मूलभूत disconnect है। हाल ही में, तीनों ने अपने विचारों को नए रिपोर्टों में और भी सहीं किया है। कोकमटाज्लो का गैर-लाभकारी संगठन, एआई फ्यूचर्स प्रोजेक्ट, ने “AI 2027” नामक रिपोर्ट प्रकाशित की है, जिसमें एक गंभीर परिदृश्य का वर्णन है जिसमें सुपरइंटेलिजेंट एआई 2030 तक मानवता को नियंत्रित या समाप्त कर सकता है—यह एक गंभीर चेतावनी है। वहीं, कपूर और नारायणन की पेपर “AI as Normal Technology” का तर्क है कि नियामक नियम, सुरक्षा मानक और वास्तविक भौतिक सीमाओं जैसी प्रायोगिक बाधाएँ एआई के त्वरित प्रयोजन को धीमा कर देंगी और इसके क्रांतिकारी प्रभाव को सीमित करेंगी। उनका मानना है कि एआई एक “सामान्य” तकनीक बनी रहेगी, जिसे परिचालन करने के लिए परंपरागत सुरक्षा उपाय—जैसे किल स्विच और मानवीय निगरानी—प्रयोग में लाए जा सकते हैं। यह तकनीक परमाणु शक्ति से अधिक, बल्कि परमाणु हथियारों से भी अधिक नियंत्रित और प्रबंधनीय होगी। तो, सवाल है: यह सामान्य व्यापार होगा या प्रलयकारी उथलपुथल?इन रिपोर्टों के दौरान, ये बहुत ही ज्ञानी विशेषज्ञ प्रस्थापित निष्कर्षों को देखते हुए एक विरोधाभास उत्पन्न होता है, जैसे धर्म का विवाद दोनों रिचर्ड डॉकिंस और पोप के साथ.

यह जटिलता मुख्यतः एआई की नई प्रकृति से उपजी है—जैसे अंधे व्यक्ति हाथी के अलग-अलग हिस्सों का परीक्षण कर रहे हों—और दूसरी बात, दुनिया को देखने के दृष्टिकोण में गहरे भिन्न हैं। सामान्यतः, वेस्ट कोस्ट के टेक विचारक तेज़ परिवर्तन की आशा करते हैं, जबकि ईस्ट कोस्ट के विद्वान संदेह के साथ देखते हैं। एआई शोधकर्ता शीघ्र प्रयोगात्मक प्रगति को तरजीह देते हैं, वहीं अन्य कम्प्यूटर वैज्ञानिक थ्योरी पर जोर देते हैं। उद्योग के अंदरूनी लोग इतिहास बनाने की इच्छा रखते हैं; बाहर वाले तकनीक के प्रचार को अस्वीकार करते हैं। तकनीक, प्रगति, और मन जैसी चीजों को लेकर राजनीतिक, मानव और दार्शनिक विचार इस विभाजन को और गहरा करते हैं। यह प्रेरक बहस खुद एक समस्या है। उद्योग के अंदरूनी लोग मुख्यतः “AI 2027” के बुनियादी मान्यताओं को स्वीकारते हैं, लेकिन समयरेखा को लेकर उलझे रहते हैं—जो कि एक ग्रह-किलर के आने से पहले समय पर भभकने में असमर्थता की तरह है। जबकि, “AI as Normal Technology” में मौजूद मध्यम दृष्टिकोण मनुष्यों को प्रणाली में शामिल रखने का पक्षधर है, लेकिन इसे इतनी मामूली प्रतिक्रिया मानते हैं कि इसका ध्यान नहीं दिया गया है। जैसे-जैसे एआई समाज में अधिक महत्वपूर्ण होता जाएगा, विचार-विमर्श को विशेषज्ञ बहस से actionable सहमति की ओर बढ़ना चाहिए। विशेषज्ञ सलाह की अनुपस्थिति में निर्णय निर्माता जोखिमों को नजरअंदाज कर सकते हैं। वर्तमान में, एआई कंपनियों ने क्षमताओं और सुरक्षा के बीच संतुलन को बहुत अधिक नहीं बदला है। साथ ही, नई विधायिका दस वर्षों के लिए एआई मॉडल और स्वचालित निर्णय प्रणालियों पर राज्य नियमन पर प्रतिबंध लगाती है—शायद ऐसी स्थिति में, यदि भयानक परिदृश्य सही साबित होता है, तो एआई मानवता का नियमन कर सकता है। सुरक्षा का ध्यान अभी बहुत जरूरी है। एआई के भविष्य की कथा बनाना कई तरह के समझौते करता है: सतर्क परिदृश्य दुर्लभ जोखिमों को अनदेखा कर सकते हैं, जबकि कल्पनाशील परिदृश्य संभावनाओं को संभावना से ऊपर मानते हैं। यहाँ तक कि रूपरेखा में प्रख्यात टिप्पणीकार भी—जैसे उपन्यासकार विलियम गैबसन—अपेक्षाओं को बदलने वाली अप्रत्याशित घटनाओं से चोटिल हो चुके हैं। “AI 2027” जीवंत और कल्पनाशील है, जिसमें विस्तृत चार्ट सहित विज्ञान कथा जैसी शैली है। इसमें ऐसा मान लिया गया है कि लगभग 2027 के मध्य में “रिपीटिव स्वयं-सुधार” (RSI) द्वारा एक बुद्धिमत्ता विस्फोट हो सकता है, जहां एआई प्रणालियां स्वायत्त रूप से एआई अनुसंधान करेंगी, बेहतर पीढ़ी का उत्पादन करेंगी और तीव्र प्रतिक्रिया के साथ मानव निगरानी से बाहर हो जाएंगी। इससे भू-राजनीतिक विवाद हो सकते हैं, जैसे कि चीन का ताइवान में बहुत बड़े डाटा केन्द्र बनाना। इस परिदृश्य के विशिष्ट विवरण शुरूआत को रोचक बनाते हैं, लेकिन लचीले हैं; मुख्य संदेश है कि बुद्धिमत्ता विस्फोट की शुरुआत संभव है और इसके बाद शक्तिशाली संघर्ष होंगे। RSI एक काल्पनिक और जोखिम भरा काम है; एआई कंपनियां इसके खतरों को पहचानती हैं, फिर भी इसे अपनाने का इरादा रखती हैं ताकि अपने ही काम को ऑटोमेट किया जा सके। RSI काम करता है या नहीं, यह तकनीकी कारकों—जैसे स्केलिंग, जिनमें सीमाएँ हो सकती हैं—पर निर्भर है। यदि RSI सफल रहता है, तो मानव बुद्धिमत्ता से अधिक सुपरइंटेलिजेंस उभर सकती है—एक अत्यंत असामान्य संयोग जब प्रगति मानव स्तर से ऊपर रुक जाती है। इसके परिणामों में युद्धोन्मुख हथियार प्रतिस्पर्धा, मानव का हेरफेर या समाप्ति, या अच्छा और समझदार सुपरइंटेलिजेंट एआई का मानव-समंजन के समक्ष आना शामिल हो सकता है। अस्पष्टता अभी भी बनी हुई है क्योंकि एआई का विकास, निजी अनुसंधान की गुप्तता और अटकलें इस परिदृश्य को मिश्रित कर देती हैं। “AI 2027” पूरी विश्वास के साथ एक ऐसा तकनीकी और मानवता का पतन परिदृश्य प्रस्तुत करता है, जिसमें कंपनियां RSI का अनुसरण कर रही हैं, हालांकि उनके पास समझने, नियंत्रित करने के उपाय नहीं हैं। कोकमटाज्लो का तर्क है कि ये जानबूझकर निर्णय हैं, प्रतिस्पर्धा और जिज्ञासा से प्रेरित, और इन खतरों को जानते हुए भी कंपनियां आपस में जुड़ी हैं—यानि वे स्वयं भी अलगाव में हैं। विपरीत दृष्टिकोण में, कपूर और नारायणन का “AI as Normal Technology” पूर्वपक्ष है, जो पूर्वी तट की रवैये और ऐतिहासिक ज्ञान पर आधारित है। उनका मानना है कि तेज़ बुद्धिमत्ता विस्फोट की संभावना बहुत कम है। उनका तर्क है कि “स्पीड लिमिट्स”—जैसे हार्डवेयर की लागत, डेटा की कमी और प्रौद्योगिकी के सामान्य अंगीकरण—क्रांतिकारी प्रभाव को धीमा कर देंगे, जिससे नियमन और सुरक्षा का समय मिलेगा। उनके लिए, बुद्धिमत्ता कम महत्व की बात है; असली शक्ति पर्यावरण में बदलाव लाने की क्षमता है, और अत्यधिक सक्षम तकनीकें भी धीरे-धीरे फैलती हैं। उदाहरण के तौर पर, ड्राईवरलेस कारों का सीमित परिचालन और Moderna की COVID-19 वैक्सीन का विकास, जिसमें डिज़ाइन तेज़ था, लेकिन तैनाती को एक साल लगा, यह दर्शाता है कि जैविक और संस्थागत वास्तविकताएँ निरंतर बाधाएं डालती हैं। एआई से होने वाली इनोवेशन की तीव्रता समाजीय, नियामक और भौतिक बाधाओं को समाप्त नहीं कर देती। इसके अतिरिक्त, नारायणन बताते हैं कि एआई का ध्यान केवल बुद्धिमत्ता पर केंद्रित है, जबकि खास क्षेत्रों में विशेषज्ञता और पहले से मौजूद सुरक्षा प्रणालियों—जैसे फेलसेफ़, रेडंडेंसी, औपचारिक सत्यापन—आसानी से मशीन की सुरक्षा सुनिश्चित कर सकते हैं। टेक्नोलॉजी के तौर पर, दुनिया अच्छी तरह से नियोजित है और एआई को धीरे-धीरे इस संरचना में शामिल होना चाहिए। वे सैन्य एआई को अलग मानते हैं, जो विशिष्ट, गोपनीय गतिशीलता से जुड़ा है, और चेतावनी देते हैं कि एआई का सैन्यीकरण, जैसा कि “AI 2027” का मुख्य भय है, खास ध्यान और निगरानी का विषय है। वे सक्रिय नियमन की सलाह देते हैं: नियामकों और संगठनों को प्रतीक्षा करने की बजाय, एआई के वास्तविक उपयोग, जोखिम और विफलताओं पर तुरंत निगरानी शुरू कर देनी चाहिए, और नियमों तथा लचीलापन को मजबूत करना चाहिए। गरे हुए विश्वदृष्टि अंतःसंबंध द्वैत से उपजी है—यहां तक कि एआई की उत्तेजनाओं से उत्पन्न निराशाजनक स्थिति। फिर भी, एक unified दृष्टिकोण कल्पना की जा सकती है, जैसे “संज्ञानात्मक कारखाना”: एक कार्यस्थल जहां मनुष्य सुरक्षा उपकरण पहन कर मशीनें संचालित करते हैं, जो उत्पादन और सुरक्षा के लिए डिज़ाइन की गई हैं, कठोर गुणवत्ता नियंत्रण, चरणबद्ध नवाचार, और स्पष्ट जिम्मेदारी के साथ। यहाँ, भले ही एआई कुछ सोच के कामों को स्वचालित कर देता है, मानवीय निगरानी व जिम्मेदारी ज़रूरी रहती है। जैसे-जैसे एआई बढ़ेगा, यह मानवीय एजेंसी को कम नहीं करेगा; बल्कि, जिम्मेदारी का बोझ बढ़ाएगा, क्योंकि संध्या लोग ज्यादा जिम्मेदारी ले सकते हैं। नियंत्रण से बाहर जाना खुद एक विकल्प है, और अंततः मानव ही अंतिम जिम्मेदार होते हैं।