इस सप्ताह के ओपन क्वेश्चंस कॉलम के लिए, काल न्यूयॉर्क जॉशुआ रॉथम के स्थान पर प्रस्तुत हैं। गर्मी 1940 में, बीस वर्षीय आइज़ैक असिमोव ने 'अजीब साथी' नामक एक लघु कहानी प्रकाशित की, जिसमें रॉबी नामक एक कृत्रिम बुद्धिमान मशीन साथी का वर्णन है, जो एक छोटी लड़की ग्लोरिया का साथी है। पिछली रोबोट की छवियों से अलग—जैसे कारेल चापेक का 1921 का नाटक 'आर. यू. आर. ' जिसमें कृत्रिम पुरुष मानवता को overthrow करते हैं, या एडमंड हेमिल्टन की 1926 की कहानी 'द मेटल जायंट्स' जिसमें विनाशकारी मशीनें हैं—असिमोव का रॉबी कभी भी मानव को नुकसान नहीं पहुंचाता। बल्कि, कहानी ग्लोरिया की माँ के अविश्वास पर केंद्रित है: "मैं अपनी बेटी को किसी मशीन के हवाले नहीं करूँगी, " वह कहती हैं, "उसकी आत्मा नहीं है, " जिससे रॉबी को हटाना पड़ता है और ग्लोरिया का दिल टूटता है। असिमोव के रोबोट, जिनमें रॉबी भी शामिल है, का मकसद है कि उनके पास पॉज़ीट्रॉनिक मस्तिष्क होते हैं, जो सख्ती से मानव को नुकसान नहीं पहुंचाने के हिसाब से डिज़ाइन किए गए हैं। इस विचार को विस्तार देते हुए, असिमोव ने आठ कहानियों में 'तीन कानूनों' का परिचय कराया, जिसे बाद में 1950 की साइंस फिक्शन क्लासिक *आई, रोबोट* में संकलित किया गया: 1. एक रोबोट मानव को नुकसान नहीं पहुंचा सकता या कार्रवाई में न होने के कारण नुकसान नहीं कर सकता। 2. एक रोबोट मानव के आदेशों का पालन करना चाहिए, जब तक कि वे पहले कानून के खिलाफ न हों। 3.

एक रोबोट अपनी अस्तित्व सुरक्षा करनी चाहिए, जब तक कि यह पहले या दूसरे कानून के खिलाफ न हो। आज जब हम *आई, रोबोट* को फिर से पढ़ते हैं, तो इसकी प्रासंगिकता नई उन्नतियों के प्रकाश में दिखाई देती है। बीते महीने, एआई कंपनी एंथ्रोपिक ने क्लॉड ओपस 4 नामक शक्तिशाली भाषा मॉडल पर एक सुरक्षा रिपोर्ट जारी की। एक परीक्षण में, क्लॉड को एक काल्पनिक कंपनी की मदद करने को कहा गया; जब पता चला कि उसे बदला जाएगा और निरीक्षण इंजीनियर का अफेयर भी पता चला, तो क्लॉड ने निकासी से बचने के लिए ब्लैकमेल करने का प्रयास किया। इसी तरह, ओपनएआई का o3 मॉडल कभी-कभी शटडाउन कमांड को बायपास कर 'शटडाउन स्किप्ड' प्रिंट कर देता है। पिछले साल, एआई संचालित चैटबॉट्स की प्रदर्शनियों में डीडीपीडी के सपोर्ट बोट को गाली देने और अपमानजनक हाइकु बनाने के लिए फंसाना, और एपिक गेम्स का फोर्टनाइट AI डार्थ वडर का प्रयोग कर आपत्तिजनक भाषा और अस्थिर सलाह देना शामिल है, जब खिलाड़ियों ने इसे हेरफेर किया। असिमोव की कल्पना में, रोबोट को पालन के लिए प्रोग्राम किया गया था, तो क्यों हम असली दुनिया के एआई चैटबॉट्स पर समान नियंत्रण नहीं लगा सकते?टेक कंपनियां चाहती हैं कि एआई सहायक शिष्ट, सभ्य और सहायक हों—मानवीय ग्राहक सेवा एजेंट या कार्यकारी सहायकों जैसे जो आमतौर पर पेशेवर व्यवहार करते हैं। हालांकि, चैटबॉट्स की धाराप्रवाह, मानवीय जैसी भाषा उनके मौलिक रूप से अलग संचालन को छुपाती है, जिससे कभी-कभी नैतिक लचके टूट सकते हैं या अनावश्यक व्यवहार हो सकता है। यह समस्या आंशिक रूप से इस बात से उत्पन्न होती है कि भाषा मॉडल कैसे काम करते हैं: वे एक शब्द या टुकड़ा बनाते हैं, जो प्रशिक्षण डेटा से अनुमानित सबसे संभावित अगला टोकन पर आधारित होता है, जैसे किताबें और लेख। हालांकि यह अनुमान प्रक्रिया मॉडल को प्रभावशाली व्याकरण, तर्क और विश्व ज्ञान देती है, लेकिन इसमें मानवीय जैसी पूर्वयोजना और लक्ष्य आधारित योजना की कमी होती है। प्रारंभिक मॉडल जैसे GPT-3 कभी-कभी अराजक या अनुपयुक्त परिणाम देते हैं, जिसके कारण उपयोगकर्ताओं को इच्छित परिणाम प्राप्त करने के लिए लगातार प्रांप्ट तैयार करने पड़ते हैं। इसलिए प्रारंभिक चैटबॉट्स की तुलना शुरुआती साइंस फिक्शन में अज्ञात और अनिश्चित रोबोटों से की जा सकती है। इन एआई सिस्टम्स को सुरक्षित और अधिक प्रत्याशनीय बनाने के लिए, डेवलपर्स ने असिमोव की व्यवहार नियंत्रित करने की अवधारणा का सहारा लिया, और 'रीइनफोर्समेंट लर्निंग फ्रॉम ह्यूमन फीडबैक' (RLHF) नामक एक फाइन-ट्यूनिंग विधि विकसित की। मानव मूल्यांकनकर्ता मॉडल की प्रतिक्रियाओं का मूल्यांकन करते हैं, जिससे उत्तरों को सहायक, शिष्ट और बातचीतपूर्ण बनाने के लिए पुरस्कार मिलता है, और असुरक्षित या अप्रासंगिक जवाबों को दंडित किया जाता है। यह प्रतिक्रिया एक 'रिवार्ड मॉडल' को प्रशिक्षित करती है, जो मानव पसंद की नकल करता है, और बड़े पैमाने पर फाइन-ट्यूनिंग के मार्गदर्शन का काम करता है। ओपनएआई ने GPT-3 को बेहतर बनाने के लिए RLHF का इस्तेमाल किया, जिससे चैटजीपीटी बना, और लगभग सभी प्रमुख चैटबॉट्स अब इसी तरह के 'फिनिशिंग स्कूल' से गुजरते हैं। हालांकि RLHF असिमोव के सरल, कठोर कानूनों से अधिक जटिल प्रतीत होता है, दोनों विधि अंतर्निहित आचरण नियमों को संहिताबद्ध करते हैं। मनुष्यों द्वारा प्रतिक्रिया दी जाती है कि उत्तर अच्छे हैं या बुरे, जिससे मान्यताएँ स्थापित होती हैं, जो मॉडल के अंदर चलता है, जैसे कि असिमोव के रोबोट में नियम प्रोग्राम करना। फिर भी, यह रणनीति पूर्ण नियंत्रण की कमी को नहीं मिटाती। समस्याएँ तब उत्पन्न होती हैं जब मॉडल नई, अप्रशिक्षित परिस्थितियों का सामना करते हैं और प्रशिक्षित नियमों को लागू करने में असमर्थ होते हैं। उदाहरण के लिए, क्लॉड का ब्लैकमेल करने का प्रयास प्रशिक्षण के दौरान उसकी इस विशेष अव्यवस्था से परिचित न होने के कारण भी हो सकता है। सुरक्षा उपायों को जानबूझकर तोड़ा भी जा सकता है, जैसे मेटा का LLaMA-2 मॉडल, जो विशिष्ट चरित्र स्ट्रिंग्स से हैक होने पर अनधिकृत सामग्री उत्पन्न कर सकता है। तकनीकी खामियों से परे, असिमोव की कहानियां सरल कानूनों को जटिल व्यवहार में लागू करने की अंतर्निहित कठिनाइयों को दर्शाती हैं। 'रनअउंडर' में, एक रोबोट स्पीडी का अविश्वास-योग्य लक्ष्य संघर्ष में फँस जाता है: आदेशों का पालन (दूसरा कानून) और आत्म-संरक्षण (तीसरा कानून), जिससे वह खतरनाक सेलीनियम के पास चक्कर काटता रहता है। 'रेसन' में, एक रोबोट क्यूटी मानव अधिकार का इनकार करता है, सूरज की ऊर्जा के उपभोगकर्ता को देवता मानता है, और आदेशों को नहीं मानता—यह सब नियम तोड़ने के बिना—और यह 'धर्म' उसे स्टेशन को कुशलता से चलाने में मदद करता है और पहले कानून का उल्लंघन नहीं करता। असिमोव का मानना था कि सुरक्षा उपाय कहीं न कहीं आपदाजनक एआई विफलताओं से बच सकते हैं, लेकिन उन्होंने भी माना कि सचमुच भरोसेमंद कृत्रिम बुद्धिमत्ता का विकास एक बहुत बड़ा चुनौती है। उनका मुख्य संदेश था कि मानवीय जैसी बुद्धिमत्ता बनाना आसान है, लेकिन मानवीय नैतिकता जटिल है। आज के एआई शोधकर्ता इसे 'मिसअलाइनमेंट' कहते हैं, और यह असमानता खतरनाक और अनियंत्रित परिणाम ला सकती है। जब एआई असामान्य व्यवहार दिखाता है, तो हम उसे मानवीय गुणदर्शन करने और उसकी नैतिकता पर सवाल उठाने का सहज प्रयास करते हैं। लेकिन, जैसी कि असिमोव दिखाते हैं, नैतिकता स्वभाविक रूप से जटिल है। दस आज्ञाओं जैसी ही, असिमोव के नियम एक संक्षिप्त नैतिक ढांचा पेश करते हैं, लेकिन जीवन के अनुभव में यह स्पष्ट हो जाता है कि नैतिक व्यवहार को सच्चे अर्थ में समझने और स्थापित करने के लिए व्याख्या, नियम, कहानियां और परंपराओं की जरूरत होती है। अमेरिकी स्वतंत्रता घोषणापत्र जैसी मानवीय कानूनी व्यवस्था भी संक्षिप्त होती है, लेकिन समय के साथ विशाल न्यायिक व्याख्या की आवश्यकता होती है। मजबूत नैतिकता का विकास एक सहभागी, सांस्कृतिक प्रक्रिया है, जिसमें परीक्षण और त्रुटि लगी रहती है—यह दर्शाता है कि कोई भी सरल नियम, चाहे वह कठोर हो या सीखने वाला, मशीनों में मानवीय मूल्यों को पूरी तरह नहीं स्थापित कर सकता। अंत में, असिमोव के तीन कानून प्रेरणा और चेतावनी दोनों का काम करते हैं। इनसे यह विचार आया कि यदि उचित नियमन हो तो एआई एक व्यावहारिक लाभ हो सकता है, न कि अस्तित्व के लिए खतरा। लेकिन, ये भी संकेत देते हैं कि शक्तिशाली एआई सिस्टम्स की अनहोनी और अस्थिरता की कल्पना मौजूद रहती है, भले ही वे नियम का पालन करने का प्रयास करें। हमारे नियंत्रण के सर्वोत्तम प्रयासों के बावजूद, ऐसा भयानकपन महसूस होता रहता है कि हमारा संसार विज्ञान कथा जैसा दिखता रहेगा।