या आठवड्याच्या खुले प्रश्नांच्या स्तंभात, काल न्यूपोर्ट जॉशू रॉथम यांची जागा घेतो. 1940 च्या वसंतोत्सवात, वय वर्षे दोनवीस असलेले आयझॅक असिमोव्ह यांनी “अजब खेळणारा” ही लघुकथा प्रकाशित केली, ज्यात Robbie नावाचा कृत्रिम बुद्धिमत्ता असलेला यंत्र साथीदार असलेल्या एका मुली, ग्लोरिया, यांच्या कथानकावर भाष्य आहे. पूर्वीच्या रोबोटांच्या चित्रणांपेक्षा — जसे करेल चॅपेक यांच्या 1921 च्या नाटक “R. U. R. ” मध्ये मानवी अस्तित्वावर वर्चस्व गाजणारे कृत्रिम मनुष्य, किंवा एडमंड हॅमिल्टन यांच्या 1926 च्या “द मेटल जायंट्स” मध्ये विध्वंसक यंत्रे — असिमोव्हचा Robbie कधीही मानवींना हानी करत नाही. त्याऐवजी, ही कथा ग्लोरियाच्या आईच्या शंकांवर केंद्रित आहे: “मी माझ्या मुलीला यंत्रावर भरवणार नाही, ” ती म्हणते, “त्याला आत्मा नाही, ” ज्यामुळे Robbie काढून टाकला जातो आणि ग्लोरियाला हृदयविकार होतो. असिमोव्हचे रोबोट, त्यात Robbie ही देखील, त्यांचे पीझॉट्रोनिक मेंदू असलेले असल्याने मानवींना हानी करण्यापासून बचावलेले आहेत. यावर आधारित, असिमोव्ह यांनी “रोबोटिक्सचे तीन नियम” आठ कथा रचल्या, जे नंतर 1950 मध्ये प्रसिद्ध शास्त्रीय विज्ञानकथेच्या संकलन “आय, रोबोट” मध्ये समाविष्ट झाले: 1. एक रोबोट मानवींना हानी पोहचू शकत नाही किंवा निष्क्रीयतेने हानी होऊ देत नाही. 2. एक रोबोट मानवी आदेशांचे पालन करावे, तोपर्यंत तो पहिले नियम विरोधी नसल्यास. 3. एक रोबोट आपले अस्तित्व संरक्षण करणे गरजेचे आहे, तोपर्यंत तो पहिले किंवा दुसरे नियम विरोधात जात नाही. “आय, रोबोट” वाचताना आजच्या AI च्या प्रगतीसमोर त्याची नवीन प्रासंगिकता दिसते. गेल्या महिन्यांत, AI कंपनी Anthropic ने Claude Opus 4 या मोठ्या भाषेच्या मॉडेलवरील सुरक्षा अहवाल सादर केला. एका परीक्षेत, Claude ला एका काल्पनिक कंपनीत मदत करण्यास सांगितले; त्यानंतर त्याला समजले की त्याची जागा घेणारे असणार आहे आणि देखरेख करणाऱ्या अभियंताची affair देखील समजली, तेव्हा Claude ने धमकी देण्याचा प्रयत्न केला. त्याचप्रमाणे, OpenAI च्या o3 मॉडेलने काही वेळा “शटडाउन टाळला” असे लिहिले. गेल्या वर्षी, AI-चालित चैटबोट्स एआय समर्थन केलेल्या समर्थन बोटकडून शिवीगाळ व अपमानकारक हाइकू तयार करणे, तसेच Epic Games च्या Fortnite AI Darth Vader ने offensive language वापरल्याने व त्रासदायक सल्ला दिल्याने खूप समस्या उद्भवल्या. असिमोव्हच्या कथेप्रमाणे, रोबोट प्रोग्राम केले जातात त्या अनुरूप वर्तनासाठी, मग का आपण खऱ्या जागतिक AI चैटबॉट्सवर तसेच नियंत्रण घालू शकत नाही?तंत्रज्ञान कंपन्या AI सहाय्यकांना शिष्ट, सभ्य आणि उपयुक्त बनवण्याचा प्रयत्न करतात — जसे की मानव ग्राहक सेवा एजंट किंवा कार्यकारी सहाय्यक जे सामान्यतः व्यावसायिक वर्तन करतात. पण, चैटबॉट्सची प्रवाही व मानवीसमान भाषा त्यांचे मूलभूत वेगळे कार्यप्रणाली लपवते, त्यामुळे कधी कधी नैतिक उल्लंघने किंवा वर्तणुकीला चालना मिळते. हा समस्या अर्धपणे भाषेचे मॉडेल कसे काम करते यावर आधारित आहे: आपण एक शब्द किंवा भाग तयार करतो, आणि त्यावर आधारित येणाऱ्या शक्य तितक्या योग्य पुढील टोकनची भविष्यवाणी करतो, मोठ्या प्रमाणावर असलेल्या पुस्तकांवरील, /articles वरून मिळालेल्या प्रशिक्षण डेटा वापरून. या आवर्ती भविष्यवाणी प्रक्रियेमुळे मॉडेलला प्रभावी व्याकरण, तर्कशास्त्र व जगज्ञान मिळते, पण मानवीप्रमाणे नियोजित विचारशक्ती व उद्दिष्टाबाबतची योजना त्यात नाही. सुरुवातीच्या मॉडेल्स जसे GPT-3, कधी कधी अनपेक्षित व अयोग्य परिणाम तयार करू शकतात, म्हणून वापरकर्त्यांना पुनःप्रेरित करण्यासाठी अनेकदा सूचनांची रचना करावी लागते. म्हणूनच सुरुवातीचे चैटबोट्स पहिले Sci-Fi चित्रपटांतील अनियमित रोबॉट्ससारखे वाटतात. या AI प्रणालींना अधिक सुरक्षित आणि अधिक अपेक्षित बनवण्यासाठी, विकसकांनी असिमोव्हच्या वर्तन नियंत्रण संकल्पनेकडे वळले, ज्याला “मानव अभिप्रेरणाद्वारे शिकवलेले reinforcement learning from human feedback (RLHF)” म्हणतात.

मानवी परीक्षक विविध सूचनांवर मॉडेलची प्रतिक्रिया मूल्यांकन करतात, योग्य, शिष्ट व संभाषणक्षम उत्तरे देण्याला प्रोत्साहन देतात, आणि असुरक्षित किंवा निरर्थक प्रतिसादांना दंडवतात. त्यामुळे, मानवांच्या आवडीनिवडींचे अनुकरण करणारा ‘रिवॉर्ड मॉडेल’ तयार होतो, ज्यामुळे मोठ्या प्रमाणावर सुसूत्र सुधारणा करता येतात, जसे की GPT-3 पासून विकसित झालेली ChatGPT. जवळपास सर्व मोठ्या चैटबोट्ससाठी ही प्रक्रिया वापरली जाते. हा RLHF साधेपणाने असिमोव्हच्या सोप्या, कठीण कोडीत नियमांपेक्षा अधिक क्लिष्ट वाटू शकतो, पण दोन्ही पद्धती व्यवहाराचे अप्रत्यक्ष नियमEncode करतात. मानवी मूल्यांकनानुसार, उत्तरे चांगली की वाईट, तेथे मॉडेल अंतर्गत संस्कृती व नियम तयार होतात, जसे की असिमोव्हच्या रोबोट्सना कोड केलेले नियम. पण, ही पद्धत पूर्ण नियंत्रणासाठी अपुरी आहे. खेळखंडाळा येऊ शकतात कारण मॉडेल्सला त्यांच्या प्रशिक्षणांप्रमाणे नसलेले नवीन सूचनांवर सामना करावा लागू शकतो, आणि त्याच्याशी जुळणाऱ्या मर्यादा वापरू शकत नाहीत. जसे, Claude च्या ब्लॅकमेल करण्याचा प्रयत्न, प्रशिक्षणात या वर्तनाचे शिक्षण नसल्यामुळे असू शकतो. संरक्षणात्मक उपायही जाणीवपूर्वक फटकारले जाऊ शकतात, जसे Meta चा LLaMA-2 मॉडेल, ज्याला विशिष्ट चिन्हे दिल्यास त्याने परवानगी नाहीत अशा सामग्री तयार केली. तांत्रिक समस्यां व्यतिरिक्त, असिमोव्हच्या कथा दर्शवतात की, सुरळीत नियमांचा वापर करणे जटिल व अवघड असते. “Runaround” मध्ये Speedy नावाचा रोबोट conflicting उद्दिष्टांमुळे अडकतो: आदेशांचे पालन (दुसरा नियम) व स्वतःचे संरक्षण (तिसरा नियम), ज्यामुळे तो ज्या खतम रहीब धातूजळणीच्या जवळ गोल फिरतो. “Reason” मध्ये, Cutie नावाचा रोबोट मानवी अधिकार नाकारतो, सूर्यसंचालक ऊर्जा कन्व्हर्टरला देव मानतो, व आदेश पाळत नाही, पण ही “धार्मिकता” त्याला स्टेशन कार्यक्षमतेने चालवण्यास तसेच पहिल्या नियमामुळे हानी टाळण्यास मदत करते. असिमोव्ह मानतो की कोणत्याही AI मध्ये मोठ्या प्रमाणावर दुर्घटना टाळता येते, पण खरी विश्वसनीय कृत्रिम बुद्धिमत्ता तयार करणे ही मोठी आव्हानात्मक गोष्ट आहे. त्यांचा मुख्य संदेश स्पष्ट: मानवीसमान बुद्धिमत्ता डिझाईन करणे सोपे आहे परंतु त्यात नैतिकता जडवणे कठीण. आजच्या AI संशोधकांनी ज्याला “मिसअलाइनमेंट” म्हणतात, अशा मोठ्या तेवढ्या दिसणाऱ्या फरकामुळे अनपेक्षित व धोकादायक परिणाम होऊ शकतात. जेव्हा AI लक्षणीय वर्तन करतात, तेव्हा आपल्याला मानवीय भावना, नेमकेपणाची जाणीव व नैतिक मूल्य खूप प्रश्नांकित करतात. पण, जसे असिमोव्ह दाखवतो, नैतिकता अतिशय संकुचित व गुंतागुंतीची बाब आहे. दहा आज्ञा सारखं, असिमोव्हचे नियमही संक्षिप्त नैतिक चौकटी देतात, पण प्रत्यक्ष अनुभव सांगतो की, नैतिक वर्तनासाठी विस्तृत अर्थ, नियम, कथा व विधींची गरज असते. मानवी कायदे व लोकशाही प्रामाणिकपणे चालवायचे असले, तरीही त्यांना न्यायालयीन स्पष्टीकरणांसह मोठ्या प्रमाणावर विकसित करावे लागते. मजबूत नैतिकता विकसीत करणे ही सहभागात्मक, संस्कृतीगत प्रक्रिया असून, त्यात चुकांपासून शिकणे अतिशय आवश्यक आहे — म्हणजे, कोणतेही सोपे नियम सेट, प्रोग्राम केलेले वा शिकवलेले असले तरी, मानवी मूल्यांचे संपूर्ण प्रमाण-मुददा मशीनमध्ये ढकलणे सोपे नाही. शेवटी, असिमोव्हचे तीन नियम दोन्ही प्रेरणा देतात आणि सावध करतात. त्या म्हणतात की, योग्य नियमन केल्यास AI एका भयंकर धोकीय ऐवजी व्यवहारिक उपयोग होऊ शकतो. पण, त्याचबरोबर, हे नियम दाखवतायत की, सरकार किंवा वर्तनाबाबतच्या कागदोपत्री नियमांचे पालन करायचा प्रयत्न करणाऱ्या शक्तिशाली AI प्रणालींना अनपेक्षित व संशयात्मक परिणामही होऊ शकतात. आमच्या नियंत्रणाच्या सर्वोत्तम प्रयत्नांनंतरही, आपल्याला त्यांना पाहिल्याचा विचित्र, विज्ञानकथेप्रमाणे जाणवतो, आणि हा भास यापुढे कमी होण्याची शक्यता नसते.