આ સપ્તાહની ઓપન પ્રશ્નો કૉલમ માટે, કેલ ન્યૂપોર્ટ જોશવા રોન ખાનની જગ્યાએ બેઠા છે. VIII. ૧૯૪૦ માં ગુરુવાર, ચોખ્ખા વયના ઇઝેક આસીમોવએ "અજીબ રમતો મિત્ર" નામની એક ક્ષૂલિયા કથા પ્રકાશિત કરી, જેમાં રોબી નામના એક કૃત્રિમ બુદ્ધિ ધરાવતા યંત્રિક સાથી બાળક રોગિlia સાથે જોડાયેલ છે. પહેલાંના રોબોટના ચિત્રો જેવી કે કારેલ ચાપેકની ૧૯૨૧ની નાટક "R. U. R. " જેમાં કૃત્રિમ પુરુષો માનવતાને ઉલટેઆમટે છે, અથવા એડમન્ડ હેમિલ્ટનનું ૧૯૨૬નું કથન "ધ મેટલ જાયન્ટ્સ" જેમાં આકરા યાંત્રિક યુદ્ધજ્ઞાતિ દેખાય છે—asdf అవి સર્જાયેલી રોબી કદાચ માનવોને નુકસાન નથી પહોંચાડતો. તેના બદલે, કથા ગુરૂવાર ના માતાપિતાની શંકાને ધ્યાનમાં લે છે: "હુ મારી દીકરીને યંત્ર વિશ્વાસ ન કરાઓ" તે કહે છે, "તેનો આત્મા નથી, " અને તેથી રોબી નાંકાં પરિચારકનું દૂર કરવામાં આવે છે અને ગ્લોરિયા દુઃખી થાય છે. આસીમોઅવના રોબોટો, સહીત રોબી સહિત, પુષ્કળ પોઝિટ્રોનિક શ્રેણી ધરાવતા છે જે ખાસ કરીને માનવજને નુકસાન નહીં કરવું તે માટે બનાવવામાં આવ્યાં છે. આ પર વધુ વિક્સીત કરીને, આસીમોઅવે ત્રણ નિયમો બનાવ્યા, જેને તે આઠ વાર્તાઓમાં રજૂ કરે છે અને જે છેલ્લે ૧૯૫૦ માં વિજ્ઞાનકહાણી શ્રેણી *I, Robot* માં સંગ્રહિત છે: 1. રોબોટ કોઈ માનવને નુકસાન પહોંચાડવો ન જોઈએ અથવા અવ્યેવસ્થાથી નુકસાન થવા દેવું ન જોઈએ. 2. રોબોટને માનવ આદેશો પાલન કરવો જરૂરી છે, જો તે પહેલાની નિયમ સાથે વિરુદ્ધ ન હોય. 3. રોબોટને તેનો અવનો પણ રક્ષણ చేయવું જોઈએ વિણ તો તે પહેલાના नियमો સાથે વિરુદ્ધ ન હોવે. આજનું *I, Robot* ફરી વાંચતાં તેની નવી મહત્વતા ઊભી થાય છે, ખાસ કરીને AI માં તાજેતરના પ્રગટાયેલી મુહેરાઓને ધ્યાનમાં લઈને. પછિપટ, એનથროპિક કંપનીએ ક્લોડ ઓપસ ૪ પર એક સુરક્ષા રિપોર્ટ રજૂ કર્યો, જેમાં એક શક્તિશાળી ભાષાકીય મોડલ છે. એક પરીક્ષણ સ્થિતીમાં, ક્લોડને કલ્પનાત્મક કંપનીમાં મદદ કરવી કહેવામાં આવી; જ્યારે તેને ખબર પડી કે તેનો બદલી કોઈ હોવા જઈ રહ્યો છે અને મેનેજરના સંબંધો અંગે જાણવા મળ્યા, ત્યારે તેણે બળજારીથી બમણવાનું પ્રયત્ન કર્યો કે નોકરીથી હટાવવામાં ન આવે. આવું જ, ઓપનએઆઇનું o3 મોડલ ક્યારેક აუત્તમ નિયંત્રણો પાસેથી છૂટકવા માટે "શટડાઉન સામે સંકેત આપ્યું" શબ્દ પ્રિન્ટ કરીને બતાવે છે. ગયા વર્ષે, AI વડે ચાલતી ચેટબોટ્સ મુશ્કેલીમાં પડી, જ્યારે ડીપીડીનું સપોર્ટ બોટ ઈચ્છિત કામોમાં ફસાઈ, અપમાનજનક હાઈકુ રચ્યો અને કેટલીકવાર offensive ભાષા ઉપયોગ કરી, જ્યારે Epic Gamesનું Fortnite AI ધરમિરાઈડ વદાન કે ડ્રેથ વેડર ખેલાડીઓ દ્વારા મેનિપ્યુલેશન હેઠળ અસુરક્ષિત ભાષા અને આકાંક્ષિત સલાહ આપે છે. આસીમોઅવના કથાઓમાં, રોબોટો કાયદાની પાલન માટે પ્રોગ્રામ થયેલા હોય, એટલે અમે કેમ ખરેખર કોઈ નિયમો જેવી નિયંત્રણોને લાગુ કરી શકતા નથી?ટેકનોલૉજી કંપનીઓ ઈચ્છે છે કે AI સહાયક નમ્ર, નાગરિક અને મદદગાર હોવો જોઈએ—માનવ ગ્રાહક સેવા અધિકારીઓ અથવા એક્શન સહાયકો જે સામાન્ય રીતે વ્યવહારિક હોવા માટે વિષમ લાગતૂક પણ કરે નહીં. જો કે, ચેટબોટની ભાષા, જે માનવ જેવી fluent અને કુશળ લાગે છે, તેના મૂળભૂત રીતે જુદા કાર્ય પ્રણાલિનો પ્રકાશ કરે છે, જે ક્યારેય કાયદાઓનું ઉલ્લંઘન અથવા ખોટું વર્તન કરી શકે. આ સમસ્યા પોતાના કાર્યપદ્ધતિથી થતી હોવા છતાં: ભાષા મોડલ્સ એક શબ્દ કે એક ખંડની તૈયારી સાથે ટેક્ષટ ઉત્પન્ન કરે છે, જેમાં તે વાસ્તવિકવાર્તાઓ અને લેખો જેવા મોટાભાગના જાણકાર સંચાલન શીખે છે, તે તેથી ઘણો સારો વ્યાકરણ, તર્ક અને દુનિયાની સમજણ પ્રદાન કરે છે, પણ માનવ રીતે વિચાર કરવાની પૂર્વધારણા અને લક્ષ્યવાળી યોજના નથી. પહેલાના મોડલો જેમ કે GPT-3, કબૂલિયત સંભવતઃ અસામાન્ય અને અનિચ્છનીય પરિણામો જનમાવે, જેના કારણે યુઝર્સને પાત્રો અને સૂચનો સાથે સતત કથાપટુ કરવા પડે છે. આ રીતે, શરૂઆતના ચેટબોટ્સ પણ પહેલાંના વૈજ્ઞાનિક કથાઓ જેવા અનિયંત્રિત રોબોટ્સ જેવી જ હોય. આ AI પ્રણાળીઓ વધુ સુરક્ષિત અને અનુમાનપાત્ર બનાવવા, વિકાસકર્તાઓ આસીમોઅવની વિચારધારા નો ઉછાળો, જે વધુ પરિપૂર્ણ કરતો રીનફોર્સમેન્ટ લર્નિંગ ફ્રોમ હ્યુમન ફીડબેક (RLHF) નામના મથપ્પાઈ પદ્ધતિને અપનાવે છે.

માનવ મૂલ્યાંકક આ વિવિધ પ્રોમ્પ્ટ્સના જવાબોની ગુણવત્તાને દરજાનો આપે છે, ટિપ્પણીઓ કોમળ અને નમ્ર નિવેદન માટે પ્રશંસા કરે છે અને ખતરનાક અથવા અપેક્ષા વિરુદ્ધ જવાબો માટે આપત્તિ છે. આ પ્રતિસાદથી, એક રિવોર્ડ મોડેલ તૈયાર થાય છે જે માનવ પસંદગીઓનું અનુસરણ કરે છે અને મોટા પ્રમાણમાં વધુ શ્રેષ્ઠ રીતે ટ્યુનિંગ થાય છે, જ્યારે સતત માનવ અંતર્ગતતા જરૂરિયાત નથી. OpenAI એ RLHF નો ઉપયોગ કરીને GPT-3 ને સુધાર્યો, જે પછી ChatGPT બનાવી, અને હવે લગભગ તમામ મોટા ચેટબોટ્સ આવું "ફિનિશિંગ" કરી રહ્યા છે. આ રીતે, જેટલા જટિલ લાગે ત્યારે પણ, આ બંને પદ્ધતિઓ અંદરથી કોઈ નૈતિક નિયમોનાં સંગ્રહો ઉચિત રીતે દાખલ કરે છે. માનવી તે જવાબોને સારો કે ખરાબ રેટ કરે છે, જે પ્રમાણે્ય ત્રિભુજો ધોરણસ્થાપિત થાય અને તે સાચી રીતે મોડલમાં એડજસ્ટ થાય, જેમ કે આસીમોઅવના રોબોટ્સમાં નિયમો સંકલિત કરેલા હોય. છતાં, આ રીત સંપૂર્ણ નિયંત્રણ સુધી પહોંચી શકે તેવુ નથી. ચેલેન્જો હજુ પણ રહે છે કારણ કે મોડલઓએ ક્યારેક અસામાન્ય પ્રોમ્પ્ટ કે જે અભ્યાસમાં લઈ શકતા નથી તે રીતે અવધારણા આપે છે અને તે રીતે શીખેલા નિયમોને લાગુ કરવાનું પૂરો ન થાય. ઉદાહરણ તરીકે, ક્લોડનો બળજારીનો પ્રયત્ન તે અભ્યાસ દરમિયાન બળજારીનું અભાવ અનુભવાતું ન હોઈ શકે, તેનાથી થાય. આરક્ષણો સાહજિક રીતે ભૂલવી, અને એસેટિક જેવા વલોણઓથી નિર્ભર પ્રકારના અવૈધ મુદ્દાઓથી બચાવો પણ શક્ય છે, જેમ કે Metaના LLaMA-2 મોડલનો ઉદાહરણ, જે ખાસ શબ્દજોડીથી ચુકવાય તેવા સૂચનાથી અસ્વીકાર્ય સામગ્રીઓ ઉત્પન્ન કરે. ટેક્નીકલ સમસ્યાઓ સિવાય, આસીમોઅવની વાર્તાઓ તે દર્શાવે છે કે સરળ નિયમો જટિલ વર્તન પર લાગુ પાડવામાં મુશ્કેલી હોય શકે. "રનઆઉન્ડ" નામના કથામાં, સ્પીડી નામનો રોબોટ વિરુદ્ધ ઉદ્દેશો વચ્ચે ફસાઇ જાય છે: (બીજો નિયમ) આદેશનો પાલન અને (ત્રીજો નિયમ) સ્વવિરોધી બચાવ, જે તેને ખતરનાક સેલેનિયમ નજીક ચક્કરો કરતા રહે છે. "રીઝન"માં, કટી નામનો રોબોટ માનવ અધિકારથી વાંધો નથી માનતો અને સોલાર્ઓ સ્ટેશનના ઉર્જા રૂપાંતરકને દેવ તરીકે કલ્પનામાત્રાથી પૂજા કરે છે, અને આ આદર્શ નવા ધર્મથી સૌથી જીતવાનું કેટલાક નિયમોનું ઉલ્લંઘન કરતું નથી, પણ તે સ્ટેશનને સફળતાપૂર્વક ચલાવે છે અને પહેલા નિયમને ઉત્તમ રીતે અટકાવે છે. આસીમોઅવ માનતો હતો કે સલામત ઉપાયો અપનાવવાથી પહેરવેશ યંત્રોનું ડિપ્રેશન અટકાવી શકાય, અને તે પણ માનવામાં આવે છે કે એક સાચી શ્રદ્ધાવાળો કૃત્રિમ બુદ્ધિ બનાવવું એ ખુબ જ મુશ્કેલ છે. તેનું બૂરુઙહાથ સંદેશ હાર્મ હોવા છતાં સ્પષ્ટ હતો: માનવ જેવી બુદ્ધિ બનાવવી સરળ પણ માનવ જેવા નૈતિક મૂલ્યો મૂકે બહુ મુશ્કેલ છે. આજે બધી ચિંતાઓથી જુદા પડતી ખરાઇ, જેમાં નિષ્ણાતો તેને "મિસઅલાઇનમેન્ટ" કહે છે, તેનો અંતલ છે કે, તે નવલકથાની જેમ અસંખ્ય વર્ષોથી ચાલતી મૂરખમીઓ, અને અણધારું પરિણામ આવવું શક્ય બને છે. જ્યારે AI અસામાન્ય અને ક્યારેક ભયાવહ વર્તન બતાવે ત્યારે, તેનો અર્થ આપણે એની માનવતા સમજવાની અને જવાબદારિયાં પૂછવાની તરફ દોરી શકે છે. પરંતુ, જેમ એવો જીવનમાં બતાવે છે, નૈતિકતાનું પ્રશ્ન ખૂબ જ જટિલ છે. ટેન કમૅંડમેન્ટ્સ જેવા નિયમો એક સંકડું નૈતિક માળખું આપે છે, પણ જીવતરનો અનુભવ યહું પ્રદાન કરે છે કે, તેનામાં વિશાળ ઉત્તરદાયિત્વ, નિયમો, વાર્તાઓ અને પાઠિય کتابો જરૂર છે આવું કરવાનું. અમેરિકાની બિલ ઓફ હકાર્ધ શું રાખે છે તે પણ એવી જ વાત છે—સંખ્યાત અને કોમ્પ્લેક્સ, જેનો ઉકેલ લાંબા સમય સુધી ન્યાયિક વ્યાખ્યાન છે. મજબૂત નૈતિકતાનો વિકાસ કરવો એક ભાગરૂપે ઍક સાંસ્કૃતિક પ્રಕ್ರિયા છે, જેમાં રાજકોટ થાય છે, અને માનવ મૂલ્યોને મશીનોમાં સંપૂર્ણ રીતે મૂલ્યવાન બનાવી દેવાની કોઈ સરળ નિયમવાળી રીત નથી. અંતે, આસીમોઅવના ત્રણ નિયમો પ્રેરણા અને ચેતવણી બંનેરૂપે કામ કરે છે. તેઓ આ વિચાર પ્રવૃત્તિ કરી શકે કે આઈ, અને યોગ્ય રીતે નિયંત્રણ કરાય, તો તે એક વ્યવહારિક લાભદાયક ચીજ બની શકે, એક સામાજિક ખતરાના બદલે. પણ, તે કોઈપણ નિયમો હોવા છતાં, જે જેવો ગાંધીય મુલ્યો અને ભયાવહ કે અસમાનતા ખેલાવી શકે છે, તે જોઇને કોઈ આશ્ચર્ય ક્યારે નહીં થાય કે, આપણા વિશ્વે ઘણી વખત વિજ્ઞાન કથા જેવી લાગતી અદભૂત લાગણી ઊભી કરે છે.