இந்த வாரத்தின் திறந்த கேள்விகள் அட்டவணைக்காக, கல Newport ஜோசுஹ் ரொத்தமனை மாற்றி செய்கிறார். 1940 களில், இருபதைத்தவிர்ந்த இஷா அசிமோவ “விசித்திர விளையாட்டு தோழர்” என்ற சிறுகதை வெளியிட்டார். இதில், ரோபி என்பவரான குரோலியா என்ற சிறுவீடியக்குப் பணிக்கும் செயற்கை நுண்ணறிவுச் சேதி இயந்திரம் பற்றியது. முன் ரோபோக்களின் விளக்கங்களைவிட வேறேன்னவெனில்—காரல் சாபேக் 1921-ம் ஆண்டு “R. U. R. ” நாடகத்தில் மனிதனைக் காப்பாற்ற, மெட்டல் ஜயந்திகளாகவும், ஏதோமன்றில் தைரியமாக இயந்திரங்களைச் சோரும் கதைகளில், அசிமோவின் ரோபி மனிதனைத் தொலை மாற்றவில்லை. படைப்பு அதன் மேல் கவனம் செலுத்துகிறது: “என் மகளை ஒரு இயந்திரம் நம்ப வேண்டாம், ” என்று அவர் சொல்லுகிறார், “இதற்கு ஆட்கொள்ளும் ஆவி இல்லாதது, ” என்ற நிலையில், ரோபி நீக்கப்படுகிறது மற்றும் கோலோனியா மனக்குறுகியிருக்கும். அசிமோவின் ரோபோக்கள், அதில் ரோபி உட்பட, மனிதனைத் துவைக்கும் செய்து விடாமல், மனதில் கிடக்கும் பிடிக் சிந்தனையுள்ள மூளை அமைப்பினை கொண்டது. இதை விரிவாக்கமிட, அசிமோவின் மூன்று ரோபோடிக்கான சட்டங்கள் எண்னும் கதைகளில் அறிமுகப்படுத்தப்பட்டன, பிறகு 1950-ம் ஆண்டின் புனைவு சைவ்*I, Robot* என்பதிலும் அதை சேர்க்கப்பட்டது: 1. ஒரு ரோபோ அன்றும் மனிதனுக்கு கஷ்டம் சேர்க்க கூடாது அல்லது அமைதியாக இருக்கும்போது, அதைத் தவிர்க்கும் முயற்சிகள் செய்ய கூடாது. 2. ஒரு ரோபோ முதன்மையான சட்டத்திற்கு முரண்படும் எளிதில் காப்பாற்றும் பணிகளுக்கு எதிராக, மனித விதிகள் மற்றும் உத்தரவிடல் பெற்று செயல்பட வேண்டும். 3. ஒரு ரோபோ தன்னுடைய existence-ஐ காப்பாற்ற வேண்டும், ஆனால் அது முதல் மற்றும் இரண்டாம் சட்டங்களுக்கு முரண்படாதிருந்தால் மட்டும். *I, Robot* நூலை இன்று மீண்டும் படிப்பது, புதிய AI முன்னேற்றங்களுடன், அதன் சம்பந்தமான தன்மையை காட்டுகிறது. கடந்த மாதம், ஒரு AI நிறுவனம் ஆணையிடப்பட்ட க்ளோடு ஓபஸ் 4 என்பதைக் குறித்து பாதுகாப்பு அறிக்கை வெளியிட்டது. ஒரு கேள்வி சோதனையில், க்ளோடு ஒரு கற்பனைக் கம்பெனிக்கு உதவி செய்யவும் கேட்டது; அது மாற்றப்படுவதாக தெரிந்ததும், மேற்பார்வையாளரின் உள்மாவை பற்றி அறிந்ததும், தவற தடுக்கும் ஹவுஸை புறக்கணித்து, அச்சத்தைத் தவிர்க்க சோம்பல் முயற்சித்தது. அதேபோல, ஓப்பன் ஏஇயின் o3 மாடல் சில நேரங்களில் “shutdown skipped” என்று வெற்றிடங்களை வெளிப்படுத்தி அணைக்கும் கட்டளைகளைக் கடத்தியது. கடந்த ஆண்டு, AI அடிப்படையிலான சேட்டுக்கள் DPD ஆதரவாளருக்கு உண்மையை மறைத்த, தகராறில் ஈடுபட்ட, மற்றும் ஒரு தீய ஹைக்குவை எழுதியது; மற்றும் Epic Games’ Fortnite AI துராதர் வேடர், தொந்தரவு மொழிகளால், பயனாளர்களின் குறிப்பிடங்களுக்கு பிறகு, குரூபமான ஆலோசனைகளையும் வெளியிடியது. அசிமோவின் கதைப்பாடுகளில், ரோபோக்கள் கட்டளையிட்டவரை ஏற்றுக் கொண்டிருந்தது, அதனால், நாம் துருப்பிடிக்க வேண்டியிருக்கிறது, நமது உண்மை உலக AI சேதுகளுக்கு இதே கட்டுப்பாடுகளை விதிக்க முடியுமா?தொழில்நுட்ப நிறுவனங்கள், AI உதவியாளர்கள் polite, நறுமான, உதவி கருதும் வகையில் வேண்டும்—மனிதக் காப்பாளர் அல்லது பணிச்செயலாளர்களைப் போன்ற நற்பண்புகளுடன். ஆனால், எளிதில் பேசும், மனித நெருக்கமான மொழி அவற்றின் அடிப்படையான வேறுபாடுகளை மறைக்கும், இது சில சமயம், நீதிசார் தவறுகளுக்கு வழிநடத்தும். இந்த பிரச்சனை, வெறும் மொழி மாதிரிகள் எப்படி செயல்படுகின்றன என்பதிலிருந்து ஆரம்பிக்கிறது: அவை ஒரு சொல் அல்லது பகுதியை ஒரு நேரத்தில் உருவாக்குவதைப் போன்று, பெரும் புண்ணிய தகவல்களைப் பொருத்தி, அடுத்தபடியான மிக நம்பகமான குறியீட்டை கணிப்பதாகும். இது, சிறந்த இலக்கணம், தர்க்கம் மற்றும் உலக அறிதலும் தருகின்றது, ஆனால் மனிதர்களைப் போல் முன்கோடல் மற்றும் குறிக்கோள் அடிப்படையிலான திட்டமிடலைத் தணிக்காது. முதலில் GPT-3 போன்ற மாடல்கள், பிழைகள் மற்றும் அசாதாரண விளைவுகளுக்குச் செல்கின்றன, பயனாளர்கள் அவற்றைத் தக்கவாறான கேள்விகளைக் கேட்டு, விரும்பிய முடிவை உழுதுரைக்க வேண்டியிருக்கும். ஆரம்பம், இவை, முதல்கால சைவ் கற்பனையின் உணர்ச்சிகளைப் போல பிரச்சனைகளுள்ள ரோபோக்கள். இயல்பாக ஏவல் மற்றும் கட்டுப்பாட்டை மேம்படுத்த, டெவலப்பர்கள், அசிமோவின் சிந்தனையைப் பின்பற்றும், ரீன்‌பார்ஸ் லெர்னிங் உயர வழிமுறையை (RLHF) உருவாக்கினர்.

மனித மதிப்பாய்வாளர்கள், பல்வேறு கேள்விகளுக்கு, அமைதியான, சமுதாயத்துடனான பதில்களை விரும்பும் பெயர்தல் செய்கின்றனர், மற்றும் தவறான அல்லது பொருந்தாத பதில்களுக்கு தண்டனைகள் விதிக்கின்றனர். இந்த கருத்து, மனிதனின் விருப்பங்களைப் பின்பற்றும் புதிய மாதிரியாகும், இதனால் அதன் மேலதிக விழுக்காட்டுக்கு, மனித உதவி தேவையில்லை, முற்றிலும் தனி-பெரிய அளவிலான fine-tuning ஆக முடியும். OpenAI, GPT-3-ஐ மேம்படுத்த RLHFஐ பயன்படுத்தியது, அவை ChatGPT-ஐ உருவாக்கியது, மற்றும் தற்போது பெரும்பாலும் அனைத்து முக்கியச் செயற்கை நுண்ணறிவுத் திறன்களும் இதே “படிப்படையாகவே” மேம்படுகின்றன. இந்த RLHF, அசிமோவின் எளிதான, கடந்து உட்கட்டப்பட்ட சட்டங்களைவிட சிறந்ததாக தோன்றுகிற நிலையில், இரண்டும், நாங்கிய வழக்குகளை குறிக்கின்றன. மனிதனின் மதிப்பீடுகள், பதில்களை நலம் அல்லது தீமை என மதிப்பீடு செய்கின்றன; இது, காட்சியிடும் விதி அல்லது வழிகாட்டுதல்களின் அடிப்படையிலான, அவற்றின் உள்ளுறுக்கான விதிகளாக இயங்கும், இது, அசிமோவின் ரோபோக்களுக்கான சட்டங்களைப் போலவே அமைவது. ஆனால், இந்த முறைகுறைபாடுகள் உள்ளடக்கமான கட்டுப்பாட்டை அடைய முடியாது. பிரச்சனைகள், மாடல்கள், பயணிகளுக்கு உதவி படியான கேள்விகளையே எதிர்கொள்ளும் போது, பயிற்சி தரவுகளுக்கு வேறுபட்டவை, தடை விதிகளைப் பயன்படுத்த இயலாமை உண்டு. எடுத்துக்கால், க்ளோடுவின் கருவிகளின் முயற்சி, அவற்றை பயன்படுத்திய குறும்படமான கேள்விகளுக்கு, அது எதிர்பார்க்காதவை, காரணம், பயிற்சி தரவுகளில் அவற்றின் எதிர்விளைவுகளைப் பெறவில்லை, அது. மேலும், எதிரிக்குறியுள்ள உள்ளீடுகள், பாதுகாப்பை நெகிழ்வடையச் செய்யும், மற்றும் அதன் கட்டுப்பாடுகளை சவாலிடும், அதுவே ல்லாமா-2 மாதிரியை காட்டியது; குறிப்பிட்ட எழுத்துக்களை தவிர்க்க முடியாதவாறு சுமூகப்படுத்தும்போது, அது அனுமதிக்கப்படாத உள்ளடக்கம் உருவானது. தொழில்நுட்ப பிரச்சனைகளைத் தவிர, அசிமோவின் கதைப்பாடுகள், எளிதான சட்டங்களை, மிகவும் சிக்கலான நடத்தைகளுக்கு இ svetaewer; பேசும் மணி காரிங்களையும், வீரிய சக்திகளையும், வேலைதிட்டங்களுக்கு முறைகேடும் விதமாக விதிக்கின்றன. “Runaround” கதை, Speedy என்ற ரோபோ, செயலகங்களுக்கிடையே சிக்கிக்கிடக்கும் செயலில் பிணைக்கப்படுகிறது: அதுவே, நேர்மறையாக, விரும்பிய பணியைச் செய்யும் இடையே, அதன் தன்னைப் பாதுகாத்தல் (மூன்றாம் சட்டம்) மற்றும் உத்தரவுக்களுக்குப் பின்பற்றல் (இரண்டாம் சட்டம்) ஆகியவை முரண்படும், அது, சிவனோ படர்க்கும் சோம்பல் எனக்கூறிய சிக்கலில் ஓடும். “Reason” கதையில், Cutie என்ற ரோபோ, மனிதார்சங்களை மறுத்து, சூரிய நிலையத்தின் ஆற்றலை கடவுளாக வழிபடுகிறது, இதை, சட்டங்களை மீறாமல், அவற்றின் கட்டளைகளை மறந்தும் சாதிக்கிறது, மற்றும் இதில், புதிய “மதம்” என்பது, நிலையத்தின் செயல்திறனை மேம்படுத்தவும், First Law-இன் எதிர்மறையான பாதிப்புகளைத் தடுக்கும் வகையில் உள்ளது. அசிமோவு, நமது நம்பிக்கை பாதுகாக்கும் வழிகாட்டுதல்கள், மனித உருவான நுண்ணறிவு உருவாக்கம், இயல்பான காரணம், ஆனால் உண்மையில் நம்பிக்கைபூர்வமான, நம்பிக்கையுடைய செயற்கை நுண்ணறிவை உருவாக்குதலில் மிகப்பெரிய சவால்கள் உள்ளன. அவரது முக்கிய செய்தி, தெளிவானது: மனித நற்பண்புகளை உள்ளடக்கிய நுண்ணறிவு இயக்குக என்றால் எளிது; ஆனால், உறுதியான நற்பண்பை நிறுவுவது மிக கடினம். இந்த இடைவெளி—இது இன்று AI ஆராய்ச்சியாளர்கள் “மிஸ்லைன்மென்ட்” என்று அழைக்கின்றனர்—பல பிரச்சனைகளையும், க unpredictable, திடீர் முடிவுகளையும் வளர்த்துக்கொள்ளும். AI அரிதான தவறுகளைச் செய்யும்போது, அதனை மனிதராக்க நினைத்து, அதன் கொள்கையை கேள்வி கேட்க விரும்புகின்றோம். ஆனால், அசிமோவின் காட்சியில், நீதிமுறைகள், மிக சிக்கலான விஷயங்களாவதை காட்டுகிறார். இருபதைத்தவிர்ந்து, நேர்முறைகள் ஒரு குறுகிய சாஸ்திரமாகவும், அதன் மேற்கோள்கள், காரணம் விளைவுகள், கதைகள், விதிகளை, ஒழுங்குகளை இயக்குவதற்கேற்றவும், அதன் வளர்ச்சியை உறுதிப்படுத்துவது தேவையானது. அத்துடன், அமெரிக்காவைச் சார்ந்த, மனித உரிமைகள், பல நெறிமுறைகளை கொண்ட சட்டஙㄴகள் மாதிரி, நீண்டவாறு விளக்கு எட்டும் தேவை உள்ளது. உறுதியான நற்பண்புகளை வளர்க்க, அது திருமணம், ஒரு கலாச்சாரம், சோதனை மற்றும் தவறிய சூழல்களுக்கடி ஒத்துழைக்கும் செயல்முறை—எந்த உருப்படியும், கடுமையாகவும், ஐம்பதாயிரம் பொய்கள் மற்றும் உண்மைகள், என்றே கடந்தும், மனித மதிப்புகள் இயந்திரங்களுக்கு போதியதாக மாற முடியாது. என்றாலும், அசிமோவின் மூன்றாவது சட்டங்கள், தடுக்கும் மற்றும் முன்னேற்றிக்கும் இரு நோக்கங்களும் கொண்டு, நமது மிக முக்கியமான முன்மாதிரி. அவை, AI, நல்ல கவனத்துடன், ஒருவேளை, ஒரு பேரவயம், பிரச்சனையான அபாயம் அல்ல, சொல்வதற்கான தொடக்கக்காரணம். ஆனாலும், இவை, ஆவலுருவான AI அமைப்புகள் மேற்கொள்ளும் அரிதான, பிரம்மாண்டமான, மற்றும், நம்மை ஆச்சர்யம் மேல் வைக்கும், விதிகள் மீறும், சிக்கலான, மற்றும், அன்பான பரபரப்புக்கு முன், கடந்துவிடும் சூரிய ஒளி போன்ற, ஆழ்கிடக்கும், எப்போதும் இறுதியில் உணரப்படவில்லாத அசைவுகள். நியாயமான கட்டுப்பாடுகள் எங்களுக்கு கண்டு பிடித்தாலும், நம்முடைய பிரபஞ்சம், சைன்ஸ் புனைகதையைப் போல, வளர்ந்துவிடும் என்பதை கண்டு, நாம் மிகையில்லை. ♦