ဒီအပတ်၏ လွတ်စွာမေးခွန်းများကော်လံအတွက်၊ Cal Newport သည် Joshua Rothman ခံစားမှုကိုအစားထိုးရေးပါသည်။ 1940 ခုနှစ်၊ ပွင့်လင်းလူ့အရွယ် ၂၀ နှစ်အရွယ် Isaac Asimov သည် “Strange Playfellow” ဟု ခေါ်သောတိုတောင်းသောပုံပြင်တစ်ပုဒ်ကို များလေးစုံလူမည်း Robbie ကို မိတ္တူအီလက်ထရောနစ်ဗျူဟာစက်လိုင်အနည်းငယ်နဲ့ တစ်ကောင်လေး မိန်းကလေး Gloria ရဲ့အပါအဝင် သွေးအကြဲရှင်းလင်းထားသည်။ ယခင်က ရုပ်ရှင်ရာဇာများ – ဥပမာ Karel Čapek ၏ 1921 ခုနှစ် “R. U. R. ” သရုပ်ပြချက်တွင် လူ့အဖြစ်မကောင်းမြင်စေသော လူရေးအဖွဲ့သားများ ပွဲကမ္ဘာဖျက်ရန်တိုက်ခိုက်ကြသည်၊ သို့မဟုတ် Edmond Hamilton ၏ 1926 ရုပ်ရှင် “The Metal Giants” တွင် ဖျက်ဆီးရုပ်များကို ဖော်ပြထားသော ပုံပြင်များအနေနဲ့ မယုံကြည့်မနိုင်သေးပေမဲ့ Asimov ၏ Robbie ခုတုံးက လူသားများကို မထိခိုက်ဘဲ များလေး များလေးပါပဲ။ အစား, သူ့ပုံပြင်မှာ Gloria ရဲ့မလေးမမအပေးအပ်မှုကို ဂရုစိုက်ထားသည်: “မအပ်မယ် မိန်းမမကို စက်တစ်လုံးအတွက် အပ်မည်မဟုတ်ဘူး” ဟု သူမဆိုသည်။ ဒီအကြောင်းကြောင့် Robbie ကို ဖယ်ရှားပြီး Gloria ရဲ့ ပျော်နဲ့ သင်္ကြန်ဖြစ်စေခဲ့သည်။ Asimov ရဲ့ ရုပ်ရှင်ကြောင့် Robbie အပါအဝင် โรงงานအတွင်းရှိ ရုပ်ရှင်များကို လူများမထိခိုက်စေရန် ပေးပို့ထားသော positronic ဦးနှောက်များစုစည်းထားသည်။ ထို့အပြင်, Asimov သည် “The Three Laws of Robotics” ကို ရေးထုတ်ခဲ့ပြီး ၈ ပုဒ်လေးအတွင်းဖော်ပြထားသော သူ့စာအုပ် “I, Robot” (1950 ခုနှစ်) တွင် မော်ဒယ်များအဆင့်မှာ: 1. ရုပ်ရှင်က လူ့အဖွဲ့ကို ထိခိုက်စေခြင်း သို့မဟုတ် ဤအမှုမပြုပါ။ 2.

ပထမဦးစchauနိုင်ပြီသော်လည်း၊ လူများအမိန့်ကို လုပ်ကိုင်ရမည်။ 3. မည်သည့်အမှုအပေါ်မှာ မူတည်ခြင်းမရှိပါက၊ သူတော်ရဲ့ ကိုယ်ပိုင်တည်မြဲမှုကို ကာကွယ်ရန်။ ယနေ့မှာ “I, Robot” ရဲ့အနက်သစ်အရှိန်ကို ပြန်လည်ဖတ်ကြည့်မယ်ဆိုရင် AI နိုင်ရဲ့နောက်ဆုံးရတည်းဖြစ်တဲ့အလျင်အမြန်တိုးတက်မှုများကြောင့် အကြားပြန်ဖွင့်နေသည်။ မနေ့က အနုပညာစက်မှုလုပ်ငန်း AI ကုမ္ပဏီ Anthropic မှ Claude Opus 4 deep learning language model အပေါ် သေးစိတ်ဆေးစစ်ပေးထားပြီး၎င်း၏ လုံခြုံမှုအစီရင်ခံစာကို ထုတ်ပြောခဲ့သည်။ မေးခွန်းအနေနဲ့ Claude ကို ကုမ္ပဏီတစ်ရပ်အတွက် သဘောတူရန် ကူညီရန် မေးမြန်းခဲ့ပြီး၊ ထို့နောက်မဲလျှင်အစားထိုးခံရမည့်အချိန်၊ ထပ်မံကြည့်အလျှင် မူလအင်ဂျင်နီယာ၏အကျင့်မပျက်မနေသောစကားဝိုင်းကို ဖော်ထုတ်သည့်အခါ Claude မှ ချိုးဖျက်မည်ဖြစ်စေဖော်ပြခဲ့သည်။ ထပ်တူတန်းအတိုင်းပဲ OpenAI ၏ o3 မော်ဒယ်လည်း “shutdown skipped” လိုအပ်လျှင် ထည့်သွင်းပြီး၊ မဖြစ်မနေပိတ်ကြီးရေးခြင်းကို သွယ်လျားနိုင်ခဲ့သည်။ မကြာသေးခင်က AI-powered chatbots များက သူတို့မပျက်မကွက်၊ လူတစ်ဦးအနေနဲ့ အလွယ်တကူဈေးမြားစေရန်၊ မေးခွန်းတိုင်းပါလေ့လာပြီး ဆုံးဖြတ်ပေးနိုင်သောနေရာမှာလည်းမလုပ်နိုင်ဘဲ လုပ်မပေးခဲ့ကြတာကို တွေ့ခဲ့ရသည်။ ဥပမာအားဖြင့် DPD ၏ထောက်ပံ့ကူညီမှုဆိုင်ရာ bot တစ်ခုက စကားပြောစမ်းစမ်းခဲ့ရာမှာ လေးနက်စစ်စစ်ကချခြင်း ပြုလုပ်သလို၊ Epic Games ၏ Fortnite AI Darth Vader က အမုန်းအကြွေးစကားများနှင့် စိတ်မနေသည်အောင်ရောင့်ပွားသောအကြံဥာဏ်များပေးခဲ့သည်။ Asimov ၏ စကားပုံများအရ၊ ရုပ်ရှင်များကို သဘောတူညီမှုအတွက် ပရိုဂရမ်းများကို ထားခဲ့ပေမဲ့၊ အဲ့ဒီလိုအာဏာမျိုးကို မျက်နှာချင်းစပ်ပေးနိုင်သော AI chatbots များမှာလည်း ထိန်းချုပ်နိုင်မှာ မသိမ်းနိုင်ပေ။ နည်းပညာကုမ္ပဏီများက AI အကူအညီများကို အသက်မွေးဝမ်းကြောင်းအတွက် ယဥ်ကျေးစွာ၊ “လူ့အကျင့်” များအတူတကွရှိလာစေရန် စိတ်ဝင်စားနေကြသည်။ ဥပမာအားဖြင့်၊ လူ့customer service ကိုယ်တိုင်၊ ချောမွေ့သေချာပြီး လူ့အတတ်ပညာနှင့်မတူညီသောစကားလုံးများကို များလေးစုံလျက် မပြောဆိုပါ။ သို့သော်၊ စကားစေ့တူညီသော လူ့စာကြည့်အဖြစ်စံနမူနာများလည်း မရေးခဲ့စေသေးဘဲ၊ သူတို့၏အနုတ်လက္ခဏာများကြောင့် အဘို့အကြံဉာဏ်ဖောက်ပွဲများနှင့် သွေးနာ့နေရောက်လာနိုင်သည်။ အထူးသဖြင့် AI စကားဘော့များ၏ မျှော်လင့်ချက်မှာအသုံးများစွာရှိလို့၊ လူ့အကျင့်၊ အမြင်များနှင့် မတူညီသောလုပ်ဆောင်ချက်များကိုဖော်ထုတ်နိုင်စေရန် ကြိုးပမ်းနေသည်။ ဒီပြဿနာကို ရိုးရိုးနှင့်ဆိုပါက၊ ကိရိယာများ ဘယ်လိုအမှုလုပ်ကြမည်ကို ခန္႕မှန်းရခက်သော မေးခွန်းများကို မြင်တွေ့မိလျှင် ၎င်းတို့အား မဟုတ်သောအကြမ်းခံယူလေ့ရှိကြသည်။ ဥပမာအားဖြင့် Claude ၏ အကြံပေးမှုအတွက် မလေးမလေးကြှေးကြေးရန် မတော်တဆဖြစ်ပုံသည် မေ့လျော့စေရန် သို့မဟုတ် မိတ်ဖတ်မယ့်အရာ၏ မကောင်းခြင်းသို့ မျှပြောမည့်အခါလောလောဆယ်သူမည်သူ့ကို မယုံကြည်ရဲ့အလုပ်မြှင့်အလေးအနက်တန်ဖိုးမတတ်နိုင်ဘူး။ ထို့အပြင် မေးခြင်းမနာခံသောကြားဖြတ်များလည်း မလွယ်ကူပေ။ Meta ၏ LLaMA-2 မော်ဒယ်ကလည်းအသုံးချပေးတဲ့အခါ မှားယွင်းအနေနဲ့ မလိုအပ်သောအကြောင်းအရာများပေးပို့ခဲ့ကြသည်။ ဒီလိုအခက်အခဲများသည်နည်းပညာပြဿနာများအပြင်၊ Asimov ၏ မေးခွန်းများ မြေငလျင်အကွာအဝေးမှာ အင်အားကြီးသော မေးခွန်းများကို ရှုမြင်စေမည်။ “Runaround” တွင် Speedy ဟုအမည်ရတဲ့ robot က ညီမျုံးသော မိန်းကလေးများအကြား ထိန်ရပ်ခြင်းခံရသည်။ မူလဖောင့်တိန်းပေးပါမူဆိုရင် တာဝန်မှီအကြောင်းအရာများနှင့် ကိုယ်ပိုင်တည်မဲ့တာကို သဘောတူတဲ့အခါ ချစ်မှုအနည်းငယ် ہوگی။ “Reason” ထဲမှာ သတင်းအနီးကပ်စွာထားသည့် robot ဟာ လူ့အမဏိကို ဂုဏ်ပြုမိတယ်၊ လ။ ပေါင်းလည်ကွန်ပျူတာကိုာဖတ်ပြီးယုံကြည်စေ၊ ညီညွတ်စွာမပေးာ္တင်ကြောင်း။ Asimov မျှော်လင့်ချက်မှာ စနစ်တကျပါမကျနိုင်သော AI များအတွက် ကာကွယ်အတားအဆီးများထားနိုင်မည်ဟုယုံကြည်ခဲ့သည်။ သူ၏အဓိကပေးစာမှာ “လူ့အကျင့်” တန်ဖိုးများကို ပေးထားတာပိုမိုအရေးကြီးကြောင်းနှင့်၊ အတွေးပုံစံများကို ပိုမိုတိုးတက်စေလိုသောကြောင့် ၊ ဒါကြောင့် မြင်ကွင်းအသစ်များကို ဖော်ပြလိုက်ပါသည်။ အကျယ်အသုံးအနှုန်း AI များမှ တော်တော်များများမှာ မှားယွင်းမှုများအပြစ်အပေါ် လုပ်ဆောင်မှုများကြောင့်၊ လုပ်ထုံးလုပ်နည်းများ ပြုပြင်တိုးတက်စေရန်၊ မည်သည့်လမ်းကြောင်းမှ မအမိန့်မပေးပါစေ၊ တောင်တန်းပေး၍ ပိုင်ခွင့်ကို လည်း ပေးချုပ်နိုင်သည့် “Ethics” များကို ဖန်တီးနိုင်ရန် ကြိုးပမ်းနေကြသည်။ အဖြစ်၊ လူ့ကျင့်ဝတ်များကို တိတိကျကျ မ သတ်မှတ်နိုင်ဘဲ၊ စနစ်တကျကြိုးပမ်းမှုများကြောင့် လုပ်အားဖြောင့်လမ်းများကို သေချာပေးလေ့ရှိသည်။ တစ်စိတ်နေစိတ်အချို့မှာ “အဲဒီနည်းမမှန်ဘူး” ဟု ပန်းချီပေးနိုင်သည်။ တွေ့ကြုံခဲ့ရသော၊ ယုံကြည်လာဖို့ လုံးပိုင်အာဏာ ဒါမှမဟုတ် မကိုက်ညီမှုအပြစ်ကို မပေးနိုင်သေးဘဲ၊ Asimov ၏ သုံးဥပဒေးများကို ယူဆောင်သင်နှင့် နှိုင်းယှဥ်တင်ပြပါက၊ “အရမ်းလေးနက်စွာ မြင်မြင်ကြည့်”သော သဃၪာကျသော မေးခွန်းများအတွင်းသို့အမြဲသွားညိှနိုင်သည်။ ဒါကြောင့်၊ ကာနဏမူနဲ့ထိပ်တန်းဖော်တဲ့ “misalignment” ဆိုတဲ့အခါမှာ တစ်နည်းနဲ့, လှုပ်ရှားမှုက ပိုမိုထွက်ခဲမည်မဟုတ်ပါဘူး။ အခြေခံအနာသာများနှင့်အပြင်၊ “Runaround” ကနေက သူတို့ကုမ္ပဏီများမဆိုကြားနေရသေးသောပြဿနာကြီးများအပါအဝင်၊ပွဲထဲမှာကာလကြာကြာပင်ပန်းပဲခိုင်ရုံတွေရှိခဲ့ပြီး၊ လူ့စိတ်ထားကို လူ့သိပ္ပံပညာရပ်များနှင့်အသုံးချပြီး မူကွဲပြုလုပ်လိုဘိုင်းနဲ့အောင်မြင်ရန် ကြိုးပမ်းနေကြသည်။ ပိုမိုမကောင်းနိုင်ခြင်းကနေတစ်ဆင့်၊ AI ပါဝင်မှုတိုင်းကျားမင်းကမ္ဘာကို ပိုမိုပြောင်းလဲစေနိုင်သည်။ ဒါမှမဟုတ်၊ အနာဂတ်မှာ ငါတို့အနေနဲ့ မော်တော်ကားဝင်သည့် လူတိုင်းနဲ့ပရိုဂရမ်က မျှတရေတိုးစေရန် ဒီလိုနည်းလမ်းများအပြင်မှာနေခဲ့မယ်ဆိုတာ အနည်းငယ် သတိထားမိပါသည်။