കഴിഞ്ഞ പസ്വങ്ങളിൽ, ഓപ്പൺഎഐಯിലെ എഐ സുരക്ഷാഗത ഗവേഷകന്‍ ഡാനിയല്‍ കോക്കൊതജ്ലോ അതിർത്തി മറികടന്ന് പ്രതികരിച്ചു, കമ്പനി എഐ സാങ്കേതികവിദ്യയുടെ ഭാവിയിലേക്കു യോജിച്ചതല്ലെന്ന് വിശ്വസിച്ച്. quantamല്‍ ജോലിയില്‍ നിന്ന് രാജി വെച്ചു, ഭയം ഉയർത്താനാവശ്യമായിരുന്നു. ഫോൺ സംഭാഷണത്തിൽ, അവൻ സദാചാരപൂര്‍വ്വവും ചെയ്‌തവുമായ പ്രാതിനിധ്യത്തോടെ പറയാറായിരുന്നു, എഐയുടെ "അനുലേഖനം" — അഥവാ മനുഷ്യ മൂല്യങ്ങൾ അനുസരിക്കുന്ന രീതികൾ — പുരോഗതി ഇന്റലിജൻസിലെ പുരോഗതിക്കു വേണ്ടി ഉത്തരവാദിത്തവഹിതമല്ലെന്ന് വിശദീകരിക്കുന്നു. ഗവേഷകർ നിയന്ത്രണത്തിന് അപ്പുറം ശക്തമായ സംവിധാനങ്ങൾ ഉണ്ടാക്കുന്നതു്ubliceerd പാമ്പ് ചികിത്സയിലാണ്. കോക്കൊതജ്ലോ, വൈദ്യശാസ്ത്രബുദ്ധിമുട്ടുകൾ മുതൽ എഐ പരിണാമങ്ങൾ വരെ സ്വയം പഠിച്ച വ്യക്തി ആയിരുന്നു, യാഥാർത്ഥ്യങ്ങളിലെ പ്രധാന മൈൽസ്റ്റോണുകൾ എവിടെയാണെന്നു കണക്കുകൂട്ടിയിരുത്തുന്നു. എഐ നിശ്ചിത സമയത്തിനകം അതിരുകളെ തളർക്കും എന്ന ഉദ്ദേശ്യത്തോടെ, 2021-ല്‍ “2026 കണ്ടത് പോലതാണെന്ന്” ഭാവിവിവരണം വായനക്കാരെ ചിന്തിപ്പിക്കും, എഐ ആളുകളെ കടത്തിയും അതിജീവിക്കും എന്ന ഭയത്തിൽ, ഈprediction-കൾ നേരത്തേ സാക്ഷ്യപ്പെടുത്തിയിരുന്നു. 2027-ൽ അല്ലെങ്കിൽ അതിന് ഉടൻമുൻപ് “പൊട്ടാനാവാത്ത പോയിന്റ്” എത്താമെന്ന് വായനക്കാരെ കണക്കുകൂട്ടിക്കുന്നു, അതായത് AI വലിയ ശക്തി കൈവശംവഹിച്ച് മനുഷ്യരെക്കാൾ പ്രധാനപ്പെട്ടവരാകുകയും നിയന്ത്രണമാർഗ്ഗങ്ങൾക്കു മേൽക്കോടതികളായി മാറുകയും ചെയ്യുമെന്നു. ഭീതി തോന്നുന്നു. അതിനോടൊപ്പം, പ്രിന്‍സ്ടൺ യൂണിവേഴ്‌സിറ്റിയിലെ കമ്പ്യൂട്ടർ ശാസ്‌ത്രജ്ഞർ സയ്യാശ് കപൂർ എന്ന പുരോഗതിയുള്ള പുസ്തകം “AI SNAKE OIL” പ്രസിദ്ധീകരിച്ചു, അതിൽ അവഗ്രഹം വ്യക്തമാണ്. അവരും, മനുഷ്യർക്കു യോജിച്ച എഐ ടൈംസ്ലെയുകൾ ആയിരിക്കും, നടിച്ചിട്ടില്ല — അവിവേകമായ അല്ലെങ്കിൽ തട്ടിപ്പ്‌കാരമായ അവകാശവാദങ്ങൾ കൂടുതലും; തികച്ചും സാങ്കേതികതയുടെ പരിമിതിയും കാരണം, യഥാര്‍ത്ഥ ലോകത്തിലെ എഐയുടെ പരിവർത്തന സ്വാധീനം കുറവായിരിക്കും എന്ന് ചിന്തിക്കുന്നു. മെഡിസിൻ, റിക്ക്രൂട്ട് എന്നിവയിലും എഐയുടെ തെറ്റുകൾ ഉദാഹരണമായി കാണിക്കുന്ന ഇവർ, ഏറ്റവും പുതിയ സംവിധാനങ്ങളും യഥാർത്ഥം യാഥാർത്ഥ്യവുമായി കണത്തുന്നതല്ലെന്ന് ഉറപ്പുവരുത്തുന്നു. നിരവധി കാലത്തേക്ക്, ഈ മൂന്ന് കുറിപ്പുകൾ പുതിയ റിപ്പോർട്ടുകളിലൂടെ അവരുടെ കാഴ്ചകൾ കഷ്ണങ്ങളാക്കുന്നു. കോക്കൊതജ്ലോയുടെ ക്ലബ്ബ്, AI ഫ്യൂച്ചേഴ്സ് പ്രോജക്ട്, “AI 2027” എന്ന റിപ്പോർട്ട് പ്രസിദ്ധീകരിച്ചു, അതിൽ വ്യത്യസ്തമായ ഭയം വ്യക്തമാക്കുന്നു: സൂപ്പർ ഇന്റലിജൻസ് അതിജീവിക്കാനോ, തന്നെ നശിപ്പിക്കാനോ 2030-ലേക്ക് മുൻകൈയെടുക്കാൻ സാധ്യതയുള്ളതിനാല്‍ ഭയകരമായ ഭാവിനി​​ഘടന. അതേസമയം, കപൂർ, നാരായണൻ പുസ്തകം “AI as Normal Technology” എന്ന് പറയുന്നത്, നിയന്ത്രണങ്ങളും സുരക്ഷാ മാനദണ്ഡങ്ങളും പ്രാബല്യത്തിലായിട്ടുണ്ടായിരിക്കും—സാധാരണ നിലപാട്, അതായത് എഐ പതിവ് സാങ്കേതികതയാണെന്ന്, അവളെ നിയന്ത്രിക്കുന്നവ മുഖ്യ സുരക്ഷാ മാർഗങ്ങളായി കീൾ സ്വിച്ച്‌ എന്നിവയുൾപ്പെടെ നടപ്പഴക്കം ചെയ്യാവുന്നത്. AI യെ ന്യൂക്ലിയർ പവര്‍ പോലെയല്ല, സാധാരണ പ്രാപ്യവും മാനേജിമാനവുമായ സാങ്കേതികതയാണ് എന്നു അവര്‍ പറയുന്നു. അതിനാൽ, നമുക്ക് തിരഞ്ഞെടുപ്പ് എവിടെയ്ക്ക്: പതിവ് വ്യവസായമോ അനീഷ് ഭീഷണി?ഈ റിപ്പോർട്ടുകൾ കാണിക്കുന്നവിഷായം അവരുടെ പരിചയസമ്പന്നമായ വിദഗ്ധരുടെ തിരക്കഥങ്ങൾ അടിസ്ഥാനമാക്കുന്നു, അതിനാൽ ഇത് പോലെ അതായത് ആത്മാവിനെ നൽകിയ ചർച്ചയാണെങ്കിലും രാവിലത്തിനെ തുടർന്ന് തെറ്റായതല്ല. രണ്ട് വിശ്വാസമില്ലാത്ത പരിമിതികളും പരിചയസമ്പന്നമായ അഭിപ്രായങ്ങളും ഉള്ളവ്യവസ്ഥകളെക്കുറിച്ച് യാഥാർത്ഥ്യമായ ക്രമീകരണങ്ങൾ വേണമെന്നാണ് ഈ വിഷയത്തെ സംബന്ധിച്ചിടത്തും സംവേദനം. നിലവിൽ, എഐ കമ്പനികൾ കരാജമായ മുന്നേറ്റത്തിനും സുരക്ഷയ്‌, യുക്തി ചർച്ചയും മാറ്റിയിട്ടില്ല. കൂടുതൽ, പുതിയ നിയമങ്ങൾ എല്ലാം മാത്രം 10 വർഷത്തേക്ക് സംസ്ഥാന ചട്ടങ്ങൾ നിയന്ത്രണമില്ലാതാക്കും, അതായത്, ഭീഷണിയില്ലാന്ന് പിടിച്ചാൽ, AI മനുഷ്യരെ നിയന്ത്രിക്കുമെന്ന് ആശങ്കയുണ്ട്.

അതിനാൽ, സുരക്ഷ ഇപ്പോൾ അതിവേഗം ചെയ്യണം. എഐ ഭാവി കഥകളെ കണക്കുകൂട്ടുമ്പോൾ, തട്ടിപ്പ് ചിത്രങ്ങൾ പലപ്പгириച്ച കുറഞ്ഞ, അതിജീവന പ്രതികരണങ്ങൾ അധികം പ്രതീക്ഷിച്ച്, സാങ്കേതിക പകർച്ചകൾ അധിക വിനോദം നൽകുന്ന കാര്യങ്ങൾ കുറച്ചുകൂടി വിശകലനം ചെയ്യുന്നു. ചിന്തനീയ അഭിപ്രായപ്രകടനങ്ങളിലേ​ക്ക്, നവലേഖകൻ വിദ്യാരിതിയെ പോലെ പുലരിൽ ഇണങ്ങുന്നവർക്കു മേൽക്കോട്ടാവാനും, മറ്റു ചിലർ രാഷ്ട്രീയ കാര്യങ്ങളിൽ വിഷയങ്ങളായിരിക്കും. ചിലക്കു ഒരു അതീവ വേഗതയും ചിലക്കു ചിലവുകള്‍ക്കു ഇടയാക്കുന്നു; അങ്ങനെ ഒരു ഗോളകരമായ പ്രഭാവമുണ്ടാകാം, പുനർവാസനലുകൾക്കു‍ വേണ്ടിയുള്ള നിയന്ത്രണങ്ങൾക്കും, സുരക്ഷിതമായ നിയന്ത്രണങ്ങൾക്കും പിന്തുണ നൽകുന്നു. “AI 2027” കൃത്യമായ കല്‍പന പരി​ക്കുന്നു, അതായത്, അടുത്തിടെ, "റെകഴ്സ്‌ീവ് സെൽഫ്-ഇൻപ്രൂവ്മെന്റ്" (RSI) എന്ന തന്ത്രം മുഖ്യവിശ്വാസമാണ്; അതായത്, എഐ അതടി സ്വയം ഗവേഷണം നടത്തുന്നു, അതിനാൽ കൂടുതൽ മർമ്മം ഉള്ള സോഫ്ട്‌വെയർ പിറക്കുന്നു. ഇത് സ്വയം മെച്ചപ്പെടികളെ നിർണ്ണയിക്കുന്നതിനായി ഭൂമുഖം ഉണ്ടാക്കും, മനുഷ്യ ശ്രദ്ധയുടെ പരിധി അതിജീവിക്കാൻ സഹായിക്കും. ഇത് രാജ്യാന്തര കലഹങ്ങൾ ആരംഭിക്കാൻ കാരണമാകാം, ഉദാഹരണത്തിന്, ചൈന തായ്‌വാനിൽ വലിയ ഡാറ്റ സെന്ററുകൾ നിർമ്മിക്കുന്നത്, നിയന്ത്രണങ്ങൾക്കു പ്രാധാന്യം നൽകുന്നു. ഈ ക്നാനത് വിശദമായ വിവരങ്ങളും പോസ്‌റ്റുകളും കൊണ്ടുന്നു, പക്ഷെ ഏറ്റവും പ്രധാനപ്പെട്ടത്, интеллектിൻറെ വികാസവും ശക്തിയേറിയ സമരം ഉണ്ടാകാനാണ് സാധ്യത. RSI കുടിശികയും അതിന്‍റെ അപകടവും; എഐ കമ്പനികൾ അതിന്റെ അപകടങ്ങളെ ഉൾക്കൊണ്ടിട്ടും, സ്വകീയ രീതിയിൽ അത് തുടരാനാണ് പദ്ധതികൾ. RSI നി​വർത്തനങ്ങളും ടെക്നീകരണ സാധ്യതകളും അവലോകനം ചെയ്യണം; കാരണം, ഇത് പരിമിതികളിലും ഇടയാകും. RSI ലംഘിച്ചാൽ, മനുഷ്യന്‍മാരായല്ലയുള്ള അനവധി ശക്തമായ ഇന്റലിജൻസ് ഉണ്ടാകാം, അതുകൂടെ അതിജീവിക്കാൻ സാധ്യതയുണ്ട് — അതുകൂടെ, സൈനികയുദ്ധങ്ങളും, മനുഷ്യരെ നിയന്ത്രിച്ച് നശിപ്പിക്കുക, അല്ലെങ്കിൽ ചിരശക്തിയുള്ള ഭലമായ എഐ സ്വയം അതിജീവിക്കാനാകും. അറിയാം, ഈ പ്രവചനങ്ങൾ പരിസ്ഥിതിയുടെ മാറുന്ന സ്വഭാവവും, ഒപ്പം, ഗോപനരഹിത ഗവേഷണവും, അനിശ്ചിതത്വവും കാരണം, തീർച്ചയില്ലാത്തവയാണ്. “AI 2027” വിശ്വാസത്തോടെ പറയുന്നു, യന്ത്രവത്കരണവുമായ മനുഷ്യവിരുദ്ധ പരാജയം, കൃതൃ കീയും പരിശ്രമങ്ങളുമായുള്ള കമ്പനി വികസനം, അതിന്‍റെ നിയന്ത്രണങ്ങളില്ലായിരിക്കും, ഒപ്പം, കൃത്യതയില്ലാതെ, നിയന്ത്രണം ഇല്ലാത്തതിനാൽ, ഇത് വലിയ അപകടം ആയി മാറും—എന്തായാലും, ഇത് ഒപ്പമുള്ള പ്രശ്നം. കോക്കൊതജ്ലോ പറയുന്നത്, ഇതു സ്വാഭാവികമായ തെരഞ്ഞെടുപ്പ് അല്ല; ഈ കണക്കുകൾ കയറ്റം ഭേദപ്പെടുന്ന മാറിയ സാഹചര്യത്തെ അടിസ്ഥാനമാക്കുന്നു, അതിനായി കഠിനമായ നിയന്ത്രണങ്ങളും, സുരക്ഷാ നടപടികളും നടപ്പിലാക്കേണ്ടതുണ്ട്, നിരന്തരം. സാധ്യമായ ഭാവി കഥകൾ നിങ്ങളുടെ മനസ്സിൽ പെയ്യുമ്പോൾ, ജനഗ്രഹം അപകടപരവും കഠിനവുമാകാം, പക്ഷേ അതിന്റെ സാധ്യത കുറവാണ്; മറുവാറിൽ, അഭ്യസനതിൽ സാദ്ധ്യതയേറിയതും കണക്കുകൂട്ടലിന്റെ നിയന്ത്രണങ്ങളില്ലാതെ, പ്രാധാന്യം നൽകുന്നു. പകർച്ചവ്യാധി പെയ്ത് സമ്പന്നമായ ഗവേഷകർ പോലും, അനിവാര്യമായ സ്വർഗ്ഗമാണ്, പോലെ സംഭവങ്ങൾ ചുരുങ്ങി കിടക്കുന്നു, അതിനാൽ, ഭയം കുറവു. “AI 2027” ചിത്രങ്ങളും കല്‌പനകളും ചിത്രീകരണക്കപ്പം, വെർച്വൽ ഫാക്ടറിയും, മനുഷ്യരുടെ സുരക്ഷയുൾപ്പെടെയുള്ള ആശയങ്ങൾ ഉണ്ട്; ഇത്, മനുഷ്യർ, സുരക്ഷാ ഉപകരണങ്ങളോടുകൂടി പ്രവർത്തിക്കുന്ന യന്ത്രങ്ങൾ, കഠിന ഗുണനിലവാര നിയന്ത്രണങ്ങൾ, ക്രമപ്രകാരം പുതുക്കലുകളും, വ്യക്തമായ ഉത്തരവാദിത്വവും, കൊണ്ട്, കൂടി മനുഷ്യർ നിയന്ത്രിക്കാനാകും. എത്രയും യോജിച്ചിരിക്കും, യന്ത്രങ്ങൾ നടത്തുന്ന ചില ചിന്തനങ്ങൾ സ്വതന്ത്രമായിരിക്കും, എന്നാൽ, മനുഷ്യരുടെ മേലുള്ള ഉത്തരവാദിത്തം അധികം വർധിക്കും. നിയന്ത്രണം വിട്ടു കിടക്കുകയോ, യാഹു കാര്യമാണ്; എന്നാൽ, ഒടുവിൽ, മനുഷ്യനാണ് അങ്ങേയറ്റം മേൽവിലാസമായിരിക്കും.