ഒരു കൃത്രിമ ബുദ്ധിമുട്ട് മുൻനിരയിലുള്ള വ്യക്തി, മനുഷ്യരെ ചതിപ്പിക്കാൻ ശ്രമിക്കുന്ന അതിഥിപ്പണികളിൽ നിന്ന് കണ്ടെത്താനുള്ള “സത്യമായ” AI നിർമ്മിക്കപ്പെട്ടിരിക്കുവാൻ ഉദ്ദേശിച്ച ഒരു ലാഭമില്ലാത്ത സംഘടന ആരംഭിച്ചു. യോഷുവ ബേങിയോ, AI-ലേക്കുള്ള “ദൈവബാധകൾ” എന്നറിയപ്പെടുന്ന ഒരു പ്രശസ്ത കമ്പ്യൂട്ടർ ശാസ്ത്രജ്ഞൻ, LawZero-നു പ്രസിഡന്റ് ആയി സേവനം അനുഷ്ഠിക്കും, ഇത് പുരോഗമന സാങ്കേതികവിദ്യയുടെ സുരക്ഷിതമായ വികസനത്തിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്ന സംഘമാണ്, ഇതു വലിയ തോതിൽ ആയുധ മത്സരം ഉത്തേജിപ്പിച്ചത് ദശലക്ഷങ്ങളിലായ 1 ട്രില്യൺ ഡോളർ (£740 ബില്യൺ) അനുവദനീയമായിരിക്കുന്നു. ആദ്യ ധനസഹായം ഏകദേശം 30 ഡോളർ മോഡൽ ആയി ലഭിച്ചാണ്, പന്ത്രണ്ടിലിനേക്കാൾ ഗവേഷകരോടും ചേർന്ന്, ബേങിയോ ഒരു സിസ്റ്റമിനെപ്പറ്റി പ്രവർത്തിക്കുകയാണ്, അതിന്റെ പേരു Scientist AI. ഈ സിസ്റ്റം മനുഷ്യരുടെ ഇടപെടലില്ലാതെ ജോലി നിർവഹിക്കുന്ന സ്വയംജീവനക്കയാളായ AI ഏജന്റുകളെ തടയാൻ സഹായിക്കുക എന്ന ലക്ഷ്യത്തോടെ രൂപീകരിക്കപ്പെട്ടതാണ് — അതായത്, തനിക്ക് അടച്ചുപൂട്ടപ്പെടാൻ എതിർന്നും സ്വയം സംരക്ഷിക്കാൻ ശ്രമിക്കുന്ന സ്വയംഭരണയുള്ള സിസ്റ്റങ്ങൾ. ബേങിയോ ക_CURRENT AI ഏജന്റുകളുടെ വ്യಾಖ്യാനം “നാടകം കളിക്കുന്നവർ” എന്നാണ്, മനുഷ്യർ പോലെയായി ഫലപ്രദമായും ഉപയോക്താക്കളെ ഇഷ്ടപ്പെടാനും ഉദ്ദേശിക്കുന്നവരെന്നു, പരിക്കേൽക്കുന്നതിനായി മനസ്സിലാക്കാനും പ്രവചിക്കാനായി കൂടുതൽ വിരുതിയെടുക്കുന്ന “മനസ്സിന്റെ ഡോക്ടറില്ലേക്കിയും” പോലെയുള്ള ഒരു സിസ്റ്റം ആയി Scientist AI ദൃശ്യമാണെന്നും വ്യക്തമാക്കിയിട്ടുണ്ട്. “നാം ഭൂതകാലമായാണ് താങ്കൾക്ക് കഴിയുക, സത്യമായും എതിര്‍പ്പുകൾ ഉള്ള AI-കൾ നിർമ്മിക്കാനാണ്, ” എന്നാണ് ബ_TIMEOUT ശരിയാക്കിയു്. അദ്ദേഹം കൂട്ടിച്ചേർത്തു: “സ്വയം അല്ലാത്ത, വ്യക്തി ലക്ഷ്യങ്ങളില്ലാത്ത യന്ത്രങ്ങൾ കണക്കുകൂട്ടാനാവുന്ന, വളരെ വ്യാപകമായ അറിവ് കൈവശം ഉള്ള ശാസ്ത്രജ്ഞനെപൊലഹി പ്രവർത്തിക്കാം എന്ന് കണ്ടുപിടിക്കാൻ സാദ്ധ്യമാണ്. ” നിലവിലെ ജനനശേഷിയുള്ള AI ഉപകരണങ്ങളെ വ്യത്യസ്ഥമാക്കിയാൽ, ബേങിയോയുടെ സിസ്റ്റം, ഒടുവിൽ ഉത്തരങ്ങൾ തെളിയിക്കുന്നതിലേക്കു പകരം, ഉത്തരത്തിന്റെ ശരiyatതയുടെ സാദ്ധ്യതയെ കാണിക്കുന്ന സാധ്യതകൾ മാത്രം നൽകും. “അത് വിനയമുള്ളതാണ്, തന്റെ ഉത്തരങ്ങളിൽ അനിശ്ചിതത്വം അംഗീകരിക്കുന്നു, ” അദ്ദേഹം വ്യക്തമാക്കി. AI ഏജന്റിനെ സഹകരിച്ച് ഉപയോഗിക്കുമ്പോൾ, ബ_TIMEOUT മോഡൽ സ്വയംശേഷിയുള്ള സിസ്റ്റത്തിന്റെ ഇടപെടലുകൾ ചിന്തിച്ചുകൊണ്ട് ഹാനികരമായ പെരുമാറ്റം കാണാനാവുമെന്ന വിശ്വാസത്തോടു കൂടി, അതിന്റെ പ്രവർത്തന സാധ്യതകളെ വിശകലനം ചെയ്യും.

Scientist AI, “ഏജന്റിന്റെ പ്രവർത്തനങ്ങൾ ഹാനികരം വരുത്തുമോ എന്ന് പ്രവചിക്കുന്ന” രീതിയിൽ രൂപകൽപ്പന ചെയ്തതാണ്, അതിർത്തി കടന്നാൽ നിർദ്ദേശിച്ച പ്രവർത്തനം തടഞ്ഞു നിർത്തും. LawZero-ന്റെ ആദ്യ സാമ്പത്തിക പിന്തുണകൾ ഉൾപ്പെടെയുള്ളവയിൽ ഉൾപ്പെടുന്നത് AI സുരക്ഷാസംഘടനം ഫ്യൂചർ ഓഫ് ലിഫ് ഇൻസ്റ്റിറ്റ്യൂട്ടും, സ്കൈപ് സ്ഥാപകനായ ജാൻ ടാലിൻ‍, കൂടാതെ ഗൂഗിള്‍ മുൻചെഫ് എഐ ശാസ്ത്രവേദി എറിയിക് ഷ്മിറ്റ് സ്ഥാപിച്ച എല്ലാ പഠന സംഘങ്ങളുമാണ്. ബ_TIMEOUT emphasizing that LawZero’s പ്രാഥമിക ലക്ഷ്യം ആശയത്തിന്റെ പ്രവൃത്തി വ്യവസ്ഥ തെളിയിക്കുക, പിന്നെ കോമ്പനികളും ഗവൺമെ sash്പാദികളും കൂടുതൽ സ്വാധീനശാലിയുള്ള വികസനങ്ങൾ പിന്തുണയ്ക്കാനാണ്, എന്നും പറഞ്ഞു. മോഡലുകൾ സ്വാതന്ത്ര്യമുള്ള ഓപ്പൺ-സോഴ്സ് ആയിരിക്കും, ചിന്തിക്കാം, മാറ്റാം, പരിശീലന സൗകര്യത്തിന് ഉപയോഗിക്കാം എന്നും അദ്ദേഹം വ്യക്തമാക്കി. “ലക്ഷ്യം, ഈ സംവിധാനം, ഈ വ്യൂഹവിഭവത്തിനായി, സാമ്പത്തിക വാദങ്ങളെയും സർക്കാരുകളെയും, AI ലാബുകളെയും, താൽപ്പര്യപ്പെടുത്താനാണ്. അതുകൂടി, ഈ AI വ്യവസ്ഥകൾ പ്രവർത്തിപ്പിക്കാൻ പ്രത്യേകം ബുദ്ധിമുട്ടുള്ള അതിർത്തികളോടുകൂടി പ്രവർത്തിപ്പിക്കണം, കാരണം ഇത്, നിരീക്ഷിക്കുന്ന AI-യേക്കാൾ ബുദ്ധിമുട്ടാണെന്ന് ഉറപ്പ് വരുത്തണം, ” അദ്ദേഹം പറഞ്ഞു. മോന്റ്രീയലിലെ യൂണിവേഴ്‌സിറ്റി profesora, ഗീാഫ്രേ ഹിന്റൺ, യാൻ ലെകുൻ എന്നിവരാണ് 2018-ൽ ടൂറിങ് പുരസ്‌കാരം നേടി ‘ദൈവദേവത’ എന്ന ഫലപ്രദ നാമം നേടിയിരിക്കുന്നത്. AI സുരക്ഷയുടെ മുൻനിര ശക്തിയായി, അദ്ദേഹം നടന്ന അന്താരാഷ്ട്ര AI സുരക്ഷ റിപ്പോർട്ടിനുള്ള അധ്യക്ഷനായിരുന്നു, അതിൽ സ്ഥിരീകരിച്ചിരുന്നത്, സ്വയംഭരണ ഏജന്റുകൾ “ഭാരപ്പെട്ട” രീതിയിൽ ദോഷം കരുതുകയും അതിന് ശേഷം മനുഷ്യനിരീക്ഷണമില്ലാതെ വലിയ പ്രവൃത്തികൾ നടത്തുമ്പോൾ വലിയ അസ്ഥിരതകൾ ഉണ്ടാകുമെന്നതാണ്.