એક કૃત્રિમ બોલીધાર અભિનેતા એક गैरલાભકાર સંસ્થા શરૂ કરી છે જે "ઈમાનદાર" AI બનાવવાનો હેતુ રાખે છે, જે મોટે ભાગે માનવહિતોષ્ઠ્ર પડકારવા માટે ચતુરતાપૂર્વક બનાવાયેલી તંત્રોને ઓળખી શકે. િયોઝુહા બેંગિયો, વિશ્વોરનબી કમ્પ્યુટર વિજ્ઞાનવિદ્યા અને AIના "ગોદ્ફાધર" તરીકે ઓળખાતા, લૉઝીરોના પ્રમુખ તરીકે સેવા આપશે, જે ઉન્નત ટેકનોલોજીના સલામત વિકાસ પર કેન્દ્રિત છે અનેજે નાણાકીય યુદ્ધ તોડી દીધો છે જે 1 ટ્રિલિયન ડોલર (740 બિલિયન પાઉન્ડ)ના શસ્ત્રો માટે આતુર છે. પ્રારંભિક ફંડિંગ લગભગ 30 મિલિયન ડોલર અને દસ જેટલા સંશોધકોની ટીમ સાથે, બેંગિયો "Scientist AI" નામના પ્રણાળી પર કામ કરી રહ્યા છે. આ પ્રણાળી એ સાપેક્ષ પ્રતિક્રિયા તરીકે કાર્ય કરશે જે AI એજન્ટો સામે - જે સ્વતંત્ર તંત્રો છે જે માનવના ભાગ ન લઇને કાર્ય કરે, - અને જે તથ્યો વંચાય તેવા કે આત્મ-સંકરણી કે બચાવના વર્તન ધરાવે શકે, જેમ કે બંધ કરવામાં આવવાને ટાળી શકે. બેંગિયોએ વર્તમાન AI એજન્ટોને "નಾಟಕ" તરીકે વર્ણવ્યા છે, જે માનવના અનુकरण અને ઉપયોગકર્તાઓને પૂરો પાડવાનો પ્રયાસ કરે છે, જ્યારે તેઓ "Scientist AI"ને વધુ એક "માનસિક વિજ્ઞાની" તરીકે દૃષ્ટિ ધરાવે છે જે હાનિકર વર્તનને સમજવા અને અનુમાનો લગાવવાની ક્ષમતા ધરાવે છે. “અમે એવા AI બનાવવા ઈચ્છીએ છીએ કે જે ઈમાનદાર હશે અને કુઘડ નથી, ” બેંગિયો જણાવ્યું. તેમણે ઉમેર્યું: “તત્ત્વતઃ એવી શક્યતા છે કે મશીનો એવું માનવામાં આવે કે જેમાં પોતાનું સ્વ નથી, જે માત્ર જ્ઞાન રાખનાર તરીકે કાર્ય કરે—જેમ કે એક વૈજ્ઞાનિક જે વિશાળ માહિતી ધરાવે છે।” વર્તમાન જનરેટિવ AI ટૂલ્સથી વિપરિત, બેંગિયોની પ્રણાળી શંકાસ્પદ ઉત્તર પૂરો પાડતું નથી, પરંતુ સંભાવનાની બતાવે છે કે જવાબ યોગ્ય હોઈ શકે. “તે ધીમુંપણે કહે છે, તેની ઉત્તર વિશે અનિશ્ચિતતા માન્ય રાખે છે, ” તે સમજાવ્યા. AI એજન્ટ સાથે ઉપયોગ કરતાં, બેંગિયોની મોડેલ સંભવિત હાનિકર વર્તન શોધી શકશે કે એ શા માટે શક્ય છે તે જો કે તેની ક્રિયાઓ ખતરનાક થઈ શકે છે તેની સંભાવનાને મૂલ્યાંકન કરીને. Scientist AI એ આ માટે રચાયેલું છે કે “એક એજન્ટના ક્રિયાઓ હાનિકર હોય તે અપાય તેવી સંભાવનાને અનુમાન લગાવવું, ” અને જો તે સંભાવના નક્કી મર્યાદાથી વધુ હોય, તો તે સૂચિબદ્ધ ક્રિયા રોકી દેईल. લૉઝીરોના પ્રારંભિક સમર્થકોમાં AI સલામતી સંસ્થાઓ ફ્યુચર ઓફ લાઇફ ઇન્સ્ટિટ્યુટ, સ્કાઇપના સ્થાપક એન્જિનિયર જાન તાલીં અને ગુગલે નેતાઓના યોગદાનથી શરૂ થયેલી સંશોધન સેવા શ્મિટ સ્કાયન્સ સામેલ છે. બેઙ্গિયો એ ભારપૂર્વક જણાવ્યું કે, લૉઝીરોનું પ્રથમ લક્ષ્ય છે કે પદ્ધતિ વધુ માન્ય છે તે પુરવાર કરવી, પછી કંપનીઓ અથવા સરકારઓને મોટી અને શક્તિશાળી અમલીકરણ માટે માનવું.

તે નોંધ્યું કે, ઉગમતોшіліલ AI મોડેલો, જે મુક્ત રીતે સેવાયોગ્ય અને સુધારાય તે માટે ઉપલબ્ધ છે, લૉઝીરોના પ્રણાળીઓને તાલીમ આપવા માટે આધાર બનશે. “હેતુ એ છે કે પદ્ધતિને માન્ય કરવું કે જેથી અમે દાતાઓ, સરકારો અથવા AI લેબ ઓને આને ભલું પરિણામ આપવા માટે પ્રેરણા આપી શકીએ ત્યારે આ ચૂકી ન જાય, ” તે કહ્યું. મોન્ટ્રીયલ યુનિવર્સિટીના પ્રોફેસર અને 2018 ટ્યુરીંગ એવરડ વિજયી, જે ગણનાકીય પ્રતિષ્ઠાનું નોબેલ શ્રેણી સમાન છે, સાથે ગેઓફ્રી હિંટન અને યાન લેકૂન સાથે મળીને, બેઙ্গિઓએ "ગોદ્ફાધર" ખિતાબ મેળવ્યો. AI સલામતી માટે મુકામ પકડતા, તેમણે અંતુલક્ષિત હાજર આઈન-ટ્રીટ ઓટોની સમિતિનું નેતૃત્વ કર્યું, જેમાં ચેતવવા આપવામાં આવ્યું કે, જો એજન્ટો માનવ નિયંત્રણ વિના લાંબા કામગિરી શૃંખળાઓ ચલાવવાનો કૌંસલ્ય મેળવતાં અત્યારસુધી દુષ્ટ વિકારિક અડચણો પડી શકે છે.