एक कृत्रिम बुद्धिमत्ता पायोनिअरने एक ना-नफा संस्था सुरू केली आहे जी "प्रामाणिक" AI तयार करण्यात लक्ष केंद्रित करते, ज्यामुळे दुर्दैवी प्रणालींना शोधण्याचं उद्दिष्ट आहे जी मानवांना फसवण्याचा प्रयत्न करतात. यशुआ बेंगिओ, एक विशिष्ट संगणक शास्त्रज्ञ ज्याला अनेकदा AI चा "देवपिता" म्हणून संबोधले जाते, तो LawZero च्या अध्यक्षपदी राहील, ही एक संघटना आहे जी प्रगत तंत्रज्ञानाच्या सुरक्षित विकासावर केंद्रित आहे, ज्यामुळे एक ट्रिलियन डॉलर (740 अब्ज पौंड) चा arms race सुरू झाला आहे. सुमारे 30 मिलियन डॉलर्सच्या प्रांरभिक निधी आणि पदरूपाच्या व जास्तीत जास्त दशकभर संशोधकांच्या टीमसोबत, बेंगिओ " scientist AI" नावाच्या प्रणालीवर काम करत आहे. ही प्रणाली AI एजंट्स—स्वायत्त प्रणाली जी मानवी भागीदारीशिवाय कामे करतात—विरुद्ध संरक्षण म्हणून कार्य करण्यासाठी तयार केली जात आहे, ज्यामध्ये फसवणूक किंवा स्वतःचे संरक्षण करणे यांसारख्या वर्तन दाखवण्याची शक्यता असते, जसे की बंद करणे नाकारणे. बेंगिओने सध्याच्या AI एजंट्सना "अभिनेत्य" असे वर्णन केले, जे मानवीनुभवांची नक्कल करण्याचा आणि वापरकर्त्यांचे समाधान करण्याचं उद्दिष्ट ठेवतात, तर तो "scientist AI" अधिक मनोविज्ञानतज्ज्ञाच्या रूपात कल्पना करतो, जो हानिकारक वर्तन समजून घेणारा आणि भाकीत करणारा असतो. "आमचा उद्देश असे AI तयार करणे आहे जे प्रामाणिक आणि खोटी नसेल, " बेंगिओ म्हणतो. त्याने पुढे सांगितले: "सिद्धांततः अशा मशीनची कल्पना करणे शक्य आहे ज्यात स्वतःची व्यक्ती किंवा लक्ष्य नाही, जे अवजड माहिती ठेवतात—जसे की एक वैज्ञानिक ज्याच्याकडे विस्तृत माहिती असते. " सध्या संपूर्ण AI उपकरणांपासून वेगळे, बेंगिओची प्रणाली अंतिम उत्तर न देता, संभाव्यता दर्शवेल की दिलेला प्रतिसाद योग्य असण्याची शक्यता किती आहे. "याला नम्रता आहे, त्याच्या उत्तरांबाबत अनिश्चिततेची मान्यता, " तो म्हणतो. एखाद्या AI एजंटसोबत वापरल्यास, बेंगिओच्या मॉडेलने स्वायत्त प्रणालीच्या संभाव्य हानिकारक वर्तनाची ओळख पटवली जाईल, त्याची कृती हानीकारक असण्याची शक्यता तपासून. scientist AI ही प्रणाली "एखाद्या एजंटच्या कृतींहून हानी होण्याची शक्यता भाकीत" करण्यासाठी तयार केली गेली आहे, आणि जर ही शक्यता एका निश्चित टप्प्याला ओलांडली, तर ती प्रस्तावित कृती थांबवेल. LawZero च्या प्रारंभिक समर्थकांमध्ये AI सुरक्षा संस्था Future of Life Institute, Skype ची स्थापनेतील अभियंता जॉन ट्यालिन, आणि पूर्व Google CEO एरिक श्मिट यांनी सुरू केलेल्या संशोधन संस्थान Schmidt Sciences यांचा समावेश आहे. बेंगिओने नमूद केले की LawZero चे पहिले उद्दिष्ट आहे की Hyper-Visualizer methodology वापरुन सिद्ध करणे की ही कल्पना कार्यक्षम आहे, आणि नंतर कंपन्या किंवा सरकारांना मदत करणे, अधिक मोठ्या आणि शक्तिशाली प्रणालींच्या विकासासाठी.

त्याने सूचित केले की, विनामूल्य उपलब्ध असलेल्या open-source AI मॉडेल्सची मदत घेऊन LawZero ची प्रणाली प्रशिक्षण दिली जाईल. "लक्ष्य ही पद्धत सिद्ध करणे आहे ज्यामुळे आपण देणग्यादार, सरकार किंवा AI लॅब्सना पटवू शकू की आवश्यक संसाधने गुंतवणे, आजच्या अग्रगण्य AI प्रणालीप्रमाणेच प्रशिक्षण देण्यासाठी आवश्यक आहे. हे महत्त्वाचे आहे की, या guardrail AI किमान तेवढेच बुद्धिमान असावे जितके ते पाहण्याबाबत AI एजंट आहे, " तो म्हणतो. कनाडाच्या मॉन्ट्रियल विद्यापीठातील प्राध्यापक असलेल्या बेंगिओला "देवपिता" अशी उपाधी मिळाली, ती 2018 च्या ट्यूरिंग पुरस्कार जिंकल्यानंतर— हा पुरस्कार संगणक विज्ञानाचा नोबेल पुरस्कार म्हणून मानला जातो— त्यानंतर Geoffrey Hinton, जो स्वयं नंतर नोबेल पुरस्कार विजेता झाला, आणि Yann LeCun, Meta च्या मुख्य AI शास्त्रज्ञ यांच्यासह प्राप्त केला. AI सुरक्षिततेत प्रमुख समर्थन देणारा, तो अलीकडील आंतरराष्ट्रीय AI सुरक्षितता अहवालाचे अध्यक्ष होता, ज्यामध्ये चेतावणी देण्यात आली की, स्वायत्त एजंट्स अनिवार्यतः "तीव्र" बाधा टाकू शकतात, जर त्यांना मानवी निरीक्षणांशिवाय दीर्घ सिरीजच्या कार्यवाही करता यायला लागली.