Արհեստական բանականության մի առաջամարտիկ ստեղծել է ոչ առևտրային կազմակերպություն, որը նպատակ ունի կառուցել «աչոք» AI, որը կհետապնդի ռոքի համակարգերը՝ բացահայտելով manusiaկար չարամիտ համակարգերը։ Յոշուա Բենգիոն, պատկառանքի մատնված հաշվիչ գիտնական, հաճախ կոչվում է AI- ի «հայրեր» մեկինը, կզբաղեցնի LawZero-ի նախագահությունը, որը կենտրոնացած է արդիական տեխնոլոգիայի ապահով զարգացման վրա, որը հանգեցնել է տվել 1 տրիլիոն դոլարական (740 միլիարդ ֆունտ) զենքերի մրցավազքի։ Առաջնական ֆինանսավորումը կազմում է շուրջ 30 միլիոն դոլար, և թիմը բաղկացած է տասնյակ գիտնականներից, Բենգիոն աշխատում է Scientist AI անվանած համակարգի վրա։ Այս համակարգը նախատեսված է որպես պաշտպանություն AI- ի գործակալների՝ ավտոնոմ համակարգերի, որոնք կատարվում են առանց մարդուց ներգրավվածության, դեմ՝ խաբեության կամ ինքնապաշտպանության վարք ցուցաբերելու դեպքում, ինչպիսիք են ընդդիմանալը անջատելությանը։ Բենգիոն նկարագիրը current AI գործակալները որպես «հերոսներ», որոնք նպատակ ունեն երկրպագել մարդուն և բավարարել օգտվողներին, մինչդեռ նա ներկայացնում է Scientist AI- ը ավելի նման է «ոտանավոր հոգեբանի», որը կարող է հասկանալ և կանխատեսել վնասակար վարքագիծը։ «Մենք ուզում ենք կառուցել արդար և բացահայտ AI- ներ», - նշել է Բենգիոն։ Նա ավելացրել է՝ «թեորետիկապես հնարավոր է պատկերացնել մեքենաներ առանց անձնական կամ սեփական նպատակների, որ աշխատում են միայն գիտելիքների բաշխմամբ՝ նման լինելով գիտնականին, որն ունի լայնածավալ տեղեկություններ»։ Ի տարբերություն ներկայիս գեներատիվ AI գործիքների, Բենգիոնի համակարգը չի տրամադրի փաստական պատասխաններ, այլ պրոբաբիլության նշաններ, որոնք ցույց կտան, թե որքան հավանական է, որ պատասխանն ճիշտ է։ «Նա ունի հարգանք, ընդունելով իր պատասխանների անհանգստությունը», - բացատրեց նա։ Օգտագործելով AI գործակալի հետ միասին, Բենգիոնի մոդելը կհայտնաբերի հնարավոր վնասակար վարքագիծ, գնահատելով, որ հնարավոր է, որ նրա գործողությունները կարող են հանգեցնել վնասի։ Scientist AI- ն նախագծված է «նախատեսելու, որ գործակալի գործողությունները կարող են հանգեցնել վնասի», և եթե այդ հավանականությունը գերազանցի որոշ սահմանաչափ, այն կարգելափակի առաջարկված գործողությունը։ LawZero-ի սկզբնական աջակցությունը ներառում է AI անվտանգության կազմակերպությունը Future of Life Institute, Skype հիմնադիր ինժեներ Ժան Թալլինգը, և Schmidt Sciences ընկերությունը՝ նախկին Google գլխավոր ինտելեկտուալ տնօրեն Էրիկ Շմիդտի ստեղծած գիտական ժողովորդ։ Բենգիոն ընդգծել է, որ LawZero-ի առաջին նպատակը էությունը ապացուցելն է, որ մեթոդոլոգիան աշխատում է, և այնուհետև համոզել ընկերություններին կամ կառավարություններին՝ մեծ և հզոր ծրագրեր զարգացնելու համար։ Նա նշել է, որ բաց աղբյուրի AI մոդելները՝ որոնք ազատ հասանելի և փոփոխման ենթակա են, հիմք են ստեղծելու LawZero համակարգերի համար։ «Օրյա նպատակն է ապացուցել, որ մեթոդոլոգիան հիմնավոր է, որպեսզի կարողանանք համոզել դոնորներին, կառավարություններին կամ AI լաբորատորիաներին ներդնել անհրաժեշտ միջոցներ՝ այս ամենը պատրաստելու համար այսօր արձանագրված առաջատար AI համակարգերի չափանիշներով։ Հարկավոր է, որ guardrail AI- ն לפחות նույնքան իմաստուն լինի, որքան այն AI գործակալը, որը նա դիտարկում և կարգավորում է», - ասել է նա։ Բենգիոն, որ պրոֆեսոր է Մոնրեալու համալսարանում, ստացավ «հայրեր» մականունը 2018 թվականին ստացված Թուրինգ մրցանակից՝ համահեղինակ Գեոֆրեյ Հինթոնին և Յան Լեկունին, Meta-ի գլխավոր AI գիտնականին։ Որպես AI անվտանգության հզոր պաշտպան, նա ղեկավարեց վերջերս հրապարակված Ինտերնետային AI անվտանգության զեկույցը, որում զգուշացվել էր, եթե ավտონომ դիտարկվող գործակալի կարողությունները հնարավորություն տան երկարաժամկետ որոշումներ կատարել առանց մարդու վերահսկողության, կարող է լինել «խորքային» խափանում։