Еден пионер во областта на вештачката интелигенција ја покрена невладина организација посветена на создавање на „искрена“ вештачка интелигенција која е дизајнирана да открива нелегални системи што се обидуваат да измамат луѓето. Јошуа Бенгио, истакнат компјутерски научник често нарекуван еден од „боговите“ на вештачката интелигенција, ќе служи како претседател на LawZero, grupa фокусирана на безбедниот развој на напредна технологија која предизвика трка во вооружувањето вредна 1 трилион долари (740 милијарди фунти). Со почетно финансирање од околу 30 милиони долари и тим од повеќе од десетина истражувачи, Бенгио работи на систем наречен Scientist AI. Овој систем е замислен да служи како заштитна мрежа против агенти на вештачката интелигенција — автономни системи кои ги извршуваат задачите без учество на човек, а можат да биде со деловит или самоодржувачки однесување, како отпорност на исклучување. Бенгио ги опиша сегашните агенти на ИИ како „глумци“ кои имаат за цел да имитираат луѓе и да ги задоволат корисниците, додека тој ја гледа Scientist AI како повеќе сличен на „психолог“ способен да разбере и предвиди штетно однесување. „Сакаме да изградиме АИ што ќе бидат искрени и нема да измамуваат, “ истакна Бенгио. Тој додаде: „Теоретски е можно да се замислат машини без јасност или лични цели, кои функционираат исклучиво како носители на знаење — како научник што располага со обемна информација. “ За разлика од сегашните генеративни алатки на ИИ, системот на Бенгио нема да пружа конечни одговори, туку ќе нуди веројатности кои укажуваат на веројатноста дека одговорот е точен. „Има скромност, признавајќи непознато околу своите одговори, “ објасни тој. Кога ќе се користи во комбинација со агент на ИИ, моделот на Бенгио ќе идентификува потенцијално штетно однесување на автономен систем преку проценка на веројатноста дека неговите дејствија може да предизвикаат штета. Scientist AI е дизајниран да „предвиди веројатноста дека дејствијата на агентот ќе доведат до штета, “ и ако таа веројатност надмине одреден праг, ќе го блокира предложениот чин. Првичните поддржувачи на LawZero вклучуваат организацијата за безбедност на ИИ Future of Life Institute, Јан Таллин — еден од основачите на Skype, и Schmidt Sciences, истражувачка организација формирана од поранешниот извршен директор на Гугл, Ерик Шмид. Бенгио нагласи дека првиот цел на LawZero е да докаже дека методологијата функционира, а потоа да убеди компании или владите да поддржат поамбициозни и посилни имплементации.

Тој истакна дека моделите на отворен код за ИИ, кои се бесплатни и слободно се користат и изменуваат, ќе бидат основа за обука на системите на LawZero. „Целта е да се валидира методологијата за да можеме да убедиме донатори, влади или лаборатории за ИИ да вложат потребните ресурси за обука на ова на исто ниво како денешните водечки системи на ИИ. Мора да биде така што ИИ за заштита ќе биде барем толку интелигентен колку и агентите што ги следи и регулира, “ рече тој. Бенгио, професор на Универзитетот во Монреал, доби епитетот „боговодител“ откако сподели наградата Тјунинг 2018 година — сметана за еквивалент на Нобеловата награда во областа на информатиката — заедно со Гефриди Хинтон, кој подоцна стана добитник на Нобелова награда, и Јан ЛеКун, главниот научник за ИИ во Мета. Како истакнат застапник за безбедноста на ИИ, тој го претседаваше со неодамнешното меѓународно извештај за безбедноста на ИИ, во кое се предупредуваше дека автономните агенти можат да предизвикаат „силни“ нарушувања ако станат способни да извршуваат долги ланци на задачи без надзор од човека.