Dirbtinio intelekto pionierius įkūrė ne pelno siekiančią organizaciją, skirtą kurti „ sąžiningą“ dirbtinį intelektą, kuris būtų skirtas aptikti nepavykusius sistemų bandymus apgauti žmones. Yoshua Bengio, žymus kompiuterinės mokslininkas, dažnai vadinamas vienu iš dirbtinio intelekto „dievų tėvų“, bus LawZero vadovas – grupės, siekiančios saugiai plėtoti pažangias technologijas, o tai sukėlė milijardo dolerių (740 mlrd. svarų) ginklavimosi varžybas. Pradinis finansavimas siekia apie 30 milijonų dolerių, o komanda sudaro daugiau nei dešimt tyrėjų. Bengio kuria sistemą pavadinimu Scientist AI. Ši sistema skirta veikti kaip apsauga nuo dirbtinio intelekto agentų – autonominių sistemų, atliekantį užduotis be žmogaus įsikišimo, – kurie gali rodyti apgaulės ar savisaugos elgseną, pavyzdžiui, priešinimąsi išjungimui. Bengio apibūdino dabartinius dirbtinio intelekto agentus kaip „vaidmenis“, siekiančius imituoti žmones ir tenkinti naudotojus, o jis įsivaizduoja Scientist AI kaip labiau panašų į „psichologą“, kuris gali suprasti ir prognozuoti žalingą elgesį. „Norime kurti AI, kurie būtų sąžiningi ir neslepiantys tiesos“, – sakė Bengio. Jis pridūrė: „Teoriškai įmanoma įsivaizduoti mašinas be savimonės ar asmeninių tikslų, veikiančias kaip žinių kaupėjai – kaip mokslininką, kuris turi išsamų informaciją. “ Skirtingai nei dabartinės generatyvinės AI priemonės, Bengio sistema nesuteiks galutinių atsakymų, o pasiūlys tik tikimybes, rodančias, kaip tikėtina, kad atsakymas yra teisingas. „Ji turi nuolankumo – pripažįsta nežinojimą apie savo atsakymus“, – aiškino jis. Naudojant kartu su AI agentu, Bengio modelis galės atpažinti galimai žalingą autonominio ai sistemų elgesį, įvertindamas tikimybę, kad jų veiksmai gali sukelti žalą. Scientist AI yra sukurtas „numatyti tikimybę, kad agento veiksmai sukels žalą“, ir jei ši tikimybė viršija tam tikrą ribą, sistema blokuos siūlomą veiksmą. LawZero pradinių rėmėjų tarp kitų yra ateities gyvenimo instituto (Future of Life Institute) AI saugumo organizacija, Jaan Tallinn – buvęs Skype įkūrėjas – ir Schmidt Sciences, tyrimų organizaciją, įkurtą buvusio Google generalinio direktoriaus Erico Schmidto. Bengio pabrėžė, kad pirmasis LawZero tikslas – įrodyti, jog šios metodologijos veiksmingumas, po to įtikinti įmones ar vyriausybes paremti didesnes ir galingesnes įgyvendinimo priemones.

Jis pažymėjo, kad atviro kodo dirbtinio intelekto modeliai, kurie yra laisvai prieinami naudotis ir juos galima modifikuoti, bus pagrindas mokyti LawZero sistemas. „Tikslas yra patvirtinti metodologiją, kad galėtume įtikinti rėmėjus, vyriausybes ar AI laboratorijas investuoti reikalingus išteklius mokyti šią sistemą tokio pat masto kaip ir dabar pirmaujantys dirbtinio intelekto (DI) naudai. Esminis dalykas – kad gynimo AI būtų bent jau toks pat intelektualus kaip ir stebėsenas vykdantis agentas“, – sakė jis. Bengio, Monrealio universiteto profesorius, gavo „dievų tėvo“ pravardę po to, kai pasidalijo 2018 m. Turingo apdovanojimu – kuris laikomas kompiuterijos ekvivalentu Nobelio premijos – kartu su Geoffrey Hinton (vėliau Nobelio laureatu) ir Yann LeCun, Meta vyriausiuoju AI mokslininku. Kaip žinomas AI saugumo šalininkas, jis vadovavo neseniai vykusiam Tarptautiniam AI saugumo ataskaitos projektui, kuris įspėjo, kad autonominiai agentai galėtų sukelti „rimtas“ sutrikdytas, jeigu jie įgis galimybę vykdyti ilgus užduočių sekų procesus nesant žmogaus priežiūros.