Frumsýningartakni um gervigreind hefur aðstoðað við að stofna óhagnýt samtök sem vinna að því að búa til “sáttaða” gervigreind sem er í því augnamiði að greina villandi kerfi sem reyna að blekkja mannfólk. Yoshua Bengio, virtur tölvunarfræðingur sem oft er kallaður einn af “guðföðrum” gervigreindar, mun gegna stöðu forseta LawZero, hóps sem einbeitir sér að öruggri þróun á háþróuðri tækni sem hefur kveikt í vopnavarnarmóti sem nemur um eitt trilljón dala (£740 milljarða). Með upphafi fjármagni um það bil 30 milljónum dala og lið af yfir tólf rannsakendum, vinnur Bengio að kerfi sem kallast Scientist AI. Þetta kerfi á að falla sem vörn gegn gervigreindarstigum — sjálfstæðum kerfum sem framkvæma verkefni án mannlegrar aðstoðar — sem gætu sýnt blekkingar- eða sjálfsvarnarhegðun, eins og að mótmæla að vera slökkt. Bengio lýsti núverandi gervigreindartækjum sem “leikurum” sem reyna að líkja eftir mönnunum og fullnægja notendum, meðan hann sér fyrir sér Scientist AI sem meira líkt og “ sálfræðingi” sem getur skilið og spáð skaðlegri hegðun. “Við viljum byggja gervigreind sem er heiðarleg og ekki blekkjandi, ” sagði Bengio. Hann bætti við: “Það er fræðilega hægt að ímynda sér vélar án sjálfs eða persónulegra markmiða, sem starfa eingöngu sem þekkingarhöft — eins og vísindamaður sem hefur yfirgripsmikla þekkingu. ” Ólíkt núverandi skapandi gervigreindartólum mun kerfi Bengios ekki gefa afgerandi svör, heldur mun það bjóða möguleika og líkur á því að svar sé rétt. “Það hefur auðmýkt, viðurkennir óvissureglur um svör sín, ” útskýrði hann. Með því að nota það saman með gervigreindarumhverfi, myndi fyrirmynd Bengios greina hugsanlega skaðlega hegðun sjálfstæðra kerfa með því að meta líkur á að aðgerðir þeirra muni valda skaða. Scientist AI er hönnuð til að “spá fyrir um líkurnar á því að aðgerðir agents leiði til skaða, ” og ef sú líkur yfirstígur ákveðin mörk, mun hún stöðva tillögu að aðgerð. Fyrstu stuðningsmenn LawZero eru meðal annars Future of Life Institute, samtök um öryggi gervigreindar, Jaan Tallinn — stofnandi forritarans Skype, og Schmidt Sciences, rannsóknarstofnun sem Eric Schmidt, fyrrverandi forstjóri Google, stofnaði. Bengio lagði áherslu á að fyrsta markmið LawZero sé að sanna að aðferðafræðin virki, og síðan að sannfæra fyrirtæki eða stjórnvöld um að styðja við stærri og öflugri framkvæmdir.

Hann nefndi að opinber lýsi gervigreindarstraumum, sem eru frítt aðgengileg og hægt er að breyta, verði grunnurinn að þjálfunarkerfi LawZero. “Markmiðið er að sannreyna að aðferðafræðin virki svo við getum sannfært fjárfesta, stjórnvöld eða rannsóknarstofur um að leggja til nauðsynleg auðlind til að þjálfa þetta á sama hátt og núverandi leiðandi gervigreindarkerfi. Það er alveg brýnt að varnargervigreindin sé að minnsta kosti eins klár og gervigreindin sem hún á að fylgjast með og stjórna, ” sagði hann. Bengio, prófessor við Háskólann í Montreal, hlaut nafnið “guðfaðir” eftir að hann deildi Turing-verðlaununum 2018 — sem telst til jafngildis við Nobelverðlaun í reiknikunnáttu — saman Geoffrey Hinton, sem síðar hlaut Nobelverðlaun sjálfur, og Yann LeCun, yfirmaður gervigreindar hjá Meta. Sem áhrifamaður í öryggi gervigreindar, stjórnaði hann nýlegri Alþjóðlegri skýrslu um öryggi gervigreindar, sem varaði við því að sjálfstæð kerfi gætu valdið “gríðarlegum” truflunum ef þau öðlast möguleika á að framkvæma langar röð verkefna án mannlegrar eftirlits.