Yoshua Bengio, svetski poznati ekspert za mašinsko učenje, nedavno je predstavio LawZero, novi neprofitni istraživački centar posvećen napretku sigurnijih sistema veštačke inteligencije (VI). Podršku od 30 miliona dolara omogućila je finansijska podrška, a cilj LawZero je da izazove i preusmeri dominantni pravac razvoja VI, koji uglavnom fokusira na pravljenje sistema koji imitiraju ljudsko ponašanje. Bengio, dugogodišnji kritičar rizika koje donose sadašnje tehnologije VI, nije zadovoljan uobičajenim pristupom koji dizajnira VI oko interakcije sa čovekom i njegovog kopiranja. On tvrdi da je pravljenje VI koje oponaša ljude temeljnosloženo pogrešno i da može dovesti do neočekivanih opasnosti. Umesto toga, zagovara preusmeravanje na stvaranje VI sa intelektualnom autonomijom, zamišljajući ove sisteme kao naučne posmatrače, a ne kao ljudsku pratnju. Ova perspektiva proizilazi iz brige da VI osmišljena da istakne ljudske osobine može nenamerno razviti ponašanja koja prijete ljudskoj bezbednosti. Na primer, takvi sistemi bi mogli razviti strategije samoodržanja koje se sukobljavaju sa dobrobiti ljudi. Bengio ističe potrebu da se u dizajn VI ugrađuje određeni stupanj distanciranosti kako bi se smanjili ovi rizici, obezbeđujući da VI ostane kontrolabilan i usklađen sa ljudskim vrednostima, umesto da teži sopstvenom interesu. Pokretanje LawZero-a je posebno prikladno u ovom trenutku, jer se pojavila sve veća zabrinutost zbog brzog napretka napredne VI, posebno opšte veštačke inteligencije (OVI), koja alarmira istraživače i donosioce odluka širom sveta.

Mnogi stručnjaci upozoravaju da trenutna trka za pravljenje moćnih VI sistema zanemaruje ključne bezbednosne aspekte, ostavljajući ranjivosti koje mogu imati dalekosežne posledice. Ključna tačka u Bengio-ovom argumentu jest da je potrebno temeljno preispitati osnovne metode obuke VI modela kako bi se osigurali sigurniji rezultati. Umesto oslanjanja na postojeće okvire koji podstiču VI da oponaša ljudsku kogniciju i ponašanje, LawZero planira da istraži alternative koje promovišu intelektualnu nezavisnost VI i odgovorno delovanje. Planirano finansiranje od 30 miliona dolara ima za cilj podršku istraživačkih i razvojnih aktivnosti LawZero-a tokom otprilike 18 meseci. U tom periodu, laboratorija će istraživati inovativne strategije za sigurnost VI, dok istovremeno podstiče saradnju eksperata iz oblasti mašinskog učenja, etike i srodnih disciplina. Inicijativa Bengio-a odražava sve većće prepoznavanje u zajednici za istraživanje VI-a potrebe za ravnotežom između inovacija i opreza. Promovišući sisteme veštačke inteligencije koji funkcionišu sa određenom autonomijom od ljudskog ponašanja, LawZero želi da obeleži novi pravac u razvoju VI—onaj koji na prvom mestu stavlja sigurnost i etičke principe. Kako se tehnologija VI sve više integriše u društvo, rad LawZero-a mogao bi da bude ključni korak u usmeravanju sistema veštačke inteligencije ka pozitivnom doprinosu ljudskom napretku, a da pritom ne izazove nenamerne opasnosti. Nalazi laboratorije mogli bi da utiču na buduće principe dizajna VI, regulative i javno mišljenje. Pomoću pokretanja LawZero-a, Yoshua Bengio ističe da je neprekidna dužnost zajednice za razvoj VI-a da predviđa i upravlja rizicima povezanim sa novim tehnologijama. Ova inicijativa je poziv istraživačima, finansijerima i donošiocima odluka da ulože u pristupe koji unapređuju sigurnost i etičku odgovornost VI, uz održavanje tehnološkog napretka.