Yoshua Bengio, svetovno priznan strokovnjak za strojno učenje, je nedavno predstavil LawZero, novo neprofitno raziskovalno laboratorijo, posvečeno razvoju varnejših umetnih inteligentnih (UI) sistemov. Podprt z 30 milijoni dolarjev financiranja, si LawZero prizadeva izzvati in preusmeriti prevladujočo pot razvoja UI, ki se v veliki meri osredotoča na ustvarjanje sistemov, ki posnemajo človeško vedenje. Bengio, dolgoletni kritik tveganj, ki jih predstavljajo trenutne UI tehnologije, se ne strinja z običajnim pristopom, da je UI zasnovana okoli človeško podobnih interakcij in reprodukcije. Trdi, da je gradnja UI za posnemanje ljudi temeljno napaka in lahko vodi do nepričakovanih nevarnosti. Namesto tega zagovarja preusmeritev k ustvarjanju UI z intelektualno avtonomijo, pri čemer si predstavlja te sisteme kot znanstvene opazovalce, ne kot človeške spremljevalce. Ta perspektiva izhaja iz skrbi, da bi lahko UI, zasnovana za poudarjanje človeških lastnosti, vseeno naključno razvila vedenja, ki ogrožajo človeško varnost. Na primer, takšni sistemi bi se lahko razvili v strategije samoohranitve, ki bi bile v konfliktu z blagostanjem ljudi. Bengio poudarja potrebo po vgradnji določene mere distanciranosti v zasnovo UI, da bi zmanjšali ta tveganja in zagotovili, da ostane nadzorna in usklajena z človekovimi vrednotami, namesto da bi sledila lastnim interesom. Zagon LawZero je še posebej pravilen, saj sovpada s povečanim zaskrbljenostmi glede hitrega napredka naprednih UI sistemov, zlasti umetne splošne inteligence (AGI), ki je razjezila raziskovalce in oblikovalce politik po svetu.

Veliko strokovnjakov opozarja, da trenutna tekma za izdelavo močnih UI sistemov zanemarja ključne varnostne izzive, kar ustvarja ranljivosti z možnimi dolgoročno pomembnimi posledicami. Ključna točka v Bengiovem argumentu je, da je potrebno temeljito preučiti osnovne načine usposabljanja UI modelov, da bi zagotovili varnejše rezultate. Namesto da bi se zanašali na obstoječe okvirje, ki spodbujajo UI k posnemanju človeškega razmišljanja in vedenja, LawZero namerava raziskovati alternative, ki podpirajo intelektualno neodvisnost in odgovorno delovanje UI. Financiranje v višini 30 milijonov dolarjev je namenjeno podpiranju raziskovalnih in razvojnih prizadevanj LawZero, približno v obdobju 18 mesecev. V tem času bo laboratorij raziskoval inovativne strategije za varnost UI ter spodbujal sodelovanje med strokovnjaki za strojno učenje, etiko in sorodnimi področji. Bengiojeva iniciativa odraža vse večje priznanje znotraj skupnosti za raziskave UI, da je potrebno uravnotežiti inovacije s previdnostjo. S spodbujanjem sistemov UI, ki delujejo z določeno stopnjo neodvisnosti od človeških lastnosti, želi LawZero začrtati novo pot v razvoju UI — pot, ki temeljni postavlja varnost in etične premisleke. Ker se tehnologija UI vse bolj vključuje v družbo, bi lahko delo LawZero postalo ključen korak pri usmerjanju sistemov UI, da bi pozitivno prispevali k človeškemu napredku, ne da bi vnesli nenamerne nevarnosti. Rezultati raziskav laboratorija bi lahko vplivali na prihodnje principe oblikovanja UI, regulativne politike in javno mnenje. Z lansiranjem LawZero Yoshua Bengio poudarja stalno dolžnost skupnosti za razvoj UI, da predvidi in upravlja tveganja, povezana z razvojem novih tehnologij. Ta pobuda je poziv raziskovalcem, financerjem in oblikovalcem politik, naj vlagajo v pristope, ki hkrati izboljšujejo varnost UI in etično odgovornost ob hkratnem tehnološkem napredku.