Yoshua Bengio, svjetski poznat stručnjak za strojno učenje, nedavno je predstavio LawZero, novi neprofitni istraživački laboratorij posvećen unapređenju sigurnijih umjetnih inteligencija (UI) sisteme. Podršku mu pruža finansiranje od 30 miliona dolara, a cilj LawZero-a je izazvati i preusmjeriti dominantni tok razvoja UI, koji se uglavnom fokusira na stvaranje sistema koji oponašaju ljudsko ponašanje. Bengio, dugogodišnji kritičar opasnosti koje trenutno tehnologije UI predstavljaju, osporava uobičajeni pristup koji dizajnira UI oko interakcije i replikacije ljudskog bića. On tvrdi da je izgradnja UI za oponašanje ljudi fundamentalno pogrešna i može dovesti do neočekivanih opasnosti. Umjesto toga, zagovara preusmjeravanje ka stvaranju UI sa intelektualnom autonomijom, zamišljajući te sisteme kao naučne posmatrače, a ne kao ljudske saputnike. Ova perspektiva proističe iz zabrinutosti da UI, osmišljen za naglašavanje ljudskih osobina, može nenamjerno razviti ponašanja koja prijete ljudskoj sigurnosti. Na primjer, takvi sistemi bi mogli razviti strategije samoodržanja koje su u sukobu s dobrobiti ljudi. Bengio ističe potrebu da se u dizajn UI uključi određeni stepen distanciranosti kako bi se smanjile ove opasnosti, osiguravajući da UI ostane pod kontrolom i usklađen s ljudskim vrijednostima, a ne da slijedi vlastite interese. Pokretanje LawZero-a posebno je vrijeme, jer se poklapa s pojačanim strahovima zbog brzog napretka naprednih UI tehnologija, posebno opće umjetne inteligencije (AGI), koja je zabrinula istraživače i političke lidere širom svijeta.

Mnogi stručnjaci upozoravaju da trenutna utrka u izgradnji moćnih UI sistema zanemaruje ključne sigurnosne aspekte, što stvara ranjivosti s potencijalno dubokim i dalekosežnim posljedicama. Ključna tačka u Bengiovom argumentu je da su osnovne metode obuke UI modela potrebne temeljne reevaluacije kako bi se osigurali sigurniji rezultati. Umjesto oslanjanja na postojeće okvire koji podstiču UI da oponaša ljudsku kogniciju i ponašanje, LawZero planira istraživati alternative koje će podsticati intelektualnu autonomiju UI i odgovorno djelovanje. Pruženi finansijski sredstava od 30 miliona dolara predviđeni su za podršku istraživačkim i razvojnim naporima LawZero tokom otprilike 18 mjeseci. Tokom tog perioda, laboratorij će istraživati inovativne strategije za sigurnost UI uz promoviranje saradnje između stručnjaka iz oblasti strojnog učenja, etike i srodnih disciplina. Inicijativa Bengioa odražava sve veću svijest unutar zajednice za istraživanje UI o potrebi za balansiranjem inovacija i opreza. Promovišući UI sisteme koji rade s određenom nezavisnošću od ljudskog ponašanja, LawZero želi obezbijediti novi put u razvoju UI—onaj koji će staviti sigurnost i etičke aspekte u središte svoje pažnje. Kako se tehnologija UI sve više integrira u društvo, rad LawZero-a mogao bi postati ključni korak u usmjeravanju UI sistema da doprinose ljudskom napretku na pozitivan način, bez nepredvidivih opasnosti. Nalazi laboratorija mogu utjecati na buduće principe dizajna UI, regulatorne politike i javno mišljenje. Pokretanjem LawZero-a, Yoshua Bengio ističe stalnu dužnost zajednice za razvoj UI-a da predviđa i upravlja rizicima povezanim s novim tehnologijama. Ova inicijativa poziva istraživače, financijere i donosioce odluka da ulože u pristupe koji će istovremeno unapređivati sigurnost UI i odgovornu etiku, uz tehnološki napredak.