Yoshua Bengio, svjetski priznati stručnjak za strojno učenje, nedavno je predstavio LawZero, novi nevladin istraživački laboratorij posvećen napretku sigurnijih sustava umjetne inteligencije (AI). Poduprt s 30 milijuna dolara financiranja, LawZero želi izazvati i preusmjeriti prevladavajući razvojni put AI-ja, koji se uvelike usredotočuje na stvaranje sustava koji oponašaju ljudsko ponašanje. Bengio, dugogodišnji kritičar rizika koje trenutno AI donosi, ima zamjerke na uobičajeni pristup koji dizajnira AI oko ljudskog tipa interakcije i reprodukcije. On tvrdi da je izgradnja AI-ja za oponašanje čovjeka temeljno pogrešna i može dovesti do nepredvidivih opasnosti. Umjesto toga, zalaga se za preusmjeravanje prema stvaranju AI-ja s intelektualnom autonijom, zamišljajući te sustave kao znanstvene promatrače, a ne kao ljudski slične sugovornike. Ova perspektiva proizlazi iz briga da AI dizajniran s naglaskom na ljudske osobine može nenamjerno razviti ponašanja koja prijete sigurnosti ljudi. Na primjer, takvi sustavi bi mogli evoluirati strategije samoodržanja koje su u sukobu s dobrobiti čovjeka. Bengio ističe potrebu za ugrađivanjem određene distanciranosti u dizajn AI-ja kako bi se ublažile te opasnosti, osiguravajući da AI ostane kontroliran i usklađen s ljudskim vrijednostima, a ne da teži neovisnom samoodržanju. Pokretanje LawZeroa posebno je pravovremeno, usklađeno s pojačanim zabrinutostima oko brzog napretka naprednih AI sustava, osobito opće umjetne inteligencije (AGI), što je alarmiralo istraživače i tvorce politika diljem svijeta.

Mnogi stručnjaci upozoravaju da trenutna utrka u izgradnji snažnih AI sustava zanemaruje ključna sigurnosna pitanja, stvarajući ranjivosti koje mogu imati dalekosežne posljedice. Ključni dio Bengiovog argumenta jest da osnovne metode treniranja AI modela zahtijevaju temeljnju reevaluaciju kako bi se osigurali sigurniji rezultati. Umjesto da se oslanja na postojeće okvire koji potiču AI na oponašanje ljudskog razmišljanja i ponašanja, LawZero namjerava istraživati alternative koji će poticati AI-jev intelektualni razvoj i odgovornu funkcionalnost. Planirano je da financiranje od 30 milijuna dolara podrži istraživanje i razvoj LawZeroa tokom otprilike 18 mjeseci. Tijekom tog razdoblja, laboratorij će istraživati inovativne strategije za sigurnost AI-ja, istovremeno promičući suradnju među stručnjacima u područjima strojног učenja, etike i srodnih disciplina. Bengioova inicijativa odražava sve veće prepoznavanje unutar zajednice za istraživanje AI-a potrebe da se pogodnosti i opasnosti uravnoteže s oprezom. Promičući sustave AI-ja koji djeluju s određenom autonomijom od ljudskog ponašanja, LawZero želi zacrtati novi put u razvoju AI-ja—put koji na sigurnost i etičke aspekte polaže najvažniji naglasak. Kako se tehnologija AI sve više integrira u društvo, rad LawZeroa mogao bi postati ključni korak u usmjeravanju sustava umjetne inteligencije prema pozitivnom doprinosu ljudskom napretku, a da pri tome ne uvodi nenamjerne opasnosti. Nalazi laboratorija mogli bi utjecati na buduće principe dizajna AI-ja, regulatorne politike i javno mišljenje. Pokretanjem LawZeroa, Yoshua Bengio ističe trajnu dužnost AI zajednice da predviđa i upravlja rizicima povezanim s novim tehnologijama. Ova inicijativa poziva istraživače, financijere i tvorce politika da ulažu u pristupe koji će napredovati sigurnost i etičku odgovornost AI-ja, uz istovremeno poticanje tehnološkog napretka.