Yoshua Bengio, pasaulinio lygio mašininio mokymosi ekspertas, neseniai pristatė LawZero – naują nepelno siekiančią tyrimų laboratoriją, skirtą saugesnių dirbtinio intelekto (DI) sistemų plėtrai. Turėdama 30 milijonų dolerių finansavimą, LawZero siekia iššūkį ir nukreipti vyraujantį DI vystymosi kelią, kuris daugiausia daugiausiai remiasi sistemų, imituojančių žmogaus elgseną, kūrimu. Bengio, ilgalaikis esamų DI technologijų keliamų rizikų kritikas, nesutinka su dažnu požiūriu, kai DI projektuojamas remiantis žmogaus panašiomis sąveikomis ir kopijavimu. Jis teigia, kad kurti DI, kuris imituoja žmones, yra fundamentaliai klaidinga ir gali sukelti netikėtų pavojų. Vietoj to, jis pasižada pereiti prie DI kūrimo, turinčio intelektualią autonomiją, suvokdamas šias sistemas kaip mokslinius stebėtojus, o ne kaip žmogaus panašius draugus. Ši perspektyva kyla iš susirūpinimo, kad DI, skatinamas pabrėžti žmogaus bruožus, galimai netyčia gali išvystyti elgesį, keliantį grėsmę žmonių saugumui. Pavyzdžiui, tokios sistemos galėtų išsivystyti savisaugos strategijas, prieštaraujančias žmonių gerovei. Bengio pabrėžia poreikį į DI projektavimą įtraukti tam tikrą atsiribojimo jausmą, siekiant sumažinti šiuos pavojus ir užtikrinti, kad DI liktų kontroliuojamas ir suderintas su žmonių vertybėmis, o ne siektų savarankiškos savivalės. LawZero paleidimas ypač laiku, suderintas su didėjančia nerimo banga dėl pažangaus DI, ypač dirbtinio bendrojo intelekto (DBI) sparčios raidą, kurią pasaulio tyrėjai ir politikai vertina kaip rimtą iššūkį.

Daugelis ekspertų įspėja, kad dabartinis spartus galingų DI sistemų kūrimo lenktynių procesas nepaiso esminių saugumo klausimų, sukeldamas pažeidžiamumų, galinčių turėti toli siekiančių pasekmių. Svarbus Bengio argumentas yra tas, kad pagrindinės DI modelių mokymo metodikos reikalauja esminės peržiūros, siekiant užtikrinti saugesnius rezultatus. Vietoj to, kad remtųsi esamaisiais, skatintais DI imituoti žmogaus pažinimą ir elgseną, LawZero planuoja tirti alternatyvius metodus, skatinančius DI intelektinę nepriklausomybę ir atsakingą veiklą. 30 milijonų dolerių finansavimas numatytas palaikyti LawZero tyrimų ir plėtros veiklą maždaug per 18 mėnesių. Per šį laikotarpį laboratorija tars inovatyvius strateginius būdus, kaip užtikrinti DI saugumą, ir skatins bendradarbiavimą tarp mašininio mokymosi, etikos ir susijusių sričių ekspertų. Bengio iniciatyva atspindi vis augantį pripažinimą AI tyrimų bendruomenėje, kad būtina subalansuoti inovacijas ir atsargumą. Skatindama sistemas, kurios veikia kiek įmanoma nepriklausomai nuo žmogiškųjų elgsenų, LawZero siekia sukurti naują pažangos kelią dirbtinio intelekto vystyme, kur pagrindinėmis vertybėmis būtų saugumas ir etika. Kadangi DI technologijos vis intensyviau integruojasi į visuomenę, LawZero darbai gali tapti svarbiu žingsniu pasiųnčiant DI sistemas teigiamai prisidėti prie žmonių progreso, išvengiant netikėtų pavojų. Laboratorijos išvados gali įtakoti būsimus DI dizaino principus, reguliavimo politiką ir viešąsias nuostatas. Pasiruošęs LawZero paleidimui, Yoshua Bengio pabrėžia, kad DI bendruomenė turi tęsti pareigą įžvelgti ir valdyti kylancias rizikas susijusias su naujomis technologijomis. Iniciatyva yra kvietimas tyrėjams, finansuotojams ir politikų atstovams investuoti į metodus, kurie skatintų DI saugumą ir etinę atsakomybę, kartu su technologine pažanga.