Yoshua Bengio, celosvetovo renomovaný expert na strojové učenie, nedávno predstavil LawZero, nový neziskový výskumný laboratórium zamerané na pokrok v bezpečnejších systémoch umelej inteligencie (AI). Podporované sumou 30 miliónov dolárov, LawZero sa snaží vyzvať a presmerovať prevažne rozvinutú cestu vývoja AI, ktorá sa tradične zameriava na vytváranie systémov napodobňujúcich ľudské správanie. Bengio, dlhoročný kritik rizík spojených s aktuálnymi technológiami AI, nesúhlasí s bežným prístupom, ktorý konštruuje AI na základe interakcie a napodobňovania človeka. Tvrdí, že vytváranie AI na spôsob ľudí je v jadre chybné a môže viesť k nepredvídaným nebezpečenstvám. Namiesto toho presadzuje posun smerom k vytváraniu AI s intelektuálnou autonómiou, pričom tieto systémy vníma ako vedeckých pozorovateľov, nie ako ľudských spoločníkov. Tento pohľad vyplýva zo znepokojení, že AI navrhnutá na zvýraznenie ľudských vlastností by mohla neúmyselne rozvíjať správanie, ktoré ohrozujú ľudskú bezpečnosť. Napríklad takéto systémy by sa mohli vyvinúť tak, že by si vytvárali stratégie na sebazáchovu, čo by mohlo byť v konflikte s blaho ľudí. Bengio zdôrazňuje potrebu vsekovania určitej miery odstupu do návrhu AI, aby sa tieto riziká minimalizovali, a zabezpečilo, že AI zostane ovládateľná a v súlade s hodnotami človeka, namiesto toho, aby sledovala vlastné záujmy. Spustenie LawZero je zvlášť načasované, keďže sa zvyšuje obava z rýchleho pokroku pokročilej AI, najmä umelej všeobecnej inteligencie (AGI), ktorá vydesila výskumníkov a tvorcov politík po celom svete.

Mnohí odborníci upozorňujú, že súťaž o vytvorenie mocnej AI systémov prehliada základné otázky bezpečnosti, čím vznikajú zraniteľnosti, ktoré môžu mať široké dôsledky. Kľúčovou súčasťou Bengioovho argumentu je, že základné metódy trénovania AI modelov si vyžadujú zásadnú reevaluáciu, aby sa zabezpečili bezpečnejšie výsledky. Namiesto spoléhania na existujúce rámce, ktoré podporujú napodobňovanie ľudskej kognície a správania, plánuje LawZero preskúmať alternatívne metódy, podporujúce intelektuálnu nezávislosť AI a jej zodpovedné fungovanie. Financovanie vo výške 30 miliónov dolárov je určené na podporu výskumu a vývoja LawZero počas približne 18 mesiacov. Počas tohto obdobia bude laboratórium skúmať inovatívne stratégie na bezpečnosť AI a podporovať spoluprácu medzi odborníkmi v oblasti strojového učenia, etiky a príbuzných oblastí. Iniciatíva Bengioa odráža rastúce uznanie v rámci komunitu výskumníkov AI o potrebe vyvážiť inovácie s opatrnosťou. Propagovaním systémov AI, ktoré fungujú s určitým stupňom nezávislosti od ľudského správania, sa LawZero snaží nakresliť novú cestu vo vývoji AI—cestu, ktorá na svojich základoch kladie bezpečnosť a etické aspekty. S rastúcou integráciou AI technológie do spoločnosti by práca LawZero mohla byť kľúčovým krokom pri smerovaní systémov AI k pozitívnemu prínosu pre ľudský pokrok bez zavinenia nežiadaných nebezpečenstiev. Zistenia laboratória môžu ovplyvniť budúce princípy návrhu AI, regulačné politiky a verejné názory. So spustením LawZero zdôrazňuje Yoshua Bengio neustálu povinnosť komunitu AI predvídať a riadiť riziká spojené s novovznikajúcimi technológiami. Táto iniciatíva slúži ako výzva pre výskumníkov, financovateľov a tvorcov politík, aby investovali do prístupov, ktoré posilňujú bezpečnosť a etickú zodpovednosť AI spolu s technologickým pokrokom.