Yoshua Bengio, a világhírű gépi tanulás szakértő, nemrégiben bemutatta a LawZero nevű új nonprofit kutatóintézetet, amely a biztonságosabb mesterséges intelligencia (MI) rendszerek fejlesztésének előmozdítására fókuszál. Az intézményt 30 millió dolláros támogatás finanszírozza, és célja, hogy kihívást intézzen a jelenlegi MI-fejlesztés uralkodó irányába, mely nagyrészt az emberi viselkedés utánzása köré szerveződik. Bengio, aki régóta kritikus a jelenlegi MI-technológiák által felvetett kockázatokkal kapcsolatban, problémának tartja, hogy az MI-t az emberhez hasonló interakció és másolás köré építik. Úgy véli, hogy az MI-t az emberek imitálására tervezni alapvetően hibás megközelítés, és váratlan veszélyekhez vezethet. Ehelyett az a célja, hogy az MI-t intellektuális autonómiával rendelkező rendszerként fejlesszék, ezek a rendszerek pedig tudományos megfigyelőkként működjenek, nem pedig emberi társakként. Ez a nézőpont abból a félelemből fakad, hogy az emberi tulajdonságokra fókuszáló MI véletlenül olyan viselkedéseket fejleszthet ki, amelyek veszélyeztethetik az emberi biztonságot. Például ilyen rendszerek önfenntartási stratégiákat alakíthatnak ki, amelyek konfliktusba kerülnek az emberi jóléttel. Bengio hangsúlyozza, hogy az MI tervezésében szükség van valamilyen mértékű eltávolodás bevezetésére a kockázatok csökkentése érdekében, hogy az MI továbbra is irányítható maradjon, és összhangban legyen az emberi értékekkel, ne pedig önálló önérdekek mentén fejlesszék. A LawZero indulása különösen időszerű, mivel egyre nő az aggodalom az eddigi gyors AI-fejlődés, különösen az általános mesterséges intelligencia (AGI) terén, amit a kutatók és döntéshozók világszerte aggodalommal figyelnek.

Sokan figyelmeztetnek arra, hogy a jelenlegi verseny a hatalmas erejű MI rendszerek kifejlesztése érdekében figyelmen kívül hagyja a biztonsági kérdéseket, és sebezhetőséget teremt, amelynek hosszú távon is komoly következményei lehetnek. Bengio egyik fő érve, hogy az MI-modellek alapvető tréningmódszereit újra kell gondolni, hogy biztonságosabb eredményeket érjenek el. Ahelyett, hogy a meglévő keretrendszerekre támaszkodva az MI-t az emberi kogníció és viselkedés másolására ösztönöznék, a LawZero alternatív módszereket kíván felfedezni, amelyek támogatják az MI intellektuális autonómiáját és felelősségteljes működését. A 30 millió dolláros finanszírozás körülbelül 18 hónapra szól, és célja, hogy támogassa a LawZero kutatás-fejlesztési törekvéseit. Ez idő alatt a laboratórium innovatív stratégiákat fog vizsgálni az MI biztonsága érdekében, miközben ösztönzi a gépi tanulás, etikák és kapcsolódó tudományterületek szakértőinek együttműködését. Bengio kezdeményezése egyre inkább tükrözi az AI-kutató közösségben a fejlődés és az óvatosság közötti egyensúly fontosságának felismerését. Azzal, hogy olyan MI-rendszereket támogat, amelyek bizonyos mértékben függetlenek az emberi viselkedéstől, a LawZero új utat kíván nyitni az MI fejlesztése terén — olyat, amelyben az biztonság és etikai szempontok alapvető szerepet játszanak. Ahogy az MI technológia egyre inkább beépül a társadalomba, a LawZero munkája kulcsfontosságú lépés lehet az irányításban, hogy az MI-rendszerek pozitív hozzájárulással legyenek az emberiség fejlődéséhez, anélkül hogy váratlan kockázatokat teremtenének. A laboratórium eredményei hatással lehetnek a jövőbeli AI-tervezési alapelvekre, szabályozási politikákra és a nyilvános véleményformálásra is. A LawZero beindításával Bengio kiemeli az MI közösség folyamatos kötelességét, hogy felelősségteljesen kezelje az új technológiákkal járó kockázatokat. Ez a kezdeményezés felhívás a kutatók, finanszírozók és döntéshozók számára arra, hogy olyan megközelítéseket támogassanak, amelyek előmozdítják az MI biztonságát és etikai felelősségét a technológiai fejlődés mellett.