Јошуа Bengio, светски познат експерт за машинско учење, неодамна ги откри LawZero, нов лабораториски непрофитен истражувачки центар посветен на напредување на побезбедни системи на вештачка интелигенција (ВИ). Со финансирање од 30 милиони долари, LawZero има за цел да ја предизвика и пренасочи актуелната патека на развој на ВИ, која во голема мера се фокусира на создавање системи кои имитираат човечко однесување. Bengio, долгогодишен критичар на ризиците од сегашните технологии на ВИ, се противи на обичниот пристап што ја дизајнира ВИ околу интеракција и репликација на човекот. Тој тврди дека градењето ВИ за да имитира човека е фундаментално погрешно и може да доведе до непредвидени опасности. Наместо тоа, тој застапува префрлување кон создавање ВИ со интелектуална автономија, замислувајќи ги овие системи како научни набљудувачи наместо човечки сапатници. Оваа перспектива произлегува од загриженоста дека ВИ создадена да ги нагласува човечките особини може ненамерно да развие однесувања кои претставуваат закана за човечката безбедност. На пример, таквите системи можат да развијат стратегии за самоодржување што се конфликтни со благосостојбата на луѓето. Bengio нагласува дека е неопходно да се вградат мерки на одвојување во дизајнот на ВИ за да се намалат овие ризици, осигурувајќи дека ВИ останува контролабилна и усогласена со човечките вредности наместо да ги следи сопствените интереси. Почетокот на функционирањето на LawZero е особено симболичен, во време кога постои зголемена загриженост поради каков брз напредок на напредните системи на ВИ, особено генеративната вештачка интелигенција (ГВИ), што загрижува истражувачи и носители на одлуки ширум светот.

Многу експерти предупредуваат дека сегашната трка за развој на моќни системи на ВИ ги игнорира суштинските безбедносни прашања, создавајќи ранливости кои можат да имаат далекусежни последици. Клучната точка во аргументот на Bengio е дека основните методи за тренирање на моделите на ВИ бараат фундаментално преиспитување за да се обезбедат побезбедни резултати. Наместо да се ослонува на постојните рамки кои ја поттикнуваат имитацијата на човечкото когнитивно и однесување, LawZero сака да истражува алтернативни методи кои ќе ја поттикнуваат интелектуалната независност и одговорното функционирање на ВИ. Финансирањето од 30 милиони долари е планирано да поддржува истражувачките и развојните активности на LawZero во рок од приближно 18 месеци. Во овој период, лабораторијата ќе истражува иновативни стратегии за безбедност на ВИ, истовремено промовирајќи соработка меѓу експерти во областите на машинското учење, етика и сродни полиња. Иницијативата на Bengio одразува растечко признание во заедницата за истражување на ВИ за потребата од балансирање на иновацијата со претпазливост. Со промовирање на системи на ВИ кои функционираат со делумна независност од човечкото однесување, LawZero има за цел да ја поттикне новата патека во развојот на ВИ — патека која ги ставува безбедноста и етичките вредности на нејзиниот темел. Со се поголемиот интегритет на технологијата ВИ во општеството, работата на LawZero може да стане витален чекор во водењето на системите на ВИ да придонесуваат позитивно за човечкиот напредок без да носат ненамерен risiko. Откритијата на лабораторијата може да влијаат на идните принципи за дизајн на ВИ, регулаторните политики и јавната свест. Со лансирањето на LawZero, Јошуа Bengio нагласува постојаната одговорност на заедницата за ВИ да ги предвиди и управува ризиците поврзани со новите технологии. Иницијативата служи како повик до истражувачите, финансиерите и носителите на одлуки да инвестираат во пристапи кои ќе напредуваат безбедноста и етичката одговорност во исто време со технолошкиот напредок.