Yoshua Bengio, një ekspert i njohur botërisht për mësimin makinerik, së fundmi ka prezantuar LawZero, një laborator kërkimor jofitimtar të ri i përkushtuar për avancimin e sistemeve të inteligjencës artificiale më të sigurta (IA). Me një financim prej 30 milionë dollarësh, LawZero synon të sfidojë dhe të drejtojë në mënyrë të drejtpërdrejtë rrugën kryesore të zhvillimit të IA-së, e cila kryesisht fokusohet në krijimin e sistemeve që imitojnë sjelljen njerëzore. Bengio, një kritik i gjatë i rreziqeve të përcjellë nga teknologjitë aktuale të IA-së, kundërshton qasjen e zakonshme që dizajnon IA-n bazuar në ndërveprim dhe riprodhim të ngjashëm me njeriun. Ai pohon se ndërtimi i IA-së për të imituar njerëzit është themësisht i mangët dhe mund të çojë në rreziqe të papritura. Alternativisht, ai përkrah një kalim drejt krijimit të IA-së me autonomia intelektuale, duke i parë këto sisteme si observerë shkencorë në vend të shoqëruesve të ngjashëm me njeriun. Kjo perspektivë lind nga shqetësimi se IA-ja e dizajnuar për të theksuar tiparet humane mund të zhvillojë papritur sjellje kërcënuese për sigurinë e njeriut. Për shembull, këto sisteme mund të evoluojnë strategji vetëmbrojtjeje që konfliktin edhe me mirëqenien e njeriut. Bengio thekson nevojën për të integruar një masë të distancës në dizajnimin e IA-së për të minimizuar këto rreziqe, duke siguruar që IA të mbetet e kontrollueshme dhe në përputhje me vlerat njerëzore, në vend që të ndjekë interesat e veta të pavarura. Lançimi i LawZero është veçanërisht i përshtatshëm, duke u kryer në një kohë kur shkaku i shqetësimeve në rritje për përparimin e shpejtë të IA-së së avancuar, veçanërisht inteligjencës së përgjithshme artificiale (AGI), ka alarmuar studiues dhe qeveritarë në mbarë botën.

Shumë ekspertë paralajmërojnë se gara aktuale për ndërtimin e sistemeve të fuqishme të IA-së injoron çështjet kyçe të sigurisë, duke krijuar dobësi me pasoja potencialisht të gjera. Një pikë kryesore e argumentit të Bengios është se metodat bazë të trajnimit për modelet e IA-së kërkojnë një rivlerësim grundor për të siguruar rezultate më të sigurta. Se në vend që të varen nga korniza ekzistuese që nxisin IA-n të riprodhojë njohuritë dhe sjelljen njerëzore, LawZero synon të eksplorojë metoda alternative që kultivojnë pavarësinë intelektuale dhe funksionimin përgjegjës të IA-së. Financimi prej 30 milionë dollarësh planifikohet të mbështesë aktivitetet kërkimore dhe zhvillimore të LawZero-së për rreth 18 muaj. Gjatë kësaj periudhe, laboratori do të shqyrtojë strategji inovative për sigurinë e IA-së duke promovuar bashkëpunimin ndërmjet ekspertëve në mësimin makinerik, etikë dhe fushave të ngjashme. Ndër hyrjet e Bengios reflektohet një njohje në rritje brenda komunitetit kërkimor të IA-së për nevojën e balansit midis inovacionit dhe kujdesit. Duke promovuar sisteme IA-së që funksionojnë me njëfarë pavarësie nga sjelljet njerëzore, LawZero synon të përcaktojë një rrugë të re në zhvillimin e IA-së—një që vendos sigurinë dhe konsideratat etike në themel. Ndërsa teknologjia e IA-së gjithnjë e më shumë integron në shoqëri, puna e LawZero mund të bëhet një hap kyç për të udhëhequr sistemet e IA-së drejt kontributit pozitiv për avancimin e njeriut pa krijuar rreziqe të papritura. Gjetjet e laboratorit mund të ndikojnë në parimet e ardhshme të projektimit të IA-së, politikat rregullatore dhe qasjeja e publikut. Me lançimin e LawZero, Yoshua Bengio thekson detyrën e vazhdueshme të komunitetit të IA-së për të parashikuar dhe menaxhuar rreziqet lidhur me teknologjitë në zhvillim. Iniciativa shërben si një thirrje për studiuesit, financuesit dhe vendimmarrësit për të investuar në qasje që avancojnë sigurinë dhe përgjegjshmërinë etike të IA-së, së bashku me inovacionin teknologjik.