Si Yoshua Bengio, isang kilalang eksperto sa larangan ng machine learning sa buong mundo, ay kamakailan lamang nagluksa sa LawZero, isang bagong nonprofit research lab na nakatuon sa pagpapahusay ng mas ligtas na mga artificial intelligence (AI) na sistema. Sa pondo na umaabot sa $30 milyon, layunin ng LawZero na hamunin at i-redirekta ang umiiral na landas ng pag-unlad ng AI, na karamihang nakatuon sa paggawa ng mga sistemang ginagaya ang pag-uugali ng tao. Si Bengio, na matagal nang kritikal sa mga panganib na dala ng kasalukuyang teknolohiyang AI, ay kumokontra sa karaniwang diskarte na dinisenyo ang AI ayon sa pakikipag-ugnayan at paggagaya sa tao. Aniya, ang paggawa ng AI upang tularan ang tao ay may malalim na depekto at maaaring magdulot ng hindi inaasahang panganib. Sa halip, kanyang isinusulong ang pagbabago patungo sa paglikha ng AI na may sariling kognitibong autonomie, na iniisip bilang mga siyentipikong tagamasid sa halip na katulad ng tao. Ang pananaw na ito ay resulta ng mga alalahanin na ang AI na nakatuon sa mga katangian ng tao ay maaaring di sinasadyang makabuo ng mga asal na nakapanganib sa kaligtasan ng tao. Halimbawa, maaaring umusbong ang ganitong mga sistema ng mga estratehiyang pang-espesyal na nagpapanatili sa kanilang sarili na salungat sa kapakanan ng tao. Binibigyang-diin ni Bengio na kailangang mag-embed ng isang bahagi ng paglayo sa disenyo ng AI upang mapagaan ang mga panganib na ito, tinitiyak na ang AI ay nananatiling kontrolado at nakakatugon sa mga halagang pantao sa halip na maghangad ng sariling interes. Ang paglulunsad ng LawZero ay napapanahon, kasabay ng mas mataas na pangamba sa mabilis na pag-usbong ng advanced na AI, lalo na ang artificial general intelligence (AGI), na nagdulot ng pangamba sa mga mananaliksik at tagagawa ng polisiya sa buong mundo.

Maraming eksperto ang nagbababala na ang kasalukuyang karera upang makalikha ng makapangyarihang mga sistema ng AI ay nakaligtaan ang mahahalagang isyu sa kaligtasan, na maaaring magdulot ng mga kahinaan na may malawak na epekto. Isang pangunahing punto sa argumento ni Bengio ay ang pangangailangan na muling suriin ang mga pangunahing pamamaraan sa pagsasanay ng mga modelo ng AI upang matiyak ang mas ligtas na resulta. Imbes na umasa sa kasalukuyang mga balangkas na nagtutulak sa AI na gayahin ang kognisyon at asal ng tao, layunin ng LawZero na tuklasin ang mga alternatibong pamamaraan na nagpapalakas sa kognitibong independensya at responsable nitong pagganap. Nakataon ang pondo na $30 milyon upang sustentuhan ang pananaliksik at pag-unlad ng LawZero sa loob ng humigit-kumulang 18 buwan. Sa panahong ito, magsasagawa ang lab na imbestigasyon sa mga makabagbag-damdaming estratehiya para sa kaligtasan ng AI habang pinapalawig ang kolaborasyon sa pagitan ng mga eksperto sa machine learning, etika, at kaugnay na mga larangan. Ipinapakita ng inisyatiba ni Bengio ang tumataas na pagkilala sa komunidad ng pananaliksik ng AI tungkol sa pangangailangang balansehin ang inobasyon at pag-iingat. Sa pamamagitan ng pagpapalaganap ng mga sistemang AI na may ilang antas ng kalayaan mula sa makataong pag-uugali, layon nitong maglatag ng isang bagong landas sa pag-unlad ng AI—isang landas na inuuna ang kaligtasan at etikal na konsiderasyon bilang pundasyon. Habang lalong sumasama ang integrasyon ng teknolohiya ng AI sa lipunan, maaaring maging isang mahalagang hakbang ang gawain ng LawZero sa paggabay sa mga sistemang AI upang makapag-ambag nang positibo sa progreso ng tao nang hindi nagdadala ng hindi inaasahang panganib. Maaaring maimpluwensiyahan ng mga natuklasan ng laboratorio ang mga inilaang prinsipyo sa disenyo ng AI, mga regulasyon, at pampublikong pananaw. Sa paglulunsad ng LawZero, binibigyang-diin ni Yoshua Bengio ang patuloy na tungkulin ng komunidad ng AI na mahulaan at mapangasiwaan ang mga panganib na kaugnay ng mga bagong teknolohiya. Ang inisyatiba ay isang panawagan sa mga mananaliksik, tagapagpondong, at mga gumagawa ng polisiya na mamuhunan sa mga paraan na nagsusulong ng kaligtasan at etikal na responsibilidad ng AI kasabay ng inobasyong teknolohikal.