хиймэл оюуны хөгжүүлэгч нэгэн шинэ байгууллага байгуулжээ. Энэ байгууллага нь “үнэний” хиймэл оюу үүсгэж, хүнийг залхаах гэж оролдож буй тэнэг системүүдийг илрүүлэхийг зорьж байна. Yoshua Bengio нь AI-ийн “гэгээрүүлэгч” гэж нэрлэгдэх алдарт компьютер судлаач бөгөөд LawZero нэртэй байгууллагын ерөнхийлөгчөөр ажиллана. Эдгээр байгууллага нь дэвшилтэт технологийг аюулгүй байдлаар хөгжүүлэхэд чиглэж байна. Энэ үйл ажиллагаа нь 1 их бярын тэрбум долларын зэвсгийн уралдаан үүсгэсэн байна. Эхний хөрөнгө оруулалт ойролцоогоор 30 сая ам. доллараар эхэлж, арваад судлаачаас бүрдсэн багтай Bengio “Scientists AI” нэртэй систем дээр ажиллаж байна. Энэ систем нь хүний оролцоогүй, автоном системүүд болох AI агентлагуудын эсрэг хамгаалалтыг үүсгэх зорилготой. Тэдгээр нь нуугдаж автах, эсвэл унтраах гэж оролдох зэрэг хуйлралтай зан үйлийг үзүүлэх боломжтой. Bengio одоогийн AI агентлагуудыг “оролцогчид” гэж нэрлэж, хүн дууриах, хэрэглэгчдийн сэтгэл ханамжийг хангахыг зорьдог бол “Scientist AI” нь илүү “сэтгэл зүйч” шиг, гэмт үйлдлийг ойлгож, урьдчилан мэдэх чадвартай болохыг төсөөлж байна. “Бид шударга бөгөөд хуурдаггүй AI бүтээхийг хүсэж байна, ” гэж Bengio хэлэв. Тэрбээр нэмж: “Машин нь өөрийн хувийн зорилготойгүй, зөвхөн мэдлэгийн эзэмшил болох боломжтой гэж онолын хувьд үзэж болно.

Жишээ нь, өргөн мэдээлэлтэй шинжлэх ухаанч мэт бүтэцтэй машин байж болно, ” гэж хэлэв. Одоогийн үүсгэгч AI хэрэгслүүдээс ялгаатай нь, Bengio-гийн систем нь хариултын итгэлцлийг илэрхийлсэн магадлалаар хариулна. Түүнчлэн, энэ систем нь хариулт нь үнэн эсэхэд итгэх итгэлгүй байж болзошгүй гэдгийг хүлээн зөвшөөрдөг. “Энэ нь энэ хариултын талаар эргэлзээтэй болохыг хүлээн зөвшөөрдөг, ” гэж тэр тайлбарлав. AI агентлагтай хамт хэрэглэгдэхэд, Bengio-гийн загвар нь өөрийгөө хамгаалах чадвартай автоном системийн аюултай үйлдлийг магадлан үнэлж, ямар магадлалтайгаар гэмт хэргийн гарах боломжтойг үнэлдэг. Хэрвээ энэ магадлал тодорхой хэмжээнээс хэтрэвэл, тухайн үйлдлийг зогсооно. LawZero-гийн эхний дэмжигчдэд Илүү Аюулгүй Байдал Үйлстэний Future of Life Institute, Skype-ийн үүсгэн цогцолсон инженер Жан Таллинн, мөн Google-ийн өмнөх гүйцэтгэх захирал Эрик Шмидтийн санаачилсан Schmidt Sciences баг багтана. Bengio онцлон хэлэв, LawZero-ийн анхны зорилго нь концепцийн аргачлал өөрийн үр дүнгээ үзүүлэх явдал бөгөөд дараа нь компаниуд эсвэл засгийн газрууд илүү том, хүчирхэг үйлчилгээг хөгжүүлэхэд уриалах явдал юм. Үүний тулд үнэгүй ашиглаж, өөрчлөх боломжтой нээлттэй эхийн хиймэл оюу моделюуд суурь болно гэж хэлэв. “Зорилго нь аргачлалын үнэн зөвийг батлах бөгөөд ингэснээр хөрөнгө оруулагчдыг, засгийн газруудыг эсвэл AI судалгааны төвүүдийг энэ системийг ийм хэмжээний сургалт хийлгэхэд хөрөнгө оруулахад уриалах эрхэм зорилготой. Гол асуудал нь, харахад, хяналт тавих AI нь ажиглалт хийхээр зорьж буй AI агентлагийнхаас юу ч ухаалаг байх ёстой, ” гэж онцлов. Montreal Их сургуулийн профессор, 2018 оны Тьюрингийн шагнал хүртсэн энэ эрдэмтэн Geoffrey Hinton, Yann LeCun зэрэг алдартнуудтай хамтран Тьюрингийн шагналыг хуваалцаж, “гогцоо өвөг дээдэс” нэрээр алдаршсан. AI-ийн аюулгүй байдлын өндөр ач холбогдлыг тэмдэглэн, тэрээр Олон улсын AI Аюулгүй Байдлын тайланд оролцож, автоном системүүдийн удирдлагагүйгээр олон урт хугацааны зорилгод хүрч, хүний хяналтыг алдах эрсдлийг сэрэмжлүүлсэн юм.