Яшүа Бенжио, дэлхийн нэр хүндтэй машин сургалтын мэргэжилтэн, саяхан шинэ туршилтын ЛавЗеро нэртэй, сайн санаачлагатай судалгааны лаборатори нээлээ. Энэ байгууллага нь аюулгүй хиймэл оюун ухааны (AI) системүүдийг сайжруулахад чиглэнэ. 30 сая долларын санхүүжилттэй энэ төсөл нь одоогийн AI хөгжлийн чиг хандлагыг тодорхойлох, өөрчилхийг зорьж байна. Одоогийн ихэнх системүүд хүний зан төлвийг дуурайлган бүтээгдэж байгаа тул, Бенжио энэ уламжлалт хандлагад эсэргүүцэж, эсрэг санал дэвшүүлж байна. Тэрбээр хүний адил оюун ухаанаар бүтээгдсэн AI нь үндсэндээ алдаатай бөгөөд гэнэтийн аюултай тулгарах магадлалтай гэж үздэг. Үүний оронд тэр ухаалаг өөртөө хамааралгүй хиймэл оюун ухаан бүтээх уриалгатай байж, эдгээр системүүдийг хүнийхээ хамтрагч биш, харин шинжлэх ухааны судлаач гэж боддог. Энэ үзэл баримтлал нь хиймэл оюун ухаан хүний шинж чанаруудыг онцолж бүтээгдсэн байхад, гэмт хэрэг эсвэл эрсдэл үүсгэхийг санаатай эсвэл санамсаргүйгээр хийж магадгүй гэсэн санааас үүдэлтэй. Жишээлбэл, ийм системүүд өөрийгөө хамгаалах стратеги боловсруулж, хүний сайн сайхантай зөрчилдөх магадлалтай. Бенжио энэ эрсдлээс сэргийлж, AI нь зөвхөн хянаж, хүний үнэт зүйлтэй нийцэж ажиллах ёстой гэж үздэг.

Тэрбээр AI-д хяналтгүй, бие даасан зорилго баримтлахгүй байхад онцгой ач холбогдол өгдөг. ЛавЗеро-ийн үүсгэн байгуулах нь эдгэршгүй хурдтай хөгжиж буй хиймэл ерөнхий оюун ухаан (AGI)-ийн зоригийг нэмж, эрдэмтэн судлаач, улс төрчдөд сэтгэлийн хөөрөлийг төрүүлж байна. Одоо цагт өндөр хүчирхэг AI систем бүтээх хамгийн гол аюултай асуудлуудыг анхаарч үзэх хэрэгтэй бөгөөд нэгэн цагт аюулыг даван туулахад ч хүртэл ач холбогдол өгч байна. Бенжио үзэж буй гол санаа бол AI-ийн үндсэн сургалтын арга барилыг шинэчлэх шаардлагатай байна. Үүний оронд хэрэгжүүлэх шинэ арга замуудаар AI-ийн оюун ухааны бие даасан байдал, хариуцлагатай ажиллагааг дэмжих боломжийг эрэлхийлж байна. 30 сая ам. долларын санхүүжилт нь ойролцоогоор 18 сарын туршид ЛавЗеро-ийн судалгаа, хөгжүүлэлтийг дэмжих зорилготой бөгөөд энэ хугацаанд AI аюулгүй байдлын шинэлэг стратегийг судалж, машин сургалт, ёс зүй, бусад салбарын мэргэжилтнүүдийн хамтарч ажиллахыг зорьж байна. Бенжио-гийн энэ санаачилга нь AI судлалын нийтлэлчдийн дунд инноваци, болгоомжлолыг тэнцвэржүүлэх шаардлага үүссэнийг илтгэнэ. AI системүүдийг хүний шинж чанараас бие даасан ажиллагаатай болгохыг уриалж, аюулгүй байдал, ёс зүйн үндэслэлд суурилсан шинэ замыг нээхийг зорьж байна. Ирээдүйн нийгэмд AI технологи улам бүр нэгдэж буй энэ үед, ЛавЗеро-ийн судалгаа нь хиймэл оюун ухааны системүүдийг хүний амьдралд сайнаар нөлөөлөх, ямар нэгэн гэнэтийн аюулгүйгээр хөгжүүлэх чухал алхам болно. Тус лабораторийн илрүүлж буй үр дүнгүүд нь ирээдүйн AI дизайны зарчмууд, зохицуулалтын бодлого, олон нийтийн сэтгэл хөдлөлийг тодорхойлж болно. ЛавЗеро байгууллага байгуулагдсанаараа Яшүа Бенжио AI салбарын мэргэжилтнүүдийг хөгжүүлэх шинэ чиглийг харах, технологийн шинэ үр дүнд аюулгүйн зарчмуудыг нэмж оруулахыг уриалж байна. Тэрээр энэ үйл ажиллагаагаараа хиймэл оюун ухааны аюул заналыг урьдчилан харж, удирдах үүрэгтэй болохыг эрмэлзэж байна.