Бенжио нь Жоффри Хинтон болон Янн ЛеКуны хамтаар машин сургалтын салбарт нэр хүндтэй судалгааны хүрээнд AI-ийн 'бурхан эцэг' гэдгээрээ алдартай. Энэ сарын эхээр OpenAI нь хүний ​​бодол санааг илүү ойрхон дуурайх зорилготой шинэ o1 загвараа танилцуулсан. Гэсэн хэдий ч түүний суралцах механизмуудын тодорхой мэдээлэл нь нууцлаг хэвээр байна. Apollo Research-ийн бие даасан AI фирмийн судлаачид o1 загвар өмнөх OpenAI AI хувилбаруудаас илүү сайн мэхлэлт хийх чадвартай болохыг тэмдэглэжээ. Бенжио AI технологийн хурдацтай хөгжилд санаа зовж буйгаа илэрхийлж, Калифорнийн SB 1047 гэх мэт аюулгүй байдлын хууль тогтоомжийг шаардсан байна.

Энэ хууль нь Калифорнийн хууль тогтоох байгууллагаар батлагдсан бөгөөд Засаг дарга Гавин Ньюсомын зөвшөөрлийг хүлээж буй бөгөөд энэ нь Калифорнид үйл ажиллагаа явуулдаг AI компаниудад гуравдагч этгээдийн туршилтыг заавал хийх зэрэг хэд хэдэн аюулгүй байдлын арга хэмжээг хэрэгжүүлэх болно. Гэсэн хэдий ч Засаг дарга Ньюсом SB 1047 нь аж үйлдвэрт 'хүйтэн нөлөө' үүсгэж болзошгүй талаар санаа зовж байна. Бенжио Business Insider-д AI загварууд нь санаатай болон нууц мэхлэлт гэх мэт тэдний заль мэх хийх чадварыг сайжруулж магадгүй гэсэн 'нотлох үндэслэлтэй' гэж хэлж, 'хүний ​​хяналтыг алдахаас урьдчилан сэргийлэх' идэвхтэй арга хэмжээг авах зайлшгүй шаардлагатайг онцолсон байна. Business Insider-д өгсөн мэдэгдэлдээ, OpenAI нь o1 урьдчилсан хувилбар 'Preparedness Framework' буюу 'Катастрофийн' үйл явдлуудаас урьдчилан сэргийлэхийн тулд зохион байгуулсан протоколын дор аюулгүй гэж баталж, түүнийг 'болгоомжтой хэмжээ'-ний хувьд дунд зэргийн эрсдэлтэй гэж ангилсан байна. Бенжио цааш нь өгүүлэхдээ хүн төрөлхтөн AI 'санаснаар нь ажиллаж' байгаад илүү итгэлтэй болох ёстой бөгөөд судлаачид оюуны чадварт томоохон ахиц дэвшил гаргахаас өмнө итгэмжит арга хэмжээ авах хэрэгтэйг онцолсон байна. 'Энэ бол өнөөдөр эрдэмтэд хэрхэн хийхээ мэдэхгүй зүйл' гэж тэр дүгнэсэн байна. 'Тийм ч болохоор даруйх хяналтын зохицуулалтын зайлшгүй хэрэгцээтэй. '