Компаниуд магадгүй кибер аюулгүй байдлын багтай боловч олон нь үнэхээр хиймэл оюун ухааны систем хэрхэн бүтэлгүйтдэг талаар бэлтгэлгүй байдаг гэж AI аюулгүй байдлын судлаач хэллээ. Сандер Шулхофф, анхны урамшуулалтын инженерчлэлийн гарын авлагын зохиолч бөгөөд AI системийн аюулгүй байдлын сул талуудын мэргэжилтэн, наймдугаар сард цацагдсан "Леннигийн подкаст"-ын сүүлийн дугаар дээр олон байгууллага шаардлагатай мэргэшсэн ажилтнуудгүй байна гэж хэлэв. Тэд AI аюулгүй байдлын эрсдлүүдийг ойлгож, бууруулах чадваргүй. Үн традицийн кибер аюулгүй байдлын багууд алдааг засах, мэдэгдсэн сул талуудыг шийдэхэд сургагдсан байдаг, боловч AI ямар өөр поведениятай. "Та алдааг засч чадна, гэхдээ сэтгэцийг засахгүй, " гэж Шулхофф тайлбарлав, түүнээс үзвэл энэ нь аюулгүй байдлын багууд асуудал хандах арга хэлбэр ба том хэлний загварууд яагаад бүтэлгүйддэгийн хооронд үндсэн зөрүү байна. "AI хэрхэн үйл ажиллагаа явуулдаг ба уламжлалт кибер аюулгүй байдал хооронд зөрүү байна, " гэж тэр нэмж хэлэв. Энэ зөрүү практик хэрэглээн дээр илэрдэг. Кибер аюулгүй байдлын мэргэжилтнүүд AI системийг техникийн алдаатай шалгадаг байхад "Хэрвээ хэн нэгэн AI-г хэрээхэн урхидан оруулах юм бол?" гэж бодолгүйгээр ханддаг байж болно. Шулхофф эдгээрийг ойлгож, хариу үйлдэл үзүүлэхийн тулд: хэн нэгэн AI-ийг боох хэрэгсэл дотор гүйцэтгүүлж, системийн нөлөөг хязгаарлахыг зөвлөдөг. Тэрээр хэлсэндээ, хэвийн программ хангамжаас ялгаатай нь, AI системүүд хэл болон нарийн зааварчилгаагаар нөлөөлж болохыг онцолж байв. Шулхофф харуулсан, AI аюулгүй байдал болон уламжлалт кибер аюулгүй байдлын талаар туршлагатай хүмүүс хэрхэн хуурамч код үйлдвэрлэхэд нөлөөлж болохыг мэднэ гэж.

Жишээлбэл, AI-ийн гаралтаас цааш нь аюулгүй байдлыг хангахын тулд тусгай хөлдөөгчд дотор гүйцэтгэж, AI гаралтыг зөвхөн хязгаарлагдмал орчинд гүйцэтгэдэг байж болно. Тэр итгэдэг, AI аюулгүй байдал ба уламжлалт кибер аюулгүй байдал хамтран ажиллах нь "ирээдүйн аюулгүй байдлын ажлууд" гэжээ. AI аюулгүй байдлын шинэ эх үүсвэрүүдийн үүсэл Шулхофф мөн олон AI аюулгүй байдлын стартупуудыг шүүмжилж, эдгээр нь бодит хамгаалал өгдөггүй хамгаалалтын хөшүүрэгийг сурталчилдаг хэргийг онцлон хэлэв. AI системүүд хэзээ ч заль мэх ашиглан нөлөөлж болох тул эдгээр хэрэгслүүд "бүх зүйлийг барьж чадна" гэсэн мэдэгдлүүд нь худал гэж тэр үздэг. "Үнэн хэрэгтээ буруу байна, " гэж тэр хэлээд зах зээлийн засвар хийх байхыг болзолоо, "энэ хамгаалалтын хөшүүрэг, автомат red-teaming компанийн орлого эрс багасах болно" гэж таамаглав. AI аюулгүй байдлын стартупууд хөрөнгө оруулагчдын сонирхлыг ихээр татаж байгаа. Том технологийн компаниуд болон венчур хөрөнгө оруулагчид энэ чиглэлийн салбар руу их хөрөнгө оруулалт хийж байгаа тул Монголд орж ирж байна. Гурван сарын дотор Google кибер аюулгүй байдал хамгаалалтын стартуп, Wiz-ийг 32 тэрбум ам. доллараар худалдаж авсан бөгөөд энэ нь түүний цэнгэлдэхийн аюулгүй байдлыг бэхжүүлэх зорилготой байв. Google-ийн гүйцэтгэх захирал Сундар Пичаи AI-ийн "шинэ эрсдлүүд" байна гэдгийг хүлээн зөвшөөрсөн бөгөөд олон үүлэн сэргээн болон холимог орчныг үе шаттай хөгжүүлж байгаа үед энэ үг хэлэгдэв. "Энэ нөхцөлд байгууллагууд олон үүлэн сертификат болон уян хатан орчинг илүү хамгаалах кибер аюулгүй байдлын шийдлийг эрэлхийлж байна, " гэж тэр нэмж хэлэв.