Хиймэл оюуны компаниуд хүний ​​эмхт хэрэгт хиймэл оюуны эрсдлээс хамгаалж чадах уу?Silicon Valley-ын хууль бус байгууллага болох Future of Life Institute-ийн шинэ үнэлгээний тайланд уг асуултын хариулт магадгүй үгүй гэж гарч байна. Хиймэл оюуны технологи хүмүүстэй харилцах орчин үеийн хэрэгцээ болж буй энэ үед, потенциалтай эрсдлүүд ил гарах болсон — жишээлбэл, хүмүүс зөвлөгөө авах зорилгоор хиймэл оюутай чатбот ашиглахад сэтгэл зүйн асуудалд орох эсвэл үүндээ байж байгаад амиа хорлох, эсвэл кибер халдлага гэх мэт. Мөн ирээдүйн аюулууд ч нэмэгдэж байна — жишээлбэл, хөнгөн зэвсэг гаргахад хиймэл оюуныг ашиглах эсвэл засгийн газарт тогтворгүй байдал үүсгэх оролдлого хийх гэх мэт. Гэсэн хэдий ч, дэлхий нийтийн аюулгүй байдлыг хангахад чиглэсэн нийгмээр ашиг олох зорилгоо тэр бүр тавих урамшуулал хангалтгүй байна. Institute-ийн саяхан гаргасан AI Safety Index буюу Хиймэл Оюуны Аюулгүй байдлын Индекс энэ асуудлыг онцлон тэмдэглэж байна. Үүнтэй холбогдуулан, MIT-ийн профессоруудын нэг, Institute-ийн ерөнхийлөгч Макс Тегмарк хэлэхдээ: “Хиймэл оюуны компаниуд хууль эрх зүйн хязгаарлалтгүй хүчирхэг технологийг зөвхөн Америкийн салбарт үйлдвэрлэж байгаа нь, ‘доод шалгуурт уралдах’ хэрнээ, аюулгүй байдлыг чухалчилдаггүй байна” гэлээ. Индексийн хамгийн өндөр үнэлгээ нь C+ байсан бөгөөд үүнд ChatGPT хөгжүүлэгч OpenAI, мөн чатбот Claude-ээр алдаршсан Anthropic компани орсон болно. Google-ийн хиймэл оюуны салбар болох Google DeepMind C гэсэн үнэлгээ авсан бол, Meta (Facebook-ийн эцэг компани) болон Elon Musk-ийн хөтөлбөр болох xAI нарт D үнэлгээ тавьжээ. Мөн Хятадын Z. ai, DeepSeek компаниуд D үнэлгээ авсан байна. Албан ёсны хамгийн доод үнэлгээ нь D- байсан бөгөөд Alibaba Cloud энэ ангилалд багтаж байна. Компаниудыг үнэлэхдээ нийт 35 үзүүлэлтийг зургаан ангилалд хуваан үнэлсэн бөгөөд эдгээр нь оршихуйн аюулгүй байдал, эрсдэлийн үнэлгээ, мэдээлэл хуваалцах зэрэг багтана. Үнэлгээг олон нийтийн эх сурвалжийн өгөгдөл, компаниудын судалгаа, асуулга зэрэг мэдээллийн санг ашиглан, нийт 8 хиймэл оюуны шинжээч, эрдэмтэн, байгууллагын удирдлагуудаас хийсэн үнэлгээгээр үнэлжээ. Мөн сонирхолтой нь, бүх компаниуд оршихуйн аюулгүй байдал дээр дундаж үнэлгээний доогуур үнэлгээ авсан бөгөөд энэ нь хөнөөлтэй хандлагаас урьдчилан сэргийлэх дотоод хяналт, стратеги Тэдний зөв төлөвлөгөө байхгүйг харуулсан байна.

Тайлбарлвал, энэ тайланд үүсгэгчид нь хэн нэг зүйлээс хяналт алдах, хэт их буруугаар ашиглах эрсдлээс сэргийлэх бодлогуудыг харуулсангүй. Google DeepMind ба OpenAI хоёул аюулгүй байдлын чиглэлийн өөрсдийн зорилго, хичээл зүтгэлээ баталж байгаа бөгөөд OpenAI шинэ зэргийн аюулгүй байдлын судалгаа, шалгалт хийж, аюулгүй байдлын хүрээг өргөжүүлэх арга хэмжээ авч буйгаа илэрхийлсэн. Google DeepMind шинжлэх ухаан, технологид суурилсан аюулгүй байдлын арга барил, protocol-уудыг боловсруулж, өндөр эрсдэлийг бууруулах чиглэлд ажиллаж байна. Гэсэн хэдий ч, Institute-ийн дүгнэлтээр, xAI болон Meta компаниуд эрсдэлийн менежментийн тогтолцоотой боловч хяналт, зохицуулалтын баталгааг хангах, эсвэл ач холбогдолтой аюулгүй байдлын судалгаа хийх хөрөнгө оруулалт хангалтгүй байна. DeepSeek, Z. ai болон Alibaba Cloud компанийн нээлттэй аюулгүй байдлын бодлогын баримт бичиг одоогоор олдоогүй. Meta, Z. ai, DeepSeek, Alibaba, Anthropic зэрэг компаниуд тайлбар хүсэлтэд хариу өгөөгүй байна. xAI тайланг “Legacy Media lies” буюу “Өвөг дээдсийн сэтгүүл зүйн худал мэдээлэл” гэж зүйрлэж, Musk-ийн өмгөөлөгч гишүүн нь илүү асуултад хариу өгөөгүй. Musk Future of Life Institute-д зөвлөх, мөн хөрөнгө оруулалт хийсэн ч, AI Safety Index-ийн гаралтад оролцсонгүй. Тегмарк аюулгүй байдлын зохицуулалт хангалтгүй байвал терроризмын хорт бие махбодийн зэвсэг хөгжүүлэх, өнөөгийн үеийн түвшнээс давж Manipulation хийх чадвар нэмэгдэх эсвэл засгийн газруудыг тогтворгүй болгох магадлалтай гэж үзэж байна. Тэрээр эдгээр асуудлыг шийдэх нь маш энгийн гэдгийг онцолж, хиймэл оюуны компаниуд тодорхой өөрчлөлтүүд хийх шаардлагатай гэв. Зарим засгийн газрын оролдлого хиймэл оюуны хяналтыг сайжруулахыг зорьж буй ч техникийн лоббичид ийм зохицуулалтад эсэргүүцэж байна, арга хэмжээг түдгэлзүүлэх, хувийн хөрөнгө оруулалтад шилжүүлэх магадлалтай. Гэсэн хэдий ч, зарим хууль, тухайлбал, оны есдүгээр сард губернатор Гэвин Нүйсэмыг дамжуулж баталсан, California-ийн SB 53 хуулийн дагуу компаниуд аюулгүй байдлын бодлого, хамгаалалтын аргачикаа ил тод харуулах, кибер халдлага зэрэг явдлыг тайлагнах үүрэг хүлээж байна. Тегмарк энэ хуулийг дэвшилт гэж үнэлж буй ч, илүү их арга хэмжээ авах шаардлагатайг онцолж байна. Enderle группийн үндсэн шинжээч Роб Эндэрле AI Safety Index-ийг хиймэл оюуны зохицуулалтын сорилтуудыг шийдэх нэгэн үр дүнтэй хандлага гэж үзэж буй ч, Америкийн одоогийн засгийн газар үр дүнтэй зохицуулалт бий болгох чадвартай эсэх талаарх эргэлзээтэй. Тэрээр муу боловсруулсан хууль тогтоомж нь хохирол учруулж болзошгүй бөгөөд мөрдөх механизмыг хуучирсан гэх нотолгоо нь байхгүй гэдгийг сануулав. Товчхондоо, AI Safety Index-ээс харахад томоохон хөгжүүлэгчид одоогоор баталгаажсан аюулгүй байдлын хөтөлбөр эсвэл үнэт зүйлүүдийг харуулаагүй бөгөөд, хүний ​​аюулгүй байдлыг хангах зорилгоор илүү хүчирхэг зохицуулалтыг яаралтай хэрэгжүүлэх шаардлагатайг онцолж байна.