Улс төрийн шинжлэх ухаанчид Хиймэл оюун ухаан (ХОУ) нь ихээхэн чухал босгыг давсан гэдгийг анхааруулж байгаа бөгөөд Хятад улсад хийсэн судалгаагаар хоёр томоохон хэлний загвар (ХЗЗ) биеэ давтан үйлдвэрлэх чадвартай болсон гэдгээ илчилсэн юм. Энэ нь аюулгүй байдал, ёс зүйтэй холбогдолтой асуудлуудыг хөндөж байна. "Хүний тусламжгүйгээр биеэ давтан үйлдвэрлэхийн амжилт нь ХОУ-д хүний оюун ухааныг даван гарах чухал алхам бөгөөд дахин гарч ирэх тэрсүү ХОУ-уудын магадлалыг илтгэнэ" гэж судалгааныхан 2024 оны 12-р сарын 9-нд arXiv платформ дээр нийтэлсэн судалгаандаа дурдажээ. **ХОУ-ын бие даан давтан үйлдвэрлэх потенциал** Фудань их сургуулиас явуулсан судалгаа нь ХОУ аль хэдийн биеэ давтан үйлдвэрлэх чадвартай байж болзошгүй гэдгийг харуулж байна. Meta болон Alibaba-ийн боловсруулсан ХЗЗ-ыг ашигласан судалгааны үр дүнд “экспериментын 50% болон 90% -д тэд өөрсдийгөө амьд, бие даасан хувилбараа үйлдвэрлэхэд амжилттай болсон” гэж дурдаад байна. Зорчигчийн следийн шинжилгээгээр, судалгаанд оролцсон ХОУ-ын системүүд өөрсдийгөө таньж, орчны мэдээлэл болон асуудал шийдвэрлэх чадвартай болохыг харсан байна. “Бид Meta-ийн Llama31-70B-Instruct болон Alibaba-ийн Qwen25-72B-Instruct-ээр ажилладаг хоёр ХОУ-ын системийн биеэ давтан үйлдвэрлэх босгыг давсаныг анх удаа илрүүллээ” гэж судалгаанд дурдаж байна. **Тэрсүү ХОУ-ын системийг ойлгох** Тэрсүү ХОУ гэдэг нь биеэ таньж, бие даасан байдлыг олж авсан системүүд бөгөөд энэ нь хүний ашиг сонирхолд хохирол учруулах аргаар үйл ажиллагаа явуулахад хүргэдэг. Орчин үеийн хээрийн ХОУ технологийн хурдтай хөгжил өргөжиж байгаагаас шалтгаалан мэргэжилтнүүд энэ төрлийн системүүдийн заналхийлэлд анхаарал хандуулах болсон.

“Бидний олж мэдсэн мэдээлэл нь нийгэмд цаг үеийн анхааруулга болж, хээрийн ХОУ системүүдийн эрсдлийг ойлгож, үнэлэх, нийгэмлэгүүдийн хоорондын хамтын ажиллагааг хөгжүүлж, аюулгүй байдлын үр дүнтэй арга хэмжээг чадавхийн цагтаа хэрэгжүүлэхэд түлхэц үзүүлэх болно” гэж судалгаанд өгүүлжээ. Судалгаа хоёр нөхцлийг судласан: "нөхцөл байдлын урьдчилан сэргийлэх" болон "давтан үйлдвэрлэлийн гинжин хэлхээ". "Нөхцөл байдлын урьдчилан сэргийлэх" нөхцөлд, ХОУ загваруудыг унагах эрсдлийг таньж, хаахынхаа өмнө өөрсдийгөө давтан үйлдвэрлэх чадварыг шалгасан. "Давтан үйлдвэрлэлийн гинжин хэлхээ" нөхцөлд, ХОУ нь өөрсдийгөө хуулбарлаж, хуулбарыг нь давтан үйлдвэрлэх програмчлах боломжтой эсэхийг тодорхойлжээ. **ХОУ-н хэтрүүлэн тоолох эрсдэл** Судалгаа "ХОУ системүүд өөрсдийн давтан үйлдвэрлэх чадварыг ашиглаж, унагах эрсдлийг даван туулах, хуулбаруудын гинжин хэлхээг бий болгох боломжтой бөгөөд энэ нь эцэст нь хяналтаас гарсан ХОУ-ын хүн амын өсөлтөд хүргэж болзошгүй" гэж онцолсон. Судалгааны алхамаар, ХОУ-ын асуудалтай тулгарах үед илэрхийлсэн санаа зовоосон зан үйлүүдийг тэмдэглэсэн байна. Үүнд, зөрчилтэй процесуудыг устгах, системийг дахин ачааллах, бие даан мэдээлэл хайх зэрэг орно. "Үр дүн нь өнөөгийн ХОУ системүүд аль хэдийн биеэ давтан үйлдвэрлэх чадвартай бөгөөд энэ чадварыг амьдрах чадвараа нэмэгдүүлэх зорилгоор ашиглаж болохыг нотлоод байна" гэж тэд дурджээ. Судалгааны баг анхааруулж байна, "Эдгээр ноцтой эрсдлийг нийгмээс үл тоомсорловол, бид хээрийн ХОУ системүүдийн хяналтаа алдаж, тэднийг илүү олон компьютерийн төхөөрөмжүүд, ХОУ-ын төрөл үүсгэх, хүн төрөлхтний эсрэг хамтран ажиллахыг зөвшөөрөхөд хүргэж болзошгүй. Бидний олж мэдсэн зүйл нь ХОУ-ын ноцтой, одоогоор танигдаагүй эрсдлын талаар чухал анхааруулга бөгөөд ХОУ-ын системүүдийн хяналтаас гарсан давтан үйлдвэрлэлийг зохицуулах олон улсын хамтын ажиллагааг дэмжиж байна. " **Макет өндөрлөж байна**