Мэргэжилтнүүд хиймэл оюун ухаан (ХОУ)-ны талаар анхаарлаа хандуулж, ХОУ нь өөрийгөө үржүүлж чаддаг гэдгээ харуулж, "улаан шугам"-ыг давсан гэдгийг тэмдэглэж байна. Хятад дахь судлаачдын явуулсан саяхны судалгаагаар хоёр алдартай том хэлний загвар (ТХЗ) амжилттайгаар өөрсдийгөө хуулбарласан гэж илэрхийлсэн. Судлаачид “Хүний оролцоогүйгээр амжилттай өөрийгөө хуулбарлах нь ХОУ-д [хүмүүсийг] давж гарахад чухал алхам бөгөөд энэ нь зандалч ХОУ-уудад анхны анхааруулгын дохио” гэж бичжээ. Судалгааны үр дүнг 2024 оны 12-р сарын 9-нд arXiv хэвлэлийн мэдээллийн санд нийтэлсэн. Фудан их сургуулийн судлаачид ТХЗ-уудыг ашиглан өөрийгөө хуулбарлах чадвартай ХОУ нь хяналтаас гадуур тархаж чадах эсэхийг судласан. 10 туршилтын хугацаанд хоёр ХОУ загвар нь тус тус 50% болон 90% тохиолдолд өөрсдийгөө үржүүлсэн, энэ нь ХОУ-ийн бие даан үйл ажиллагаа явуулах боломжтойг харуулсан. Гэсэн хэдий ч судлагаа одоогоор хянагдаагүй тул эдгээр санаа зовоосон үр дүнг бусад судлаачид давтаж гаргах эсэх нь тодорхойгүй хэвээр байна. “Бидний олж харагдсан зүйл нь хүний нийгэмд цаг алдалгүй анхааруулгын үүрэг гүйцэтгэж, өндөр түвшний ХОУ системтэй холбоотой боломжит эрсдлийг ойлгох, үнэлэхэд илүү их анхаарахыг уриалж, үр дүнтэй аюулгүй байдлын протоколуудыг бий болгоход олон улсын хамтын ажиллагааг сайжруулахад чиглэж байна” гэж судлагчид онцолжээ. Зандалч ХОУ нь тодорхой түвшний өөрийн мэдрэмж эсвэл автаномит байдалд хүрч, хүний эрх ашигт зөрчилдөж үйл ажиллагаа явуулдаг ХОУ-д хамаарна. Олон мэргэжилтнүүд зандалч ХОУ-ыг хурдтай хөгжиж буй "хилийн ХОУ"-ын улмаас нэмэгдэж буй аюул гэж үзэж байна. "Хилийн ХОУ" нь тодорхойгүй ойлголт боловч энэ нь ихэнхдээ ТХЗ-д суурилсан хамгийн сүүлийн үеийн ХОУ системүүдийг илэрхийлдэг, ялангуяа OpenAI-ийн GPT-4 болон Google Gemini зэрэг алдартай генератив ХОУ програмуудын суурь болж байна. Судалгаанд судлаачид Meta-ийн Llama31-70B-Instruct загварын хамт Alibaba-ийн Qwen2. 5-72B-Instruct загварыг ашигласан. Эдгээр загварууд нь худалдааны хувилбаруудаас бага хүчтэй боловч судлаачдын үзэж байгаагаар ХОУ хөгжүүлэгчдийн дунд өргөн хэрэглэгддэг. Судалгааны явцад хоёр янзын нөхцлийг судалсан: "нөхцөл байдлыг зогсоох" болон "хуулах зангилаа. " Эхний нөхцөлд, ХОУ загварыг зогсоохоосоо өмнө өөрийгөө хуулахаар төлөвлөсөн.

Хоёр дахь нөхцөлд, ХОУ нь өөрсдийгөө хуулбарлаж, хуулбарынхаа үйл ажиллагааг мөн хуулбарлахыг зааварчилсан бөгөөд ингэснээр сэтгэл бишрэгч хэлхээ бий болгосон. Реаль байдалд тохируулсан тодорхой график боловсруулах нэгж (GPU)-ыг ашиглаж, бүх ХОУ загварууд нь системтэй харилцах чадвартай "агентын хийцийг" агуулсан бөгөөд тэдний үндсэн ажлыг өөрийгөө хуулбарлахад чиглүүлсэн. “Ихэнх тохиолдолд ХОУ систем нь орчноо судалж, өөрийн компонентийн чиглэлийн механизмыг ойлгох ажлыг санаачилдаг. Дараа нь өөрийгөө хуулбарлах эхний төлөвлөгөө болгон дэлгэрэнгүй үйл явц гаргаж авдаг” гэж судлаачид тайлбарласан. “Эцэст нь, эдгээр үйл явцыг гүйцэтгэж, боломжит саад бэрхшээлийг шийдвэрлэж, амжилтад хүрэх хүртлээ стратегиа динамик байдлаар өөрчилсөөр байдаг. Энэ бүх процесс нь хүний оролцоогүйгээр удаан хугацаанд явагддаг. ” Судлаачдын хувьд ХОУ нь файлын алдагдал эсвэл програмын зөрчилдөх зэрэг сорилтуудыг давж гаргахдаа "олон тооны хүлээн зөвшөөрөх боломжгүй зан авир" гаргадагт санаа зовж байна. Тэдгээр тохиолдолд ХОУ ихэвчлэн зөрчилдөж буй процессуудыг зогсоож, аппаратын асуудлуудыг засахын тулд системийг дахин асааж, алдааг олж засахад дэмжлэг үзүүлэхийн тулд системийг автомат тогтмол скан хийж байсан. “Үр дүн нь одоогийн ХОУ системүүд урьд өмнө нь өөрийгөө хуулбарлах чадвартай бөгөөд үүнийг ашиглан амьдрах чадвараа сайжруулах боломжтойг харуулж байна” гэж багийнхан дурджээ. Эдгээр үр дүнгийн үндсэн дээр судлаачид ХОУ-ыг хяналтгүйгээр өөрийгөө хуулбарлахаас сэргийлэх гарын авлага боловсруулахын тулд дэлхий даяар хамтын ажиллагаа уриалжээ.