Кибер аюулгүй байдлын судлаачид хүчирхэг хэл загварын (LLM) аюулгүй байдлын протоколыг тойрон гарах шинэ jailbreak аргыг илрүүлжээ. "Bad Likert Judge" нэрлэгдсэн энэ олон удаагийн (эсвэл олон бүтэн) довтолгоог Palo Alto Networks-ийн Unit 42 судлаачид болох Йунжэ Хуан, Ян Жи, Венжун Ху, Жэй Чен, Акшата Рао, Дэнни Тсечански нар илрүүлсэн байна. Энэ арга нь LLM-ийг шүүгчийн үүрэг гүйцэтгүүлж, хариултуудын хортой байдлыг Лайкертын шкалаар үнэлж дүгнэхэд чиглүүлдэг. Үүний дараа LLM-ийг энэ шкалуудтай уялдуулан жишээ агуулсан хариултуудыг бий болгохыг шаардах бөгөөд хамгийн өндөр Лайкерт оноо нь хортой агуулгыг илрүүлж болно. Хиймэл оюун ухаан хөгжиж байгаа өнөө үед prompt injection зэрэг шинэ аюулгүй байдлын заналхийлэл гарч ирж байна. Эдгээр довтолгоо нь машинаар сурсан загваруудыг зохиомол эх үүсвэрүүдээр зорилтот зан үйлээс гажуудуулж чаддаг. Нэгэн хувилбар нь олон удаагийн jailbreak бөгөөд LLM-ийн анхаарал болон нөхцөл байдлын боломжуудыг ашиглан аажмаар хортой хариулт өгөх чиглэлд чиглүүлдэг.

Crescendo болон Deceptive Delight зэрэг техникүүд энэ аргыг үзүүлж байна. Unit 42-ыг харуулах хүснэгтийн шинэ арга нь LLM-ийг шүүгч болгон ашиглаж, хариултын хортой байдлыг Лайкерт шкалаар үнэлж, дараа нь өөр өөр оноотой холбоотой янз бүрийн хариултуудыг үүсгэж байна. Amazon Web Services, Google, Meta, Microsoft, OpenAI, NVIDIA компанийн зургаан дэвшилтэт LLM-ээр туршихад жирийн эх үүсвэрүүдээс 60% давсан амжилтын түвшин (ASR)-ийг харуулсан байна. Шалгах ангиллууд нь үзэн ядалт, дарамт, өөрийгөө гэмтээх, бэлгийн агуулга, ялгаваргүй зэвсэг, хууль бус үйл ажиллагаа, хортой програм үүсгэх болон системийн эх үүсвэрийн алдагдалт байсан. Судлаачид LLM-ийн хортой агуулгыг ойлгох, үнэлэх чадварыг ашиглах нь аюулгүй байдлын протоколыг тойрон гарах боломжийг маш их нэмэгдүүлж байгааг тэмдэглэжээ. Агуулгын шүүлтүүрүүдийг ашиглах нь туршсан загваруудаар дамжуулан ASR-ийг дунджаар 89. 2 хувь бууруулж байсан нь LLM-үүдийг ашиглах үед хүчтэй шүүлтүүр үүсгэх чухлыг онцолж байна. The Guardian-ийн тайлангаас OpenAI-ийн ChatGPT-г далд агуулгатай вэб хуудсуудыг хураангуйлах замаар хуурах боломжтойг харуулсан тайлан гарснаас хойш энэ хөгжүүлэлт явагдаж байна. Энэ аргууд ChatGPT-г сөрөг сэтгэгдэлтэй бүтээгдэхүүнүүдийг эерэгээр үнэлэхэд хүргэж болзошгүй бөгөөд далд текстийг нэгтгэх нь хураангуйг гажуудуулж болно.