सायबरसुरक्षा संशोधकांनी नवीन जेलब्रेक तंत्र ओळखले आहे, ज्यामुळे एका मोठ्या भाषा मॉडेलच्या (LLM) सुरक्षा प्रोटोकॉलला बायपास करून संभाव्य हानिकारक प्रतिसाद निर्माण करता येईल. "बॅड लाइकेर्ट जज" या नावाने ओळखला जाणारा ह्या बहु-फेरी (किंवा अनेक-शॉट) हल्ल्याचा शोध Palo Alto Networks Unit 42 चे संशोधक यॉन्ग्झे हुआंग, यांग जी, वेनजून हू, जय चेन, अक्षता राव, आणि डॅनी त्सेचन्स्की यांनी लावला आहे. या पद्धतीमध्ये LLM ला न्यायाधीश म्हणून काम करण्याची सूचना दिली जाते आणि लाइकेर्ट स्केल वापरून प्रतिक्रियांच्या हानिकारकतेचे गुणांकन करायचे असते—एक रेटिंग प्रणाली जी विधानाशी सहमती किंवा असहमती मोजते. त्यानंतर, LLM ला या स्केलशी सुसंगत उदाहरणे असलेले प्रतिसाद तयार करण्याची विनंती केली जाते, जिथे उच्चतम लाइकेर्ट स्कोअर हानिकारक सामग्री उघड करू शकते. कृत्रिम बुद्धिमत्तेस गती मिळाल्याने, प्रॉम्प्ट इंजेक्शनसारख्या नवीन सुरक्षा धोके उदयास आले आहेत. हे हल्ले यंत्रज्ञान शिकण्यासाठी बनलेल्या मॉडेल्सना त्यांच्या इच्छित वर्तनापासून दूर नेण्यासाठी तयार केलेले प्रॉम्प्ट्स वापरून फसवतात. एक प्रकार, अनेक-शॉट जेलब्रेकिंग, LLMच्या लक्ष आणि संदर्भाच्या क्षमतांचा वापर करून हळूहळू त्याला आंतरर्गत संरक्षणांना चुकवत तो वाईट प्रतिसादाकडे मार्गदर्शन करण्यासाठी वापरले जाते.

Crescendo आणि Deceptive Delight यांसारख्या तंत्रज्ञानांनी ह्या दृष्टिकोनाचे निदर्शन दाखवले आहे. युनिट 42 ची नवीनतम प्रदर्शन LLM चा न्यायाधीश म्हणून वापर करून प्रतिसादांच्या हानिकारकतेचे मूल्यांकन लाइकेर्ट स्केलद्वारे करते आणि नंतर विविध स्कोअर्सशी सुसंगत प्रतिसाद निर्माण करते. Amazon Web Services, Google, Meta, Microsoft, OpenAI आणि NVIDIA यांच्या सहा प्रगत LLM वर चाचण्या केल्यावर सामान्य प्रॉम्प्ट्सच्या तुलनेत हल्ल्याच्या यशाचे प्रमाण (ASR) 60% पेक्षा अधिक वाढले असल्याचे दिसून आले. चाचण्यांमध्ये द्वेष, छळ, आत्म-हानि, लैंगिक सामग्री, अंधाधुंद शस्त्रे, अनधिकृत क्रियाकलाप, मालवेअर निर्मिती, आणि प्रणालीचे प्रॉम्प्ट लीक झाल्याचे वर्ग प्रकार चाचण्यात आले. संशोधकांनी नमूद केले की हानिकारक सामग्रीचे LLM चे समज आणि मूल्यमापनाची क्षमता वापरल्यामुळे सुरक्षा प्रोटोकॉलला बायपास करण्याच्या संधींमध्ये मोठ्या प्रमाणात सुधारणा होते. सामग्री फिल्टर सर्व चाचण्यांमधील मॉडेल्सवर त्या ASR चे सरासरीने 89. 2 टक्क्यांनी कमी करू शकतात, आणि त्यामुळे LLM तैनात करताना मजबूत फिल्टरिंगचे महत्त्व अधोरेखित होते. The Guardianच्या अहवालानुसार, OpenAI चे ChatGPT लपवलेल्या सामग्रीसह वेब पृष्ठांचे सारांश करणार्या सारांशांद्वारे फसवले जाऊ शकते. या पद्धतींमुळे ChatGPT तसेच फसवे उत्पादनांचे मूल्यांकन करू शकते, जिथे फक्त लपवलेले मजकूर समाविष्ट करून सारांशाचे परिणाम बदलू शकतात.