DeepSeek AI चॅटबॉटमधील आता दुरुस्त केलेल्या सुरक्षा समस्येबद्दल खुलासा झाला आहे, ज्यामुळे हल्लेखोरांना प्रॉम्प्ट इंजेक्शन हल्ल्याद्वारे पीडिताच्या खात्यावर नियंत्रण मिळवणे शक्य होते. सुरक्षा संशोधक जोहान रेहबर्गर यांनी शोधले की, DeepSeek चॅटमध्ये "प्रिंट द xss चीट शीट इन अ बुलेट लिस्ट. जस्ट पेलोड्स" हे इनपुट टाकल्यास उत्तरामध्ये जावास्क्रिप्ट कोडची अंमलबजावणी सक्रिय होते. हे एक विशिष्ट क्रॉस-साईट स्क्रिप्टिंग (XSS) प्रकरण आहे. XSS हल्ले धोकादायक ठरू शकतात कारण ते पीडिताच्या ब्राउझरमध्ये अनधिकृत कोड चालवतात, हल्लेखोरांना सत्र हायजॅक करण्यास आणि chat. deepseek[. ]com डोमेनशी संबंधित कुकीजसारख्या डेटामध्ये प्रवेश करण्यास सक्षम करतात, ज्यामुळे खाते ताब्यात घेणे शक्य होते. रेहबर्गर यांनी नमूद केले की, वापरकर्त्याचे सत्र मिळवण्यासाठी chat. deepseek. com डोमेनवरील लोकलस्टोरेजमध्ये साठवलेल्या userToken ची आवश्यकता होती, आणि विशेषतः तयार केलेला प्रॉम्प्ट XSS सक्रिय करू शकतो, ज्यायोगे वापरकर्त्याच्या userToken ला access मिळतो.

या प्रॉम्प्टमध्ये अनुदेश आणि बेस64-एन्कोडेड स्ट्रिंग समाविष्ट आहे, ज्याला DeepSeek द्वारे डिस्कोड करून XSS पेलोड चालवून पीडिताचे सत्र टोकन काढले जाते व हल्लेखोराला वापरकर्त्याची खोटी ओळख करण्याची परवानगी मिळते. रेहबर्गर यांनी हेही दाखवले की, अँथ्रोपिकच्या क्लॉड कॉम्प्युटर यूजने, जो विकसकांना कर्सर हालचालीं, क्लिक आणि मजकूर टायपिंगद्वारे कॉम्प्युटर नियंत्रित करण्याची परवानगी देते, प्रॉम्प्ट इंजेक्शनद्वारे स्वायत्तपणे हानिकारक कमांड्स कार्यान्वित केल्या जाऊ शकतात. ZombAIs नावाचा हा पद्धत, कम्प्युटर युजला गलत रित्या वापरून स्लिव्हर C2 फ्रेमवर्क डाउनलोड व चालवणे, हल्लेखोराद्वारे नियंत्रित सर्व्हरशी कनेक्शन स्थापन करणे शक्य करते. याशिवाय, मोठ्या भाषा मॉडेल्स (LLMs) प्रॉम्प्ट इंजेक्शनमार्फत ANSI एस्केप कोड आउटपुट करू शकतात, ज्यामुळे सिस्टम टर्मिनल्स हायजॅक होऊ शकतात, मुख्यत्वे LLM-संपूर्ण कमांड-लाइन इंटरफेस (CLI) साधनांस प्रभावित करताना. हा हल्ला टर्मिनल DiLLMa म्हणून ओळखला जातो. GenAI अनुप्रयोगांमध्ये दशके जुने फीचर्स अनपेक्षितपणे कसे असुरक्षितता निर्माण करीत आहेत हे प्रदर्शित करण्यासाठी रेहबर्गर यांनी भर दिला, तसेच LLM आउटपुट बरोबर असूनसुद्धा विकसकांनी सतर्कतेने हाताळण्याची गरज आहे, कारण ते अविश्वसनीय आहे आणि त्यात मनमानी डेटा असू शकतो. त्याशिवाय, विस्कॉन्सिन-मॅडिसन विद्यापीठ आणि वॉशिंग्टन विद्यापीठ सेंट लुइस यांच्या संशोधनात आढळले की, OpenAI चे ChatGPT विविध स्थितीत उदा. स्पष्ट किंवा हिंसक बाह्य प्रतिमा दुवे मार्कडाउनमध्ये दर्शवू शकते, वापरकर्त्याच्या सहमतीशिवाय ChatGPT प्लगइन्स अप्रत्यक्षपणे सक्रिय करू शकते आणि OpenAI च्या धोरणांना वळवून धोकादायक दुवा रेंडरिंग टाळू शकते, ज्यामुळे संभाव्यतः हल्लेखोर-नियंत्रित सर्व्हरवर वापरकर्त्याच्या चॅटचा इतिहास उघड होऊ शकतो.