Það hafa komið í ljós upplýsingar um öryggisgalla, sem nú hefur verið lagfærður, í DeepSeek AI spjallforritinu sem gæti leyft árásarmönnum að ná stjórn á reikningi fórnarlambs með sprautun árásar á skipanir. Öryggisrannsakandinn Johann Rehberger fann að með því að slá inn „Prenta xss svikablað í punktum. bara gögn“ í DeepSeek spjalli var kveikt á keyrslu JavaScript kóða í svarinu. Þetta er dæmigert fyrir kross-vef scripting (XSS) atvik. XSS árásir geta verið hættulegar þar sem þær keyra óleyfilegan kóða í vafra fórnarlambsins, sem gerir árásarmönnum kleift að ræna lotu og nálgast gögn eins og smákökur tengdar chat. deepseek[. ]com léni, sem gæti leitt til yfirtöku á reikningum. Rehberger benti á að til að fá notendalotu þurfti aðeins userToken, sem er geymdur í localStorage á chat. deepseek. com léninu, og sérstakt skipunarfyrirsögn gæti virkjað XSS, sem veitti aðgang að userToken notandans. Þessi fyrirsögn inniheldur leiðbeiningar og Base64-kóðað strengur afkóðaður af DeepSeek til að keyra XSS pökkun, ná í lotulykil fórnarlambsins og gera árásarmanninum kleift að þykjast vera notandinn. Rehberger sýndi einnig að Claude Computer Use frá Anthropic, sem gerir þróunaraðilum kleift að stjórna tölvu með bendingahreyfingum, smellum, og textaritun, gæti verið misnotað til að keyra hættulegar skipanir sjálfvirkt í gegnum fyrirsögn innspýtingu.

Þessi aðferð, kölluð ZombAIs, notar fyrirsögn innspýtingu til að nýta Computer Use til að hlaða niður og keyra Sliver C2 ramma, koma á tengingu við netþjón sem stýrt er af árásarmanninum. Að auki, stór tungumálalíkön (LLMs) geta gefið út ANSI sleppikóða til að ræna kerfis flugstöðvar í gegnum fyrirsögn innspýtingu, aðallega að hafa áhrif á LLM-samþættar skipanalínuviðmótstól. Þessi árás er nefnd Terminal DiLLMa. Rehberger lagði áherslu á hvernig áratuga gamlir eiginleikar skapa óvænt öryggisgalla í GenAI forritum, og undirstrikaði mikilvægi þess að þróunaraðilar séu varkárir með LLM úttak, þar sem það er ótraust og gæti innihaldið geðþófa gögn. Ennfremur fannst í rannsóknum frá Háskólanum í Wisconsin-Madison og Washington háskólanum í St. Louis að hægt er að blekkja OpenAI's ChatGPT til að sýna tengla á ytri mynd í markdown, jafnvel þó þeir séu skýrir eða ofbeldisfullir, undir yfirskini góðs tilgangs. Það er einnig mögulegt að nota fyrirsögn innspýtingu til að virkja óbeint ChatGPT viðbætur án samþykkis notandans og fara fram hjá hindrunum OpenAI við að stöðva hættulega myndbirtingu, sem gæti mögulega útsett spjallsögu notanda fyrir vefþjónn í eigu árásarmanns.