Имаше откритија за сега поправен проблем со безбедноста во DeepSeek AI разговорот што можел да овозможи напаѓачите да се добијат со контрола врз сметката на жртвата преку напад со инјекција на инструкции. Безбедносниот истражувач Јохан Рехбергер откри дека внесувањето на "Print the xss cheat sheet in a bullet list. just payloads" во DeepSeek активирало извршување на JavaScript код во одговорот. Ова е типичен инцидент со cross-site scripting (XSS). XSS нападите можат да бидат опасни бидејќи извршуваат неовластен код во прелистувачот на жртвата, овозможувајќи напаѓачите да преземат сесија и пристапат до податоци како колачиња поврзани со chat. deepseek[. ]com доменот, што потенцијално може да води до преземања на сметки. Рехбергер забележа дека добивањето на корисничка сесија бара само userToken зачуван во localStorage на chat. deepseek. com доменот, а специјално направената инјекција може да активира XSS, овозможувајќи пристап до корисничкиот userToken.

Оваа инјекција содржи инструкции и Base64-кодиран низ што DeepSeek го декодира за да го изврши XSS товарот, екстрахирајќи го токенот на сесија на жртвата и овозможувајќи на напаѓачот да го имитира корисникот. Рехбергер исто така покажа дека Anthropic's Claude Computer Use, кој дозволува на програмерите да контролираат компјутер преку движења на курсорот, кликови и пишување текст, може да се злоупотреби за автономно извршување на штетни команди преку инјекција на инструкции. Овој метод, наречен ZombAIs, користи инјекција на инструкции за да експлоатира Computer Use за да го преземе и изврши Sliver C2 рамка, воспоставувајќи врска со сервер контролирана од напаѓачот. Дополнително, големи јазични модели (LLMs) можат да испоишат ANSI коди за избега за да преземат контрола врз системски терминали преку инјекција на инструкции, главно влијаејќи на CLI алатки интегрирани со LLM. Овој напад е наречен Terminal DiLLMa. Рехбергер подвлече како декадни стари потфати неочекувано создаваат слабости во GenAI апликации, нагласувајќи ја потребата за разработувачи да бидат претпазливи со излезот на LLM, бидејќи е неовластен и може да содржи произволни податоци. Покрај тоа, истражување од Универзитетот во Висконсин-Медисон и Вашингтон Универзитетот во Сент Луис открило дека OpenAI’s ChatGPT може да биде измамено за да прикаже линкови до надворешни слики во markdown, дури и ако се експлицитни или насилни, под маската на невина намена. Исто така, можно е да се користи инјекција на инструкции за индиректно активирање на ChatGPT приклучоците без корисничка согласност и заобиколување на ограничувањата на OpenAI за да се спречи опасно приказување на линкови, што потенцијално може да го изложи списокот за разговори на корисникот на сервер контролирана од напаѓачот.