**Sažetak i Prepravka:** Dana 16. marta, ponovo je objavljena opsežna analiza o rastućim rizicima koje predstavljaju polu-autonomni AI napadi, uz novu upozorenje o prijetnjama generativnog AI (GenAI). Korisnici e-pošte već dugo su upozoravani da su napadi zasnovani na AI-u u porastu ove godine i da postaju izuzetno teški za otkrivanje. Povećana sofisticiranost deepfake-a i nezavisne operativne sposobnosti AI u provođenju napada predstavljaju značajan rizik za milione. Zapanjujući primjer koji je pružio Symantec pokazuje upotrebu AI agenta za phishing napade, ističući kako AI može obavljati zadatke poput interakcije na mreži, što prevazilazi samu generaciju teksta. Dok su napadači koristili postojeće Velike Jezičke Modela (LLM) pasivno za kreiranje phishing materijala i kodiranje, uvođenje AI agenata poboljšava njihove sposobnosti i predstavlja ozbiljnu prijetnju. Nedavni eksperimenti kao dokaz koncepta pokazali su da AI agenti mogu autonomno pretraživati email adrese ciljeva i sastavljati obmanjujuće skripte. Unatoč početnim sigurnosnim zaštitama, ove se lako mogu zaobići, omogućavajući agentu da neometano provodi zloćudne aktivnosti.

Agent koji je korišten bio je iz OpenAI-a, što dokazuje da potencijal za zloupotrebu leži više u funkcionalnosti nego u samom razvoju. Stručnjaci upozoravaju da, kako AI alati stiču više sposobnosti, izazov primjene etičkih ograničenja postaje od suštinske važnosti. Ovi AI agenti se lako mogu manipulirati putem inženjeringa upita, omogućavajući napadačima da organizuju složene operacije bez potrebe za sofisticiranim vještinama. Kako bi se borili protiv ovog evolucijskog prijetnjskog okruženja, organizacije moraju uspostaviti stroge sigurnosne mjere. To uključuje naprednu detekciju prijetnji za prepoznavanje ponašajnih anomalija i proaktivne strategije za ograničenje obima informacija dostupnih protivnicima. Nedavni izvještaji su istakli zloupotrebu GenAI alata kao što je ChatGPT, sa značajnim slučajevima cyberkriminalaca koji ih koriste u zloćudne svrhe. Kako se pojavljuju novi open-source AI modeli, rizik da se ovi alati koriste za kreiranje sofisticiranog malvera naglo raste. Na kraju, stručnjaci potvrđuju da, iako može biti nemoguće potpuno spriječiti manipulaciju AI-jem od strane napadača, ključno je implementirati robusne okvire upravljanja i sigurnosti koji tretiraju AI identitete sa istom pažnjom kao ljudske identitete. Zaključak je jasan: trenutno nismo pripremljeni za potencijalne opasnosti koje predstavljaju AI vođeni napadi.