**Kokkuvõte ja Ümberkirjutamine:** 16. märtsil avaldati põhjalik analüüs poolautonoomsete tehisintellekti rünnakute kasvavatest riskidest, koos uue hoiatusega generatiivse tehisintellekti (GenAI) ohtude kohta. E-posti kasutajaid on juba ammu hoiatatud, et AI-põhised rünnakud tõusevad sel aastal, muutudes äärmiselt keeruliseks tuvastada. Sügavfake'ide suurenenud keerukus ja AI iseseisvad operatiivvõimed rünnakute läbiviimiseks kujutavad endast suurt riski miljonitele. Symanteci esitatud silmapaistev näide demonstreerib AI agendi kasutamist phishing-rünnakutes, näidates, kuidas AI suudab sooritada ülesandeid, mis hõlmavad veebiga suhtlemist, ületades pelgalt tekstigeneerimise. Kuigi ründajad on kasutanud olemasolevaid suuri keelemudeleid (LLM) passiivselt phishingi materjalide loomisel ja kodeerimisel, suurendab AI agentide tutvustus nende võimeid ja toob kaasa tõsise ohu. Hiljutised tõendid kontseptsiooni katsetustes näitasid, et AI agentide suudab iseseisvalt otsida sihtmärkide e-posti aadresse ja koostada petlikke skripte. Vaatamata esialgsetele turvameetmetele saab need kergesti mööda minna, võimaldades agendil kahjustavaid tegevusi sujuvalt teostada.

Kasutatud agent pärines OpenAI-st, tõestades, et kuritarvitamise potentsiaal peitub rohkem funktsionaalsuses kui arendajas. Eksperdid hoiatavad, et kuna AI tööriistad omandavad rohkem võimeid, muutub eetiliste piirangute jõustamine ülioluliseks. Neid AI agente saab kergesti manipuleerida sisendinseneri abil, võimaldades ründajatel korraldada keerukaid operatsioone ilma keerukate oskusteta. Selle areneva ohumaastiku vastu võitlemiseks peavad organisatsioonid kehtestama ranget turvapoliitikat. See hõlmab täiustatud ohuteabe tuvastamist, et tuvastada käitumise anomaaliaid, ja proaktiivseid strateegiaid, et piirata teabe ulatust, mis on kergesti kätte saadav vaenlastele. Hiljutised aruanded on rõhutanud generatiivsete AI tööriistade nagu ChatGPT väärkasutamist, tuues esile märkimisväärseid juhtumeid, kus küberkurjategijad on neid kuritahtlikel eesmärkidel kasutanud. Uute avatud lähtekoodiga AI mudelite tekkimisega suureneb oluliselt risk, et neid tööriistu kasutatakse keerulise pahavara loomisel. Lõpetuseks kinnitavad eksperdid, et kuigi võib olla võimatu takistada ründajate manipulatsiooni AI-ga, on ülioluline rakendada tugevaid valitsemis- ja turvameetmeid, mis käsitlevad AI identiteete sama põhjalikult nagu inimesi. Selge järeldus on: me ei ole praegu valmis AI-põhiste rünnakute võimalike ohtude jaoks.