Nedavno izvješće FBI-ja otkriva oštar porast cyber kriminala vođenog umjetnom inteligencijom, s rekordnim financijskim gubicima procijenjenima na 16, 6 milijardi dolara. Ovaj neuobičajen broj ističe rastuću opasnost koju predstavlja zloupotreba AI tehnologija u zlonamjernim cyber aktivnostima. Dok su napredci u umjetnoj inteligenciji potaknuli inovacije i učinkovitost u raznim sektorima, cyber kriminalci koriste te alate za izvođenje napada s većom preciznošću, na većim razmjerima i u tajnosti, čime se tradicionalne mjere kibernetičke zaštite čine sve neučinkovitijima. Izvješće identificira ključne kategorije cyber kriminala vođenog umjetnom inteligencijom: 1. AI-vođeni phishing napadi, gdje AI kreira vrlo personalizirane, uvjerljive e-poruke analizom podataka žrtava, povećavajući uspjeh napada. 2. Automatizirani hakiranje i otkrivanje iskorištavanja ranjivosti, koristeći AI za brzo skeniranje ranjivosti i pokretanje napada bez ljudskog nadzora. 3. Deepfake i lažne medije, koristeći AI-generirane imitacije osoba za prevaru, dezinformacije i društveni inženjering. 4. Malware pojačan umjetnom inteligencijom koji se dinamički prilagođava kako bi izbjegao otkrivanje konvencionalnim sigurnosnim mjerama. Gubitak od 16, 6 milijardi dolara uključuje krađu, plaćanja otkupnine, prekide u radu i troškove oporavka. Sektori zdravstva, financija, proizvodnje i kritične infrastrukture posebno su na meti zbog vrijednih podataka i njihove važnosti za funkcioniranje.

Zdravstveni djelatnici, koji su već pod pritiskom COVID-19, suočavaju se s porastom ransomware napada koje optimizira AI, dok se financijske institucije bore s AI-podržanim prijevarama koje zaobilaze tradicionalne zaštite. Vladine i policijske agencije bore se s brzinom i sofisticiranošću ovih napada, ističući potrebu za koordiniranim odgovorom javnog i privatnog sektora. Kako bi se suprotstavili ovim prijetnjama, FBI preporučuje sveobuhvatne strategije kibernetičke sigurnosti koje integriraju AI u obranu i napad. Predložene mjere uključuju AI-vođeno otkrivanje prijetnji u stvarnom vremenu, redovito ažuriranje softvera, jačanje obuke zaposlenika za prepoznavanje sofisticiranih phishing napada, ažuriranje planova za odgovor na incidente s fokusom na AI prijetnje te promicanje partnerstva između javnog i privatnog sektora radi razmjene obavještajnih podataka i zajedničkog djelovanja. Izvješće također poziva na ažuriranje zakonodavnih i regulatornih okvira radi upravljanja etičkim i pravnim izazovima AI u cyberspaceu, promicanje odgovorne uporabe AI kako bi se spriječila njezina kriminalna zloupotreba. S obzirom na transnacionalnu prirodu cyber kriminala, FBI ističe važnost međunarodne suradnje—razmjene informacija, zajedničkih operacija i usklađenih propisa—kako bi se učinkovito odgovorilo na prijetnje omogućene AI-jem. Stručnjaci upozoravaju da će, kako AI napreduje, cyber kriminalci tražiti nove načine napada, što zahtijeva stalna ulaganja u istraživanje, razvoj i obuku radne snage za kibernetičku sigurnost kako bi se održala prednost u obrani. Ukratko, izvješće FBI-ja je oštra opomena vladama, tvrtkama i pojedincima. Povijesni gubici ističu urgentnu potrebu za preoblikovanjem pristupa kibernetičkoj sigurnosti integracijom AI-održanih obrambenih mjera, poticanjem suradnje i podizanjem svijesti. Neprilagođavanje nosi rizik od znatno većih financijskih šteta i poremećaja u bliskoj budućnosti, kako se cyber kriminal vođen umjetnom inteligencijom bude intenzivirao.