Kevin Mandia, osnivač poznate kompanije za sajber bezbjeđenje Mandiant, uputio je ozbiljno upozorenje o budućnosti cyber prijetnji. Predviđa da bi cyber napadi koristeći umjetnu inteligenciju mogli postati stvarna mogućnost u narednih godinu dana. Mandia objašnjava da bi takvi napadi predstavljali velike izazove za stručnjake za sajber bezbjeđenje jer bi napadači mogli koristiti alate umjetne inteligencije za izvođenje sofisticiranih proboja s malom šansom za otkrivanje ili identifikaciju. Ideja o cyber prijetnjama powered by AI zabrinjava sigurnosnu zajednicu već godinama, ali brzo napredovanje i široka primjena generativnih AI tehnologija značajno su pojačali ove brige. Generativni AI sistemi mogu stvarati originalni sadržaj, poput teksta, slika i složenih skripti, što se može iskoristiti za omogućavanje fleksibilnijih i prilagodljivijih cyber napada. Mandia ističe da je najvjerovatniji izvor ovih cyber napada vođenih AI-jem kriminalne organizacije, a ne državne vlasti. Ova razlika je značajna jer kriminalne grupe, često motivisane finansijskom dobitkom, brzo usvajaju nove tehnologije za ilegalne aktivnosti, dok države obično imaju strateške ili političke ciljeve. Zanimljivo je da Mandia napominje da su istaknuti AI modeli kompanija poput OpenAI i Anthropic malo vjerojatno da će biti direktno zloupotrebljeni u zlonamjerne svrhe zbog ugrađenih zaštitnih mjera i ograničenja dizajniranih za sprječavanje zloupotrebe. Ipak, pejzaž sajber bezbjeđenja ostaje rizičan jer postoje manje regulisani ili open-source AI alati koje bi napadači mogli iskoristiti. Podržavajući ovu perspektivu, Chester Wisniewski, cijenjeni stručnjak za sajber sigurnost iz kompanije Sophos, slaže se da napadači već mogu imati tehničke mogućnosti za korištenje AI u napadima, ali motivacija za to trenutno ostaje ograničena. Ovo osjećanje možda proizlazi iz izazova integracije AI u postojeće metode napada i ograničenosti stručnosti kriminalaca u korištenju tako napredne tehnologije. Kao ilustraciju kako cyber kriminal evoluira s razvojem tehnologije, Mandia spominje slučaj iz 2001.

godine kada su ruski hakeri automatizirali online prevare, čime su značajno povećali opseg i efikasnost svojih ilegalnih aktivnosti. Ovaj primjer ističe kako su cyber kriminalci historijski prilagođavali nove tehnologije za jačanje svojih operacija i sugeriše da bi put AI mogao slijediti sličan razvojni put. Iako ove prijetnje izazivaju zabrinutost, stručnjaci za sajber sigurnost izražavaju oprezni optimizam u pogledu potencijala AI za poboljšanje odbrambenih mjera. Istovremeno, iste tehnologije umjetne inteligencije koje bi mogle biti oružje za napadače koriste se i za poboljšanje detekcije prijetnji, automatizaciju odgovora i jačanje otpornosti mrežnih infrastruktura. Kapacitet AI-a da brzo analizira velike količine podataka i prepoznaje anomalije nudi obećavajuće načine za anticipaciju napada i smanjenje njihovog utjecaja. Zaključno, oblast sajber bezbjeđenja nalazi se na kritičnom prekretnici gdje funkcije AI-ja predstavljaju i ozbiljnu prijetnju i snažan resurs. Upozorenja lidera poput Kevina Mandije služe kao hitni poziv na djelovanje za organizacije i vlade da proaktivno ulažu u sigurnosna rješenja zasnovana na AI-ju, istovremeno ostajući budni na sve sofisticiranije cyber prijetnje. Kako AI napreduje, tako moraju i strategije za sprječavanje njegove zloupotrebe, garantujući sigurniji digitalni svijet za sve uključene.