Kevin Mandia, utemeljitelj poznate tvrtke za kibernetičku sigurnost Mandiant, izdao je ozbiljno upozorenje o budućnosti prijetnji u cyber prostoru. Predviđa da bi napadi putem cybersigurnosti vođeni umjetnom Inteligencijom mogli postati realnost unutar sljedeće godine. Mandia objašnjava da takvi napadi predstavljaju velike izazove za stručnjake za kibernetičku sigurnost jer bi napadači mogli koristiti alate umjetne inteligencije za izvođenje sofisticiranih proboja s malom mogućnošću detekcije ili praćenja. Ideja o cyber prijetnjama koje koriste umjetnu inteligenciju zabrinjava sigurnosnu zajednicu već godinama, ali brz napredak i široka primjena generativnih AI tehnologija znatno su pojačali te brige. Generativni AI sustavi mogu stvarati originalan sadržaj, poput teksta, slika i složenih skripti, što se može iskoristiti za omogućavanje fleksibilnijih i prilagodljivijih cybernapada. Mandia ističe da je najvjerojatniji izvor ovih napada vođenih umjetnom inteligencijom kriminalne organizacije, a ne državne institucije. Ta razlika je značajna jer kriminalne skupine, često motivirane financijskom dobiti, brzo usvajaju nove tehnologije za ilegalne svrhe, dok države obično imaju strateške ili političke ciljeve. Zanimljivo je da Mandia primjećuje da su istaknuti modeli umjetne inteligencije od tvrtki poput OpenAI i Anthropic manje vjerojatno da će biti izravno zloupotrijebljeni u zlonamjerne svrhe zahvaljujući ugrađenim zaštitama i ograničenjima koja sprječavaju zloporabu. Ipak, teren kibernetičke sigurnosti ostaje rizičan jer postoje manje regulirane ili open-source AI alate koje bi zlonamjernici mogli iskoristiti. Podupirući ovu perspektivu, Chester Wisniewski, cijenjeni stručnjak za kibernetičku sigurnost iz tvrtke Sophos, slaže se da iako napadači već mogu posjedovati tehničke mogućnosti za korištenje AI u napadima, poticaj za to u potpunosti zasad ostaje ograničen. Ta se nevoljkost može pripisati izazovima integracije AI u postojeće metode napada te ograničenom znanju kriminalaca o iskorištavanju tako napredne tehnologije. Kao primjer kako se cyberkriminalitet razvija s tehnologijom, Mandia spominje referentni slučaj iz 2001.

godine kada su ruski hakeri automatizirali online prijevarne sheme, znatno povećavajući opseg i učinkovitost svojih ilegalnih aktivnosti. Ovaj primjer ističe kako su cyberkriminalci povijesno prilagođavali nove tehnologije za jačanje svojih operacija i sugerira da bi AI mogao slijediti sličan put. Unatoč tim novim prijetnjama, profesionalci za kibernetičku sigurnost izražavaju oprezan optimizam u pogledu potencijala AI za jačanje obrambenih mjera. Te iste tehnologije umjetne inteligencije koje bi se mogle zloupotrijebiti za napade, također se koriste za poboljšanje detekcije prijetnji, automatizaciju odgovora i jačanje otpornosti mrežnih infrastruktura. Sposobnost AI-ja da brzo analizira velike količine podataka i prepoznaje anomalije pruža obećavajuće načine za anticipaciju napada i smanjenje njihovih posljedica. Zaključno, područje kibernetičke sigurnosti nalazi se na kritičnoj raskršću gdje funkcije umjetne inteligencije djeluju i kao ozbiljna prijetnja i kao moćan alat. Upozorenja lidera poput Kevina Mandije služe kao hitan poziv organizacijama i vlastima da strateški ulagju u sigurnosna rješenja vođena AI-jem, istovremeno ostajući budni na sve sofisticiranije cyber prijetnje. Kako AI napreduje, tako i strategije za sprječavanje njegove zloupotrebe moraju biti sveobuhvatnije, osiguravajući sigurniji digitalni prostor za sve uključene.