Kevin Mandia, ustanovitelj znane podjetja za kibernetsko varnost Mandiant, je izdal resno opozorilo glede prihodnosti kibernetskih groženj. Napovedal je, da bi se lahko napadi s pomočjo umetne inteligence (UI) kmalu, v naslednjem letu, resnično uveljavili. Mandia pojasnjuje, da bi takšni napadi predstavljali velike izzive za strokovnjake za kibernetsko varnost, saj bi napadalci lahko uporabljali orodja UI za izvedbo dovršenih vdorov z majhno verjetnostjo odkritja ali sledenja. Ideja o kibernetskih grožnjah, ki jih omogoča UI, že leta zanima varnostno skupnost, vendar so se zaradi hitrega napredka in široke uporabe generativnih tehnologij UI ta skrb močno okrepile. Generativni sistemi UI lahko ustvarjajo izvirne vsebine, kot so besedila, slike in zapleteni scenariji, ki jih je mogoče izkoristiti za bolj prilagodljive in inovativne kibernetske napade. Mandia poudarja, da so najverjetnejši vir teh napadov, ki jih poganja UI, kriminalne organizacije, ne pa državne akterje. Ta distinkcija je pomembna, saj se kriminalne skupine, pogosto motivirane s finančnim dobičkom, hitro prilagajajo novim tehnologijam za nezakonite namene, medtem ko države običajno sledujejo strateške ali politične cilje. Zanimivo je, da Mandia opazi, da napredni modeli UI podjetij, kot sta OpenAI in Anthropic, verjetno ne bodo neposredno zlorabljeni za škodljive namene zaradi usmeritev in varnostnih ukrepov za preprečevanje zlorab. Kljub temu je krajina kibernetske varnosti še vedno tvegana, saj obstajajo manj regulirani ali odprtokodni UI programi, ki bi jih lahko izkoristili nevarni akterji. Podčrtuje pa tudi Chester Wisniewski, cenjeni strokovnjak za kibernetsko varnost iz podjetja Sophos, ki meni, da si napadalci morda že zdaj imajo tehnične možnosti za uporabo UI v napadih, a je motivacija za to še vedno omejena.

Ta zadržanost je lahko posledica izzivov pri vključevanju UI v obstoječe metode napadov in pomanjkanja strokovnega znanja kriminalcev za izkoriščanje takšne napredne tehnologije. Da bi prikazal, kako se kiberno kriminaliteto razvija z napredkom tehnologije, Mandia navaja pomemben primer iz leta 2001, ko so ruski hekerji avtomatizirali spletne prevare, kar je znatno povečalo obseg in učinkovitost njihovih nezakonitih dejavnosti. Ta primer poudarja, da so se kibernetni kriminalci skozi zgodovino prilagajali novim tehnologijam za izboljšanje svojega delovanja, in sugerira, da bi lahko UI sledila podobni poti. Kljub nastajajočim grožnjam pa strokovnjaki za kibernetsko varnost ostajajo previdno optimistični glede možnosti UI za izboljšanje zaščitnih ukrepov. Te iste UI tehnologije, ki bi jih lahko zlorabili kot orožje, se namreč uporabljajo tudi za izboljšanje odkrivanja groženj, avtomatizacijo odzivov in krepitev odpornosti omrežnih sistemov. Zmožnost UI, da hitro analizira velike količine podatkov in zazna anomalije, ponuja obetavne načine za predvidevanje napadov in zmanjševanje njihovih posledic. Skupno lahko sklenemo, da se kibernetska stroka nahaja na kritični prelomnici, kjer UI deluje tako kot resna grožnja, kot tudi kot močno orodje. Opozorila vodilnih osebnosti, kot je Kevin Mandia, so nujni pozivi, naj organizacije in vlade proaktivno vlagajo v varnostne rešitve, ki vključujejo UI, in ostajajo pozorne na vse bolj dovršene kibernetske napade. S tem, ko UI napreduje, morajo tudi strategije za preprečevanje njene zlorabe postajati bolj napredne, da zagotovimo varnejši digitalni prostor za vse.