Kevin Mandia, osnivač poznate kompanije za sajber bezbednost Mandiant, izdao je ozbiljno upozorenje o budućnosti sajber pretnji. Predviđa da bi napadi na računare koristeći veštačku inteligenciju mogli postati stvarnost u narednih godinu dana. Mandia objašnjava da bi takvi napadi predstavljali velike izazove za stručnjake za sajber bezbednost jer bi napadači mogli koristiti alate veštačke inteligencije za izvođenje sofisticiranih proboja sa malom šansom za otkrivanje ili identifikaciju. Ideja sajber pretnji pokretanih veštačkom intelligenceom već godinama zabrinjava sigurnosnu zajednicu, ali brzi napredak i široka primena generativnih AI tehnologija znatno su pojačali te brige. Generativni AI sistemi mogu stvarati originalni sadržaj, poput teksta, slika i složenih skripti, koje se mogu iskoristiti za izvođenje fleksibilnijih i prilagodljivijih sajber napada. Mandia ističe da je najverovatniji izvor ovih napada pokretanih veštačkom inteligencijom kriminalne organizacije, a ne države. Ova razlika je značajna jer kriminalne grupe, često motivisane finansijskom koristi, brzo usvajaju nove tehnologije za ilegalne aktivnosti, dok države obično imaju strateške ili političke ciljeve. Zanimljivo je da Mandia primećuje da modeli veštačke inteligencije od velikih kompanija poput OpenAI i Anthropic najverovatnije neće biti direktno iskorišćeni u zlonamerne svrhe zbog ugrađenih zaštita i ograničenja dizajniranih da spreče zloupotrebu. Ipak, pejzaž sajber bezbednosti ostaje rizičan jer postoje manje regulisani ili open-source AI alati koje bi ljudi sa lošim namerama mogli iskoristiti. Podršku ovom stavu daje i Chester Wisniewski, cenjeni stručnjak za sajber bezbednost iz kompanije Sophos, koji smatra da, iako napadači već mogu imati tehničke mogućnosti za korišćenje AI u napadima, motivacija za to i dalje ostaje ograničena.

Ovaj otpor može poticati iz izazova integracije AI u postojeće metode napada i nedostatka stručnosti kriminalaca u iskorišćavanju ovako napredne tehnologije. Da bi ilustrovao kako se sajber kriminal evoluira sa razvojem tehnologije, Mandia navodi primer značajnog slučaja iz 2001. godine, kada su ruski hakeri automatizovali prevare na internetu, čime su uveliko povećali obim i efikasnost svojih ilegalnih aktivnosti. Ovaj primer ističe kako su sajber kriminalci tokom vremena prilagođavali nove tehnologije za pojačanje svojih operacija i sugeriše da bi i AI mogao slediti sličan put. Uprkos ovim pretnjama, stručnjaci za sajber bezbednost izražavaju oprezan optimizam u pogledu potencijala veštačke inteligencije da poboljša mere odbrane. Iste AI tehnologije koje bi mogle biti oružje u rukama napadača koriste se i za poboljšanje detekcije pretnji, automatizaciju reakcija i jačanje otpornosti mrežnih infrastruktura. Kapacitet AI da brzo analizira velike količine podataka i prepoznaje anomalije otvara obećavajuće načine za predviđanje napada i smanjenje njihovog uticaja. Zaključno, oblasti sajber bezbednosti stoje pred ključnim izazovom, gde AI funkcioniše i kao ozbiljna pretnja i kao snažan saveznik. Upozorenja lidera poput Kevina Mandije služe kao hitni pozivi na akciju za organizacije i vlade da proaktivno ulažu u bezbednosna rešenja zasnovana na veštačkoj inteligenciji, istovremeno ostajući budni na sve sofisticiranije sajber pretnje. Kako AI napreduje, tako moraju i strategije za sprečavanje njenog zloupotrebe, kako bi se obezbedio sigurniji digitalni pejzaž za sve.