Kevin Mandia, zakladateľ známej kyberbezpečnostnej spoločnosti Mandiant, vydal vážne varovanie o budúcnosti kybernetických hrozieb. Predpovedá, že útoky využívajúce umelú inteligenciu sa môžu stať reálnou možnosťou už počas budúceho roka. Mandia vysvetľuje, že takéto útoky by predstavovali veľké výzvy pre odborníkov na kyberbezpečnosť, pretože útočníci by mohli použiť nástroje umelej inteligencie na vykonávanie sofistikovaných narušení s malou pravdepodobnosťou zistenia alebo vystopovania. Myšlienka kybernetických hrozieb podporovaných umelou inteligenciou znepokojuje bezpečnostnú komunitu už roky, no rýchly progres a široké prijímanie generatívnych technológií AI tieto obavy výrazne zosilnili. Generatívne systémy AI dokážu vytvárať originálny obsah, ako sú texty, obrázky či komplexné skripty, ktoré môžu byť zneužité na uskutočňovanie flexibilnejších a adaptívnejších kyberútok. Mandia zdôrazňuje, že najpravdepodobnejším zdrojom týchto útokov poháňaných AI sú kriminálne organizácie, nie štátne entity. Tento rozdiel je dôležitý, pretože kriminálne skupiny, často motivované finančnými ziskami, majú tendenciu rýchlo prijímať nové technológie na nelegálne účely, zatiaľ čo štáty zvyčajne sledujú strategické alebo politické ciele. Zaujímavo, Mandia poznamenáva, že významné modely AI od spoločností ako OpenAI a Anthropic pravdepodobne nebudú priamo zneužité na škodlivé účely vďaka zabudovaným bezpečnostným opatreniam a obmedzeniam určeným na prevenciu zneužitia. Napriek tomu je kybernetická bezpečnosť stále v riziku, pretože existujú menej regulované alebo open-source nástroje AI, ktoré môžu útočníci zneužiť. Na podporu tohto pohľadu súhlasí Chester Wisniewski, rešpektovaný expert na kybernetickú bezpečnosť zo spoločnosti Sophos, ktorý tvrdí, že hoci útočníci už dnes môžu mať technické prostriedky na využívanie AI pri útokoch, motivácia na ich plné využitie zatiaľ zostáva obmedzená.

Tento odpor môže vyplývať z problémov s integráciou AI do existujúcich metód útokov a z obmedzenej expertízy medzi kriminalistami v využívaní takto pokročilých technológií. Ako ukážku, ako sa kyberkriminalita vyvíja s technológiou, Mandia odkazuje na precedens z roku 2001, keď ruskí hackeri automatizovali online podvodné schémy, čo podstatne zvýšilo rozsah a efektívnosť ich ilegálnych aktivít. Tento príklad ukazuje, ako sa kyberzločinci historicky prispôsobili novým technológiám na zvýšenie svojich operácií, a naznačuje, že AI by mohla nasledovať podobnú cestu. Napriek týmto rastúcim hrozbám bezpečnostní odborníci vyjadrujú opatrný optimizmus v súvislosti s potenciálom AI na posilnenie obranných opatrení. Rovnaké technológie AI, ktoré by mohli byť zneužité na útoky, sa tiež používajú na zlepšenie detekcie hrozieb, automatizáciu reakcií a posilnenie odolnosti sieťovej infraštruktúry. Schopnosť AI rýchlo analyzovať veľké objemy dát a odhaliť anomálie ponúka sľubné spôsoby, ako predvídať útoky a znižovať ich dopad. Na záver, oblast kybernetickej bezpečnosti čelí kľúčovej križovatke, kde funkcie AI sú zároveň vážnou hrozbou aj mocným nástrojom. Varovania od vedúcich osobností ako Kevin Mandia slúžia ako naliehavé výzvy pre organizácie a vlády, aby aktívne investovali do bezpečnostných riešení poháňaných umelou inteligenciou a zostávali ostražití pred čoraz sofistikovanejšími kybernetickými hrozbami. Ako AI postupuje vpred, musia sa rozvíjať aj stratégie na prevenciu jej zneužitia, aby sa zabezpečil bezpečnejší digitálny svet pre všetkých.