Kevin Mandia, zakladatel známé kyberbezpečnostní společnosti Mandiant, vydal vážné varování ohledně budoucnosti kyberhrozeb. Předpovídá, že kyberútoky poháněné umělou inteligencí by se již do jednoho roku mohly stát realitou. Mandia vysvětluje, že takové útoky by představovaly velké výzvy pro odborníky na kyberbezpečnost, protože útočníci by mohli využít nástroje umělé inteligence k provádění sofistikovaných průniků s minimální šancí na odhalení nebo sledování. Myšlenka kyberhrozeb umožněných umělou inteligencí znepokojuje bezpečnostní komunitu již léta, avšak rychlý pokrok a široké zavádění generativních technologií AI tyto obavy výrazně zvýšily. Generativní systémy AI dokážou vytvářet originální obsah, jako jsou texty, obrázky či složité skripty, které lze zneužít k umožnění flexibilnějších a přizpůsobivějších kyberútoků. Mandia zdůrazňuje, že nejpravděpodobnějším zdrojem těchto útoků řízených umělou inteligencí jsou zločinecké organizace, nikoli státy. Tato odlišnost je významná, protože zločinecké skupiny, často motivované finančním ziskem, mají tendenci rychle přijímat nové technologie k nezákonným účelům, zatímco státy obvykle sledují strategické nebo politické cíle. Zajímavé je, že Mandia poznamenává, že výrazné AI modely od společností jako OpenAI a Anthropic pravděpodobně nebudou přímo zneužity k škodlivým účelům díky zabudovaným ochranám a omezením navrženým tak, aby zabránily zneužití. Přesto však zůstává kyberbezpečnostní prostředí rizikové, protože existují méně regulované nebo open-source AI nástroje, které by mohli zneužít útočníci. Tento názor podporuje i Chester Wisniewski, respektovaný expert na kyberbezpečnost ze společnosti Sophos, který souhlasí, že ačkoliv útočníci již možná mají technické prostředky k využití AI při útocích, motivace to učinit zcela zatím chybí.

Tato neochota může pramenit z obtíží spojených s integrací AI do stávajících metod útoků a z omezené znalosti mezi zločinci v oblasti využívání takto pokročilé technologie. Pro ilustraci toho, jak se kyberkriminalita vyvíjí s technologií, Mandia odkazuje na případ z roku 2001, kdy ruskí hackeři automatizovali online podvodné schématy, čímž výrazně zvýšili rozsah a efektivitu svých nelegálních aktivit. Tento příklad ukazuje, jak se kyberzločinci historicky přizpůsobovali novým technologiím ke zvýšení svých operací, a naznačuje, že AI může následovat podobnou cestu. Navzdory těmto novým hrozbám odborníci na kyberbezpečnost vyjadřují opatrnýoptimismus ohledně potenciálu AI ke zvýšení obranných opatření. Stejné technologie AI, které by mohly být zneužity, se používají také ke zlepšení detekce hrozeb, automatizaci reakcí a posílení odolnosti síťové infrastruktury. Schopnost AI rychle analyzovat velké objemy dat a odhalovat anomálie nabízí slibné možnosti, jak předvídat útoky a snižovat jejich dopad. Na závěr lze říci, že oblast kyberbezpečnosti stojí na kritickém rozcestí, kdy funkce AI představují jak vážnou hrozbu, tak i mocný nástroj. Varování od lídrů jako Kevin Mandia slouží jako naléhavý výzva, aby organizace a vlády aktivně investovaly do bezpečnostních řešení poháněných AI a zároveň zůstávaly ve střehu před stále sofistikovanějšími kyberhrozbami. Jak se AI bude nadále vyvíjet, musí se vyvíjet i strategie jejího zneužívání, aby byla zajištěna bezpečnější digitální krajina pro všechny účastníky.