Nedávná zpráva FBI odhaluje prudký nárůst kybernetických útoků řízených umělou inteligencí, které způsobily rekordní finanční ztráty odhadované na 16, 6 miliardy dolarů. Tato bezprecedentní čísla zdůrazňují rostoucí nebezpečí vyplývající z zneužívání AI technologií při škodlivých kybernetických aktivitách. Zatímco pokrok v AI posunul inovace a efektivitu napříč odvětvími, kyberzločinci tyto nástroje zneužívají k vykonávání útoků s větší přesností, větším rozsahem a větší tajností, což činí tradiční obranné systémy stále méně účinnými. Zpráva identifikuje hlavní kategorie kybernetických kriminalit řízených AI: 1. Phishingové útoky s využitím AI, při nichž AI vytváří vysoce personalizované a přesvědčivé e-maily analýzou dat obětí, čímž zvyšuje úspěšnost. 2. Automatizované hackování a odhalování zranitelností s použitím AI, které rychle skenuje možné zranitelnosti a spouští útoky bez lidského zásahu. 3. Deepfake a syntetické média podvody, využívající AI-generované napodobeniny osobností pro podvody, šíření dezinformací a sociální inženýrství. 4. Malware s využitím AI, který se dynamicky přizpůsobuje svému chování, aby unikl detekci konvenčními bezpečnostními opatřeními. Ztráty ve výši 16, 6 miliardy dolarů zahrnují krádeže, výkupné, provozní narušení a náklady na obnovu. Sektor zdravotnictví, financí, výroby a kritické infrastruktury jsou cíleny nesrovnatelně víc kvůli cenným datům a jejich důležitosti pro provoz.

Zdravotníci, již tak přetížení pandemií COVID-19, čelí narůstajícím ransomwarovým útokům, které jsou optimalizované pomocí AI, zatímco finanční instituce bojují s AI-asistovanou podvodnou činností, která obchází tradiční ochranu. Vládní a policejní agentury mají problém s rychlostí a sofistikovaností těchto útoků, což zdůrazňuje potřebu jednotné reakce napříč veřejným a soukromým sektorem. Pro boj s těmito hrozbami FBI doporučuje komplexní strategie kybernetické bezpečnosti, které integrují AI jak do obranných, tak i útočných operací. Navrhovaná opatření zahrnují detekci hrozeb v reálném čase pomocí AI, pravidelné aktualizace softwaru, rozšířený výcvik zaměstnanců proti sofistikovaným phishingovým útokům, aktualizované plány reakce na incidenty zaměřené na AI, a podporu partnerství mezi veřejným a soukromým sektorem pro sdílení informací a koordinované akce. Zpráva také vyzývá k aktualizaci legislativy a regulací, které by řešily etické a právní výzvy AI v kyberprostorových aktivitách, a podporovala odpovědné využívání AI, aby se zabránilo jejímu zneužívání v kriminální činnosti. Vzhledem k přeshraniční povaze kybernetických zločinů FBI klade důraz na mezinárodní spolupráci — sdílení informací, společné operace a harmonizaci předpisů — pro efektivní řešení hrozeb využívajících AI. Odborníci varují, že jak se AI bude dále vyvíjet, kyberzločinci najdou nové metody útoku, což vyžaduje nepřetržité investice do výzkumu, vývoje a školení kyberbezpečnostního personálu, aby si udrželi strategickou výhodu. Shrnuto, zpráva FBI je varovným signálem pro vlády, podniky a jednotlivce. Historické ztráty podtrhují naléhavost zásadního přepracování přístupů k kybernetické bezpečnosti prostřednictvím integrace AI-obranných systémů, podpory spolupráce a zvýšení povědomí. Neschopnost přizpůsobit se může vést k ještě větším finančním škodám a narušení provozu v blízké budoucnosti, protože kybernetické zločiny řízené AI budou i nadále narůstat.