Kevin Mandia, założyciel dobrze znanej firmy zajmującej się bezpieczeństwem cybernetycznym Mandiant, wydał poważne ostrzeżenie dotyczące przyszłości zagrożeń cybernetycznych. Przewiduje, że cyberataków opartych na sztucznej inteligencji może stać się realną możliwością w ciągu najbliższego roku. Mandia wyjaśnia, że takie ataki stanowiłyby poważne wyzwanie dla ekspertów ds. bezpieczeństwa, ponieważ napastnicy mogliby używać narzędzi AI do przeprowadzania zaawansowanych naruszeń, z minimalną szansą na wykrycie czy zidentyfikowanie sprawców. Idea zagrożeń cybernetycznych z użyciem AI budzi obawy społeczności bezpieczeństwa od lat, ale szybki postęp i szerokie przyjęcie technologii generatywnej AI znacznie nasiliły te obawy. Systemy generatywnej AI potrafią tworzyć oryginalne treści, takie jak teksty, obrazy czy skomplikowane scenariusze, które można wykorzystać do umożliwienia bardziej elastycznych i adaptacyjnych ataków cybernetycznych. Mandia podkreśla, że najbardziej prawdopodobnym źródłem takich cyberataków sterowanych przez AI są organizacje przestępcze, a nie państwa narodowe. To rozróżnienie ma istotne znaczenie, ponieważ grupy przestępcze, często motywowane zyskiem finansowym, szybko przyjmują nowe technologie do nielegalnych celów, podczas gdy państwa zwykle kierują się celami strategicznymi lub politycznymi. Co ciekawe, Mandia zauważa, że czołowe modele AI od firm takich jak OpenAI czy Anthropic najprawdopodobniej nie będą bezpośrednio wykorzystywane do celów złośliwych ze względu na wbudowane zabezpieczenia i ograniczenia mające zapobiec nadużyciom. Niemniej jednak, krajobraz cyberbezpieczeństwa pozostaje ryzykowny, ponieważ istnieją mniej regulowane lub open-source'owe narzędzia AI, z których mogą skorzystać hakerzy. Wspierając ten punkt widzenia, Chester Wisniewski, ceniony ekspert ds.

bezpieczeństwa z firmy Sophos, zgadza się, że choć napastnicy mogą już mieć techniczne możliwości użycia AI w atakach, to pełne motywacje do tego są na razie ograniczone. Przyczyną może być trudność w integracji AI z istniejącymi metodami ataków oraz brak wystarczającej wiedzy wśród przestępców na temat korzystania z tak zaawansowanej technologii. Aby zilustrować, jak cyberprzestępczość ewoluuje wraz z technologią, Mandia przywołuje przełomowy przypadek z 2001 roku, gdy rosyjscy hakerzy automatyzowali schematy oszustw online, co znacznie zwiększyło zakres i skuteczność ich działalności. Ten przykład podkreśla, jak cyberprzestępcy historycznie adaptowali nowe technologie, aby zwiększyć efektywność swojej działalności, i sugeruje, że AI może podążyć podobną ścieżką. Pomimo tych nowych zagrożeń, profesjonaliści z dziedziny bezpieczeństwa cybernetycznego wyrażają ostrożny optymizm co do potencjału AI do poprawy środków obronnych. Te same technologie AI, które mogą być użyte jako broń, są także wykorzystywane do poprawy wykrywania zagrożeń, automatyzacji reakcji i wzmocnienia odporności infrastruktury sieciowej. Zdolność AI do szybkiej analizy dużych ilości danych i wykrywania anomalii daje obiecujące możliwości przewidywania ataków i ograniczania ich skutków. Na koniec, środowisko bezpieczeństwa cybernetycznego stoi przed krytycznym momentem, gdy AI działa zarówno jako poważne zagrożenie, jak i potężne narzędzie. Ostrzeżenia od liderów takich jak Kevin Mandia są pilnym wezwaniem do działania dla organizacji i rządów, aby proaktywnie inwestowały w rozwiązania bezpieczeństwa oparte na AI, jednocześnie czujnie obserwując coraz bardziej wyrafinowane cyberzagrożenia. W miarę rozwoju AI, strategie zapobiegania jej nadużyciom muszą również ewoluować, aby zapewnić bezpieczniejszą przestrzeń cyfrową dla każdego użytkownika.