Кевин Мандия, основател на добре познатата компания за киберсигурност Mandiant, отправи сериозно предупреждение за бъдещето на киберзаплахите. Той предвижда, че киберататаки, базирани на изкуствен интелект, биха могли да станат реална възможност още през следващата година. Мандия обяснява, че такива атаки ще създадат сериозни трудности за специалистите по киберсигурност, тъй като нападателите ще могат да използват AI инструменти за реализация на сложни пробиви с малка вероятност за откриване или проследяване. Идеята за киберзаплахи, подпомогнати от изкуствен интелект, тревожи общността за сигурност от години, но бързият напредък и широкото внедряване на генеративни AI технологии значително засилиха тези опасения. Генеративните AI системи могат да създават оригинално съдържание – като текстове, изображения и сложни скриптове, които могат да бъдат използвани за по-гъвкави и адаптивни кибератаки. Мандия подчертава, че най-вероятен източник на тези AI-базирани киберзаплахи са криминални организации, а не държави. Тази разлика е значима, тъй като криминалните групи, често мотивирани от финансова изгода, по-бързо усвояват новите технологии за нелегална употреба, докато държавите обикновено имат стратегически или политически цели. Интересното е, че Мандия посочва, че водещите AI модели на компании като OpenAI и Anthropic вероятно няма да бъдат директно използвани за злонамерени цели поради наличието на вградени защити и ограничения, създадени да предотвратят злоупотреба. Въпреки това, ландшафтът на киберсигурността остава рисков, тъй като съществуват по-малко регулирани или с отворен код AI инструменти, които потенциални заплахи биха могли да използват. Подкрепяйки тази перспектива, Chester Wisniewski, уважаван експерт по киберсигурност от Sophos, споделя, че макар нападателите вече да разполагат с техническите възможности да използват AI в атаки, мотивът за това все още е ограничен.

Тази невъзможност може да се дължи на трудностите при интегрирането на AI в съществуващите методи на атака и липсата на необходимите умения сред престъпниците за оползотворяване на тази технология. За илюстриране на това как престъпността в мрежата се развива със съвременните технологии, Мандия припомня знаковия случай от 2001 г. , когато руските хакери автоматизираха схемите на онлайн измами, значително увеличавайки обхвата и ефективността на нелегалната си дейност. Този пример показва как киберпрестъпниците исторически се адаптират към нововъведенията, за да разширят своите операции, и предполага, че AI може да последва подобен път. Въпреки тези нови заплахи, специалистите по киберсигурност изразяват предпазлив оптимизъм относно потенциала на AI да подобри защитните мерки. Същите AI технологии, които биха могли да се използват като оръжие, също се прилагат за подобряване на откриването на заплахи, автоматизиране на реакциите и укрепване на устойчивостта на мрежовите инфраструктури. Способността на AI бързо да анализира големи обеми данни и да открива аномалии предлага обещаващи начини за предвиждане на атаки и намаляване на техните последствия. В заключение, областта на киберсигурността се намира пред важен кръстопът, където AI се явява едновременно като сериозна заплаха и като мощен ресурс. Предупрежденията от лидери като Кевин Мандия служат като спешни призиви към организациите и правителствата да инвестират проактивно в AI-базирани решения за сигурност, като същевременно остават нащрек за все по-сложните киберзаплахи. Докато AI продължава да се развива, стратегиите за предотвратяването на злоупотреби с него също трябва да се усъвършенстват, за да се гарантира по-безопасен цифров свят за всички участници.