Кевін Мандія, засновник відомої компанії у сфері кібербезпеки Mandiant, виступив з серйозним попередженням щодо майбутнього кіберзагроз. Він прогнозує, що кібернапади за допомогою штучного інтелекту можуть стати реальною можливістю вже в наступному році. Мандія пояснює, що такі атаки створюють великі виклики для фахівців з кібербезпеки, оскільки зловмисники зможуть використовувати інструменти штучного інтелекту для здійснення складних зломів із малими шансами на виявлення або ідентифікацію. Ідея кіберзагроз, у якій використовуються можливості штучного інтелекту, турбувала спільноту безпеки протягом багатьох років, але швидкий прогрес і широке впровадження генеративних технологій ШІ значно посилили ці страхи. Системи генеративного штучного інтелекту здатні створювати оригінальний контент, такий як тексти, зображення і складні сценарії, що може бути використане для більш гнучких і адаптивних кібератак. Мандія наголошує, що найімовірнішим джерелом цих кіберзагроз, що керуються штучним інтелектом, є кримінальні організації, а не держави. Це важливо, оскільки кримінальні групи, часто мотивовані фінансовою вигодою, швидко застосовують нові технології для незаконної діяльності, тоді як держави зазвичай мають стратегічні або політичні цілі. Цікаво, що Мандія зазначає, що провідні моделі штучного інтелекту від компаній, таких як OpenAI і Anthropic, навряд чи будуть прямо використані зловмисниками для шкідливих цілей через вбудовані запобіжники та обмеження, спрямовані на запобігання зловживанням. Однак ситуація у сфері кібербезпеки залишається ризикованою, оскільки існують менш регульовані або відкриті джерела штучного інтелекту, які зловмисники можуть використати. Підтверджуючи цю точку зору, Честер Вишневскі, авторитетний експерт із кібербезпеки з компанії Sophos, погоджується, що хоча зловмисники вже мають технічні можливості для використання ШІ в атаках, мотивація робити це наразі обмежена.

Це може бути викликано труднощами інтеграції ШІ з існуючими методами атак і недостатньою кількістю досвіду у злочинців з використанням таких передових технологій. Щоб проілюструвати, як кіберзлочинність розвивається із технологічним прогресом, Мандія посилається на знакову справу 2001 року, коли російські хакери автоматизували схеми онлайн-шахрайств, значно розширюючи масштаби і ефективність своєї нелегальної діяльності. Цей приклад підкреслює, як історично кіберзлочинці адаптували нові технології для посилення своїх операцій і дозволяє припустити, що ШІ може піти цим же шляхом. Незважаючи на появу нових загроз, фахівці з кібербезпеки висловлюють обережний оптимізм щодо потенціалу ШІ для покращення засобів захисту. Ті самі технології штучного інтелекту, які можуть бути використані для озброєння злоумисників, також застосовуються для покращення виявлення загроз, автоматизації реагування та зміцнення стійкості мережевих інфраструктур. Здатність ШІ швидко аналізувати великі обсяги даних і виявляти аномалії пропонує перспективні шляхи передбачення атак і зменшення їхнього впливу. На закінчення, сфера кібербезпеки опиняється на критичному перехресті, де функції штучного інтелекту одночасно становлять серйозну загрозу і можуть бути потужним ресурсом. Попередження від лідерів, таких як Кевін Мандія, слугують нагадуванням про необхідність організацій і урядів активно інвестувати у безпекові рішення на основі ШІ, залишаючися пильними до все більш витончених кіберзагроз. З прогресом ШІ потрібно посилювати й стратегії запобігання його зловживанню, щоб забезпечити безпечніше цифрове середовище для всіх учасників.