Кевин Мандиа, основатель известной кибербезопасной компании Mandiant, вынес серьезное предупреждение о будущем киберугроз. Он предсказывает, что кибератаки с использованием искусственного интеллекта могут стать реальной возможностью уже в следующем году. Мандиа объясняет, что такие атаки создадут серьезные вызовы для специалистов по кибербезопасности, поскольку злоумышленники смогут использовать инструменты ИИ для проведения сложных нарушений с минимальной вероятностью обнаружения или отслеживания. Идея угроз, связанных с возможностями искусственного интеллекта, вызывает опасения у сообществ безопасности уже много лет, но быстрый прогресс и широкое внедрение технологий генеративного ИИ значительно усилили эти опасения. Системы генеративного ИИ могут создавать оригинальный контент, такой как текст, изображения и сложные сценарии, что позволяет злоумышленникам осуществлять более гибкие и адаптивные кибератаки. Мандиа подчеркивает, что наиболее вероятным источником этих кибератак на базе ИИ являются преступные организации, а не государства. Эта разница важна, поскольку преступные группы, часто мотивированные финансами, стремительно внедряют новые технологии для незаконного использования, тогда как государства обычно преследуют стратегические или политические цели. Интересно, что Мандиа отмечает, что крупные модели ИИ от компаний, таких как OpenAI и Anthropic, вряд ли будут прямо использованы для злоумышленных целей благодаря встроенным защитным мерам и ограничениям, предназначенным предотвращать злоупотребления. Тем не менее, ситуация с кибербезопасностью остается рискованной, поскольку существуют менее регулируемые или открытые источники ИИ, которые злоумышленники могут эксплуатировать. Поддерживая эту точку зрения, Честер Вишневски, уважаемый эксперт по кибербезопасности из компании Sophos, соглашается с тем, что хотя у злоумышленников уже есть технические возможности для использования ИИ в атаках, полностью мотивировать их на это пока сложно.

Отчасти это связано с трудностями интеграции ИИ в существующие методы атаки и недостатком опыта у преступников в использовании таких передовых технологий. Чтобы показать, как киберпреступность развивается вместе с технологиями, Мандиа приводит пример знакового дела 2001 года, когда российские хакеры автоматизировали схемы онлайн-мошенничества, значительно расширив масштабы и эффективность своих незаконных действий. Этот пример подчеркивает, как злоумышленники исторически адаптируют новые технологии для усиления своих операций и предполагает, что ИИ может пойти по тому же пути. Несмотря на эти новые угрозы, специалисты по кибербезопасности выражают аккуратный оптимизм относительно потенциала ИИ в усилении защитных мер. Те же технологии ИИ, которые могут стать оружием злоумышленников, также применяются для улучшения обнаружения угроз, автоматизации реагирования и повышения устойчивости сетевых инфраструктур. Способность ИИ быстро анализировать большие объемы данных и выявлять аномалии открывает перспективные пути для прогнозирования атак и снижения их последствий. В заключение, сфера кибербезопасности стоит на важном перекрестке, где функции ИИ одновременно представляют серьезную угрозу и мощное средство защиты. Предупреждения таких лидеров, как Кевин Мандиа, служат срочным призывом к организациям и правительствам проактивно инвестировать в системы безопасности на базе ИИ, оставаясь при этом бдительными к все более изощренным киберугрозам. По мере развития ИИ необходимо совершенствовать стратегии предотвращения его возможного злоупотребления, чтобы обеспечить более безопасную цифровую среду для всех участников.