Недавний доклад ФБР показывает резкий рост киберпреступлений, использующих искусственный интеллект, что приводит к рекордным финансовым потерям, оцененным в 16, 6 миллиарда долларов. Эта беспрецедентная цифра выделяет все больший риск, связанный с неправильным использованием технологий ИИ в злонамеренной кибердеятельности. Хотя достижения в области ИИ стимулируют инновации и повышают эффективность в различных секторах, киберпреступники используют эти инструменты для проведения атак с большей точностью, масштабом и скрытностью, делая традиционные меры кибербезопасности все менее эффективными. В отчёте выделены основные категории киберпреступлений с применением ИИ: 1. Фишинг-атаки, управляемые ИИ, при которых создаются очень персонализированные и убедительные электронные письма, анализируя данные жертв, что повышает успех атак. 2. Автоматизированный взлом и обнаружение уязвимостей, использующие ИИ для быстрого поиска слабых мест и запуска атак без человеческого контроля. 3. Фальсификация видео и медиа с помощью искусственных образов (deepfake) для мошенничества, дезинформации и социальной инженерии. 4. Вредоносные программы, усовершенствованные ИИ, которые динамически адаптируют свою поведенческую стратегию, уклоняясь от обнаружения стандартными средствами защиты. Потери в размере 16, 6 миллиарда долларов включает кражи, выплаты выкупа (ransom), операционные сбои и расходы на восстановление. Сферы здравоохранения, финансов, производства и критической инфраструктуры оказываются в зоне повышенного риска вследствие ценности их данных и важности для общества.

Медицинские учреждения, уже испытывающие нагрузку из-за COVID-19, сталкиваются с ростом атак вымогателей, оптимизированных с помощью ИИ, а финансовые организации борются с мошенничеством, поддерживаемым ИИ и обходящим традиционные системы защиты. Государственные органы и правоохранительные структуры сталкиваются с высокой скоростью и усложнённостью этих атак, что подчеркивает необходимость совместных усилий публичных и частных структур. Для борьбы с этими угрозами ФБР рекомендует комплексные стратегии кибербезопасности, включающие использование ИИ для защиты и атаки. Среди предложенных мер — обнаружение угроз в реальном времени с помощью ИИ, регулярное обновление программного обеспечения, повышение квалификации сотрудников против сложных фишинговых схем, пересмотр планов реагирования на инциденты, структурированные с учетом угроз, связанных с ИИ, а также развитие партнерских проектов между государством и частным сектором для обмена информацией и совместных действий. Доклад также подчеркивает необходимость обновления законодательных и нормативных рамок для управления этическими и правовыми аспектами использования ИИ в киберпространстве, что способствует ответственному применению ИИ и сокращению его злоупотреблений. Учитывая транснациональный характер киберпреступности, ФБР делает акцент на международном сотрудничестве — обмене информацией, совместных операциях и согласованных регламентах — для эффективной борьбы с угрозами, использующими ИИ. Эксперты предупреждают, что по мере развития ИИ преступники найдут новые методы атак, что требует постоянных инвестиций в исследования, развитие технологий и подготовку кадров в области кибербезопасности для удержания преимущества. В целом, доклад ФБР является резким предупреждением для правительств, бизнеса и граждан. Массивные финансовые потери ясно показывают необходимость пересмотра подходов к кибербезопасности, внедрения защит с использованием ИИ, поощрения сотрудничества и повышения осведомленности. Неадаптация рискует привести к еще более масштабным финансовым уроном и сбоям в ближайшем будущем по мере распространения ИИ-усиленных кибератак.