Искусственный интеллект (ИИ) преобразует многие аспекты повседневной жизни, однако киберпреступники используют этот прогресс для развития фишинговых мошенничеств. Чатботы на базе ИИ, такие как ChatGPT, всё чаще используются мошенниками для создания отточенных, профессионально выглядящих фишинговых писем, лишённых типичных грамматических ошибок и неуклюжих выражений, которые ранее помогали жертвам распознавать мошенничество. Это развитие значительно ослабляет традиционные методы защиты от фишинга, основанные на обнаружении плохого языка как ключевого признака. Многие мошенники, в том числе не носители английского языка, используют инструменты ИИ, обученные на настоящих маркетинговых материалах доверенных банков, ритейлеров и поставщиков услуг, создавая фальшивые сообщения, практически неотличимые от легитимных писем, что делает чрезвычайно сложным для получателей отличить подлинную коммуникацию от вредоносной. Этот тренд вызвал тревогу у экспертов по кибербезопасности и властей из-за масштабов и серьёзности угрозы. Последствия фишинга с помощью ИИ ярко демонстрируют данные ФБР, согласно которым только в прошлом году ущерб от фишинговых и связанных с ними мошенничеств достиг ошеломляющей суммы в 16, 6 миллиардов долларов. Помимо финансовых потерь, фишинг способствует кражам личных данных, несанкционированному доступу к важным аккаунтам и распространению вредоносного ПО, что наносит долгосрочный вред жертвам. Эксперты отмечают, что вклад ИИ выходит за рамки улучшения качества писем: он также увеличивает скорость и масштаб атак.

Автоматизированное создание мошеннических сообщений позволяет киберпреступникам проводить масштабные кампании, охватывающие миллионы жертв одновременно и с минимальными усилиями, повышая эффективность и прибыльность. Усугубляет ситуацию рост доступных генеративных инструментов на базе ИИ, способных создавать дипфейки — поддельные видео и голосовые имитации доверенных лиц или организаций. Это делает целевые атаки типа spear-phishing более эффективными, позволяя мошенникам подделывать голос или видео руководителя компании или банка с целью вынудить жертв раскрыть конфиденциальную информацию или дать разрешение на фальсифицированные транзакции. Несмотря на эти достижения, помогающие мошенникам, специалисты по кибербезопасности утверждают, что обнаружить мошеннические письма всё ещё возможно, хоть и всё более сложно. Эффективное выявление требует использования передовых методов анализа, выходящих за рамки простого рассмотрения текста: это включает поведенческий анализ, фильтрацию на базе машинного обучения, обнаружение аномалий и обучение пользователей новым тактикам фишинга. Одновременно важно, чтобы организации и отдельные пользователи оставались бдительными и обновляли меры киберзащиты, осуществляя постоянный мониторинг, проводя регулярные тренинги по распознаванию продвинутых фишинговых атак, используя многофакторную аутентификацию и быстро сообщая о подозрительных сообщениях, чтобы снизить риск. По мере развития ИИ и его интеграции с методами фишинга сообщество кибербезопасности сталкивается с острой задачей опередить злоумышленников. Постоянное развитие ИИ-ассоциированных мошенничеств подчёркивает необходимость сильного сотрудничества между разработчиками технологий, правоохранительными органами, индустриальными игроками и общественностью для внедрения новых способов защиты, обмена информацией о угрозах и повышения осведомлённости. В целом, фишинг с применением ИИ представляет собой серьёзное повышение в уровне сложности киберпреступлений. Хотя ИИ предоставляет мощные инструменты для коммуникации и создания контента, он одновременно даёт мошенникам беспрецедентные возможности для обмана и эксплуатации жертв в масштабах, ранее недостижимых. Борьба с этим прогрессирующим угрозой требует проактивного, многоуровневого подхода, объединяющего современные технологии, образование и бдительность для защиты отдельных лиц и организаций в цифровую эпоху.