Искусственный интеллект значительно продвинулся в последние годы, преобразуя такие области, как коммуникации, развлечения и безопасность. Однако, как и любая мощная технология, неправильное использование ИИ создает серьезные проблемы. Одной из тревожных тенденций является злоупотребление приложениями для создания видео с помощью ИИ для проведения сложных мошенничеств и схем подмены личности, что свидетельствует о тревожной эволюции киберпреступности и вызывает озабоченность специалистов по всему миру. Недавним примером является выпуск iOS-приложения Sora от OpenAI, которое использует передовую модель генерации видео, позволяющую пользователям легко создавать очень реалистичные видео, сгенерированные на базе ИИ. Несмотря на свою инновационность, Sora включает спорную функцию, которая удаляет водяные знаки — метки, встроенные в созданный ИИ контент для его идентификации как искусственного. Это усложняет различение реальных материалов и дипфейков, увеличивая риск обмана. Эксперты предупреждают, что эти инструменты могут усугубить уже существующую проблему. Мошенничество с подменой личности росло еще до появления доступных генераторов видео на базе ИИ, нанося значительный урон отдельным людям и организациям, а также подрывая доверие к цифровой коммуникации. Теперь злоумышленники могут использовать передовые техники манипуляции видео и аудио для создания крайне убедительных дипфейков, имитирующих лица и голоса реальных людей. Такие подделки могут маскироваться под руководителей, чиновников, знаменитостей или обычных граждан для осуществления мошенничества, распространения дезинформации, кражи личных данных и вымогательства. Для борьбы с этим платформы, такие как Meta AI, ограничивают некоторые возможности — например, исключают клонирование голоса, чтобы снизить риск подмены личности. Тем не менее многие ИИ-приложения продолжают предлагать расширенные функции клонирования голоса и лица, что увеличивает масштабы и эффективность обмана. Эти возможности особенно размывают границы между подлинными и сфальсифицированными медиа, усложняя их обнаружение даже для экспертов без специальных инструментов. Компании по безопасности, такие как GetReal Security и Sophos, подчеркивают широкую и возрастающую угрозу, исходящую от мошеннических схем на базе ИИ.

Их исследования показывают тенденцию к росту мошенничества с использованием сгенерированных ИИ видео и аудио, часто нацеленного на бизнес и известных личностей. Они предупреждают, что по мере быстрого развития технологий ИИ традиционные меры безопасности могут оказаться недостаточными, и необходимы проактивные стратегии — такие как усовершенствованные алгоритмы обнаружения и комплексное обучение цифровой грамотности — для снижения рисков. Интересно, что OpenAI отмечает: их широко используемый инструмент ChatGPT чаще помогает выявлять мошенничество, чем его совершать, что демонстрирует двойственную роль ИИ: с одной стороны, он создает новые угрозы, с другой — повышает возможности защитников распознавать обман. Однако масштабируемость и автоматизация мошенничества на базе ИИ остаются серьезной проблемой. Возможность массового создания убедительных дипфейков при минимальных затратах может привести к росту мошенничеств, если меры противодействия не будут развиты своевременно. Эта ситуация показывает, что человечество все еще находится на ранних стадиях развития технологий ИИ. По мере их эволюции балансирование между полезным применением и злоупотреблениями станет сложной и динамичной задачей. Важна бдительность разработчиков, специалистов по безопасности, политиков и общества в целом. Этичное развитие, прозрачность действий и надежные протоколы безопасности критически важны для минимизации вреда и максимизации общественной пользы от ИИ. В целом, такие приложения, как Sora от OpenAI, являются примером и захватывающего технологического прогресса, и значительных проблем с цифровой безопасностью. По мере того, как инструменты для создания видео с помощью ИИ становятся доступнее и совершеннее, их злоупотребление в мошенничествах и схемах подмены личности резко увеличивается. Решение этих вопросов требует комплексного подхода: включающего технологические инновации, регулирование, образование и совместную работу. Повышая осведомленность и готовность общества, можно лучше ориентироваться в этом новом ландшафте кибербезопасности и защищать людей и организации от все более убедительных мошеннических схем на базе ИИ.