По мере того как цифровой ландшафт быстро развивается, компании яростно соревнуются за доминирование в новую эру создания контента, движимую генеративным искусственным интеллектом (ИИ). Эти организации продвигают свои модели ИИ как инновационные художественные платформы, позволяющие пользователям реализовывать творческие проекты, начиная от кинофильмов и заканчивая причудливыми или нестандартными инициативами. Однако рост генеративных инструментов ИИ приносит и вызовы: помимо подлинного художественного выражения, злонамеренные акторы всё чаще используют эти технологии в злонамеренных или обманных целях. Присутствие таких злоумышленников в экосистеме контента, созданного ИИ, уже заметно и увеличивается. Компания Storyful, ведущая международная новостная агенция, специализирующаяся на проверке контента, сгенерированного пользователями, отмечает значительный рост видео, созданных с помощью ИИ, в социальных сетях. Этот рост совпадает с крупными глобальными событиями и вирусными событиями, привлекающими широкое внимание. В частности, с началом недавнего конфликта между США, Израилем и Ираном, Storyful зафиксировала резкий рост — на 60 процентов — запросов на проверку видео, якобы связанных с этими важными новостями. Эта тенденция подчеркивает растущий потенциал видео, созданного с помощью ИИ, для влияния на общественное восприятие и информационный ландшафт во время кризисов. Несмотря на эти опасения, есть и обнадеживающие новости касательно современных инструментов для создания видео с помощью ИИ. Передовые платформы — Sora 2 от OpenAI (которую скоро прекратят использовать), Veo 3. 1 от Google и Seedance 2. 0 от ByteDance — предлагают расширенные возможности, превосходящие ранние модели, но при этом сохраняют внутренние уязвимости, создающие важные возможности для их обнаружения и проверки. Осведомленность о таких слабых местах остается необходимой для профессионалов, занятых проверкой контента, фактчекерами и журналистами. Значительный сдвиг, вызванный этими достижениями ИИ, — это повышение реалистичности создаваемых видео, которые теперь достаточно аутентичны, чтобы широко распространяться и становиться вирусными.

Этот прогресс означает, что традиционные признаки фальсификации — такие как неестественные движения рук, неравномерное освещение и искажённые черты лица — стали менее заметными или значительно улучшенными. Поэтому команды, занимающиеся проверкой СМИ, должны использовать более тщательные и нюансированные методы, включая анализ по кадрам, чтобы выявлять тонкие аномалии. Такой детальный разбор предполагает поиск физических несоответствий в видео, расхождений в текстовых элементах — например, на знаках или подписи, проблем синхронизации звука и видео, а также важного отсутствия подтверждающих доказательств, таких как свидетельские показания или независимые источники. Этот многосторонний процесс проверки необходим для борьбы с дезинформацией и поддержания целостности распространяемой информации. Крайне важно подходить к быстрому развитию генеративного ИИ с осторожностью и ясностью. Не каждое технологическое обновление или релиз заслуживает безусловного энтузиазма или немедленной критики. Вместо этого участники рынка должны взвешенно анализировать реальные возможности и ограничения этих инструментов. Такой сбалансированный подход необходим для того, чтобы новостные редакции и команды проверки могли успешно ориентироваться в изменяющемся ландшафте. По мере внедрения генеративного ИИ в массовое создание контента новостные организации должны уделять первоочередное внимание разработке надежных протоколов проверки, обучению сотрудников и повышению медиаграмотности среди населения. Эти меры помогут снизить риски распространения ложной информации, созданной ИИ, и способствовать ответственному, этическому использованию этих мощных технологий. В конечном итоге, вызов заключается не только в создании высококачественных инструментов ИИ, но и в формировании экосистемы, в которой технологический прогресс сочетается с строгими стандартами правды и ответственности.