Meta, материнская компания Facebook и Instagram, снова под пристальным вниманием из-за своей политики в отношении контента, созданного с помощью искусственного интеллекта. Независимый Совет по надзору компании настоятельно порекомендовал MetaDevelopировать всестороннюю и специализированную политику, которая бы четко регулировала контент, связанный с ИИ. Это произошло после крупного инцидента, когда вёнц было распространено поддельное видео, созданное ИИ, на котором показывались разрушенные здания в Хайфе во время ожидаемого конфликта Израиля и Ирана в 2025 году, и которое стало вирусным, вводя зрителей в заблуждение. Видео набрало более 700 000 просмотров, прежде чем Совет вмешался. Совет раскритиковал Meta за отсутствие ясной и заметной предупреждающей этикетки на видео, которая могла бы предупредить пользователей о его искусственном происхождении. Кроме того, Meta не смогла должным образом ограничить или удалить вводящий в заблуждение контент, несмотря на жалобы пользователей и признание его ложности. Официальное решение Совета подчеркнуло значительные пробелы в текущих политиках Meta по поводу контента, созданного с помощью ИИ, и подчеркнуло, что этот инцидент отражает глобальную проблему: быстрое распространение вводящих в заблуждение медиа, созданных ИИ, которые могут обмануть миллионы и вызвать беспорядки. Развитие технологий искусственного интеллекта позволяет создавать очень реалистичные, но полностью фиктивные изображения и видео, что представляет серьезную угрозу целостности информации в социальных медиа, где визуальный контент часто быстро и широко влияет на общественное мнение. Будучи одной из крупнейших платформ в мире, Meta играет важную роль в распространении информации и несет значительную ответственность за своевременное предупреждение, маркировку или удаление контента, созданного с помощью ИИ, чтобы бороться с дезинформацией. Инцидент показывает, что существующие меры недостаточны, и подчеркивает необходимость быстрой разработки обновленных протоколов и инструментов, адаптированных к специфике вызовов ИИ.

Совет по надзору рекомендует Meta разработать отдельную политику, четко определяющую содержание, созданное ИИ, и процедуры действий при его выявлении. Эта политика должна предусматривать обязательное раскрытие или предупреждающие этикетки, усиление модерации контента, совершенствование технологий обнаружения и прозрачное информирование о рисках ИИ-манипуляций. Создание такой политики необходимо не только для поддержания доверия пользователей, но и для борьбы с более широкими проблемами дезинформации в обществе. Ложный контент, созданный с помощью ИИ, может усугублять геополитическую напряженность, стимулировать кампании по распространению дезинформации и разрушать демократические процессы, распространяя правдоподобные ложные нарративы. В связи с этим Meta признала эти вызовы и объявила о планах пересмотреть и, возможно, доработать свою политику по контенту, чтобы лучше справляться с медиаконтентом, созданным ИИ, и повысить безопасность от дезинформации. Инцидент с видео в Хайфе служит ключевым примером того, как быстро misinformation, распространяемый с помощью ИИ, может распространиться в интернете. Он подчеркивает необходимость того, чтобы социальные сети оставались бдительными и постоянно обновляли свои политики и технологии в условиях постоянно меняющихся цифровых угроз. По мере расширения роли ИИ в создании контента платформам, таким как Meta, становится все важнее управлять и минимизировать связанные с этим риски. Разработка и внедрение ясных и эффективных политик по контенту, созданному с помощью ИИ, являются важными шагами для сохранения точности и надежности информации в социальных медиа и защиты общественности от обмана в цифровую эпоху.