Наблюдательный совет, независимый орган, связанный с Meta, резко раскритиковал текущую политику компании в отношении контента с использованием глубоких фейков, заявив, что она недостаточно эффективно противодействует быстрому распространению видеороликов, созданных с помощью искусственного интеллекта, на её платформах. Совет подчёркивает серьёзные недостатки в подходе Meta к борьбе с передовыми синтетическими медиа, особенно в периоды кризисов и выборов. В настоящее время Meta в значительной степени полагается на пользователей в выявлении и маркировке контента, созданного ИИ, однако Совет считает эту систему недостаточной, поскольку реалистичные фейковые видео могут быстро распространяться до того, как пользователи заметят или отметят их. Это создает серьёзные риски в условиях политической или социальной нестабильности, когда вводящая в заблуждение информация может исказить общественное восприятие и повлиять на ключевые события. Данное критика последовала за рассмотрением Советом инцидента с подделанным видео, созданным искусственным интеллектом, изображающим разрушения в Израиле, который выявил критические недостатки в возможностях обнаружения глубоких фейков и необходимость более строгой и проактивной политики. Широкое распространение этого видео показало, насколько легко современный ложный контент может обойти существующие системы защиты. В ответ, Надзорный совет настоятельно призывает Meta к полной реформе своей политики в отношении синтетического медиа, созданного с помощью ИИ. Учитывая, что технологии генеративного ИИ упростили и сделали более доступным создание реалистичных видео, изображений и аудио, Совет подчеркивает, что отличить подлинный контент от подделки стало всё сложнее, что усиливает риск бесконтрольного распространения дезинформации. Совет призывает Meta и аналогичные платформы усилить защитные меры, включая разработку современный методов обнаружения, способных выявлять синтетический контент на ранних этапах — желательно ещё до того, как он приобретёт широкое распространение среди пользователей. Также особо подчеркивается необходимость прозрачности с пользователями относительно природы и происхождения контента. Помимо ответственности платформ, Совет отмечает важную роль пользователей в борьбе с дезинформацией, поощряя их использовать инструменты проверки, такие как чат-боты или консультации с несколькими источниками проверки фактов, прежде чем делиться подозрительной информацией.

Эта многоуровневая стратегия нацелена на то, чтобы сделать пользователей активными защитниками информационной чистоты в интернете. Быстрое развитие технологий искусственного интеллекта продолжает бросать вызов социальным сетям. Генеративный ИИ теперь создает контент, который визуально, аудиально и по смыслу практически неотличим от настоящего, что требует гибких политик, способных реагировать на новые угрозы, не ограничивая при этом инновации и свободу слова. Учитывая глобальное влияние и охват Meta, её политики формируют важные прецеденты для всей отрасли. Критика Совета служит серьёзным сигналом для Meta пересмотреть свои позиции и стратегии в сфере синтетических медиа. В целом, борьба с фейками и дезинформацией, созданной при помощи ИИ, требует скоординированных усилий платформ, законодателей, технологов и пользователей. Усиление возможностей обнаружения, развитие инновационных политик и повышение осведомленности пользователей являются ключевыми элементами эффективной реакции. По мере усложнения технологий AI, ответственность за сохранение правды и точности в интернете становится всё более важной. Пока Meta не предоставила публичной реакции на рекомендации Совета, однако данный инцидент и его разбор подчеркивают необходимость решительных мер для повышения устойчивости против дезинформации, подпитываемой ИИ.