Тегирование искусственных изображений невидимыми маркерами может оказаться неисповедимым решением, которое ищет федеральное правительство для борьбы с распространением ложной информации, мошенничества и потенциальных заблуждений во время выборов. Водяные знаки, обычно рекомендуемые Белым домом и разработчиками искусственного интеллекта, могут оказаться не столь эффективными, как надеялись. Мета, материнская компания Facebook, недавно объявила, что начнет маркировать искусственно сгенерированные изображения на своих платформах и использовать встроенные инструменты обнаружения водяных знаков для идентификации синтетических изображений. OpenAI также включила водяные знаки в свой генератор изображений DALL-E для легкой идентификации фотографий. Цель состоит в предотвращении обманчивых "глубоко поддельных" изображений, вводящих общественность в заблуждение. Однако эксперты в отрасли выразили скептицизм относительно надежности и эффективности водяных знаков. Сохейл Фейзи, доцент кафедры компьютерных наук Университета Мэриленда, предупредил, что водяные знаки в искусственно созданном контенте могут быть легко стерты, что делает эту технологию уязвимой и ненадежной на практике. Для решения этой проблемы крупные разработчики искусственного интеллекта, такие как Мета, OpenAI и Adobe, сотрудничают для установления общих стандартов водяных знаков для быстрой идентификации искусственно сгенерированных изображений. Эти стандарты, разработанные Коалицией по подлинности и достоверности контента, добавляют "удостоверение содержимого" к изображениям для предоставления дополнительной информации о их происхождении и истории редактирования. Хотя эти удостоверения невидимы для человеческого глаза, их можно обнаружить с помощью программного обеспечения.

Белый дом также проявил интерес к исследованию водяных знаков как инструмента для борьбы с подделкой голоса, как объявила Анн Нойбергер, заместитель национального советника по вопросам кибербезопасности и новых технологий. Некоторые компании экспериментируют с добавлением данных к фотографиям, сделанным камерами, чтобы подтвердить, что они не были созданы искусственным интеллектом. Однако исследователи, такие как Фейзи, уже нашли способы обойти эти технологии. Команда Фейзи успешно удалила большинство водяных знаков с искусственно сгенерированных изображений с помощью простых методов. По словам Фейзи, злонамеренные акторы, такие как Китай или Иран, могут легко убрать водяные знаки с искусственно сгенерированных изображений или даже внедрить сигналы в реальные изображения, чтобы обмануть системы обнаружения водяных знаков. Кроме того, водяные знаки могут быть потеряны или размыты при передаче или копировании изображений, видео или аудио. Виджай Баласубраманиян, генеральный директор Pindrop, службы голосовой аутентификации, объяснил, что по мере копирования или передачи аудиозаписи через различные каналы водяные знаки становятся все более размытыми. В то время как водяные знаки остаются одним из немногих вариантов для борьбы с искусственно сгенерированными изображениями, Баласубраманиян считает, что его программное обеспечение является более эффективным решением для обнаружения искусственно сгенерированного голоса. Фейзи предлагает социальным платформам обратить внимание на источник изображений, чтобы пользователи могли оценить его надежность. Хотя существует возможность того, что исследователи разработают водяные знаки, которые нельзя будет легко удалить после копирования или редактирования, на январь 2024 года эта технология еще не является жизнеспособной.