В САН-ФРАНЦИСКО — Ведущие компании по искусственному интеллекту, включая Google, Microsoft, Meta, OpenAI, Adobe и TikTok, собираются подписать соглашение, направленное на разработку технологии, способной идентифицировать, помечать и контролировать контент, созданный искусственным интеллектом, который стремится обмануть избирателей в решающих выборах в нескольких странах в этом году. Хотя соглашение не запрещает явно обманный политический контент, оно служит своего рода манифестом, признающим связанные риски, и определяет меры по их смягчению. К таким мерам относится пометка подозрительного контента, созданного искусственным интеллектом, и повышение осведомленности об опасностях, связанных с искусственным интеллектом. Осознанное распространение обманчивого контента, созданного искусственным интеллектом, представляет угрозу целостности избирательных процессов, как указано в соглашении. Изображения, созданные искусственным интеллектом, обычно называемые "deepfakes", значительно улучшились по качеству, что усложняет их отличение от реальных. Широкий доступ к инструментам для создания такого контента способствовал его производству. Случаи влияния контента, созданного искусственным интеллектом, на предвыборные кампании уже были замечены во всем мире.

Например, реклама, поддерживающая бывшего президентского кандидата от Республиканской партии Рона Де Сантиса, использовала искусственный интеллект для имитации голоса бывшего президента Дональда Трампа, а в Пакистане президентский кандидат Имран Хан использовал искусственный интеллект для выступлений из тюрьмы. В январе робоколл, имитирующий президента Байдена, отговорял от голосования на первичных выборах в Нью-Гэмпшире, используя искусственно созданную версию его голоса. Давление со стороны регуляторов, исследователей по искусственному интеллекту и политических активистов заставило технологические компании заняться проблемой распространения фальшивых предвыборных материалов. Помимо существующих политик, эти компании обязались идентифицировать и помечать поддельный контент, созданный искусственным интеллектом, на своих платформах, проводить образовательные мероприятия для пользователей о обманчивом контенте, созданном искусственным интеллектом, и обеспечивать большую прозрачность в отношении своих усилий по выявлению "deepfakes". Хотя некоторые прогрессы были достигнуты, создание всесторонней системы идентификации и пометки контента, созданного искусственным интеллектом, на платформах социальных медиа, остается предметом разработки. Google представил технологию с водяным знаком, хотя ее использование не является обязательным для клиентов. Adobe, материнская компания Photoshop, позиционирует себя как лидера в решении проблемы контента, созданного искусственным интеллектом, но ей была высказана критика за фальшивые изображения конфликта в Газе на ее сайте фотографии на складе.