Мета объявила в среду, что обнаружила обманчивый контент на своих платформах Facebook и Instagram, который, как предполагается, был создан искусственным интеллектом. Эти комментарии, созданные искусственным интеллектом, были найдены под постами от мировых новостных организаций и американских законодателей, превозносящими обработку Израилем конфликта в Газе. Компания в социальных сетях раскрыла эту информацию в своем квартальном отчете о безопасности. Аккаунты, которые стояли за этой кампанией, выдавали себя за студентов иудейской веры, афроамериканцев и обеспокоенных граждан, нацеленных на аудиторию в США и Канаде. Мета связывает эту кампанию с политическим маркетинговым агентством «Стоик», базирующемся в Тель-Авиве. «Стоик» пока не прокомментировал эти обвинения. Этот отчет является значимым, поскольку впервые Мета раскрыла использование более продвинутых технологий генерации искусственного интеллекта с момента их появления в конце 2022 года.

Исследователи высказывают опасения, что такие технологии искусственного интеллекта, которые могут быстро и недорого создавать тексты, изображения и аудио, похожие на человеческие, могут быть использованы в более эффективных кампаниях дезинформации и влияния на выборы. Во время пресс-конференции сотрудники безопасности Меты заявили, что они считают, что новые технологии искусственного интеллекта не помешали им разрушать сети влияния, что является координированными попытками распространения определенных сообщений. Они также упомянули, что они не сталкивались с искусственными фотографиями политиков, которые настолько достоверны, чтобы их можно было принять за подлинные фотографии. Отчет подчеркивает шесть скрытых операций влияния, которые Мета пресекла в первом квартале, включая сеть «Стоик». Кроме того, Мета пресекла деятельность сети, базирующейся в Иране и сосредоточенной на конфликте Израиль-ХАМАС, но не обнаружила использования генеративного искусственного интеллекта в этой конкретной кампании. Мета, а также другие ведущие технологические гиганты, борются с вопросом о том, как предотвратить возможное злоупотребление новыми технологиями искусственного интеллекта, особенно во время выборов. Были обнаружены случаи, когда генераторы изображений от таких компаний, как OpenAI и Microsoft, создавали фотографии, содержащие дезинформацию, связанную с голосованием, несмотря на то, что эти компании имеют политики против такого контента. Эти технологические компании подчеркивают важность систем цифровой маркировки для идентификации искусственно сгенерированного контента на момент создания. Однако эти инструменты неэффективны для текста, а исследователи сомневаются в их общей эффективности. Защита Меты будет подвергаться серьезным испытаниям во время предстоящих выборов в Европейском союзе в начале июня и в Соединенных Штатах в ноябре.