OpenAI недавно выявил и пресек пять операций по влиянию, в которых участвовали пользователи из России, Китая, Ирана и Израиля. Эти операции использовали технологию искусственного интеллекта, такую как ChatGPT, для создания контента с целью обманчивого влияния на общественное мнение и политический дискурс. По информации OpenAI, люди, стоящие за этими операциями, использовали искусственный интеллект для генерации и распространения контента на различных платформах. Это включало создание программных ботов и генерацию недобросовестных ответов в социальных сетях, создавая ложное впечатление активности. Среди выявленных операций, две были связаны с Россией. Одна из них, известная как кампания "Двойник", использовала искусственный интеллект для создания ложного контента и комментариев. Другая операция, названная "Плохая грамматика", ранее не раскрывалась и включала использование моделей OpenAI для написания ботами коротких политических комментариев в Telegram. OpenAI также обнаружила операцию из Китая, которая называется "Спамофлаж". Она известна своими усилиями по влиянию в социальных сетях Facebook и Instagram. Эта операция использовала модели искусственного интеллекта для изучения активности в социальных сетях и создания текстового контента на нескольких языках на различных платформах. Кроме того, Иранский Международный Союз Виртуальных Медиа использовал искусственный интеллект для создания контента на нескольких языках. Одну кампанию OpenAI связала с израильской политической кампанией Stoic.

Эта операция использовала искусственный интеллект для создания постов о Газе в Instagram, Facebook и X, ранее известной как Twitter. Целевой аудиторией были Канада, США и Израиль. В отчете OpenAI также отмечается, что эти операции создавали контент, связанный с российским вторжением в Украину, индийскими выборами, западной политикой и критикой китайского правительства. Несмотря на использование искусственного интеллекта, OpenAI пришла к выводу, что эти операции влияния имели ограниченный охват. Ссылаясь на "Breakout Scale" из Брукингского института, который измеряет влияние операций влияния, ни одна из выявленных операций не получила оценку выше двух из пяти. Это указывает на то, что созданный контент не получил поддержку со стороны настоящих пользовательских сообществ. В последние годы операции влияния на платформах социальных сетей получили значительное внимание. С 2016 года, когда было обнаружено участие российских спонсируемых сущностей в деятельности по разжиганию разногласий перед президентскими выборами, технологические компании активно отслеживают и сообщают о подобных случаях. Всего в прошлом месяце Microsoft обнаружила доказательства новой российской кампании влияния на выборы перед выборами 2024 года. Кроме того, Meta опубликовала отчет на этой неделе, связывая усилия операций влияния с Stoic. В нем говорится, что было удалено сотни фейковых аккаунтов Facebook и Instagram, связанных с Stoic, и искусственный интеллект был определен как источник некоторого из размещенного этими аккаунтами контента.