OpenAI успешно сорвало пять попыток использования своей AI-технологии для манипуляций, в соответствии с заявлением компании, опубликованным в четверг. За последние три месяца участники угроз из России, Китая, Ирана и Израиля использовали AI-модели OpenAI для создания коротких комментариев, статей и вымышленных личностей для аккаунтов в социальных медиа. Эти кампании были в основном направлены на различные темы, такие как вторжение России в Украину, конфликт в Газе, выборы в Индии и политика в Европе и Соединенных Штатах. OpenAI описывает эти операции как преднамеренные усилия по влиянию на общественное мнение и политические результаты.

В то же время OpenAI признает опасения, связанные с злоупотреблением AI-технологии, и уверяет, что эти манипулятивные кампании не получили распространения или увеличили свое влияние благодаря их услугам. OpenAI также упоминает, что в этих кампаниях было использовано как AI-сгенерированный контент, так и тексты или мемы, написанные вручную или полученные из других источников. Отдельный отчет о безопасности также определил Meta Platforms (ранее Facebook) случаи использования "вероятно AI-сгенерированного" контента с обманчивым характером на своих платформах, включая комментарии, связанные с конфликтом в Газе.