Во вторник Соединенные Штаты и их союзники объявили о успешной ликвидации сложной российской пропагандистской сети, основанной на использовании технологии искусственного интеллекта (ИИ) для управления почти тысячей скрытых аккаунтов на социальной платформе X. В то время как правительства все более активно используют ИИ для более эффективного распространения своих сообщений, этот успех особенно заметен, поскольку разведывательные агентства Запада смогли проследить связь операции к сотруднику российского разведывательного агентства ФСБ и бывшему старшему редактору госконтролируемого издания RT (ранее известного как Russia Today). В подробном совместном предупреждении агентства в Соединенных Штатах, Нидерландах и Канаде указали на различные программы, использовавшиеся этой сетью, включая программу Мелиоратор, которая создавала фиктивные пользовательские аккаунты, известные как "души", из разных стран. ФБР получило судебное постановление, позволяющее им захватить два веб-домена, связанных с зарегистрированными электронными адресами операции. Директор ФБР Кристофер Э. Рэй подчеркнул важность проведенных действий, заявив, "Сегодняшние действия являются разоблачением фермы российских социальных медиа ботов, развитых с помощью Генеративного ИИ, который Россия намеревалась использовать для распространения порожденной ИИ иностранной дезинформации.

Их целью было масштабировать усилия, используя ИИ, чтобы подорвать партнеров в Украине и манипулировать геополитическими нишами, выгодными для российского правительства. " В то время как некоторые автоматические аккаунты с более подробными профилями создавали и публиковали оригинальный контент, другие общие аккаунты играли вспомогательную роль, нажимая "Лайк" и делая репосты. Точный охват и эффективность кампании остаются неясными, поскольку чиновники не раскрыли информацию о том, сколько реальных пользователей видели эти сообщения, и распроспространяли ли они их далее. Система уклонялась от обнаружения мерами аутентификации X, автоматически дублируя одноразовые пароли, отправленные на зарегистрированные электронные адреса. Ссылки на код программы к Facebook и Instagram намекали на планы операции расшириться на эти платформы. Разведывательные агентства рекомендовали социальным медиа компаниям улучшить методы выявления скрытых автоматических активностей. X сотрудничала с ФБР, предоставляя информацию об аккаунтах и впоследствии удалив их. Компания не ответила на запросы The Washington Post. Министерство юстиции выразило благодарность X за сотрудничество во время расследования, показав улучшение коммуникации между правительством и крупными социальными медиа компаниями после решения Верховного суда, подтверждающего права чиновников на выявление вмешательства иностранных сил. Джон Скотт-Рейльтон, исследователь канадской некоммерческой организации Citizen Lab, заявил, что подробная информация, предоставленная странами о действиях ботсети, направлена на помощь другим следователям и компаниям в выявлении подобных деятельностей. По словам Скотт-Рейльтона, документы раскрывают, что российские пропагандисты использовали большие языковые модели ИИ для расширения своих операций, помощи в переводах и уклонения от программного обеспечения обнаружения, предназначенного для определения повторного использования IP-адресов и других идентифицирующих маркеров.