Salı günü, Amerika Birleşik Devletleri ve müttefikleri, sosyal medya platformu X'teki neredeyse bin gizli hesabın işletilmesi için yapay zeka (AI) teknolojisine dayalı karmaşık bir Rus propaganda ağının başarıyla ele geçirildiğini duyurdu. Hükümetler mesajları daha etkili bir şekilde yaymak için giderek daha fazla AI kullanmaktadır, ancak bu operasyon, Batılı istihbarat ajanslarının operasyonu Rus FSB istihbarat ajansının bir subayına ve devlet kontrolündeki yayın RT'nin eski bir baş editörüne (daha önce Rusya Bugün olarak bilinir) kadar geri izlemeyi başarması nedeniyle dikkat çekicidir. Ayrıntılı bir ortak rehberlikte Amerika Birleşik Devletleri, Hollanda ve Kanada'daki ajanslar, ağ tarafından kullanılan çeşitli yazılım programlarını tanımladı. Bunlar arasında "Meliorator" adlı program, farklı ülkelerden bilinen "ruhlar" adlı sahte kullanıcı hesapları üretiyordu. FBI, operasyonun kayıtlı e-posta adreslerine ilişkin iki web alanını ele geçirmelerine izin veren bir mahkeme emri elde etti. FBI Direktörü Christopher A. Wray, uygulamanın önemini vurgulayarak, "Bugün alınan önlemler, Rusya tarafından desteklenen Generative AI ile geliştirilen bir sosyal medya bot çiftliğinin çalışmalarının bozulması anlamına geliyor.

Rusya, AI tarafından üretilen yabancı yanıltıcı bilgilerin yayılması için kullanmayı amaçlamıştı. Hedefleri AI kullanarak Ukrayna ortaklarımızı zayıflatmak ve Rus hükümeti için uygun jeopolitik anlatıları manipüle etmekti. " dedi. Bazı detaylı profillere sahip otomatik hesaplar orijinal içerikler oluşturup yayınlarken, diğer genel hesaplar bu gönderilere beğeni ve paylaşım yaparak destek sağladı. Kampanyanın tam etki ve etkinliği net değildir, çünkü yetkililer paylaşımlara kaç gerçek kullanıcının maruz kaldığını veya bu mesajları daha da yayıp yaymadığını açıklamadı. Sistem, X'in doğrulama önlemlerini, kayıtlı e-posta adreslerine gönderilen tek kullanımlık şifreleri otomatik olarak çoğaltarak tespit etmekten kaçındı. Program kodunda Facebook ve Instagram'a atıfta bulunulması, operasyonun bu platformlara genişlemeyi planladığını işaret etti. İstihbarat ajansları, sosyal medya şirketlerinin gizli otomatik etkinlikleri tespit etme yöntemlerini geliştirmelerini önerdi. X, mahkeme kararıyla FBI'a hesaplar hakkında bilgi sağlamak üzere işbirliği yaparak bu hesapları sildi. Şirket, The Washington Post'un sorularına cevap vermedi. Adalet Bakanlığı, Yüksek Mahkeme'nin yabancı etki operasyonlarını ortaya çıkarma yetkililerinin hakkını doğrulayan kararından sonra hükümet ile büyük sosyal medya şirketleri arasındaki iletişimin geliştiğini göstermek için X'e teşekkür etti. Kanada merkezli kâr amacı gütmeyen kuruluş Citizen Lab'da araştırmacı olan John Scott-Railton, ülkeler tarafından paylaşılan botnetin operasyonlarına ilişkin detaylı bilgilerin, diğer araştırmacıların ve şirketlerin benzer faaliyetleri tespit etmelerine yardımcı olmayı amaçladığını belirtti. Scott-Railton'a göre, belgeler, Rus propagandacılarının operasyonlarını genişletmek, çeviriye yardımcı olmak ve IP adreslerinin ve diğer tanımlayıcı işaretlerin tekrarlayan kullanımını tespit etmeye yönelik tasarlanmış tespit yazılımını atlatmaya yardımcı olmak için AI'nin büyük dil modellerinden yararlandığını ortaya koyuyor.