Meta, Çarşamba günü Facebook ve Instagram platformlarında yanıltıcı içerik keşfettiğini ve bunların muhtemelen yapay zeka tarafından oluşturulduğuna inandığını duyurdu. Bu yapay zeka tarafından üretilen yorumlar, küresel haber kuruluşlarının ve Amerikalı politikacıların paylaşımlarının altında bulundu ve İsrail'in Gazze savaşını öven içeriklerdi. Sosyal medya şirketi, bu bilgileri üç aylık güvenlik raporunda açıkladı. Bu kampanyanın ardında bulunan hesaplar, Yahudi öğrencileri, Afrika kökenli Amerikalıları ve endişeli vatandaşları taklit etti ve hedef kitlesi Amerika Birleşik Devletleri ve Kanada idi. Meta, bu kampanyayı, Tel Aviv merkezli bir politik pazarlama firması olan STOIC'e atfetti. STOIC henüz bu suçlamalara yanıt vermedi. Bu rapor, Meta'nın 2022'nin sonlarında ortaya çıkan daha gelişmiş üretici yapay zeka teknolojilerinin kullanımını ilk kez açıklaması nedeniyle önemlidir.

Araştırmacılar tarafından, insan benzeri metin, görüntü ve sesleri hızlı ve ekonomik bir şekilde üretebilen bu tür yapay zeka teknolojilerinin daha etkili dezinformasyon kampanyalarında ve seçimlerin etkilenmesinde kullanılabileceği endişeleri dile getirildi. Meta'nın güvenlik yetkilileri basın toplantısında, yeni yapay zeka teknolojilerinin etkileme ağlarının bozulma yetenekleri üzerinde engel oluşturmadığına inandıklarını belirttiler. Ayrıca, gerçek fotoğraflarla karıştırılabilecek kadar gerçekçi olabilecek politikacıların yapay zeka tarafından üretilen görüntülerine şu ana kadar rastlamadıklarını belirttiler. Rapor, Meta'nın ilk çeyrekte engellediği altı gizli etkileme operasyonunu, STOIC ağı dahil olmak üzere vurguluyor. Ayrıca, İsrail-Hamas çatışmasına odaklanan İran merkezli bir ağı tespit etmesine rağmen, Meta'nın bu kampanyada üretici yapay zeka kullanımını belirlemediği açıklandı. Meta, diğer teknoloji devleriyle birlikte, özellikle seçimler sırasında yeni yapay zeka teknolojilerinin potansiyel yanlış kullanımını nasıl ele alacaklarını çözmeye çalışıyor. OpenAI ve Microsoft gibi şirketlerden gelen görüntü üreteçlerinin, bu şirketlerin böyle içeriğe karşı politikaları olmasına rağmen, oylama ile ilgili yanlış bilgiler içeren fotoğraflar ürettiği durumlar ortaya çıkmıştır. Bu teknoloji şirketleri, yapay zeka tarafından üretilen içeriği oluşturma aşamasında tanımlama sistemlerinin önemine vurgu yapmışlardır. Ancak, bu araçlar metin için etkili değildir ve araştırmacılar bunların genel etkinliği konusunda şüpheleri vardır. Meta'nın savunmaları, Haziran ayının başında Avrupa Birliği'ndeki ve Kasım ayındaki Amerika Birleşik Devletleri'ndeki yaklaşan seçimlerle büyük testlere tabi olacak.