Google ve çeşitli doğrulama kuruluşlarının araştırmalarına göre, yapay zeka tarafından üretilen sahte görüntülerin yaygınlığı, metinle manipüle edilen veya Photoshop gibi geleneksel düzenleme araçlarıyla manipüle edilenlerle karşılaştırılabilir bir seviyeye ulaşmıştır. Yanlış bilgiyi yaymak için bu teknolojinin bireyler tarafından hızla benimsenmesi, yanlış bilgi alanının değişen manzarasını vurgular. Bununla birlikte, araştırmacılar gerçeklikleri çerçevesinden çıkarılan gerçek görüntülerin halkı yanlış yönlendirmenin en yaygın şekli olduğuna dikkat çekmektedir. 1995 yılına kadar uzanan yaklaşık 136. 000 doğrulama analiz edilerek yapılan araştırmada, yapay zeka destekli içeriklerin, sahte Papa Francis fotoğraflarının yayılmasıyla ilkbahar 2023 civarında görüntü temelli yanlış bilginin küçük bir rol oynadığı ortaya çıkmıştır. Yanlış bilgi iddialarında video kullanımının artan bir şekilde gözlendiği de belirtilmektedir ve doğrulama yapılan vakaların yaklaşık %80'ini oluşturmaktadır.

Araştırmacılar, bu teknolojik gelişmelere adapte olmak ve potansiyel zararlarını önlemek için önlemler almanın önemini vurgulamaktadır. Ayrıca, yapay zeka üretimi görüntüleri tespit etme zorluğu ve manipüle edilen görsellerden daha zor tespit edilebilen bağlam manipülasyonu sorununa dikkat çekmektedirler. Yapay zeka teknolojisi ilerledikçe, yanlış bilgiyi ayırt etmek, yalnızca görsellere dayanmak yerine içerik kaynağını veya dağıtıcısını sorgulamayı gerektirecektir. Ancak, çalışma sadece doğrulama yapılan iddialara dayanmak ve yalnızca İngilizce yanlış bilgiye odaklanmak gibi sınırlamaları olduğunu kabul etmektedir; birçok dil dışı ve daha az izlenen yanlış bilgi parçaları gözden kaçmaktadır. Yanlış bilginin gelişen ve hızla değişen doğası, bu sorunu anlama ve çözme konusunda zorluklar yaratmaktadır.