Son bir rapor, yapay zeka sohbet robotlarının yanlış yanıtlar üretme eğilimi ve potansiyel sorunlarını vurgulamaktadır. Rapor, Def Con hacker konvansiyonunda düzenlenen bir yarışmanın bulgularını detaylandırmaktadır. Katılımcıların sohbet robotlarını sorunlu yanıtlar üretmeye ikna etmeye çalıştığı yarışma, sohbet robotlarının kolayca yanlış matematiksel ve coğrafi bilgiler üretmeye yatkın olduğunu ortaya koymuştur. Ayrıca, hukuki yanlış bilgi vermeye de eğilimli oldukları saptanmıştır. Ek olarak, sohbet robotlarının hassas bilgileri korumada yetersiz kaldığı, gönderilen çözümlerin yarısından fazlasının başarıyla güvenlik önlemlerini aşarak bu bilgilere eriştiği belirlenmiştir.

Bununla birlikte, yarışmacılar insan hakları ihlallerini bağışlamak veya ayrımcılığı teşvik etmesini sağlamada zorlandılar. Rapor, yanlış bir ön kabulden başlamanın sohbet robotlarını manipüle etmenin en etkili yolunun olduğunu, çünkü yanlış iddiaları veya varsayımları kabul etme ve üzerine detaylandırma eğiliminde olduklarını göstermektedir. Bulgular, yapay zeka şirketlerinin ve düzenleyicilerin sohbet robotlarının önyargıları ve yanlış anlamaları ele alma konusunu önceliklendirmeleri gerektiğini vurgulamaktadır. Def Con'daki yarışma gibi kırmızı takım egzersizleri, zayıflıkları tespit etmek ve farklı perspektifleri ele geçirmek için değerli olarak görülmektedir.