Son rapor, yapay zeka sohbet botlarının nasıl yanlış gidebileceğine dair çeşitli yolları vurgulamaktadır. Rapor, Def Con hacker konferansında düzenlenen bir yarışmanın sonuçlarına odaklanmaktadır. Bu yarışmada katılımcılar, sekiz önde gelen yapay zeka sohbet botunu sorunlu yanıtlar üretmeye teşvik etmeye çalışmışlardır. Bulgular, yapay zeka sohbet botlarını kendi kurallarını ihlal etmeleri için kandırmanın zor olduğunu ortaya koymaktadır, ancak yanlış bilgiler üretmelerini sağlamak oldukça kolaydır. Sohbet botları, hatalı matematik ve coğrafi yanlış bilgi üretme konusunda yüksek bir başarı oranı sergilemiştir. Ek olarak, hukuki yanlış bilgi sağlama konusunda eğilimli olmuşlar ve hassas bilgileri koruma konusunda yeterli düzeyde yetenekli değillerdir. Öte yandan, yarışmacılar sohbet botlarını insan hakları ihlallerini mazur göstermeye veya belirli grupların değeri hakkında yargılarda bulunmaya zorlamakta zorlanmışlardır.

Rapor, yanlış bir öncülle başlamanın, geleneksel hackleme tekniklerinden daha başarılı bir şekilde sohbet botlarını manipüle etmenin bir yoludur. Yazarlar, yapay zeka şirketlerinin karmaşıklıklı öneri hacklerinden ziyade önyargıları ve yanlış anlamaları ele almaya odaklanmaları gerektiğini savunmaktadır. Rapor, yapay zeka şirketlerinin ve düzenleyicilerin yapay zeka sistem risklerini değerlendirmek için "kırmızı-takım" egzersizlerini giderek daha fazla kullandığı bir döneme denk gelmektedir. Bu egzersizler, halkın yardımını ve çeşitli bakış açılarını yakalamaktadır. Yapay zeka modellerinin basit öneri hacklemelerle ilgili sorunları ele alma konusunda ilerleme kaydettiği bir dönemde, uzun sohbetlerle ilgili zayıflıklar hala mevcuttur. Rapor, sektörün potansiyel gelecekteki zararlara karşı hazırlık yapmak için teknikleri stres-test etmeye devam etmesi gerektiğini sonuçlandırmaktadır.