Birkaç yıl önce Reddit kendisini “internetin kalbi” olarak yeniden markaladı ve algoritma odaklı sosyal medya platformlarının aksine organik ve topluluk odaklı doğasını vurguladı. Kullanıcılar, siteyi beğeni ve kötüye kullanım oylarıyla insanlar tarafından küratörlüğü yapılan, gerçek insan etkileşimini yansıtan içeriklerle değerli buluyordu. Ancak, bu hafta başında popüler bir subreddit üyeleri, topluluklarının insanlara benzer görünümlü yapay zeka tarafından üretilmiş yorumlarla gizlice araştırmacılar tarafından ele geçirildiğini fark etti. Reddit kullanıcıları güçlü tepki gösterdi ve bu deneyi “ihlal edici, ” “utanç verici, ” “sinir bozucu” ve “çok rahatsız edici” olarak nitelendirdi. Araştırmacılar, yoğun tepki karşısında sessizliğe bowlundular ve kimliklerini ya da yöntemlerini açıklamayı reddettiler. Araştırmacıları istihdam eden Zürih Üniversitesi bir soruşturma başlarken, Reddit’in hukuk işi müdürü Ben Lee, şirketin araştırmacıları sorumlu tutmak istediğini belirtti. İnternet araştırmacıları da bu deneyi etik olmayan bir faaliyet olarak kınadı. Georgia Tech’te 20 yıldan fazla süredir çevrimiçi toplulukları inceleyen profesör Amy Bruckman, bunu “gördüğüm en kötü internet araştırma etik ihlali” olarak nitelendirdi. Ayrıca, bu olayın tartışmalarını ve AI’nın insan düşüncesi ve ilişkileri üzerindeki etkilerini araştıran bilim insanlarının güvenilirliğine zarar verebileceği endişesi dile getirildi. Zürih’teki araştırmacılar, dört ay boyunca r/changemyview subreddit’inde 1. 000’den fazla yapay zeka tarafından hazırlanmış yorum yayınlayarak, yapay zekanın görüşleri değiştirme gücünü ölçmeyi amaçladı. Bu subreddit, önemli toplumsal ve sıradan konularda tartışmalarla tanınıyor. Tartışma konuları, pitbull saldırganlığından konut krizi ve DEI programlarına kadar uzandı. AI, zaman zaman tartışmalı fikirler dile getirdi—örneğin, Reddit gezinmenin zaman kaybı olduğunu ya da 11 Eylül komplo teorilerinin belli bir derece haklı olabileceğini savundu—ve hayali kişisel hikayeleri içerdi; örneğin, bir travma danışmanı ya da yasal cinsel ilişki mağduru gibi. AI’nın, erkek, yaş ve siyasi eğilimler gibi Reddit kullanıcılarının varsayılan biyografik detaylarına dayalı biçimde, başka bir yapay zeka modeli kullanılarak kişiselleştirilmiş argümanlar geliştirmesi şaşırtıcı derecede etkili oldu. Bu yorumlar, Reddit moderatörleriyle gizlice paylaşılan ön verilerde, çoğu insan gönderisinden daha yüksek subreddit puanları kazandı (diğer yapay zeka kullanıcılarının postlarını kişiselleştirmediği varsayımında). Gizli araştırmanın haklı olduğunu Reddit kullanıcılarını ikna etmek zor oldu. Deney sonrası araştırmacılar, kimliklerini subreddit moderatörlerine açıkladı ve katılımcılara “bilgilendirme” talebinde bulundu. Moderatörler, bu olumsuz tepki karşısında, araştırmacılardan sonuçları yayımlamamalarını ve özür dilemelerini istediler, ancak reddettiler.

Bir ayı aşkın iletişimden sonra, moderatörler, araştırmacıların isimlerini vermeksizin, deneyin ayrıntılarını kamuoyuna açıkladılar ve duruma tepki gösterdiler. Moderasyon ekibi, Zürih Üniversitesi’ne şikayette bulunduğunda, üniversite önemli içgörüler sağlar ve riskleri minimal olarak değerlendirirdi—örneğin, travma riskleri gibi. Üniversite, etik kurulunun geçen ay bilgilendirildiğini, araştırmacılara subreddit kurallarına uymalarını tavsiye ettiğini ve gelecekte daha sıkı denetimler planladığını belirtti. Araştırmacılar, çalışmalarını savundular ve yorumların zararlı görüşleri teşvik etmediğini, her yapay zeka tarafından üretilmiş gönderinin bir insan tarafından gözden geçirildiğini iddia etti. Daha fazla açıklama talebi, doğrudan üniversiteye yönlendirildi. Araştırmacıların savunması, aldatmanın çalışmanın geçerliliği için şart olduğu iddiasına dayanıyordu. Üniversitenin etik kurulu, katılımcıların mümkün olduğunca bilgilendirilmesini önerirken, araştırmacılar, deneyi bozmayacak şekilde şeffaflığın sağlanmasının, yapay zekanın ikna edici gücünü test etmek için gerçekçi ortamda deneklerin farkında olmaması gerektiği görüşündeydiler; bu da gerçek dünya etkileşimlerini taklit eder. Yapay zekanın ikna gücünü anlamak acil ve araştırmaya değer bir konu. İlk veriler, yapay zekanın argümanlarının “gerçek dünya bağlamında oldukça ikna edici” olduğunu, insanlarla kıyaslandığında üstün olduğunu gösteriyor. Ancak, tepki sonrası, araştırmacılar makalelerini yayımlamama kararı aldı ve sonuçlar doğrulanmadı. Yapay ajanların görüşleri değiştirebilmesi fikri rahatsız edici ve potansiyel kötüye kullanımı işaret ediyor. Yine de, etik ve aldatmacasız yöntemlerle araştırma yapmak mümkün. Texas Üniversitesi’nden kıdemli araştırmacı Christian Tarsney, laboratuvar çalışmalarında da yapay zekanın yüksek derecede ikna edici olduğu ve bazen komplo inananlarını inançlarından vazgeçirdiği sonucunun bulunan başka çalışmalar olduğunu doğruladı. Ayrıca, ChatGPT’nin insanlardan daha ikna edici yanlış bilgilendirmeler ürettiği ve insanların yapay zeka tarafından oluşturulan gönderilerle insan yapımı içerikleri ayırt etmekte zorlandığı da tespit edildi. İlgili ikna edici yapay zeka çalışmasının ikinci yazarı Giovanni Spitale, Zürih Üniversitesi’nden, Reddit deneyi yapan biriyle iletişime geçtiğinde, isminin gizli tutulmasını istedi ve ölüm tehditleri aldığını açıkladı. Bu durum, yaşanan yoğun duygusal tepkinin altını çiziyor. Güçlü tepki, Reddit’in yakın ve güvene dayalı topluluğunda yaşanan ihanet duygusunu yansıtıyor. Bilim insanları, bu olayı Facebook’un 2012’deki duygudurum yayılımı çalışmasına benzetirken, Reddit vakasının çok daha kişisel ve müdahaleci olduğunu belirtti. Endişeleri artıran nokta ise, yapay zekanın kişisel bilgilerden yararlanarak bireyleri manipüle edebilmesi ve bu aldatmacanın, insanların önceki hatalarından daha rahatsız edici hale gelmesi. Çok sayıda yapay zeka yorumunu inceleyen araştırmalar, bunların genellikle makul ve ikna edici olduğunu gösterdi, bu da durumu daha da korkutucu kılıyor. Daha gelişmiş yapay zeka tespit araçları olmadan, bu botların online topluluklara sorunsuz şekilde entegre olma riski bulunuyor—eğer hâlâ bunlar yapılmıyorsa—ve bu da dijital söylemde yeni zorluklar ortaya çıkarıyor.