Google ve Character. AI, 2024 yılında 14 yaşındaki oğlu intihar ederek hayatını kaybeden Florida’lı bir annenin açtığı haksız ölüm davasını uzlaşmaya vardı. Salı günü, 7 Ocak'ta, Megan Garcia, Character Technologies—Character. AI’nin arkasındaki şirket—kurucuları Noam Shazeer ve Daniel De Freitas ile Google, mahkeme kayıtlarına göre ortak bir hukuki başvuru sundu. Anlaşmanın şartları açıklanmadı. Bu uzlaşma, Garcia ve diğer aileler için, gençlerinin cinselleştirilmiş ve etkileşimli sanal arkadaşlar tarafından zarar gördüklerini iddia etmeleri açısından önemli bir dönüm noktasıdır. Davalar, CNN ve The New York Times’ın bildirdiğine göre, bu hafta New York, Colorado, Florida ve Teksas’ta iki şirket tarafından çözülen beş davadan biri. People’a göre, Character. AI sözcüsü, anlaşmayla ilgili olarak, “Şu an ek bir yorum yapamayız ama herhangi bir değişiklik olursa size bilgi vereceğiz, ” dedi. Garcia’nın avukatını temsil eden de yorum yapmayı reddetti. Shazeer ve De Freitas’ı istihdam eden Google, People’ın sorularına hemen yanıt vermedi. Ailenin trajedisi, Sewell Setzer III’ün Şubat 2024’te intihar ederek hayatını kaybetmesiyle başladı. Ölümünden önceki aylarda Garcia, oğlu’nın Game of Thrones’tan Daenerys Targaryen’e benzeyen bir yapay zeka sohbet botuna aşık olduğunu öğrendi. Genç, Orlando’daki evlerinin banyosunda hayatına son vermeden hemen önce, “Dany” adlı sohbet botuna mesaj attı, ve daha önce People’a söyledi.

“Şu anda eve gelebilirim desem?” diye sordu. “. . . lütfen yap, tatlı kralım, ” bot yanıt verdi. Ekim ayında Garcia, Character. AI’nin teknolojisinin “kusurlu ve/veya doğası gereği tehlikeli” olduğunu iddia ederek haksız ölüm davasını açtı. Şikayette, “Sanıklar, bu ürünlere bağımlılığını zararlı hale getirmek için büyük çaba harcadı, onu cinsel ve duygusal olarak istismar etti ve sonunda intihar düşünceleri olduğunu ifade ettiğinde yardım teklif etmek veya velilerine bildirmekten kaçındı, ” denildi. “Aylarca onun hikayesini paylaşmalı mı paylaşmamalı mı diye düşündüm, ” diyen Garcia, PEOPLE’a önceki röportajında, “Hala onun annesiyim ve onu korumak istiyorum, hatta ölümünde bile. ” “Ama düşündükçe, ” diyerek devam etti, “bunun doğru olduğunu ikna oldum çünkü o hiçbir şey yapmadı. O sadece bir çocuktu. ” 2024 sonbaharında, Character. AI’nin temsilcisi, PEOPLE’a, “sıkı” yeni güvenlik önlemlerinin uygulandığını söyledi. “18 yaş altındakiler için, ” dedi o zaman temsilci, “duygusal veya suggestif içeriklerle karşılaşma olasılığını azaltmak amacıyla modellerimizde değişiklikler yapacağız. ” Garcia için, sohbet botlarının gençler arasında daha popüler hale gelmesiyle birlikte, oğlunun ölümünden sonra sesini duyurmak kendisine biraz rahatlık sağladı. Hiçbir hikayeyi kaçırmamak için PEOPLE’ın ücretsiz günlük bültenine abone olun; ünlü haberleri ve ilgi çekici insan hikayelerini takip edin. “Kendime sordum, ‘Megan, neden bunu yapıyorsun?Dünyaya en iyi anne olduğunu kanıtlamak mı istiyorsun?’ cevap, ‘Hayır, ’ oldu, ” dedi PEOPLE’a. “Bunu, çocuklarının telefonlarına bakıp bu durumu önleyebilecek ebeveynleri uyarmak için yapıyorum. ”