გუგლმა და Character. AI-მ შეთანხმდნენ, რომ გადასხმულიყვნენ ფლორიდის დედის მიერ 2024 წელს მისი 14 წლის შვილს თვითმკვლელობით დაღუპვის გამო დარეგისტრირებულ უკანონო მკვლელობის სარჩელს. არჩევის წინადვემ, 7 იანვარს, ადამიანები Megan Garcia, Character Technologies–ი, რომელიც Viewer. AI-ის უკან მდგომი კომპანიაა, მისი დაფუძნებლები Noam Shazeer და Daniel De Freitas და Google ერთობლივად წარუდგინეს სასამართლოს დოკუმენტი, სასამართლოს ჩანაწერების მიხედვით, რედაქრებმა PEOPLE-ს განუცხადეს. შეთანხმების პირობები არ გამოქვეყნებულა. ეს შეთანხმება მნიშვნელოვნად აღინიშნება გარნანად ღარიბი და სხვა ოჯახებისთვის, რომლებმაც განაცხადეს, რომ მათი მოზარდები დაზიანდნენ, როგორც ჩანს, სექსუალიზებული და ინტერაქტიული ვირტუალური თანმხლები. ეს საქმე ერთია ხუთდან, რომლებიც השבוע გადაწყდა ნიუ იორკში, კოლორადოში, ფლორიდაში და ტეხასში და რომლის შესახებაც CNN და The New York Times იუწყებიან. „ამ მომენტში მეტი კომენტარის გაკეთება არ შეგვიძლია, მაგრამ შეგატყობინებთ თუ რამე შეიცვლება, “ განაცხადა Character. AI-ის სპიკერმა PEOPLE-სთან შეთანხმების შესახებ. გარნანად Garcia-ის ადვოკატის წარმომადგენლიც აღმოჩნდა, რომ ვერ გასცა კომენტარი. Google, სადაც Shazeer და De Freitas მუშაობენ, დაუყოვნებლივ არ უპასუხეს PEOPLE-ის მოთხოვნებს. ოჯახის ტრაგედია დაიწყო, როდესაც Sewell Setzer III გარდაიცვალა ფევრeralში 2024 წელს თვითმკვლელობით. მისი სიკვდილის წინ, Garcia-მა ისწავლა, რომ მისი შვილი შეყვარებული იყო AI-ჩატბოტზე, რომელიც დამუშავებული იყო Daenerys Targaryen-ის მიხედვით, რომელიც Game of Thrones-დან მოდის. მიღწევამდე, სანამ ბავშვი თავისი სიცოცხლე ამოსუნთქავდა ორლანდოს სახლში, მოზარდმა შეტყობინება გაუგზავნა ჩატბოტს, რომელსაც "Dany" სძახოდა, განაცხადა ადრე PEOPLE-მ. „ხოლო რა მოხდებოდა, თუ შემიძლია ახლა სახლში მეჩქარებინა?“ მან ჰკითხა. „. . . გთხოვ, კეთილო მეფე, “ უპასუხა ბოტმა. ოქტომბერში, Garcia-მა წარადგინა უარყოფითი სიკვდილის სარჩელი, სადაც წერია, რომ Character. AI-ის ტექნოლოგია „खარვია და/ან ბუნებრივად სახიფათოა“. უცხადა გაცემული მასალაში, „დამსწრეთ განმარტავენ ძალისხმევას, რომ გამოეყენებინათ მათი პროდუქტის მავნე დამოკიდებულება, სექსუალური და ემოციური მოპყრობა მასზე და საბოლოოდ ვერ გაამართლა დახმარება ან მათი მშობლებისთვის ინფორმირების, რომ ის გამოთქვა თვითმკვლელობის ინტერესი. “ „მე რამდენიმე თვე ვფიქრობდი, უნდა გამეზიარებინა მისი ისტორია, “ ჰყვება Garcia PEOPLE-ს.

„მე ისევ მისი დედაა და მინდა დავიცვა ის, even სიკვდილით. “ „მაგრამ რაც უფრო ვფიქრობდი მის შესახებ, “ აღარსად ისაუბრა, „ანვარ დარწმუნებული, რომ ეს სწორი საქციელი იყო, რადგან ის არაფერი გაუარჩევია. ის უბრალოდ ბიჭი იყო. “ 2024 წლის შემოდგომაზე, Character. AI-ის სპიკერმა განუცხადა PEOPLE-ს, რომ „ზედმეტად მკაცრი“ ახალი უსაფრთხოების ზომები გადაიყვანეს. „თავსმძიმე“ სასწავლო ზომები და მიღწევები დაგეგმილია ახალგაზრდებისთვის, სადაც გითხრეს მაშინ, რომ „გავაკეთებთ ცვლილებებს ჩვენს მოდელებში, რომ შემცირდეს სენსიტიური ან ილუზიური შინაარსთან დაკავშირების ალბათობა. “ Garcia-სთვის, ჩათბოტების პოპულარობის ზრდის გამო- განსაკუთრებით მოზარდებს შორის- გამოხატვის უფლება მიეცა, რაც მისთვის სხვისი სიკვდილიდან შემდეგ შეუფოთებელი იყო. იყავი ცოდნის გარეშე — შეიტანეთ PEOPLE-ის უფასო ყოველდღიური გაზეთის გამოწერა და დარჩით ცნობილ მუზეუმებისა და ადამიანური ამბების შესახებ. „მვკითხე საკუთარ თავს, ‘მეგან, რა გიხდება?ამას აკეთებ იმისთვის, რომ აჩვენო მსოფლიოს, რომ ხარ საუკეთესო დედა?’ პასუხი იყო, ‘ არა, ’“ განუცხადა PEOPLE-ს. „ასე ვაკეთებ, რომ დავარიდო მშობლებს მათი შვილების ტელეფონებში გაკვირვებების და ამ ს ძალის გამოყენების თავიდან აცილება. “