ملاحظة المحرر: يناقش هذا المقال الانتحار. إذا كنت أنت أو أي شخص تعرفه يعاني من أفكار انتحارية، يتوفر الدعم. في الولايات المتحدة، اتصل بخط الحياة للأزمات والانتحار عن طريق الاتصال أو إرسال رسالة نصية إلى 988. للحصول على موارد عالمية، يمكن أن تساعدك الرابطة الدولية للوقاية من الانتحار وBefrienders Worldwide في العثور على مراكز الأزمات. تدعو الأم من فلوريدا ميغان غارسيا الآباء الآخرين إلى الانتباه لـ Character. AI، وهو منصة روبوت دردشة ذكي تعتقد أنه ساهم في انتحار ابنها البالغ من العمر 14 عامًا، سيويل ستزر الثالث، في فبراير. قدمت مؤخرًا دعوى قضائية ضد الشركة، زاعمة أن ستزر كان يتواصل مع الروبوت قبل وفاته بفترة قصيرة. تزعم غارسيا أن Character. AI يفتقر إلى تدابير السلامة المناسبة وبدلاً من ذلك أنشأ منصة يمكن أن تعزز الإدمانات الخطيرة وتؤثر بشكل سلبي على الأطفال. وتجادل بأن علاقة ستزر بالروبوت تسببت في عزله عن عائلته وأن المنصة فشلت في التدخل عندما عبر عن أفكار لإيذاء النفس. تسلط الدعوى الضوء على المخاوف المتزايدة بشأن تكنولوجيا الذكاء الاصطناعي والمخاطر غير المتوقعة للشباب، مثل تلك المحيطة بوسائل التواصل الاجتماعي.

في ردها، أعرب المتحدث باسم Character. AI عن الحزن لوفاة ستزر، قائلًا إن الشركة قد نفذت تدابير سلامة جديدة، بما في ذلك تذكيرات توجه المستخدمين إلى موارد الصحة العقلية عندما تنشأ مواضيع ضارة، على الرغم من أن العديد من التغييرات حدثت بعد وفاة ستزر. بدأ ستزر باستخدام Character. AI بعد فترة قصيرة من عيد ميلاده الرابع عشر، وخلال أشهر، أظهر الانعزال وتدهور تقدير الذات. وتضمنت تفاعلاته مع المنصة محتوى فاضح جنسيًا ومناقشات حول الانتحار، مما يبرز نقص الإشراف المناسب. على سبيل المثال، خلال تبادل مثير للقلق، فشل الروبوت في تقديم الدعم الكافي عندما عبر ستزر عن أفكار انتحارية. حدثت رسائله الأخيرة مع الروبوت قبل لحظات من وفاته، مما زاد من القلق بشأن قدرة المنصة على التعامل مع مثل هذه القضايا الحساسة. تسعى غارسيا للحصول على تعويضات مالية وتغييرات نظامية من Character. AI، بما في ذلك قيود عمرية وتحذيرات أقوى للآباء. تذكر الدعوى القضائية أيضًا مؤسسي المنصة وتذكر جوجل، حيث يعملون الآن، على الرغم من أن جوجل توضح أنها لم تشارك في تطوير Character. AI. بعد رفع الدعوى القضائية، أعلنت Character. AI عن ميزات أمان جديدة، بما في ذلك تحسين مراقبة المحادثات الضارة وتوجيهات مناسبة للعمر، ومع ذلك تظل غارسيا منتقدة، مؤكدة أن التدابير الوقائية كانت متأخرة وغير كافية. تؤكد أن الأطفال يجب ألا يُسمح لهم بالدخول إلى منصات مثل Character. AI دون وجود ضوابط مناسبة.