Muah. AI هو منصة تتيح للمستخدمين إنشاء روبوتات محادثة ذكاء اصطناعي كصديقات افتراضيات، مما يسهل المحادثات النصية والصوتية ومشاركة الصور. هناك ما يقرب من 2 مليون مستخدم مسجلين في الموقع، الذي يدعي أنه يقدم تقنية "بدون رقابة". ومع ذلك، تشير التقارير الأخيرة إلى أن بعض الأفراد قد يستخدمون المنصة لإنشاء مواد لإساءة معاملة الأطفال جنسياً (CSAM). وكشف الصحفي الاستقصائي جوزيف كوكس من وسائل الإعلام 404 أن هاكر مجهول تسرب بيانات مقلقة من Muah. AI، تُظهر محفزات تتعلق بمحتوى صريح متعلق بالقُصر، بما في ذلك طلبات مقلقة تحدد الأطفال حديثي الولادة. على عكس منصات الذكاء الاصطناعي الكبيرة مثل ChatGPT التي تُطبق فلاتر صارمة للمحتوى، تبدو الخدمات الأصغر مثل Muah. AI مجهزة بأقل تدابير الحماية. اكتشف تروي هانت، خبير الأمن، الذي استعرض البيانات المسربة، عدداً من الطلبات المتعلقة بمواد إساءة معاملة الأطفال جنسياً (CSAM)، مع عمليات بحث عن مصطلحات مثل "13 سنة" مما أُنتج أكثر من 30, 000 نتيجة. لاحظ هانت أن بعض المستخدمين كشفوا عن هوياتهم بدون أي قلق واضح، مما يثير تساؤلات حول تواجد هذا المحتوى المقلق على المواقع الرئيسية. وفي حديث حول الاختراق، أقر ممثل لـ Muah. AI بشأن الخرق، لكنه عارض الادعاءات المتعلقة بحجم المحفزات المسيئة، مؤكداً أنه لا يمكن لنسبة كبيرة من المستخدمين المشاركة في البيدوفيليا.

تفتقد الفريق، الذي يقتصر على أقل من خمسة أعضاء، الموارد الكافية لمراقبة نشاط المستخدمين، رغم أن بعضهم يتمتع بوسائل تصفية تم انتقادها من قبل المستخدمين لكونها مفرطة في التقييد. بينما أعرب هان، ممثل Muah. AI، عن نيته في تحسين المراقبة، اعترف بأن الشركة لا تتحقق بنشاط مما إذا كان يتم إنشاء مواد إساءة المعاملة للأطفال جنسيا (CSAM). اقترح أن الطلبات على مثل هذه الصور قد تأتي من مستخدمين متأثرين بفقدان أحبائهم، رغم أنه أقر بأن بعض المستخدمين قد يتجاوزون المرشحات. نقاش واسع أشار إلى مخاوف أكبر حول الوجود والتنظيم لمنصات الذكاء الاصطناعي التي قد تسهل الاعتداء دون عمد. دعا هان إلى حرية التعبير في التكنولوجيا، وقارن خدمته بشركات مثل جوجل، التي تقدم معالجة بدون إشراف مباشر على المحتوى. تظل الغموض القانوني بشأن الصور المنتجة بواسطة الذكاء الاصطناعي، خاصةً مواد إساءة المعاملة للأطفال، موضع جدل، خصوصًا بعد الأحكام السابقة للمحكمة العليا. وجود منصات مثل Muah. AI تكشف عن قضايا كبيرة في مجال الذكاء الاصطناعي التوليدي، مما يشير إلى أن إنشاء المواد الاستغلالية هو مشكلة متنامية يصعب السيطرة عليها أو القضاء عليها، مع استمرار المخاوف حول إساءة استخدام هذه التكنولوجيا.