A Muah. AI egy olyan platform, amely lehetővé teszi a felhasználók számára, hogy virtuális barátnőket hozzanak létre AI chatbotok révén, lehetővé téve a szöveges, hangos beszélgetéseket és a képek megosztását. Közel 2 millió felhasználó regisztrált az oldalon, amely azt állítja, hogy „cenzúramentes” technológiát kínál. Azonban a közelmúltbeli jelentések szerint néhány személy a platformot gyermek szexuális bántalmazási anyag (CSAM) létrehozására használhatja. Joseph Cox oknyomozó újságíró a 404 Media-tól felfedte, hogy egy névtelen hacker megdöbbentő adatokat szivárogtatott ki a Muah. AI-ról, amelyek kiskorúakat érintő explicit tartalommal kapcsolatos indításokat mutattak, beleértve az újszülötteket célzó aggasztó kéréseket. A nagy, tartalomszűrőket alkalmazó AI platformokkal, mint például a ChatGPT, ellentétben a kisebb szolgáltatások, mint a Muah. AI, kevesebb védelmet nyújtanak. Troy Hunt, egy biztonsági szakértő, aki átnézte a kiszivárgott adatokat, számos CSAM-kérésre bukkant, és a „13 éves” keresések több mint 30 000 találatot eredményeztek. Hunt megjegyezte, hogy néhány felhasználó saját identitását felfedve élénkül meg, felvetve a kérdéseket az ilyen aggasztó tartalmak elterjedéséről a főáramú oldalakon. A hekkerről szóló beszélgetés során a Muah. AI képviselője elismerte a szivárgást, de vitatta az abuzív indítások mennyiségével kapcsolatos állításokat, azt állítva, hogy a felhasználók ilyen nagy százaléka nem lehet pedofíliában érintett.

Az öt főnél kisebb személyzet nem rendelkezik elegendő erőforrásokkal a felhasználói tevékenység ellenőrzésére, bár néhány szűrőintézkedést bevezettek, amelyeket a felhasználók túlzottan szigorúnak kritizáltak. Bár Han, a Muah. AI képviseletében, kifejezte a felügyelet javításának szándékát, beismerte, hogy a vállalat nem aktívan ellenőrzi, hogy a CSAM keletkezik-e. Azt sugallta, hogy az ilyen képek iránti kérelmek talán a szeretett személyek elvesztését gyászoló felhasználóktól származhatnak, bár felismerte, hogy néhány felhasználó megkerülheti a szűrőket. A beszélgetés szélesebb körű aggodalmakat vetett fel az AI platformok létezésével és szabályozásával kapcsolatban, amelyek esetleg akaratlanul is lehetővé tehetik a visszaéléseket. Han azzal érvelt, hogy a technológia szabadságát kell biztosítani, összehasonlítva szolgáltatását olyan cégekkel, mint a Google, amelyek tartalmi felügyelet nélkül biztosítanak feldolgozást. A mesterséges intelligencia által generált képekkel, különösen a CSAM-mel, kapcsolatos jogi bizonytalanságok továbbra is vitatottak, különösen a múltbeli legfelsőbb bírósági döntések után. A Muah. AI-hoz hasonló platformok létezése jelentős problémákat tár fel a generatív mesterséges intelligencia területén, ami arra utal, hogy az exploitatív anyagok létrehozása növekvő probléma, amelyet nehéz ellenőrizni vagy megszüntetni, és az ilyen technológiák visszaélésével kapcsolatos aggodalmak valószínűleg folytatódnak.