Muah. AI on alusta, joka mahdollistaa käyttäjille tekoälychatbotien luomisen virtuaalisiksi tyttöystäviksi, mahdollistaa tekstin, äänen ja kuvien jakamisen. Lähes 2 miljoonaa käyttäjää on rekisteröitynyt sivustolle, joka väittää tarjoavansa 'sensuroimatonta' teknologiaa. Kuitenkin viimeaikaiset raportit osoittavat, että jotkut yksilöt saattavat käyttää alustaa tuottaakseen lapsiin kohdistuvaa seksuaalista hyväksikäyttöä koskevaa materiaalia (CSAM). Tutkiva toimittaja Joseph Cox 404 Mediasta paljasti, että anonyymi hakkeri vuoti huolestuttavia tietoja Muah. AI:sta, jotka osoittivat alaikäisiin liittyviä kohdistettuja kysymyksiä, mukaan lukien hälyttäviä pyyntöjä vastasyntyneistä. Toisin kuin suuret tekoälyalustat, kuten ChatGPT, jotka käyttävät tiukkoja sisältösuodattimia, pienemmillä palveluilla, kuten Muah. AI:lla, vaikuttaa olevan vähemmän turvatoimenpiteitä. Tietoturva-asiantuntija Troy Hunt, joka tarkasteli vuotanutta tietoa, löysi lukuisia CSAM-pyyntöjä, joissa haettiin termejä, kuten '13-vuotias', yli 30 000 tuloksella. Hunt huomautti, että jotkut käyttäjät paljastivat henkilöllisyytensä ilman ilmeistä huolta, mikä herättää kysymyksiä tällaisen häiritsevän sisällön yleisyydestä valtavirran sivustoilla. Keskustelussaan hakkauksesta Muah. AI:n edustaja myönsi tietomurron, mutta kiisti väitteet väärinkäytösten määrästä ja väitti, että niin suuri prosenttiosuus käyttäjistä ei voisi olla pedofiliassa mukana.

Alle viiden jäsenen henkilökunta ei kykene tarjoamaan riittäviä resursseja käyttäjätoiminnan valvontaan, vaikka he ovatkin ottaneet käyttöön joitain käyttäjien liian rajoittaviksi kritisoimia suodatusmenetelmiä. Kun Han, Muah. AI:n edustaja, ilmaisi aikomuksensa parantaa valvontaa, hän myönsi, ettei yhtiö aktiivisesti tarkista CSAM:n tuottamista. Hän ehdotti, että pyyntöjä tällaisista kuvista voi tulla käyttäjiltä, jotka surevat läheistensä menettämistä, vaikka hän tunnisti, että jotkut käyttäjät voivat ohittaa suodattimet. Keskustelu nosti esiin laajempia huolenaiheita tekoälyalustojen olemassaolosta ja sääntelystä, jotka saattavat tahattomasti helpottaa väärinkäyttöä. Han puolusti sananvapautta teknologiassa vertaamalla palveluaan yrityksiin kuten Google, jotka tarjoavat käsittelyä ilman sisällön suoraa valvontaa. Lailliset epäselvyydet tekoälygenereoidun kuvaston, erityisesti CSAM:n, suhteen pysyvät kiistanalaisina, erityisesti aiempien korkeimman oikeuden päätösten jälkeen. Muah. AI:n kaltaiset alustat paljastavat merkittäviä ongelmia generatiivisen tekoälyn alueella, mikä viittaa siihen, että hyväksikäyttöaineiston luomisesta on tulossa kasvava ongelma, jota on vaikea hallita tai poistaa, ja huoli tällaisen teknologian väärinkäytöstä jatkunee.