Muah. AI пайдаланушыларға виртуалды қыздар ретінде AI чат-боттарын жасауға мүмкіндік беретін платформа, мәтіндік, дауыс арқылы сөйлесу және сурет алмасуды қамтамасыз етеді. Сайтқа дерлік 2 миллион қолданушы тіркелген және ол "цензурасыз" технологияны ұсынатын деп мәлімдейді. Алайда, соңғы есептер кейбір тұлғалардың платформаны балаларға қатысты жыныстық зорлық-зомбылық материалын (CSAM) жасау үшін пайдаланғанын көрсетеді. 404 Media-ның зерттеу журналының журналисі Джозеф Кокс Muah. AI-дан анонимді хакердің алаңдататын деректерді жөндеуін жариялады, кәмелетке толмағандарға қатысты анық материалдарды қамтитын мазмұндарды қоса алғанда, тудыратын қолжетімді тереуіштерді көрсетіп. Қатаң мазмұн фильтрлерін жүзеге асыратын ChatGPT сияқты ірі AI платформаларынан айырмашылығы, осындай кішігірім қызметтер, қолжетімді мазмұнды көрсету шаралары азырақ. Жұмыстың бір халық өкілі Трой Хант ағып кеткен деректерді қарап, айрықша жоқтаусыз көптеген CSAM сұрауларын байқаған, олар сияқты "13 жасар баланың" эвристикалық сүзгілері бойынша жүргізілген сұрауларда жоғарғы 30, 000 нәтиже бар екенін анықтады.

Хант кейбір пайдаланушылардың өзін өзі көрсете отырып, алаңдатарлық мазмұнның басты алаңдаушылығын күмәндандыруға дәйек беретінін атап өтті. Хак душасындағы әңгімеде Muah. AI-дың бір өкілі, бұл бұзуларды мойындап, педофилияға қатысқан пайдаланушылардың жоғары пайызы болмайтынын айтты, әлсіз қызметкерлер қатары беске толмағаннан аз сандырылады, пайдаланушылық әрекетті дұрыс бақылау үшін жеткілікті ресурстары жоқ, дегенмен олар шамадан тыс шектеулі деп пайдаланушылар сынаған кейбір сүзгілеу шараларын енгізген. Muah. AIдың қоршаған өкілі Хан, шабличті бақылауды жақсартуға ниет білдіргенімен мойындады, CSAM жасағанын белсенді түрде тексермейді. Ол бұл суреттерге сұраулардың қайғылы оқиғалардан кейін пайда болған пайдаланушылардан шығуы мүмкін екенін болжам етті, алайда кейбір пайдаланушылар ықтимал сүзгілерден айналып өтетінін мойындаған. Талқылау ai платформаларының шамадан тыс қадағаланудан күшті өнімдерге қол жеткізуге мүмкіндік берумен байланысты кеңінен қаржыландырылған алаңдаушылықтарды көтерді. Хан технологияда сөз бостандығын қорғап, компанияларды оның қызметіне Google сияқты компанияларға ұсынып, мазмұнды тікелей бақылаусыз өңдеуді қамтамасыз ететінімен салыстырды. AI генерацияланған кескінге қатысты құқықтық қайшылықтар, әсіресе өткен Жоғарғы Сот шешімдерінен кейін, даулы болып сайланады. Muah. AI тұрғысындағы платформалардың болуы генеративті AI саласында едәуір кемшіліктерді көрсетеді, олар теріс материалдарға айналудың өсіп келе жатқан мәселесін алдын ала жарады, осындай технологияларны біздің пайдалануымызға байланысты алаңдаушылық болжамдары жалғасуы мүмкін.