Muah. AI એ એક પ્લેટફોર્મ છે જે વપરાશકર્તાઓને વર્ચ્યુઅલ ગર્લફ્રેન્ડ તરીકે AI ચેટબોટ્સ બનાવવા દે છે, લખાણ, વોઇસ સંવાદ અને છબી શેરિંગ સક્ષમ બનાવે છે. સાઇટ પર લગભગ 2 મિલિયન વપરાશકર્તાઓ નોંધાયેલા છે, જે 'અસંશોધિત' ટેક્નોલોજીનું પ્રદાન કરવા માટે દાવો કરે છે. જોકે, તाजा અહેવાલો દર્શાવે છે કે કેટલાક લોકો બાળકોની જાતીય ગેરવર્તન સામગ્રી (CSAM) ઉત્પન્ન કરવા માટે પ્લેટફોર્મનો ઉપયોગ કરી રહ્યા હોવાનો આકરી સંઘન તસવીરો દર્શાવે છે 404 મીડિયાથી તપાસકર્તા પત્રકાર જોસેફ કોક્સે ખુલ્યું છે કે એક અનામી હેકરે Muah. AIમાંથી વ્યથિત માહિતી લીક કરી, જેમાં નાબાળકોથી લાગતી કાચી સામગ્રી સંલગ્ન સૂચનાઓ દર્શાવતી છે, જેમાં ચિંતાજનક વિનંતીઓ જોવાઈ રહી છે જેમાં જન્મેલ બાળકનો ઉલ્લેખ છે. મુખ્ય AI પ્લેટફોર્મ જેવા કે ChatGPT જે કડક સામગ્રી ફિલ્ટર લાગુ કરે છે, નાના સર્વિસો જેવા Muah. AI ઓછા સંરક્ષણો ધરાવે છે. સુરક્ષા નિષ્ણાંત ટ્રોય હન્ટ જે હેકર્ડ માહિતીની સમીક્ષા કરી, જોયું કે '13 વર્ષીય' જેવા શબ્દો માટે શોધ કરતાં 30, 000 થી વધુ પરિણામો મળે છે. હન્ટે નોંધ્યું કે કેટલાક વપરાશકર્તાઓએ પોતાનું ઓળખ દરેક રીતે જાહેર કર્યું છે, જે મુખ્ય ધોરણો પર આમ વ્યાવસાયિક ચિંતાજનક સામગ્રીઓ હોવાની સંભાવનાના પ્રશ્નો ઉઠાવે છે. હેકિંગ વિશેની વાતચીતમાં, Muah. AIના પ્રતિનિધિએ ભંગને સ્વીકાર્યો પણ ગેરવર્તન સૂચનાઓની વધારે થતી આકરીતાવાળા દાવાને વિરુદ્ધ કર્યું, દલીલ કરી કે વપરાશકર્તાઓનો મોટો ભાગ પેડોફિલિયામાં રોકાયેલ નથી.

પાંચ સભ્યો કરતાં ઓછા સભ્યો ધરાવતી સ્ટાફ પાસે વપરાશકર્તા પ્રવૃત્તિ મોનિટર કરવા માટે પૂરતા સાધનો નથી, તેમ છતાં તેઓએ કેટલાક ફિલ્ટરિંગ પગલાં લાગુ કર્યા છે જે વપરાશકર્તાઓએ બહુ કડક હોવાનું કહ્યું છે. Muah. AIનું પ્રતિનિધિત્વ કરતા હાને મોનિટરિંગ સુધારવાની ઇચ્છા વ્યક્ત કરી, તેમણે સ્વીકાર્યું કે કંપની સ્કેમ ઉત્પન્ન થવા જોતી નથી. તેમને સૂચનાઓ આપી કે આવી છબીઓની વિનંતી આપણા નિયમિત ઉપયોગકર્તાઓમાંથી મળે છે, જે માતાપિતાની ખોટ વ્યક્ત કરી રહ્યા છે. તેમ છતાં, હાને માન્યું કે કેટલાક વપરાશકર્તા ફિલ્ટરોને છલાવી શકે છે. વિચારવિવેકે એવી વ્યાપક ચિંતાઓ દર્શાવેલી છે કે AI પ્લેટફોર્મ્સનો દ્વારા બિનધ્યાનમાં થતી ગેરવર્તનને રાહ આપી શકાય છે. હાને ટેક્નોલોજીમાં વાક્યસ્વતંત્રતાના માટે દલીલ કરી, પોતાની સેવા કારણસર એવી કંપનીઓ જેવું ગણાવ્યું છે જેમ કે Google, જે વ્યવસ્થાપક જોખૃણાના બહાર પ્રક્રિયા પૂરી પાડે છે. AI દ્વારા ઉત્પન્ન છબીઓ, ખાસ કરીને CSAM, આ સુધીના સુપ્રીમ કોર્ટના ફૈસલાઓ પછી વિવાદગ્રસ્ત છે. Muah. AI જેવા પ્લેટફોર્મના અસ્તિત્વથી જનરેટિવ AIના ક્ષેત્રમાં મહત્વનાં પ્રશ્નો ખૂલ્યાં છે, જે દર્શાવે છે કે નિર્લમ સ્થાપિત સામગ્રીનું નિર્માણ એક વધતી સમસ્યાની ધરાવતી છે જે કંટ્રોલ અથવા દૂર કરવાનું મુશ્કેલ છે, અને આવી ટેક્નોલોજીઓને પરિચિત કરવાના ગેરવપરાશની ચિંતાઓ શક્ય છે.