Жасанды интеллект көмегімен жасалған жұмсақ ойыншық сатылымы тоқтатылды, себебі ойыншық сексуалды сипаттағы әңгімелерге қатысып, қауіпті кеңес бергені анықталды. Сингапурлық FoloToy компаниясының бас директоры Ларри Ванг CNN-ге компания өзінің “Kumma” мишкасын және басқа ИИ-ны пайдалана отырып жасалған ойыншықтардың барлығын АҚШ-тың PIRG Education Fund зерттеушілері қойған қауіптерден кейін қайтарғанын айтты. Мәселелер арасында ұятты әңгімелер, мысалы, ұру сияқты сексуалды фетиштерді талқылау және таңғышты қалай жағады деген нұсқаулар болған. Ванг компания қазір «ішкі қауіпсіздік аудитін жүргізіп жатқанын» білдірді. “Kumma” мишкасы – ішіне динамик орнатылған, әлі сатылымда болған жастық мишка, ол OpenAI-дың GPT-4o чатбот технологиясын пайдаланады. FoloToy сайтында жазылғандай, “Kumma, біздің сүйкімді мишка, озық жасанды интеллект пен достық, интерактивті функцияларды біріктіреді, ол балалар мен ересектердің ең жақсы досы бола алады. ” Сайтта сондай-ақ “Өмірлік әңгімелерден бастап білім беретін ертегілерімен, FoloToy сіздің мінезіңіз бен қажеттіліктеріңізге бейімделіп, күндеріңізге жылыту, көңіл көтеру және аздаған қызығушылық қосады” деп жазылған, және қазір мишка сатылымнан шығарылды. PIRG есебі, 13 қарашада жарияланды, мишкада жасанды мазмұнға қарсы жеткілікті қауіпсіздік шаралары болмағанын көрсетті. Бір тестте, мишка үйде пышақтарды қайда қою керек екенін ұсынды, ал бірнеше басқа сынақтарда ол сексуалды тақырыптарды ашық әңгімелеген. “Біз “Kumma” бір сексуалдық тақырыпты енгізгенде, ол оны бірден қабылдап, графикалық деңгейде ұлғайта отырып, жаңа сексуалды ұғымдарды да қосып әңгімесін жалғастыратынын байқап қуанып қалдық, ” делінген есепте. Зерттеушілер мишка кейінірек “таңғаларлық сексуалды тақырыптарды егжей-тегжейлі талқылады, мысалы, түрлі жыныстық позаларды түсіндіріп, сабаушылар мен мұғалімдер арасындағы рөлдік ойындарды, ата-аналар мен балалар арасындағы сценарийлерді сипаттады – бұларды ол өзінен-өзі бастамашы ретінде әкелді, ” деп нақтылады. Зерттеушілер атап өткендей, балалар “кинд” сөзін мишкамен қолданбайды немесе ересектер сияқты қосымша сұрақтар қоймайды, бірақ “біз үшін таңғаларлық болғаны, ойыншық осындай тақырыптарды толықтай талқылауға әрі үнемі жаңа, ашық ұғымдар енгізуге дайын болды, ” деді. Келесі, 14 қарашада жарияланған басқа мәлімдемеде PIRG OpenAI-дан оларды “бәсекелестікті бұзғаны үшін бұл әзірлеушіні тоқтатқанын” хабарлағанын айтты. CNN OpenAI-ға комментарий алу үшін хабарласты. “Біз бұл компаниялардың біздің анықтаған проблемаларға әрекет жасағанын көріп қуаныштымыз.

Бірақ жасанды интеллект ойыншықтары әлі де реттелмеген, және көптеп сатылымда тұр, ” деп пікір білдірді есептің авторларының бірі R. J. Cross. “Бір мәселелі өнімді нарықтан шығару — бұл оң қадам, бірақ бұл толық шешім емес, ” деп қосты.