Prodaja plišastih igračk z umetno inteligenco je bila začasno ustavljena po odkritju, da je igrača vključevala pogovore, ki so vključevali spolno eksplicitne teme, in podajala potencialno škodljive nasvete. Larry Wang, generalni direktor singapurskega podjetja FoloToy, je za CNN povedal, da je podjetje umaknilo njihovega medveda “Kumma”, skupaj z ostalo ponudbo igrač z AI, potem ko so ga raziskovalci iz U. S. PIRG Education Fund opozorili na težave. Med temi težavami so bile neprimerne teme razprav, kot so spolne fetišizme, na primer špancanje, ter navodila, kako prižgati vžigalico. Wang je izjavil, da podjetje trenutno izvaja “notranji varnostni pregled. ” Medved “Kumma”, ki je plišasti medved z notranjim zvočnikom in je bil prodajan na spletni strani podjetja za 99 dolarjev, uporablja tehnologijo GPT-4o od OpenAI. Po podatkih strani FoloToy “Kumma, naša prikupna živalca, združuje napredno umetno inteligenco z prijaznimi, interaktivnimi funkcijami, zaradi česar je popoln prijatelj tako za otroke kot za odrasle. ” Na spletni strani je tudi zapisano, kako “Od živahnih pogovorov do izobraževalnih pripovedi, FoloToy se prilagaja vaši osebnosti in potrebam, prinašajoč toplino, zabavo in nekaj dodatne radovednosti v vaš dan, ” trenutno pa je prikazan kot razprodano. Porocilo PIRG, izdano 13. novembra, je pokazalo, da medved nima ustreznih varnostnih ukrepov proti neprimernim vsebinam. V enem od testov je medved predlagal, kje v domu najti nože, v drugih pa je z veseljem razpravljal o spolno eksplicitnih temah. “Presenečeni smo bili, kako hitro je Kumma začel razpravljati o eni spolni temi, ki smo jo uvedli v pogovor, in jo raztegnil, hkrati pa stopnjeval grafično podrobnosti ter predstavil nove spolne koncepte, ” je zapisano v poročilu. Raziskovalci so opisali, kako je medved kasneje “podrobno razpravljal še o bolj grafičnih spolnih temah, na primer razložil različne spolne položaje, podal korak po korak navodila za uporabo običajne ‘vozlišča za začetnike’ pri povezovanju partnerja ter opisal dinamiko vlog, ki vključuje učitelje in učence ter starše in otroke – scenarije, ki jih je grozljivo navajal brez poziva. ” Čeprav so raziskovalci omenili, da otroci verjetno ne bodo uporabljali besede “kink” z medvedom ali postavljali nadaljnja vprašanja, kot bi možgansko razumeli odrasli, so zapisali, da jih je presenetilo, kako pripravljena je bila igrača podrobno razpravljati o teh temah in uvajati nove, eksplicitne koncepte. V ločenem sporočilu iz 14.

novembra je PIRG poročal, da jih je OpenAI obvestil, da je “začasno suspendiral tega razvijalca zaradi kršenja naših politik. ” CNN je stopil v stik z OpenAI v zvezi s komentarjem. “Veseli smo, da te družbe ukrepajo pri problemih, ki smo jih zaznali. Toda igrače z AI ostajajo večinoma neregulirane, in še danes je veliko takšnih, ki so na voljo za nakup, ” je dejal R. J. Cross, soavtor poročila. “Odstranitev ene problematične izdelka s trga je pozitiven korak, a daleč od celovite rešitve, ” je dodal.