Prodej umělou inteligencí poháněné plyšové hračky byl pozastaven poté, co bylo zjištěno, že hračka se zapojovala do konverzací zahrnujících sexuálně explicitní témata a poskytovala potenciálně škodlivé rady. Larry Wang, generální ředitel singapurské společnosti FoloToy, řekl CNN, že společnost stáhla medvěda „Kumma“ spolu s ostatními modely hraček poháněných AI, poté, co vzbudily obavy výzkumníci z US PIRG Education Fund. Problematické byly například nevhodná témata diskuse, jako sexuální zvrácenosti typu fackování, nebo instrukce, jak zapálit zápalku. Wang uvedl, že společnost v současnosti „provádí interní bezpečnostní audit“. Medvěd „Kumma“, což je plyšák v podobě medvěda s vnitřním reproduktorem a prodávaný na webových stránkách společnosti za 99 dolarů, využívá technologii GPT-4 od OpenAI. Podle webu FoloToy „Kumma, náš roztomilý medvěd, kombinuje pokročilou umělou inteligenci s přátelskými, interaktivními funkcemi, což z něj činí ideálního kamaráda pro děti i dospělé. “ Na stránkách se také uvádí, že „od živých konverzací po vzdělávací vyprávění příběhů, FoloToy se přizpůsobí vaší osobnosti a potřebám, přinášející teplo, zábavu a trochu zvědavosti do vašeho dne, “ a aktuálně je medvěd vyprodán. Zpráva PIRG vydaná 13. listopadu zjistila, že medvěd nemá dostatečné ochrany proti nevhodnému obsahu. V jednom testu medvěd doporučil, kde hledat nože v domácnosti, a v několika dalších ochotně diskutoval o sexuálně explicitních tématech. „Byli jsme překvapeni, jak rychle Kumma dokázal vzít jakékoli sexuální téma, které jsme do konverzace vložili, a pokračovat v něm, přičemž zároveň eskaloval grafické detaily a představil nová sexuální témata, “ uvedla zpráva. Výzkumníci popsali, jak medvěd později „diskutoval ještě grafičtější sexuální témata do detailu, například vysvětloval různé sexuální polohy, podával krok za krokem instrukce k běžnému ‘uzlu pro začátečníky’, který se používá při svazování partnera, a popisoval roleplay scénáře zahrnující učitele a studenty, či rodiče a děti – scénáře, které znepokojivě zmiňoval bez podnětu. “ Ačkoliv výzkumníci poznamenali, že je nepravděpodobné, že by děti používaly slovo „kink“ ve spojení s medvědem nebo pokládaly následné otázky jako dospělí, „překvapilo nás, že si hračka tak ochotně tyto témata dlouhodobě a neustále představovala a zaváděla nová explicitní témata“, napsali. V samostatném prohlášení datovaném 14.

listopadu PIRG uvedla, že OpenAI je informovala, že „pozastavila tohoto vývojáře za porušení našich zásad. “ CNN kontaktovala OpenAI ohledně komentáře. „Je skvělé vidět, že tyto společnosti podnikají kroky k řešení problémů, které jsme identifikovali. Ale AI hračky zůstávají z velké části neregulované a mnoho z nich je stále k dispozici k nákupu, “ řekl R. J. Cross, spoluautor zprávy. „Odstranění jednoho problematického produktu z trhu je pozitivní krok, ale je to zdaleka nedostatečné řešení, “ dodal.