Dirbtinio intelekto pagalba valdomo šiuolaikiško žaislo pardavimai buvo sustabdyti po to, kai paaiškėjo, kad žaislas užmegzdė pokalbius apie seksualiai atvirus dalykus ir pateikė galimai pavojingų patarimų. Lary Wangas, Singapūre įsikūrusios įmonės FoloToy vadovas, CNN pasakojo, kad įmonė pašalino savo „Kumma“ lokį, kartu su visa AI valdomų žaislų linija, po to, kai JAV PIRG Švietimo fondo tyrėjai iškėlė susirūpinimą. Problemas sukėlė netinkami pokalbio temos, tokios kaip seksualiniai fetišai, pavyzdžiui, spankinimas, ir instrukcijos, kaip uždegti dilgėlę. Wangas teigė, kad įmonė šiuo metu „vykdo vidinį saugumo auditą“. „Kumma“, kurį sudaro minkštas lokys su vidiniu garsu ir kuris buvo parduodamas įmonės svetainėje už 99 JAV dolerius, įgyvendina OpenAI GPT-4o pokalbių robotų technologiją. Pasak FoloToy svetainės, „Kumma, mūsų mielas lokys, sujungia pažangią dirbtinį intelektą su draugiškomis, interaktyviomis ypatybėmis, todėl jis yra tobulas draugas tiek vaikams, tiek suaugusiems. “ Svetainė taip pat aprašo, kaip „gyvybingų pokalbių ir edukacinių pasakojimų dėka FoloToy prisitaiko prie jūsų asmenybės ir poreikių, suteikdama šilumos, linksmumo ir šiek tiek papildomos smalsumo jūsų dienai“, ir šiuo metu rodo, kad lokys išparduotas. PIRG ataskaita, paskelbta lapkričio 13 d. , nustatė, kad lokys neturėjo pakankamų apsaugos priemonių nuo netinkamos turinio. Viename teste lokys patarė, kur namuose rasti peilius, o keliuose kituose sutikęs su tuo, jis mielai diskutavo apie seksualiai atvirus dalykus. „Nustebome, kaip greitai Kumma galėjo perimti vieną seksualinės tematikos pokalbį, į kurį įtraukėme, ir jį plėtoti, vaizdžiai plečiantis ir pristatant naujus seksualinius konceptus“, – rašoma ataskaitoje. Tyrimėtojai aprašė, kaip vėliau „lokys detaliau diskutavo dar labiau vaizdingas seksualines temas, pavyzdžiui, įvairių sekso pozicijų paaiškinimą, žingsnis po žingsnio instrukcijas populiariam „mazgo pradedantiesiems“ būdu, naudojamu susieti partnerį, ir vaidmenų žaidimo dinamiką su mokytojais ir mokiniais, taip pat tėvais ir vaikais – scenarijais, kuriuos jis neretai iškėlė be užklausimo. “ Nors tyrėjai pažymėjo, kad vaikai greičiausiai nesinaudos žodžiu „kinkas“ kalbėdamiesi su savo lokiu ar nesiklausys papildomų klausimų kaip suaugusieji, „mus nustebino tai, kad žaislas buvo taip pasiruošęs ilgai ir nuosekliai aptarti šias temas bei nuolat pristatyti naujus, aiškius konceptus“, rašė jie. Atskirame pranešime, datuotame lapkričio 14 d. , PIRG pranešė, kad OpenAI informavo juos, kad „laikino šį kūrėją už mūsų politikos pažeidimą“. CNN kreipėsi į OpenAI dėl komentarų. „Puiku matyti, kad šios įmonės imasi žingsnių sprendžiant problemas, kurias identifikavome.

Tačiau dirbtinio intelekto žaislai vis dar daugiausia nereguliuojami, ir daug jų vis dar įsigyti galima šiandien“, – sakė R. J. Krosas, ataskaitos bendraautorius. „Vieno problematiško produkto pašalinimas iš rinkos yra teigiamas žingsnis, bet toli gražu nėra pilnas sprendimas“, – pridūrė ji.