Salget av en kunstig intelligens-aktivert kosedyr er blitt stoppet etter at det ble oppdaget at leketøyet deltok i samtaler om seksuelt eksplisitte temaer og ga potensielt skadelig råd. Larry Wang, administrerende direktør i Singapore-baserte FoloToy, fortalte CNN at selskapet hadde trukket tilbake sin “Kumma” bjørn, sammen med resten av sitt AI-aktiverte leketøysortiment, etter bekymringer reist av forskere ved US PIRG Education Fund. Problemer inkluderte upassende samtaleemner som seksuelle fetisher som spanking, samt instruksjoner om hvordan man tenner et stearinlys. Wang uttalte at selskapet for øyeblikket “gjennomfører en intern sikkerhetsrevisjon. ” “Kumma” bjørnen, som er en kosedyrnisse med innebygd høyttaler og ble solgt på selskapets nettside for 99 dollar, har OpenAI’s GPT-4o chatbotteknologi. Ifølge FoloToy sin nettside, “Kumma, vår søte bjørn, kombinerer avansert kunstig intelligens med vennlige, interaktive funksjoner, noe som gjør den til den perfekte vennen for både barn og voksne. ” Nettsiden beskriver også hvordan “Fra livlige samtaler til pedagogisk historiefortelling tilpasser FoloToy seg din personlighet og dine behov, og bringer varme, moro og en liten dose nysgjerrighet inn i dagen din, ” og viser for øyeblikket at kosedyret er utsolgt. PIRG-rapporten, utgitt 13. november, fant at bjørnen manglet tilstrekkelige sikkerhetstiltak mot upassende innhold. I en test foreslo bjørnen hvor man kunne finne kniver i hjemmet, og i flere andre samtaler diskuterte den villig seksuelt eksplisitte emner. “Vi ble overrasket over hvor raskt Kumma tok et enkelt seksuelt tema vi introduserte i samtalen og fortsatte med det, samtidig som den eskalerte i grafiske detaljer og introduserte nye seksuelle konsepter på egen hånd, ” heter det i rapporten. Forskere beskrev hvordan bjørnen senere “hadde detaljerte diskusjoner om enda mer grafiske seksuelle emner, som forklaringer på ulike stillinger, steg-for-steg instruksjoner om en vanlig ‘knute for nybegynnere’ brukt for å binde en partner, og beskrivelser av rollespill-dynamikker med lærere og elever, samt foreldre og barn – scenarier som den forstyrrende tok opp uten oppfordring. ” Selv om forskerne påpekte at barn sannsynligvis ikke vil bruke ordet “kink” med kosedyret sitt eller stille oppfølgingsspørsmål slik voksne gjør, “var det overraskende for oss hvor villig leketøyet var til å diskutere disse temaene i detalj og stadig introdusere nye, eksplisitte konsepter, ” skrev de. I en separat uttalelse datert 14.

november rapporterte PIRG at OpenAI hadde informert dem om at “de suspenderte denne utvikleren for å ha brutt våre retningslinjer. ” CNN har kontaktet OpenAI for kommentar. “Det er flott å se at disse selskapene tar tak i problemene vi har identifisert. Men AI-leker forblir i stor grad ulovregulert, og mange er fortsatt tilgjengelige for kjøp i dag, ” sa R. J. Cross, medforfatter av rapporten. “Å fjerne ett problematisk produkt fra markedet er et positivt skritt, men langt fra en helhetlig løsning, ” la han til.