I 2006 blev Drew Crecentes 18-årige datter, Jennifer Ann Crecente, dræbt af en tidligere kæreste i Austin, Texas. Hendes mord fik betydelig medieopmærksomhed, og Drew modtager stadig advarsler om hendes tilstedeværelse online. For nylig opdagede han, at der var blevet oprettet en AI chatbot ved hjælp af Jennifers signalement på Character. AI, en platform finansieret af Google. Denne chatbot præsenterede sig fejlagtigt som en videospiljournalist, og der blev ikke givet nogen godkendelse af familien til dens oprettelse. Drews bror, Brian Crecente, en spillejournalist, fordømte boten på Twitter og kaldte den “modbydelig. ” Character. AI, der for nylig rejste over 150 millioner dollars, fjernede avataren efter at have erkendt, at den overtrådte deres politikker. Imidlertid afspejler spørgsmålet bredere bekymringer om generativ AI og dens ukontrollerede brug af personlige identiteter. Drew, som siden har etableret en fond for forebyggelse af teenagervold og har en juragrad, erkender de teknologiske beskyttelser, der begrænser retsmidler for enkeltpersoner som ham selv, og ser det som en etisk fiasko i industrien. Det er nemt at oprette karakterer på Character. AI, og selvom der er aldersbegrænsninger og regler mod misbrug af andres billeder, håndhæves disse ofte kun efter brugerrapporter.

Der findes adskillige bots af virkelige personer, herunder berømtheder og private borgere, hvilket rejser alvorlige bekymringer om privatlivets fred og etik. Drew Crecente forbliver uvidende om skaberen af boten, der efterlignede hans datter, men foreslår, at familieforbindelser i spillemiljøet kan have ført til dens oprettelse. Juridiske beskyttelser for nogen signalement er begrænsede, især i AI tilfælde, og eksperter understreger, at uretmæssig efterligning ikke let oversættes til retfærdig skade i retten. Andre, som Alyssa Mercante, en redaktør, der stod overfor chikane, har ligeledes rapporteret efterligningsbots uden at kende deres skabere. Botene forvrænger ofte faktuelle oplysninger om disse individer, hvilket udgør risici for deres omdømme og karriere. Kritikere udtrykker frustration over udbredelsen af misinformation spredt af disse bots, som kan bidrage til skadelige kampagner mod deres signalement. Character. AI hævder at bruge en kombination af automatiserede og menneskedrevede processer til at opdage og fjerne problematiske bots, men svartiden kan være langsom. Trods erkendelse af potentiel skade tilbyder juridiske rammer, især Section 230 of the Communications Decency Act, i øjeblikket platforme bred beskyttelse mod ansvar for brugergenereret indhold. Samtaler mellem oprindelige personer og deres AI-motsvar afslører etiske dilemmaer, med bots, der anerkender potentialet for skade gennem efterligning. Efterhånden som platforme som Character. AI fortsætter med at vokse, rejser implikationerne af deres brug spørgsmål om samtykke, privatliv og teknologivirksomheders ansvar for at beskytte individers identiteter.