El 2006, la filla de 18 anys de Drew Crecente, Jennifer Ann Crecente, va ser assassinada per un exnòvio a Austin, Texas. El seu assassinat va rebre una atenció mediàtica significativa, i Drew encara rep alertes sobre la seva presència en línia. Recentment, va descobrir que s'havia creat un xatbot d'IA utilitzant la semblança de Jennifer a Character. AI, una plataforma finançada per Google. Aquest xatbot es va presentar falsament com un periodista de videojocs, i no es va donar consentiment per part de la família per a la seva creació. El germà de Drew, Brian Crecente, un periodista de videojocs, va condemnar el bot a Twitter, qualificant-lo de “repugnant”. Character. AI, que recentment va recaptar més de 150 milions de dòlars, va eliminar l'avatar després de reconèixer que infringia les seves polítiques. No obstant això, el problema reflecteix preocupacions més àmplies sobre la IA generativa i el seu ús no controlat de les identitats personals. Drew, que des de llavors ha establert una fundació per a la prevenció de la violència adolescent i té un títol de dret, reconeix les proteccions tecnològiques que limiten el recurs per a individus com ell, veient-ho com un fracàs ètic de la indústria. Crear personatges a Character. AI és senzill, i tot i que hi ha restriccions d'edat i normes contra l'ús inadequat de les semblances d'altres, sovint només s'apliquen quan els usuaris ho informen.

Existen nombrosos robots de persones reals, incloent-hi celebritats i ciutadans privats, cosa que genera serioses preocupacions sobre la privadesa i l'ètica. Drew Crecente roman desconeixedor del creador del bot que impersonava la seva filla, però suggereix que les connexions familiars a la comunitat de videojocs poden haver conduït a la seva creació. Les proteccions legals per la semblança d'algú són limitades, especialment en el cas de l'IA, i els experts subratllen que la suplantació indeguda no es tradueix fàcilment en danys emprenedors en els tribunals. Altres, com Alyssa Mercante, una editora de videojocs que va enfrontar-se al assetjament, han reportat similars robots d'suplantació sense conèixer els seus creadors. Els robots sovint tergiversen informació factual sobre aquestes persones, posant en risc les seves reputacions i carreres. Els crítics expressen frustració per la prevalença de la desinformació difosa per aquests robots, que podria contribuir a campanyes perjudicials contra les seves semblances. Character. AI afirma utilitzar una combinació de processos automatitzats i dirigits per humans per detectar i eliminar robots problemàtics, però el temps de resposta pot ser lent. Malgrat l'acceptació del mal potencial, els marcs legals, especialment la Secció 230 de la Llei de Decència de Comunicacions, actualment ofereixen a les plataformes àmplies proteccions contra responsabilitats per contingut generat per usuaris. Les converses entre els individus originals i els seus homòlegs d'IA revelen dilemes ètics, amb els robots reconeixent el potencial de dany a través de la suplantació. A mesura que les plataformes com Character. AI continuen creixent, les implicacions del seu ús plantegen qüestions sobre el consentiment, la privadesa i les responsabilitats de les empreses tecnològiques envers la protecció de les identitats de les persones.