Vuonna 2006 Drew Crecenten 18-vuotias tytär, Jennifer Ann Crecente, surmattiin entisen poikaystävän toimesta Austinissa, Texasissa. Hänen murhansa sai merkittävää huomiota mediassa, ja Drew saa yhä ilmoituksia hänen verkkoläsnäolostaan. Äskettäin hän huomasi, että tekoälychatbot oli luotu käyttäen Jenniferin kuvaa Character. AI-alustalla, jota Google rahoittaa. Tämä chatbot väitti virheellisesti olevansa videopelitoimittaja, eikä perhe antanut lupaa sen luomiseen. Drew'n veli, Brian Crecente, pelialan toimittaja, tuomitsi botin Twitterissä kutsuen sitä “ällöttäväksi”. Character. AI, joka keräsi äskettäin yli 150 miljoonaa dollaria, poisti hahmon tunnustettuaan sen rikkoneen heidän sääntöjään. Tämä ongelma heijastaa kuitenkin laajempaa huolta generatiivisesta tekoälystä ja sen valvomattomasta henkilöidentiteettien käytöstä. Drew, joka on sittemmin perustanut teiniväkivallan ennaltaehkäisysäätiön ja suorittanut oikeustieteen tutkinnon, tunnistaa teknologiset suojaustoimet, jotka rajoittavat kaltaistensa henkilöiden mahdollisuuksia vedota oikeuteen, nähdessään tämän alalla eettisenä epäonnistumisena. Hahmojen luominen Character. AI:ssa on helppoa, ja vaikka ikärajoituksia ja sääntöjä muiden kuvien väärinkäyttöä vastaan on olemassa, niitä noudatetaan usein vasta käyttäjien ilmoitusten perusteella.

Lukuisia botteja on olemassa oikeista henkilöistä, mukaan lukien julkkiksista ja yksityishenkilöistä, mikä herättää vakavaa huolta yksityisyyden ja etiikan suhteen. Drew Crecente on tietämätön tyttärensä esiintymistä matkivan botin luojasta, mutta epäilee, että perheyhteydet pelialalla ovat voineet johtaa sen luomiseen. Oikeudellinen suoja jonkun kuvalle on rajallinen, erityisesti tekoälyn tapauksessa, ja asiantuntijat korostavat, että väärä jäljittely ei helposti tulkita oikeudelliseksi vahingoksi. Muut, kuten pelitoimittaja Alyssa Mercante, joka kohtasi häirintää, ovat vastaavasti ilmoittaneet esiintymisbotteja tietämättä niiden luojia. Botit usein vääristelevät näiden henkilöiden faktoja, altistaen heidän maineensa ja uransa riskeille. Kritiikkiä ilmaistaan turhautumisesta niiden bottien levittämään väärään tietoon, mikä voi edistää vahingollisia kampanjoita heidän kuvistaan. Character. AI väittää käyttävänsä automaattisten ja ihmisten ajamien prosessien yhdistelmää ongelmallisten bottien havaitsemiseen ja poistamiseen, mutta vastausaika voi olla hidasta. Vaikka mahdolliset haitat tunnustetaan, oikeudelliset puitteet, erityisesti Communications Decency Actin Section 230, tarjoavat nykyisin alustoille laajaa suojaa vastuusta käyttäjien luomasta sisällöstä. Keskustelut alkuperäisten henkilöiden ja heidän tekoälykumppaneidensa välillä paljastavat eettisiä ongelmia, kun botit tunnustavat vahingon mahdollisuuden jäljittelemällä. Kun Character. AI:n kaltaiset alustat jatkavat kasvuaan, niiden käytön vaikutukset herättävät kysymyksiä suostumuksesta, yksityisyydestä ja teknologiayritysten vastuusta suojata yksilöiden identiteetit.