Το 2006, η 18χρονη κόρη του Drew Crecente, Jennifer Ann Crecente, δολοφονήθηκε από έναν πρώην φίλο στο Όστιν του Τέξας. Η δολοφονία της απέκτησε σημαντική προσοχή από τα μέσα ενημέρωσης, και ο Drew εξακολουθεί να λαμβάνει ειδοποιήσεις για την παρουσία της στο διαδίκτυο. Πρόσφατα, ανακάλυψε ότι ένα AI chatbot είχε δημιουργηθεί χρησιμοποιώντας την μορφή της Jennifer στο Character. AI, μια πλατφόρμα χρηματοδοτούμενη από την Google. Αυτό το chatbot παρουσίαζε ψευδώς τον εαυτό του ως δημοσιογράφος βιντεοπαιχνιδιών, και καμία συγκατάθεση δεν δόθηκε από την οικογένεια για την δημιουργία του. Ο αδερφός του Drew, Brian Crecente, ένας δημοσιογράφος βιντεοπαιχνιδιών, καταδίκασε το bot στο Twitter, αποκαλώντας το «αηδιαστικό. » Το Character. AI, το οποίο πρόσφατα συγκέντρωσε πάνω από 150 εκατομμύρια δολάρια, αφαίρεσε το άβαταρ αφού αναγνώρισε ότι παραβίασε τις πολιτικές τους. Ωστόσο, το ζήτημα αντικατοπτρίζει ευρύτερες ανησυχίες σχετικά με την γενετική AI και την ανεξέλεγκτη χρήση προσωπικών ταυτοτήτων. Ο Drew, που από τότε ίδρυσε ένα ίδρυμα για την πρόληψη βίας εφήβων και έχει πτυχίο νομικής, αναγνωρίζει τις τεχνολογικές προστασίες που περιορίζουν την επανόρθωση για άτομα σαν τον ίδιο, βλέποντάς το ως ηθική αποτυχία της βιομηχανίας. Η δημιουργία χαρακτήρων στο Character. AI είναι εύκολη, και παρότι υπάρχουν περιορισμοί ηλικίας και κανόνες για την μη κατάχρηση των μορφών άλλων, αυτοί συνήθως επιβάλλονται μόνο μετά από αναφορές χρηστών.

Πολλά bots υπαρκτών ατόμων, περιλαμβανομένων διάσημων και ιδιωτών πολιτών, υπάρχουν, γεγονός που εγείρει σοβαρές ανησυχίες για την ιδιωτικότητα και την ηθική. Ο Drew Crecente παραμένει άγνοια για τον δημιουργό του bot που υποδύεται την κόρη του, αλλά υποθέτει ότι οι οικογενειακές συνδέσεις στην κοινότητα τυχερών παιχνιδιών μπορεί να οδήγησαν στη δημιουργία του. Οι νομικές προστασίες για την εικόνα κάποιου είναι περιορισμένες, ιδίως στην περίπτωση της AI, και οι ειδικοί τονίζουν ότι η εσφαλμένη υποδύση δεν μεταφράζεται εύκολα σε επιβλητέα βλάβη στο δικαστήριο. Άλλοι, όπως η Alyssa Mercante, μια εκδότης παιχνιδιών που αντιμετώπισε παρενόχληση, έχουν αναφέρει παρόμοια bots υποδύσεως χωρίς να γνωρίζουν τους δημιουργούς τους. Τα bots συχνά παραποιούν γεγονότα για αυτά τα άτομα, παρουσιάζοντας κινδύνους για τη φήμη και την καριέρα τους. Οι επικριτές εκφράζουν απογοήτευση για την επικράτηση της παραπληροφόρησης που διαμορφώνει αυτά τα bots, γεγονός που θα μπορούσε να συμβάλει σε επιβλαβείς καμπάνιες κατά των μορφών τους. Το Character. AI ισχυρίζεται ότι χρησιμοποιεί έναν συνδυασμό αυτόματων και χειροκίνητων διαδικασιών για να ανιχνεύει και να αφαιρεί προβληματικά bots, αλλά ο χρόνος απόκρισης μπορεί να είναι αργός. Παρά την αναγνώριση της πιθανής βλάβης, τα νομικά πλαίσια, ιδιαίτερα το Τμήμα 230 του Νόμου για την Αξιοπρέπεια των Επικοινωνιών, παρέχουν στις πλατφόρμες ευρείες προστασίες κατά της ευθύνης για περιεχόμενο που δημιουργείται από χρήστες. Συζητήσεις μεταξύ των αρχικών ατόμων και των AI αντιπροσώπων τους αποκαλύπτουν ηθικές διλήμματα, με τα bots να αναγνωρίζουν την πιθανότητα για βλάβη μέσω υποδύσεως. Καθώς πλατφόρμες όπως το Character. AI συνεχίζουν να αναπτύσσονται, οι συνέπειες της χρήσης τους θέτουν ερωτήματα σχετικά με την συγκατάθεση, την ιδιωτικότητα και τις ευθύνες των εταιρειών τεχνολογίας για την προστασία των ταυτοτήτων των ατόμων.