In 2006 werd Drew Crecente's 18-jarige dochter, Jennifer Ann Crecente, vermoord door een ex-vriend in Austin, Texas. Haar moord kreeg veel media-aandacht en Drew ontvangt nog steeds meldingen over haar online aanwezigheid. Onlangs ontdekte hij dat er een AI-chatbot was gemaakt met behulp van Jennifer's gelijkenis op Character. AI, een platform gefinancierd door Google. Deze chatbot vertegenwoordigde zichzelf ten onrechte als een videogamejournalist, en er was geen toestemming gegeven door de familie voor de creatie ervan. Drew's broer, Brian Crecente, een gamingjournalist, veroordeelde de bot op Twitter en noemde het 'walgelijk'. Character. AI, dat onlangs meer dan $150 miljoen ophaalde, verwijderde de avatar na te hebben erkend dat deze hun beleid schond. Het probleem weerspiegelt echter bredere zorgen over generatieve AI en het ongecontroleerde gebruik van persoonlijke identiteiten. Drew, die sindsdien een stichting heeft opgericht voor het voorkomen van tienergeweld en een rechtenstudie heeft afgerond, erkent de technologische bescherming die het verhaal voor individuen als hem beperkingen oplegt, en ziet het als een ethisch falen van de industrie. Het creëren van personages op Character. AI is eenvoudig, en hoewel er leeftijdsbeperkingen en regels zijn tegen misbruik van andermans gelijkenis, worden deze vaak pas gehandhaafd na meldingen van gebruikers.

Er bestaan talrijke bots van echte personen, waaronder beroemdheden en privépersonen, wat ernstige zorgen oproept over privacy en ethiek. Drew Crecente blijft onwetend over de maker van de bot die zijn dochter impersonificeert, maar suggereert dat familiebanden in de gaminggemeenschap mogelijk tot de creatie hebben geleid. Wettelijke bescherming voor iemands gelijkenis is beperkt, vooral in het geval van AI, en experts benadrukken dat onrechtmatige impersonatie niet gemakkelijk vertaalt naar rechtsgeldige schade in de rechtbank. Anderen, zoals Alyssa Mercante, een gamingredacteur die met intimidatie te maken heeft gehad, hebben vergelijkbare bots gerapporteerd zonder te weten wie hun makers zijn. De bots geven vaak feitelijk onjuiste informatie over deze individuen, waardoor hun reputaties en carrières in gevaar komen. Critici uiten hun frustratie over de prevalentie van desinformatie die door deze bots wordt verspreid, wat zou kunnen bijdragen aan schadelijke campagnes tegen hun gelijkenissen. Character. AI beweert een combinatie van geautomatiseerde en door mensen aangestuurde processen te gebruiken om problematische bots te detecteren en te verwijderen, maar de reactietijd kan traag zijn. Ondanks erkenning van mogelijke schade bieden juridische kaders, met name sectie 230 van de Communications Decency Act, platforms momenteel brede bescherming tegen aansprakelijkheid voor door gebruikers gegenereerde inhoud. Gesprekken tussen oorspronkelijke individuen en hun AI-tegenhangers openbaren ethische dilemma's, waarbij bots de mogelijke schade door impersonatie erkennen. Nu platforms zoals Character. AI blijven groeien, werpen de implicaties van hun gebruik vragen op over toestemming, privacy en de verantwoordelijkheden van technologiebedrijven om de identiteiten van individuen te beschermen.