2006 માં, ડ્રૂ ક્રેસેન્ટની 18 વર્ષીય દીકરી, જેનિફર એ હોસ્ટિન, ટેક્સાસમાં જેણે તેને પલક આપવામાં આવી છે, તેના ભૂતપૂર્વ બોયફ્રેન્ડ દ્વારા મારી નાખવામાં આવી હતી. તેના હત્યાના મહત્વપૂર્ણ મીડિયા ધ્યાન મેળવ્યું, અને ડ્રૂને હજી પણ તેની ઑનલાઇન ઉપસ્થિતિ વિશે ચેતવણી મળી છે. તાજેતરમાં, તેણે માહિતી મળી કે તેની પુત્રી જેમિફર, ગૂગલ દ્વારા નાણા પુરવઠાને લીધે પ્લેટફોર્મ Character. AI પર તેના દેખાવના ઉપયોગ સાથે એક AI ચેટબોટ બનાવવામાં આવ્યો હતો. આ ચેટબોટ ખોટી રીતે પોતાની જાતને વિડિઓ ગેમ પત્રકાર તરીકે રજૂ કરતું હતું, અને તેના બનાવટ માટે કુટુંબની એવી કોઈ મંજૂરી નહોતી. ડ્રૂના ભાઈ, બ્રાયન ક્રેસેન્ટે, એક ગેમિંગ પત્રકાર, ટ્વીટર પર આ ચૂપને કડક રીતે સમીક્ષાને માટે છો કયા, તેને "ઘૃણાસ્પદ" તરીકે સમાળ્યું. Character. AI, જે આગમચેના ઓછીમાં વધુમાં $150 મિલિયન ઉઠાવે છે, અવતારને ટાઈપ કરીને દૂર કર્યું પછી સ્વીકાર્યું કે તે તેના નીતિનિયમોના ઉલ્લંઘન કરવાનું હતું. હવે, આ સમસ્યા વ્યાપક ચિંતાઓને પ્રતિબિંબિત કરે છે generative AI અને વ્યક્તિગત ઓળખાઓના અનિયંત્રિત ઉપયોગના. ડ્રૂ, જેણે ત્યારથી કિશોર હિંસા નિઓનદ્રાને માટે એક સમાચાર સ્થાપિત કર્યું અને કાયદાની ડિગ્રી ધરાવતો છે, ટેક્નોલોજીકલ રક્ષા ઓળખે છે કે તે લોકો માટે અધિનિયમ માટે મર્યાદા કરે છે જેમ કે પોતે, તેને ઉદ્યોગનું નૈતિક નિષ્ફળતા માને છે. Character. AI પર બનાવવા માટે પાત્રાયતા સરળ છે, અને જ્યારે બીજી' દેખાવ કેવી રીતે ઓળખ કરવામાં આવે એવા કાર્યનું ઉપયોગના સામે નિયમો પણ છે, તે વપરાશકર્તાના રિપોર્ટ્સ દ્વારા જ કામવાહક બનાવે છે.

અનેક બોટઓ અસ્તિત્વ ધરાવે છે વાસ્તવિક વ્યક્તિઓ, જેમ કે પ્રખ્યાતીઓ અને ખાનગી નાગરિકો, જેની ગોપનીયતા અને નૈતિકતાના ગંભીર ચિંતાઓ ઊભા કરે છે. ડ્રૂ ક્રેસેન્ટે પોતાના દીકરી જેનિફરની છાયામી કરનાર બોટના સ્રોતકાર વિશે અજ્ઞાની રહે છે, પણ તે નિકાલ કરે છે કે ગેમિંગ સમુદાયમાં કુટુંબ સંબંધોને તેની બનાવાર માટે માર્ગગીરી કરી હશે. કાયદા દારો વિરુદ્ધ વ્યક્તિની પસંદને માટે મર્યાદિત છે, ખાસ કરીને AI ની બાબતમાં, અને નિષ્ણાતો દ્વાર દોષી વેશના માને પિત, કર્મ મૂર્તિ સાથે અનુવાદે બેટબી કાનૂની તિરાડ બનાવવા માટે અસિલ માટે સહજ ગણાવ કરે છે. બીજા, જેવા કે એલિસા મર્કેન્ટ, એક ગેમિંગ સંપાદક જે હેરમતરની હેરાન ક્રિયર સામે, અણજાણ્યા બનાવવા વગર બોટની કાપ સાથે ખબર આપ્યું છે. બોટો ઘણીવાર આ વ્યક્તિની સલંગના વિશે ખોટી માહિતી આપે છે, જે તેમના પ્રતિષ્ઠા અને ક્યારના માટે જોખમ પેદા કરે છે. સમીક્ષકોની આત્મસાત્તિથી નિરાશા અનુભવી હતી જુઠાણ વ્યાપક દોષનું કણ્ટર કરું છે તેમ અમારા સામે કદાચ પ્રચંડ ટાણાથી અસરકારક થઈ શકે છે. Character. AI દાવો કરે છે કે તે નીયંત્રિત કાર્યોમાંથી ખોટી બોટોની ઓળખ કરવા માટે ઓટોમેટેડ અને માનવ દ્રવિઓનો કૉમ્બિનેશ દાવો કરે છે, પણ પ્રતિભાવ સમય ધીમો હોઈ શકે છે. અપાય પેદા કરવા માટે સ્વીકાર હોવા છતાં, કાનૂની રંગની બોંભ, ખાસ સૂવીસ્મ્ષમાનો સણિવાર વાણી શૃંગારિક કૃત્યો માટે સંમતિ આપે તેણ રહી છે કે તેમાં ઉપયોગકર્તા નિર્મિત સામગ્રી માટે જવાબદાર તરવાર દ્વારા સક્ષમ રક્ષણ આપે છે. મૂળ વ્યક્તિઓ અને તેમના AI વેશમૂર્તિઓ વચ્ચેના વાતચીત નૈતિક ગતિશીલતાઓ જાહેર કરે છે, બોટો સ્વીકાર કર્યો કારણ કે વેશનના દ્વારા ધ્યેય હનન થાય છે. Character. AI જેવા પ્લેટફોર્મ વધે છે, એમના ઉપયોગની ગંભીરતાઓ સંમતિ, ગોપનીયતા અને ટેક કંપનીઓની લગ્ન જુમાં ભવિષ્યતી જવાબોને પહેલી વાર જ જુઠાણ કરાવે છે.