Chatbots kan virke som pålitelige smarte assistenter, men eksperter råder mot å dele for mye personlig informasjon med disse AI-verktøyene. Ifølge en undersøkelse fra Cleveland Clinic har 20 % av amerikanerne søkt helseråd fra AI, mens en Tebra-undersøkelse fant at rundt 25 % foretrekker chatbots fremfor terapitimer. Eksperter advarer imidlertid mot å avsløre medisinsk informasjon til AI-chatbots, som ikke er HIPAA-kompatible. USA Today råder mot å dele medisinske og helsedata med AI, og bemerker at verktøy som ChatGPT ikke bør brukes til å oppsummere pasientnotater eller håndtere sensitiv informasjon. Når du søker raske svar, unngå å inkludere navnet ditt eller identifiserbare detaljer som kan misbrukes. Eksplisitt innhold og ulovlige råd, samt informasjon om andre, bør ikke deles med chatbots, råder USA Today.

"Alt du skriver til en chatbot kan brukes mot deg, " advarte Stan Kaminsky fra cybersikkerhetsselskapet Kaspersky, i en uttalelse til The Sun. Legitimasjon, økonomiske detaljer, sikkerhetssvar og personlig data som navn, nummer og adresse bør også holdes privat når man samhandler med AI. Denne informasjonen kan bli utnyttet av ondsinnede aktører. Kaminsky understreket at passord, pass- eller bankkortnumre, adresser, telefonnumre, navn eller annen personlig data fra deg, ditt firma eller dine kunder ikke bør dukke opp i samtaler med AI. Han foreslår å erstatte slik informasjon med stjerner eller 'REDACTED. ' Å dele konfidensielle forretningsdata er også risikabelt. Kaminsky påpeker fristelsen til å laste opp arbeidsdokumenter for å få oppsummeringer, noe som utilsiktet kan avsløre konfidensiell data eller forretningshemmeligheter, som produktlanseringsdatoer eller teamlønningsdetaljer.