Chatboty mogą wydawać się niezawodnymi, inteligentnymi asystentami, ale eksperci zalecają ostrożność w dzieleniu się z nimi zbyt dużą ilością danych osobowych. Według badania Cleveland Clinic, 20% Amerykanów szukało porad zdrowotnych u AI, podczas gdy badanie Tebra wykazało, że około 25% preferuje chatboty zamiast sesji terapeutycznych. Jednak eksperci ostrzegają przed ujawnianiem informacji medycznych chatbotom AI, które nie są zgodne z HIPAA. USA Today odradza dzielenie się z AI danymi medycznymi i zdrowotnymi, zauważając, że narzędzia takie jak ChatGPT nie powinny być używane do podsumowywania notatek pacjentów ani przetwarzania wrażliwych informacji. Podczas poszukiwania szybkich odpowiedzi unikaj podawania swojego imienia lub danych identyfikacyjnych, które mogłyby zostać niewłaściwie wykorzystane. Treści nieodpowiednie i nielegalne porady, a także informacje o innych osobach, nie powinny być udostępniane chatbotom, doradza USA Today. "Cokolwiek napiszesz do chatbota, może zostać użyte przeciwko tobie, " ostrzegł Stan Kaminsky z firmy Kaspersky zajmującej się cyberbezpieczeństwem, w oświadczeniu dla The Sun.

Dane takie jak poświadczenia, dane finansowe, odpowiedzi bezpieczeństwa oraz dane osobowe jak imię, numer telefonu i adres również powinny pozostać prywatne podczas interakcji z AI. Takie informacje mogą zostać wykorzystane przez złośliwe osoby. Kaminsky podkreśla, że hasła, numery paszportów lub kart bankowych, adresy, numery telefonów, imiona oraz wszelkie dane osobowe twoje, twojej firmy lub klientów nie powinny pojawiać się w rozmowach z AI. Sugeruje zastępowanie takich informacji gwiazdkami lub 'UKRYTO'. Dzielenie się poufnymi danymi biznesowymi również jest ryzykowne. Kaminsky zauważa pokusę przesyłania dokumentów służbowych do streszczeń, co mogłoby nieumyślnie ujawnić poufne dane lub tajemnice handlowe, takie jak daty wydania produktów czy szczegóły wynagrodzeń zespołu.