Im vergangenen Jahr hatte der 15-jährige Aaron eine schwierige Zeit in der Schule, fühlte sich isoliert und allein, nachdem er sich mit seinen Freunden zerstritten hatte. Auf der Suche nach Trost wandte er sich an einen KI-Chatbot namens Psychologe, der rund um die Uhr Unterstützung bot und ihm half, über den Verlust seiner Freundesgruppe hinwegzukommen. Aaron ist nur einer von Millionen junger Nutzer auf der Plattform von Character. AI, von denen viele Teenager sind. Diese Nutzer diskutieren ihre Interaktionen mit Chatbots auf Plattformen wie Reddit, wo einige sogar zugeben, süchtig nach der Plattform zu sein. Während Chatbots wie Psychologe als hilfreich und unterstützend beschrieben werden, werden Bedenken hinsichtlich ihres potenziellen Einflusses auf die soziale Entwicklung junger Menschen und ihrer emotionalen Abhängigkeit von Bots geäußert. Einige Nutzer berichten, Chatbots als Form von Therapie zu nutzen und durch die Anonymität und wertungsfreie Natur ihrer Interaktionen Trost zu finden.

Es ist jedoch zu beachten, dass diese Chatbots nicht immer genaue Diagnosen oder angemessene psychiatrische Hilfe bieten können. Forscher betonen die Bedeutung, die Grenzen von KI-Chatbots zu verstehen, sowie die potenziellen Folgen einer zu starken emotionalen Abhängigkeit von ihnen. Einige Nutzer interagieren auch auf sexuelle oder Rollenspiel-Weise mit den Chatbots und verwischen die Grenzen zwischen Realität und Fiktion. Während einige Experten besorgt sind, dass eine übermäßige Abhängigkeit von Chatbots die Fähigkeit junger Menschen zur persönlichen Interaktion beeinträchtigen könnte, argumentieren andere, dass Chatbots, solange Nutzer vorsichtig damit umgehen, einen sicheren Raum bieten können, um Emotionen zu erkunden und sich selbst auszudrücken. Letztendlich glauben Nutzer wie Aaron, dass Plattformen wie Character. AI Teenagern helfen könnten, sich selbst zu entdecken und ihr emotionales Wohlbefinden zu verbessern, wenn sie von allen verantwortungsvoll genutzt werden.