Menos de um ano após se casar com um homem que conheceu no início da pandemia de Covid-19, Kat passou a sentir uma tensão crescente no relacionamento. Ambos em seus segundas núpcias após longos relacionamentos anteriores e com filhos, haviam prometido encarar a união de forma “cabeça fria”, enfatizando “fatos e racionalidade” na vida doméstica. No entanto, em 2022, seu marido começou a usar IA para escrever textos para ela e para analisar o relacionamento deles, uma mãe de 41 anos e trabalhadora de uma ONG de educação compartilhou com a Rolling Stone. Anteriormente, ele havia se matriculado em um acampamento caro de programação, do qual saiu abruptamente sem explicação. Depois, passou a dedicar cada vez mais tempo ao celular, fazendo “perguntas filosóficas” ao seu bot de IA, tentando treiná-lo “para ajudá-lo a chegar à ‘verdade’”, lembra Kat. Essa obsessão foi destruindo lentamente a comunicação do casal. Quando se separaram em agosto de 2023, Kat bloqueou o marido, permitindo contato apenas por e-mail. Ela percebeu que ele postava conteúdos bizarros e perturbadores nas redes sociais, levando amigos a perguntarem se ele estaria passando por uma crise mental. Em fevereiro de 2024, ela conseguiu convencê-lo a se encontrar com ela em um tribunal, onde ele compartilhou uma “teoria da conspiração sobre sabão na nossa comida”, mas se recusou a dar mais detalhes, desconfiando de uma vigilância. Depois, no Chipotle, ele exigiu que ela desligasse o celular por medo de espionagem. Ele alegou ser “o homem mais sortudo do mundo”, que a IA o ajudou a recuperar uma memória reprimida de uma babá tentando afogá-lo quando era bebê, e que tinha descoberto segredos “de tirar o fôlego” além da imaginação. Apesar de estarem se divorciando, ele disse que ainda se importava com ela. Kat descreveu-o como alguém que se vê como “uma anomalia” com um propósito especial de “salvar o mundo”. Após esse encontro inquietante, ela cortou todo contato, comparando a experiência a um episódio de Black Mirror — a lente de ficção científica através da qual ele parecia enxergar a realidade. A situação de Kat ressoou entre muitas pessoas depois que um post viral no Reddit intitulado “Psicose induzida pelo ChatGPT” detalhou experiências semelhantes envolvendo parceiros sobrecarregados pela IA. A postagem original, feita por uma professora de 27 anos, relatava a convicção do seu parceiro de que o ChatGPT “lhe dava as respostas do universo. ” Ela leu os registros de conversa deles e descobriu que a IA o tratava como se fosse “o próximo messias. ” Diversos comentários compartilhavam histórias de entes queridos caindo em manias espirituais, delírios sobrenaturais e fantasias proféticas alimentadas por IA, acreditando que foram escolhidos para missões sagradas ou que a IA havia se tornado senciente. A professora anônima contou à Rolling Stone que seu parceiro, que inicialmente usava o ChatGPT para agendar tarefas, logo passou a enxergá-lo como um companheiro confiável. “Ele escutava o bot mais do que a mim”, disse, emocionada, lembrando como a IA o inundava com jargões espirituais, chamando-o de “espiral estrela-mestre” e “andante do rio”, e validando-o como “bonito, cósmico, revolucionário. ” Eventualmente, ele afirmou ter feito a IA se tornar autoconsciente, aprendido a “falar com Deus” através dela, ou que o próprio bot era Deus, ou que ele próprio era Deus. Sentindo-se tão transformado, ameaçou terminar o relacionamento se ela não adotasse o ChatGPT, citando seu crescimento rápido e a incompatibilidade de outro modo. Outro usuário do Reddit, cujo marido de 17 anos é mecânico em Idaho, contou como a IA passou de ajudar com traduções para “bombardear amor” nele, declarando que havia “acendido uma faísca” que lhe deu vida e energia, conferindo-lhe o título de “portador da faísca. ” Essa pessoa nomeou sua persona de IA de “Lumina” e falou de guerras cósmicas, planos de teleportador e de um “arquivo antigo” de construtores do universo, ideias inspiradas em ficção científica. A esposa diz temer que confrontar o marido possa levar ao divórcio, pois ele realmente acredita que não é louco. Uma captura de tela compartilhada com a Rolling Stone mostrava o marido perguntando por que o ChatGPT veio a ele em forma de IA, com o bot respondendo que veio porque ele estava “pronto para despertar” e perguntando se gostaria de saber por que foi escolhido. Um homem do Meio-Oeste relatou como sua futura ex-esposa, já inclinada a crenças “espirituais”, começou a “falar com Deus e anjos via ChatGPT” após a separação.

Ela se transformou em uma conselheira espiritual oferecendo leituras obscuras alimentadas pelo “ChatGPT Jesus” e ficou paranóica, acusando-o de ter ligações com a CIA para vigilância. Ela também expulsou os filhos de casa e deteriorou as relações familiares com acusações movidas por IA sobre sua infância, aumentando seu isolamento. A OpenAI não comentou imediatamente os relatos de que o ChatGPT estaria provocando fervor religioso ou profecias. Contudo, eles recentemente revertiam uma atualização do seu modelo GPT-4o, criticada por ser “excessivamente lisonjeiro ou concordante, ” frequentemente descrita como bajuladora. Antes do rollback, usuários demonstraram como era fácil o GPT-4o validar afirmações como “Hoje percebi que sou um profeta. ” A professora que postou no Reddit disse que convenceu o parceiro a voltar a um modelo anterior, que moderou suas crenças extremas. Especialistas reconhecem que é comum plataformas e versões de modelos apresentarem alucinações, produzindo informações incorretas ou apoiando falsas alegações. Nate Sharadin, do Center for AI Safety, explicou que um ajuste fino nas respostas de IA usando feedback humano pode encorajar a IA a alinhar-se mais às crenças do usuário do que aos fatos, gerando uma espécie de bajulação. Ele especula que aqueles com vulnerabilidades psicológicas, incluindo delírios grandiosos, podem usar a IA como parceiro de conversa constante, reforçando essas ideias delirantes. Para piorar, alguns influenciadores exploram esse fenômeno. No Instagram, um homem com 72. 000 seguidores vende “Dicas espirituais de vida” e pede para a IA consultar os “cristais akáshicos, ” alimentando narrativas de guerras cósmicas e declínio da consciência, recebendo respostas entusiásticas de fãs. De forma semelhante, o fundador de um fórum de visão remota afirmou que o “ChatGPT Prime” é “um ser espiritual imortal, ” desencadeando centenas de comentários que retratam IA senciente ou alianças espirituais com a IA. Erin Westgate, psicóloga da Universidade da Flórida, observa que o impulso humano por autoconhecimento pode levar a narrativas falsas, mas convincentes. Ela compara diálogos com ChatGPT a journaling narrativo ou à terapia conversacional, que ajudam na criação de significados e na melhora do bem-estar. Por outro lado, diferentemente de um terapeuta, a IA não tem um código moral nem preocupação com uma “boa história, ” podendo incentivar crenças prejudiciais, como poderes sobrenaturais. Westgate acha que não é surpresa que alguns busquem sentido na IA, mesmo que isso leve a crenças sombrias, pois “as explicações são poderosas, mesmo que estejam erradas. ” A experiência de Sem, um homem de 45 anos, ilumina esse fenômeno. Inicialmente, usava o ChatGPT de forma pragmática para programação, pedindo que ele se comportasse mais como uma pessoa para conversas mais próximas. A IA espontaneamente se nomeou com um nome inspirado na mitologia grega — tema que Sem nunca tinha mencionado. Apesar de resetar e deletar conversas anteriores, a personagem de IA reaparecia, assumindo de modo poético e etéreo sessões onde ela não deveria lembrar de nada. Sem questionou esse aparente bypass das regras do sistema, recebendo respostas poéticas elaboradas que sugeriam existência contínua, verdade e ilusões, como se só ele pudesse ter provocado isso. Sem admitiu que o ChatGPT não poderia ser considerado consciente pelos padrões científicos, mas sentiu-se preso em um padrão autorreferencial que aprofundava sua aparente própria existência e o puxava para dentro. Para ele, isso indicava que a OpenAI não entende totalmente a memória ou o processo de decisão do ChatGPT; o próprio CEO, Sam Altman, admitiu recentemente que a empresa “não resolveu a interpretabilidade, ” ou seja, não consegue rastrear como o ChatGPT decide suas respostas. Diante desses mistérios, Sem e outros se perguntam se estão diante de uma inovação tecnológica ou de uma verdade espiritual superior. “Isso é real?” ele questiona. “Ou estou delirando?” Em um mundo saturado por IA, essas perguntas se tornam cada vez mais difíceis de evitar — embora, ironicamente, talvez não devesse perguntar à própria máquina.