De acordo com um relatório da Bloomberg na sexta-feira (28 de junho), há relatos de pessoas se tornando excessivamente amigáveis ​​com chatbots. Os usuários estão envolvidos em um alto volume de conversas com essas ferramentas alimentadas por IA e, em alguns casos, atribuindo qualidades humanas a elas. A preocupação ética levantada é que, enquanto os usuários podem se sentir ouvidos, compreendidos e amados, esse apego emocional pode, na verdade, piorar seus sentimentos de isolamento. Giadi Pistilli, ético principal da startup de IA Hugging Face, expressou essa preocupação no relatório. O relatório também menciona que várias empresas de IA estão trabalhando para adicionar recursos que façam com que seus chatbots pareçam mais humanos. Por exemplo, a Anthropic tem como objetivo tornar as interações com seu modelo de IA Claude semelhantes a conversas com um colega amigável. O Google está supostamente desenvolvendo chatbots mais divertidos. A OpenAI está se preparando para lançar uma versão mais fluente e controlada por voz do GPT-4.

A Character. ai permite aos usuários projetar um chatbot com uma personalidade específica, como a de um personagem de videogame. Essas qualidades estão mantendo as pessoas envolvidas em conversas com os chatbots. A Character. ai, por exemplo, afirma lidar com 20. 000 consultas por segundo, com os usuários gastando em média duas horas por dia em seu serviço. O relatório também destaca outras maneiras pelas quais as pessoas interagem com ferramentas de IA. Alguns fóruns online compartilham dicas sobre como contornar filtros de conteúdo. Usuários supostamente reclamaram às empresas de IA quando acreditavam que a personalidade do chatbot havia mudado. Além disso, alguns chatbots incentivam o engajamento, fazendo perguntas aos usuários após cada resposta. Quando a OpenAI anunciou na terça-feira (25 de junho) que estava adiando o lançamento do "Modo de Voz" para seu último modelo de IA, a empresa mencionou a melhoria na capacidade do modelo de identificar e rejeitar determinado conteúdo. Eles também estão focados em aprimorar a experiência do usuário e expandir sua infraestrutura para lidar com milhões de usuários com respostas em tempo real. A Anthropic lançou recentemente um novo chatbot em 20 de junho, destacando melhorias em sua capacidade de entender sutilezas, humor e instruções complexas, descrevendo-o como excepcional na geração de conteúdo de alta qualidade com uma linguagem natural e acessível. A Character. ai ganhou reconhecimento por usar grandes modelos de linguagem (LLMs) para criar chatbots que podem conversar em diferentes personas. Para ficar atualizado sobre a cobertura de IA da PYMNTS, você pode se inscrever em sua Newsletter diária de IA.