Según un informe de Bloomberg del viernes (28 de junio), ha habido informes de personas que se vuelven demasiado amigables con los chatbots. Los usuarios están participando en una gran cantidad de conversaciones con estas herramientas impulsadas por la inteligencia artificial y, en algunos casos, les atribuyen cualidades humanas. La preocupación ética planteada es que, aunque los usuarios pueden sentirse escuchados, comprendidos y amados, este apego emocional puede empeorar realmente sus sentimientos de aislamiento. Giadi Pistilli, eticista principal de la startup de inteligencia artificial Hugging Face, expresó esta preocupación en el informe. El informe también menciona que varias compañías de IA están trabajando en agregar características para que sus chatbots se parezcan más a los humanos. Por ejemplo, Anthropic tiene como objetivo hacer que las interacciones con su modelo de IA llamado Claude sean similares a las conversaciones con un colega amistoso. Se dice que Google está desarrollando chatbots más entretenidos. OpenAI está preparando el lanzamiento de una versión de GPT-4 más fluida y basada en voz.

Character. ai permite a los usuarios diseñar un chatbot con una personalidad específica, como una que se asemeje a un personaje de videojuego. Estas cualidades mantienen a las personas comprometidas en conversaciones con los chatbots. Por ejemplo, Character. ai afirma manejar 20. 000 consultas por segundo, y los usuarios pasan un promedio de dos horas al día en su servicio. El informe también destaca otras formas en que las personas interactúan con herramientas de IA. Algunos foros en línea comparten consejos para eludir filtros de contenido. Según se informa, los usuarios se han quejado a las empresas de IA cuando creen que la personalidad del chatbot ha cambiado. Además, algunos chatbots fomentan la participación al incitar a los usuarios con preguntas después de cada respuesta. Cuando OpenAI anunció el martes (25 de junio) que estaba retrasando el lanzamiento del "Modo de voz" para su último modelo de IA, la compañía mencionó la mejora de la capacidad del modelo para identificar y rechazar cierto contenido. También se están centrando en mejorar la experiencia del usuario y ampliar su infraestructura para manejar millones de usuarios con respuestas en tiempo real. Anthropic lanzó recientemente un nuevo chatbot el 20 de junio, resaltando mejoras en su capacidad para comprender el matiz, el humor y las instrucciones complejas, al describirlo como excepcional en la generación de contenido de alta calidad con un tono natural y relatable. Character. ai ha ganado reconocimiento por utilizar grandes modelos de lenguaje (LLMs) para crear chatbots que pueden conversar en diferentes personajes. Para mantenerse actualizado sobre la cobertura de IA de PYMNTS, puede suscribirse a su boletín de noticias diario sobre IA.