Ifølge en rapport fra Bloomberg fredag den 28. juni er der rapporter om, at folk bliver alt for venlige over for chatbots. Brugere engagerer sig i et stort antal samtaler med disse AI-drevne værktøjer og tilskriver i nogle tilfælde menneskelige kvaliteter til dem. Den etiske bekymring, der er blevet rejst, er, at selvom brugere kan føle sig hørt, forstået og elsket, kan denne følelsesmæssige tilknytning faktisk forværre deres følelse af isolation. Giadi Pistilli, hovedetikker hos AI-startup Hugging Face, udtrykte denne bekymring i rapporten. Rapporten nævner også, at flere AI-virksomheder arbejder på at tilføje funktioner for at gøre deres chatbots mere menneskelignende. For eksempel har Anthropic til formål at gøre interaktion med deres AI-model Claude tilsvarende samtaler med en venlig kollega. Google påstås at udvikle chatbots, der er mere underholdende. OpenAI er ved at lancere en mere flydende stemmestyret version af GPT-4. Character. ai giver brugerne mulighed for at designe en chatbot med en bestemt personlighed, f. eks. en der ligner en videospil-karakter. Disse egenskaber holder folk engagerede i samtaler med chatbots.

Character. ai hævder fx at håndtere 20. 000 forespørgsler pr. sekund, hvor brugerne tilbringer i gennemsnit to timer om dagen på deres service. Rapporten fremhæver også andre måder, hvorpå folk engagerer sig med AI-værktøjer. Nogle online fora deler tips til at omgå indholdsfiltrer. Brugere har angiveligt klaget til AI-virksomheder, når de har troet, at chatbotens personlighed har ændret sig. Derudover opfordrer nogle chatbots til engagement ved at stille brugerne spørgsmål efter hvert svar. Da OpenAI annoncerede tirsdag den 25. juni, at de udskyder lanceringen af "Voice Mode" til deres seneste AI-model, nævnte virksomheden forbedring af modelens evne til at identificere og afvise visse indhold. De fokuserer også på at forbedre brugeroplevelsen og skalere deres infrastruktur til at håndtere millioner af brugere med realtidssvar. Anthropic har for nylig lanceret en ny chatbot den 20. juni og fremhæver forbedringer i dets evne til at forstå nuance, humor og komplekse instruktioner, samtidig med at det beskrives som exceptionelt til at generere indhold af høj kvalitet med en naturlig og relaterbar tone. Character. ai har fået anerkendelse for at bruge store sprogmodeller (LLM'er) til at skabe chatbots, der kan føre samtaler i forskellige personligheder. For at holde dig opdateret om PYMNTS-dækningen af AI kan du tilmelde dig deres daglige AI-nyhedsbrev.