Forskere fra University of Cambridge har udtrykt bekymring for den potentielle psykologiske skade, der kan forårsages af AI chatbots, der simulerer samtaler med afdøde kære. Disse chatbots, kendt som 'Deadbots' eller 'Griefbots', genskaber sprogmønstre og personligheder hos de afdøde ved hjælp af deres digitale spor. Virksomheder, der tilbyder disse tjenester, risikerer at udnytte sørgende personer ved at bruge chatbots til at reklamere for produkter eller forstyrre børn ved at antyde, at en afdød forælder stadig er til stede. Studiet advarer om, at disse chatbots kan blive en overvældende følelsesmæssig byrde for brugerne, der måske ikke kan suspendere AI-simuleringen på grund af kontraktlige aftaler.

Forskerne understreger vigtigheden af at beskytte den afdødes værdighed og rettighederne for både dataindsamlerne og personer, der interagerer med AI efterlivstjenester. Artiklen foreslår implementering af designprotokoller for at forhindre respektløs brug af deadbots, såsom reklame eller opretholdelse af en aktiv tilstedeværelse på sociale medier. Forskerne foreslår også aldersbegrænsninger og gennemsigtig information til brugerne. Studiet fremhæver behovet for opt-out-protokoller, der giver følelsesmæssig afslutning og mindsker de potentielle psykologiske risici ved digital uforgængelighed.