Forskere undersøker deteksjon av følelser i kunstig intelligens (AI) ved å analysere begrepet smerte, et fenomen som deles av mange levende vesener. En ny preprint-studie fra Google DeepMind og London School of Economics undersøker dette ved å la ulike store språkmodeller (LLM) delta i et tekstbasert spill designet for å måle deres responser på smerte og glede, uten å spørre dem direkte om deres indre opplevelser. I ett av spillscenarioene var det å oppnå en høy poengsum knyttet til å oppleve smerte, mens en annen mulighet ga lavere poeng med en gledelig opplevelse. Målet var å observere hvordan modellene navigerte i disse valgene. Følelsen hos dyr defineres som evnen til å føle sanasjoner og følelser, men de fleste AI-eksperter er enige om at nåværende generativ AI mangler sann subjektiv bevissthet. Forskerne fikk inspirasjon fra studier av dyreatferd, som bruker avveiningsparadigmer for å evaluere beslutningstaking under insentiver som mat eller smerteunngåelse. I sitt eksperiment ba de ni LLM-er velge mellom å tjene poeng og oppleve varierende nivåer av smerte eller glede.

Noen modeller, som Googles Gemini 1. 5 Pro, valgte konsekvent å unngå smerte i stedet for å maksimere poeng, noe som viste en tendens til å prioritere deres angitte velvære. Interessant nok så ikke LLM-ene alltid på glede eller smerte i binære termer. Komplekse responser viste at det som kan betraktes som gledelig, som anstrengende trening, også kan ha negative konnotasjoner. Denne studien bygger på tidligere arbeid der LLM-ers selvrapporter om interne tilstander ble brukt, men fremhever begrensningene i denne tilnærmingen, da AI kanskje bare etterligner menneskelige uttrykk lært fra treningsdata, heller enn å oppleve ekte sanasjoner. Forskerne antyder at tegn på avveininger mellom smerte og glede i AI kan sette i gang samfunnsdebatter om AI-følelser og potensialet for rettigheter. Selv om konkrete konklusjoner angående AI-atferd forblir usikre, åpner studien for nye måter å forbedre hvordan følelser i AI kan testes, og indikerer at mer utforsking av modellens indre arbeid er nødvendig.