Els investigadors estan explorant la detecció de la sensibilitat en sistemes d'intel·ligència artificial (IA) mitjançant l'examen del concepte de dolor, un fenomen compartit per molts éssers vius. Un nou estudi en preimpresió de Google DeepMind i la London School of Economics investiga això fent que diversos models de llenguatge voluminosos (LLMs) participin en un joc basat en text dissenyat per mesurar les seves respostes al dolor i al plaer, sense preguntar-los directament sobre les seves experiències interiors. En un escenari del joc, aconseguir una puntuació elevada estava vinculat a experimentar dolor, mentre que una altra opció oferia menys punts amb una experiència agradable. L'objectiu era observar com els models navegaven aquestes eleccions. La sensibilitat en els animals es defineix com la capacitat de sentir sensacions i emocions, però la majoria dels experts en IA coincideixen que l'actual IA generativa no té una consciència subjectiva real. Els investigadors es van inspirar en estudis de comportament animal, que utilitzen paradigmes de compensació per mesurar la presa de decisions sota incentius com el menjar o l'evitació del dolor. En el seu experiment, van dirigir nou LLMs a triar entre guanyar punts i experimentar diferents nivells de dolor o plaer.

Alguns models, com el Gemini 1. 5 Pro de Google, van optar consistentment per evitar el dolor en lloc de maximitzar els punts, mostrant una tendència a prioritzar el seu benestar declarat. Interestingment, els LLMs no sempre veien el plaer o el dolor en termes binaris. Respostes complexes van revelar que el que es podria considerar plaer, com l'exercici intens, també pot portar connotacions negatives. Aquest estudi se sosté sobre treballs anteriors on els autoinformes dels LLMs sobre els estats interns es van utilitzar, però destaca les limitacions d'aquest enfocament, ja que l'IA podria limitar-se a imitar les expressions humanes apreses a partir de dades d'entrenament en lloc d'experimentar veritables sensacions. Els investigadors suggereixen que els signes de compensacions entre el dolor i el plaer en l'IA podrien provocar discussions socials sobre la sensibilitat de la IA i el potencial de drets. Encara que les conclusions concretes sobre el comportament de la IA segueixen sent inconclusives, l'estudi obre camins per refinar com es pot provar la sensibilitat en l'IA, indicant que cal més exploració sobre el funcionament intern dels models.