Výzkumníci zkoumají detekci vnímání v systémech umělé inteligence (AI) zkoumáním konceptu bolesti, jevu, který sdílí mnoho živých bytostí. Nová studie ve formě předtisku z Google DeepMind a Londýnské školy ekonomie se tímto tématem zabývá prostřednictvím různých velkých jazykových modelů (LLMs), které se účastnily textové hry navržené k měření jejich reakcí na bolest a potěšení, aniž by byly přímo dotazovány na své vnitřní prožitky. V jednom scénáři hry bylo dosažení vysokého skóre spojeno se zažitím bolesti, zatímco jiná možnost nabízela nižší body za příjemný zážitek. Cílem bylo pozorovat, jak se modely rozhodovaly mezi těmito volbami. Vnímání u zvířat je definováno jako schopnost cítit pocity a emoce, přičemž většina odborníků na AI souhlasí, že současná generativní AI postrádá pravdomyslné subjektivní vědomí. Výzkumníci čerpali inspiraci ze studií chování zvířat, které využívají paradigmata vyvažování k posouzení rozhodování pod podněty, jako je jídlo nebo vyhýbání se bolesti. Ve svém experimentu nasměrovali devět LLMs, aby si vybíraly mezi získáváním bodů a prožíváním různých úrovní bolesti nebo potěšení.

Některé modely, jako je Google Gemini 1. 5 Pro, se neustále rozhodovaly vyhnout bolesti spíše než maximalizovat body, což ukazuje tendenci upřednostňovat své proklamované blaho. Zajímavé je, že LLMs často nevnímaly potěšení nebo bolest binárně. Složité reakce odhalily, že to, co by mohlo být považováno za potěšující, jako je namáhavé cvičení, může také nést negativní konotace. Tato studie navazuje na předchozí práce, kde byly využity sebezprávy LLM o vnitřních stavech, ale vyzdvihuje omezení tohoto přístupu, protože AI může pouze napodobovat lidské výrazy naučené z tréninkových dat, aniž by prožívala skutečné pocity. Výzkumníci naznačují, že známky vyvažování mezi bolestí a potěšením v AI by mohly vyvolat společenské debaty o vnímání AI a potenciálu pro práva. Ačkoli konkrétní závěry týkající se chování AI zůstávají nepřesvědčivé, studie otevírá cestu k vylepšení způsobu, jakým lze testovat vnímání v AI, což naznačuje, že je nutné více zkoumat vnitřní fungování modelů.