Исследователи изучают возможность обнаружения сознания в системах искусственного интеллекта (ИИ) через изучение концепции боли, явления, общим для многих живых существ. Новое препринтное исследование от Google DeepMind и Лондонской школы экономики исследует это, предлагая различным большим языковым моделям (БЯМ) участвовать в текстовой игре, предназначенной для оценки их реакций на боль и удовольствие, без прямых вопросов о их внутренних переживаниях. В одном из игровых сценариев достижение высокого результата было связано с ощущением боли, в то время как другая опция предлагала меньше очков за удовольствие. Целью было наблюдать, как модели справляются с этими выборами. Сознание у животных определяется как способность чувствовать ощущения и эмоции, однако большинство экспертов в области ИИ согласны с тем, что текущий генеративный ИИ лишен истинного субъективного сознания. Исследователи черпали вдохновение из изучения поведения животных, которые используют парадигмы компромисса для оценки принятия решений под воздействием стимулов, таких как еда или избегание боли. В своем эксперименте они попросили девять БЯМ выбирать между получением очков и переживанием разных уровней боли или удовольствия.

Некоторые модели, такие как Gemini 1. 5 Pro от Google, постоянно предпочитали избегать боли, а не максимизировать очки, показывая склонность к приоритизации своего заявленного благополучия. Интересно, что БЯМ не всегда воспринимали удовольствие или боль в бинарных терминах. Сложные ответы показали, что то, что может считаться приятным, например, интенсивные физические нагрузки, может также иметь негативные коннотации. Это исследование основывается на предыдущих работах, где использовались самоотчеты БЯМ о внутренних состояниях, но подчеркивает ограничения этого подхода, поскольку ИИ может просто имитировать человеческие выражения, изученные из обучающих данных, вместо того чтобы испытывать истинные ощущения. Исследователи предполагают, что признаки компромисса между болью и удовольствием в ИИ могут вызвать общественные дискуссии о сознании ИИ и потенциальных правах. Хотя конкретные выводы о поведении ИИ остаются неопределенными, исследование открывает пути для уточнения методов тестирования сознания в ИИ, указывая на необходимость дальнейшего изучения внутренних механизмов моделей.