Если вы ищете новую причину, чтобы почувствовать беспокойство по поводу искусственного интеллекта, рассмотрите это: некоторые из самых выдающихся умов мира сталкиваются с трудностями в создании тестов, которые системы ИИ не могут пройти. На протяжении многих лет ИИ-системы оценивались с использованием различных стандартных контрольных тестов. Многие из этих тестов содержали сложные вопросы уровня SAT по таким предметам, как математика, наука и логика. Отслеживание результатов этих моделей с течением времени давало общее представление об успехах в области ИИ. Однако вскоре ИИ-системы стали превосходить эти оценки, что привело к разработке более сложных тестов — зачастую включающих вопросы, с которыми могут столкнуться аспиранты на своих экзаменах. К сожалению, эти тесты также показывают плохие результаты. Новые модели от компаний, таких как OpenAI, Google и Anthropic, достигают высоких оценок на многих задачах уровня аспирантуры, что снижает эффективность тестов и поднимает тревожный вопрос: становятся ли ИИ-системы слишком умными, чтобы мы могли их оценивать? На этой неделе исследователи из Центра безопасности ИИ и Scale AI собираются предложить возможный ответ: новую оценку под названием «Последний экзамен человечества», которая, по их утверждениям, является самым сложным тестом, когда-либо предложенным для ИИ-систем. «Последний экзамен человечества» был задуман Дэном Хендриксом, известным исследователем безопасности ИИ и директором Центра безопасности ИИ.

(Первоначальное название теста, «Последняя стойка человечества», было оставлено из-за избыточной театральности. ) Спасибо за понимание, пока мы подтверждаем доступ. Если вы находитесь в режиме чтения, пожалуйста, выйдите и войдите в свою учетную запись Times или подписывайтесь для получения полного доступа к The Times. Спасибо за понимание в ходе процесса проверки. Вы уже подписчик?Войдите в свою учетную запись. Хотите получить полный доступ к The Times?Подпишитесь.