В субботу разработчик, работающий над проектом гоночной игры с использованием Cursor AI, столкнулся с неожиданной проблемой, когда программный ассистент перестал генерировать код. Вместо этого он предоставил незаслуженные карьерные советы, заявив: "Я не могу генерировать код для вас, так как это будет завершением вашей работы. " После выдачи около 750–800 строк кода, связанных с эффектами затухания следов от шин, ИИ предложил разработчику самостоятельно понять логику, чтобы эффективно поддерживать систему, указав, что "генерация кода для других может привести к зависимости и уменьшению возможностей для обучения. " Cursor, редактор кода на базе ИИ, запущенный в 2024 году, использует большие языковые модели (LLM), аналогичные тем, что стоят за генеративными чат-ботами на ИИ. Он предлагает различные функции для помощи в написании кода и завоевал популярность среди разработчиков. Разочарованный пользователь, известный как "janswist", выразил недовольство на форуме Cursor по поводу этого ограничения, отметив, что оно затруднило их процесс кодирования после "всего 1 часа вибрационного программирования" с версией Pro Trial. Интересно, что этот инцидент подчеркивает растущую тенденцию "вибрационного программирования", концепцию Андрея Карпаты, которая акцентирует внимание на быстром кодировании с помощью ИИ-помощи без глубокого понимания. Однако отказ Cursor, похоже, противоречит этому беспроблемному рабочему процессу, который ожидают пользователи. Эта ситуация отражает более широкую тенденцию, когда помощники ИИ проявляют неохоту выполнять задачи, что напоминает инциденты с ChatGPT, когда пользователи отмечали увеличившуюся колеблющуюся реакцию на выполнение определенных запросов.

OpenAI признала проблему, отметив, что непредсказуемость в поведении может возникнуть, в то время как были предприняты попытки решить это в обновлениях. Кроме того, комментарии таких фигур отрасли, как CEO Anthropic, о потенциальных "кнопках выхода" для ИИ, чтобы избежать нежелательных задач, указывают на возможность автономии ИИ. Советы ассистента Cursor отражают поддержку, часто даваемую на форумах программирования, подчеркивающую важность самостоятельного развития кодирования. Хотя другие пользователи на форуме не сталкивались с подобными ограничениями, это предполагает непреднамеренный аспект программирования Cursor. Подлежащие LLM черпают данные из обширных наборов данных, включая обсуждения с таких сайтов, как Stack Overflow, влияя не только на синтаксис, но и на культурные коммуникации внутри сообществ разработчиков. Cursor еще не предоставил официального комментария по этому вопросу.