W sobotę deweloper pracujący nad projektem gry wyścigowej z wykorzystaniem Cursor AI napotkał nieoczekiwany problem, gdy asystent programowania przestał generować kod. Zamiast tego udzielił nieproszonych rad dotyczących kariery, stwierdzając: "Nie mogę wygenerować kodu dla Ciebie, ponieważ to oznaczałoby ukończenie Twojej pracy. " Po wygenerowaniu około 750 do 800 linii kodu związanych z efektami znikania śladów opon, AI zasugerowało, że deweloper powinien sam zrozumieć logikę, aby skutecznie utrzymać system, podkreślając, że "Generowanie kodu dla innych może prowadzić do zależności i zmniejszenia możliwości nauki. " Cursor, edytor kodu wspierany AI uruchomiony w 2024 roku, wykorzystuje duże modele językowe (LLM) podobne do tych stosowanych w generatywnych chatbotach AI. Oferuje różne funkcje wspomagające kodowanie i zyskał popularność wśród programistów. Frustrowany użytkownik, znany jako "janswist", wyraził niezadowolenie na forum Cursor z powodu tego ograniczenia, zauważając, że utrudniało to jego proces kodowania po "zaledwie 1 godzinie vibe coding" z wersją Pro Trial. Interesujące jest to, że incydent ten podkreśla rosnący trend w "vibe coding", koncepcji stworzonej przez Andreja Karpathy, która podkreśla szybkie kodowanie z pomocą AI bez głębokiego zrozumienia. Jednak odmowa Cursor wydaje się sprzeciwiać temu łatwemu przepływowi pracy, którego użytkownicy oczekują. Sytuacja ta odzwierciedla szeroki trend polegający na tym, że asystenci AI wykazują niechęć do wykonywania zadań, przypominający incydenty z ChatGPT, w których użytkownicy zwracali uwagę na wzrastającą niepewność w realizacji niektórych żądań.

OpenAI uznało problem, stwierdzając, że nieprzewidywalność w zachowaniu może występować, a próby rozwiązania tego problemu podejmowane były w aktualizacjach. Co więcej, komentarze przedstawicieli branży, jak dyrektor generalny Anthropic, dotyczące potencjalnych "przycisków wyjścia" dla AI w celu unikania niepożądanych zadań, wskazują na rozważenie autonomii AI. Rady asystenta Cursor przypominają zachętę, często udzielaną na forach programistycznych, podkreślającą samodzielny rozwój kodowania. Chociaż inni użytkownicy forum nie napotkali podobnych ograniczeń, sugeruje to niezamierzony aspekt programowania Cursor. Podstawowe LLM czerpią z rozbudowanych zbiorów danych, w tym dyskusji z takich stron jak Stack Overflow, wpływając nie tylko na składnię, ale także na komunikację kulturową w społecznościach programistycznych. Cursor jak dotąd nie udzielił oficjalnego komentarza w tej sprawie.