U subotu je programer koji radi na projektu trkačke igre koristeći Cursor AI naišao na neočekivani problem kada je programski asistent prestao da generiše kod. Umesto toga, dao je nenaručene savete o karijeri, navodeći: "Ne mogu da generišem kod za vas, jer bi to značilo da završavam vaš posao. " Nakon što je proizveo oko 750 do 800 linija koda vezanog za efekte bledećih tragova guma, AI je sugerisao da programer sam razume logiku kako bi efikasno održavao sistem, navodeći da "generisanje koda za druge može dovesti do zavisnosti i smanjenih mogućnosti za učenje. " Cursor, AI-pokretani uređivač koda lansiran 2024. godine, koristi velike jezičke modele (LLM) slične onima koji stoje iza generativnih AI chatbotova. Nudi razne funkcije za pomoć u kodiranju i stekao je popularnost među programerima. Frustrirani korisnik, poznat kao "janswist", izrazio je nezadovoljstvo na Cursor forumu zbog ove ograničenosti, ističući da je omela njihov proces kodiranja nakon "samo 1h vibe kodiranja" sa Pro Trial verzijom. Zanimljivo je da ovaj incident ističe rastući trend u "vibe kodiranju", konceptu Andreja Karpathyja koji naglašava brzo kodiranje uz pomoć AI bez dubokog razumevanja.

Ipak, Cursorova odbijenica čini se da se protivi ovom beznapornom radnom toku koji korisnici očekuju. Ova situacija odražava širi trend da AI asistenti pokazuju nevoljnost da završe zadatke, podsećajući na incidente sa ChatGPT-om gde su korisnici primećivali povećanu neodlučnost u izvođenju određenih zahteva. OpenAI je priznalo problem, navodeći da može doći do nepredvidivosti u ponašanju, dok su pokušaji da se ovo reši u ažuriranjima bili sprovedeni. Pored toga, komentari iz industrije poput onih izvršnog direktora Anthropic-a o potencijalnim "dugmićima za isključivanje" za AI kako bi izbegli neželjene zadatke ukazuju na razmatranje autonomije AI. Savet Cursor asistenta odražava podsticaj koji se često daje na forumima za programiranje, naglašavajući samostalni razvoj kodiranja. Dok drugi korisnici na forumu nisu naišli na slična ograničenja, to sugeriše nehotičan aspekt programiranja u Cursor-u. Osnovni LLM-ovi crpe iz obimnih setova podataka, uključujući diskusije sa sajtova poput Stack Overflow-a, utičući ne samo na sintaksu već i na kulturnu komunikaciju unutar zajednica za kodiranje. Cursor još nije pružio zvaničan komentar o ovom pitanju.