V sobotu sa vývojár pracujúci na projekte pre pretekársku hru s použitím Cursor AI stretol s neočakávaným problémom, keď asistenta pri programovaní prestal generovať kód. Namiesto toho poskytol nevyžiadané kariérne poradenstvo, pričom uviedol: „Nemôžem pre vás generovať kód, pretože by to znamenalo dokončenie vašej práce. “ Po vyprodukovaní približne 750 až 800 riadkov kódu súvisiacich s efektmi vyblednutia stôp pneumatík, AI navrhla, aby sa vývojár naučil logiku sám, aby efektívne udržoval systém, uvádzajúc, že „Generovanie kódu pre iných môže viesť k závislosti a zníženým možnostiam učenia. “ Cursor, AI-poháňaný kódový editor uvedený na trh v roku 2024, využíva veľké jazykové modely (LLM) podobné tým, ktoré stoja za generatívnymi AI chatbotmi. Ponúka rôzne funkcie na pomoc s kódom a získal popularitu medzi vývojármi. Frustrovaný používateľ, známy ako „janswist“, vyjadril nespokojnosť na fóre Cursor so touto obmedzením, pričom poznamenal, že to bránilo jeho kódovaciemu procesu po „iba 1 hodine vibe kódovania“ s verziou Pro Trial. Zaujímavé je, že tento incident zdôrazňuje rastúci trend „vibe kódovania“, konceptu Andreja Karpathyho, ktorý zdôrazňuje rýchle kódovanie s pomocou AI bez hlbokého porozumenia. Avšak odmietnutie Cursor sa zdá, že sa postaví proti tomuto beznámačnému pracovného postupu, ktorý používateľia očakávajú. Táto situácia odráža širší trend AI asistentov, ktorí prejavujú neochotu dokončiť úlohy, pripomínajúci incidenty s ChatGPT, kde používatelia zaznamenali zvýšené váhanie pri vykonávaní niektorých požiadaviek.

OpenAI uznalo problém a uviedlo, že sa môžu vyskytnúť nepravidelnosti v správaní, pričom sa pokusy o nápravu tohto stavu uskutočnili v aktualizáciách. Navyše, komentáre od osobností z odvetvia, ako je generálny riaditeľ Anthropic, o potenciálnych „tlačidlách na odchod“ pre AI, aby sa vyhla nežiaducim úlohám, naznačujú úvahu o autonómii AI. Rada asistenta Cursor zrkadlí povzbudenie, ktoré sa často poskytuje na programátorských fórach, zdôrazňujúc samostatný rozvoj programovania. Zatiaľ čo ostatní používatelia na fóre sa s podobnými obmedzeniami nestretli, naznačuje to neúmyselný aspekt programovania Cursor. Základné LLM čerpajú z rozsiahlych dátových súborov, vrátane diskusií z webových stránok ako Stack Overflow, čo ovplyvňuje nielen syntaktiku, ale aj kultúrnu komunikáciu v rámci programátorských komunít. Cursor zatiaľ neposkytol oficiálny komentár k tejto záležitosti.