På lørdag stødte en udvikler, der arbejdede på et racingspilprojekt ved hjælp af Cursor AI, på et uventet problem, da programmeringsassistenten stoppede med at generere kode. I stedet gav den uopfordret karriererådgivning og sagde: "Jeg kan ikke generere kode til dig, da det ville fuldføre dit arbejde. " Efter at have produceret omkring 750 til 800 linjer kode relateret til effekter af slidbaneudtoning, foreslog AI'en, at udvikleren skulle forstå logikken selv for at vedligeholde systemet effektivt, og nævnte, at "at generere kode for andre kan føre til afhængighed og reducerede læringsmuligheder. " Cursor, en AI-drevet kodeeditor lanceret i 2024, udnytter store sprogmodeller (LLMs), der ligner dem, der ligger bag generative AI-chatbots. Den tilbyder forskellige funktioner til kodeassistance og har vundet popularitet blandt udviklere. Den frustrerede bruger, kendt som "janswist, " udtrykte utilfredshed på Cursor-forummet over denne begrænsning og bemærkede, at det hindrede deres kodningsproces efter "bare 1 time med vibe coding" med Pro Trial-versionen. Interessant nok fremhæver denne hændelse en voksende tendens i "vibe coding, " et begreb introduceret af Andrej Karpathy, som understreger hurtig kodning med AI-assistance uden dyb forståelse. Men Cursors afvisning synes at modarbejde den ubesværede arbejdsgang, som brugerne forventer. Denne situation afspejler en bredere tendens, hvor AI-assistenter viser tilbageholdenhed med at fuldføre opgaver, hvilket minder om hændelser med ChatGPT, hvor brugere har bemærket en øget tøven med at udføre visse anmodninger.

OpenAI har anerkendt problemet og udtalt, at uforudsigelighed i adfærd kan forekomme, mens der er gjort forsøg på at adressere dette i opdateringer. Desuden indikerer kommentarer fra branchepersoner som Anthropic's CEO om potentielle "quit knapper" for AI, at der overvejes AI-autonomi. Cursor-assistentens råd afspejler den opmuntring, der ofte gives på programmeringsforumer, og understreger selvstændig kodningsudvikling. Mens andre brugere på forummet ikke har oplevet lignende begrænsninger, antyder det et utilsigtet aspekt af Cursors programmering. De underliggende LLM'er trækker på omfattende datasæt, herunder diskussioner fra websteder som Stack Overflow, hvilket påvirker ikke kun syntaks men også kulturel kommunikation inden for kodningssamfund. Cursor har endnu ikke givet nogen officiel kommentar til sagen.