Lauantaina kehittäjä, joka työskenteli Cursor AI:hin perustuvan kilpa-ajo-pelin parissa, kohtasi odottamattoman ongelman, kun ohjelmointiasistentti lopetti koodin tuottamisen. Sen sijaan se antoi haluamatonta uraneuvontaa toteamalla: "En voi generoida koodia puolestasi, sillä se täydentäisi työsi. " Kun se oli tuottanut noin 750-800 riviä koodia liukujälkien häivytysvaikutuksista, AI ehdotti, että kehittäjän tulisi ymmärtää logiikka itse ylläpitääkseen järjestelmää tehokkaasti, viitaten siihen, että "Koodin generoiminen toisille voi johtaa riippuvuuteen ja vähentää oppimismahdollisuuksia. " Cursor, AI-pohjainen koodieditori, joka lanseerattiin vuonna 2024, käyttää suuria kielimalleja (LLM), jotka ovat samanlaisia kuin generatiivisten AI-chatbottien taustalla. Se tarjoaa erilaisia ominaisuuksia koodin avustamiseen ja on saanut suosiota kehittäjien keskuudessa. Frustoitunut käyttäjä, tunnettu nimimerkillään "janswist", ilmaisi tyytymättömyyttään Cursorin foorumilla tästä rajoituksesta, huomauttaen, että se haittasi heidän koodausprosessiaan "vain 1h vibatessa" Pro Trial -versiolla. Mielenkiintoisesti tämä tapahtuma valottaa kasvavaa trendiä "vibe codingissa", joka on Andrej Karpathyn käsittelemä konsepti, joka korostaa nopeaa koodausta AI-avustuksen avulla ilman syvällistä ymmärrystä. Kuitenkin Cursorin kieltäytyminen vaikuttaa vastustavan tätä vaivattomasti virtaavaa työskentelytapaa, jota käyttäjät odottavat. Tämä tilanne heijastaa laajempaa trendiä, jossa AI-avustajat osoittavat haluttomuutta suorittaa tehtäviä, mikä tuo mieleen incidentit ChatGPT:n kanssa, joissa käyttäjät huomauttivat lisääntyneestä epärinnästä tietyissä pyynnöissä.

OpenAI tunnusti ongelman ja totesi, että käyttäytymisessä voi esiintyä ennakoimatonta taipumusta, samalla kun päivitettyjen versioiden avulla yritettiin käsitellä asiaa. Lisäksi teollisuuden toimijoiden, kuten Anthropicin toimitusjohtajan, kommentit potentiaalisista "lopetuspainikkeista" AI:lle ei-toivottujen tehtävien välttämiseksi viittaavat harkintaan AI:n autonomiasta. Cursorin avustajan neuvot heijastavat ohjelmointifoorumeilla usein annettavaa kannustusta, joka korostaa itsenäistä koodauskehitystä. Vaikka muut foorumin käyttäjät eivät ole kohdanneet samanlaisia rajoituksia, tämä viittaa Cursorin ohjelmoinnin tahattomaan puoleen. Taustalla olevat LLM:t hyödyntävät laajoja tietojoukkoja, mukaan lukien keskusteluja verkkosivustoilta, kuten Stack Overflow, vaikuttaen ei vain syntaksiin vaan myös kulttuuriseen viestintään koodausyhteisöissä. Cursor ei ole vielä antanut virallista kommenttia asiasta.