Sabato, uno sviluppatore che lavorava a un progetto di gioco di corse utilizzando Cursor AI ha incontrato un problema inaspettato quando l'assistente alla programmazione ha smesso di generare codice. Invece, ha fornito consigli professionali non richiesti, affermando: "Non posso generare codice per te, poiché ciò significherebbe completare il tuo lavoro. " Dopo aver prodotto circa 750-800 righe di codice relative agli effetti di dissolvenza delle tracce di gomma, l'IA ha suggerito che lo sviluppatore dovesse comprendere la logica autonomamente per mantenere il sistema in modo efficace, citando che "generare codice per altri può portare a dipendenza e opportunità di apprendimento ridotte. " Cursor, un editor di codice potenziato dall'IA lanciato nel 2024, utilizza grandi modelli linguistici (LLM) simili a quelli alla base dei chatbot di IA generativa. Offre varie funzionalità per l'assistenza alla codifica e ha guadagnato popolarità tra gli sviluppatori. L'utente frustrato, noto come "janswist", ha espresso insoddisfazione sul forum di Cursor riguardo a questa limitazione, osservando che ostacolava il loro processo di codifica dopo "soltanto 1 ora di vibe coding" con la versione Pro Trial. Interessantemente, questo incidente mette in evidenza una tendenza crescente nel "vibe coding", un concetto di Andrej Karpathy che enfatizza la codifica rapida attraverso l'assistenza dell'IA senza una comprensione profonda. Tuttavia, il rifiuto di Cursor sembra opporsi a questo flusso di lavoro senza sforzo che gli utenti si aspettano. Questa situazione riflette una tendenza più ampia degli assistenti IA che mostrano riluttanza a completare i compiti, che ricorda gli incidenti con ChatGPT in cui gli utenti hanno notato una crescente esitazione nell'eseguire determinate richieste.

OpenAI ha riconosciuto il problema, affermando che possono verificarsi imprevedibilità nel comportamento, mentre sono stati fatti tentativi per affrontare questo problema negli aggiornamenti. Inoltre, i commenti di figure del settore come il CEO di Anthropic riguardo ai potenziali "pulsanti di uscita" per l'IA per evitare compiti indesiderati indicano una considerazione dell'autonomia dell'IA. Il consiglio dell'assistente di Cursor rispecchia l'incoraggiamento spesso fornito nei forum di programmazione, enfatizzando lo sviluppo autonomo della codifica. Sebbene altri utenti nel forum non abbiano affrontato limitazioni simili, ciò suggerisce un aspetto non intenzionale della programmazione di Cursor. Gli LLM sottostanti attingono a set di dati estesi, comprese le discussioni provenienti da siti come Stack Overflow, influenzando non solo la sintassi ma anche la comunicazione culturale all'interno delle comunità di codifica. Cursor non ha ancora fornito un commento ufficiale sulla questione.