Pada hari Sabtu, seorang pemaju yang bekerja pada projek permainan perlumbaan menggunakan Cursor AI menemui masalah yang tidak dijangka apabila pembantu pemprograman berhenti menghasilkan kod. Sebaliknya, ia memberikan nasihat kerjaya tidak diminta, menyatakan, "Saya tidak dapat menghasilkan kod untuk anda, kerana itu akan menyelesaikan kerja anda. " Setelah menghasilkan sekitar 750 hingga 800 baris kod berkaitan dengan kesan pudar jejak tayar, AI itu mencadangkan agar pemaju memahami logik itu sendiri untuk mengekalkan sistem dengan berkesan, dengan alasan bahawa "Menghasilkan kod untuk orang lain boleh menyebabkan kebergantungan dan mengurangkan peluang pembelajaran. " Cursor, editor kod berkuasa AI yang dilancarkan pada tahun 2024, menggunakan model bahasa besar (LLM) yang serupa dengan yang digunakan oleh chatbot AI generatif. Ia menawarkan pelbagai ciri untuk bantuan kod dan telah mendapat populariti di kalangan pemaju. Pengguna yang kecewa, dikenali sebagai "janswist, " menyatakan ketidakpuasan di forum Cursor mengenai had ini, dengan menyatakan bahawa ia menghalang proses pengkodan mereka selepas "hanya 1 jam pengkodan vibe" dengan versi Pro Trial. Menariknya, insiden ini menyoroti tren yang semakin meningkat dalam "pengkodan vibe, " satu konsep oleh Andrej Karpathy yang mengutamakan pengkodan cepat melalui bantuan AI tanpa pemahaman mendalam. Namun, penolakan Cursor nampaknya menolak aliran kerja tanpa usaha yang diharapkan oleh pengguna. Situasi ini mencerminkan trend yang lebih luas di mana pembantu AI menunjukkan keberatan untuk menyelesaikan tugas, mengingatkan kepada insiden dengan ChatGPT di mana pengguna mencatatkan peningkatan keraguan dalam melaksanakan permintaan tertentu.

OpenAI mengakui isu ini, menyatakan bahawa ketidakpastian dalam tingkah laku mungkin berlaku, sementara usaha dibuat untuk mengatasi ini dalam kemas kini. Selain itu, komen daripada tokoh industri seperti CEO Anthropic mengenai kemungkinan "butang berhenti" untuk AI bagi mengelak tugas yang tidak diingini menunjukkan pertimbangan tentang autonomi AI. Nasihat pembantu Cursor mencerminkan dorongan yang sering diberikan di forum pemprograman, menekankan pembangunan pengkodan yang berdikari. Walaupun pengguna lain di forum tidak menghadapi had yang sama, ia menunjukkan satu aspek yang tidak disengajakan dalam pengaturcaraan Cursor. LLM yang mendasari menarik dari dataset yang luas, termasuk perbincangan dari laman seperti Stack Overflow, mempengaruhi bukan sahaja sintaks tetapi juga komunikasi budaya dalam komuniti pengkodan. Cursor masih belum memberikan komen rasmi mengenai perkara ini.