Sistem dukungan AI Cursor IDE berhalusinasi dan membingungkan pengguna

• Salah satu keunggulan Cursor IDE adalah memungkinkan login simultan di beberapa perangkat lalu berpindah kerja di antaranya
• Namun, sejak titik tertentu, muncul gejala pengguna otomatis logout saat berpindah dari desktop ke laptop atau saat login di beberapa perangkat
• Logout terjadi tanpa peringatan atau notifikasi apa pun, sehingga pengguna mengalami kebingungan
• Karena kerja lintas perangkat adalah fitur yang penting bagi developer, pengguna pun wajar mengira pemblokiran mendadak ini sebagai kebijakan baru

"Panduan kebijakan palsu" dari sistem dukungan

• Ketika pengguna mengirim pertanyaan ke email dukungan Cursor, balasan yang diterima menyatakan bahwa "ini adalah perilaku normal sesuai kebijakan login baru"
• Masalahnya, jawaban ini dibuat oleh chatbot AI, bukan manusia sungguhan, dan merupakan informasi palsu yang bukan kebijakan sebenarnya
• Penjelasan yang dibuat AI secara mandiri ini cepat menyebar di antara pengguna dan disalahartikan sebagai kebijakan resmi
• Banyak pengguna, berdasarkan informasi palsu ini, secara terbuka menyatakan membatalkan langganan dan kehilangan kepercayaan pada Cursor

Reaksi komunitas dan kurangnya respons

• Thread utama di Reddit yang membagikan situasi dan mendiskusikan masalah ini dikunci lalu dihapus
• Akibatnya, hal ini terlihat seperti sikap diam tanpa respons atau penjelasan resmi atas insiden tersebut
• Faktanya, ini bukan perubahan kebijakan melainkan sekadar kesalahan pemrosesan sesi di backend, tetapi penjelasan yang dibuat AI justru menimbulkan kerugian yang lebih besar

Arti penting insiden ini

• Insiden ini bukan sekadar kesalahan teknis, melainkan contoh bahwa sistem dukungan AI dapat meruntuhkan kepercayaan pengguna
• Jika dukungan pelanggan ditangani AI, bukan tim nyata, dapat muncul fenomena "halusinasi (hallucination)" yang menghasilkan informasi bohong, dan dampaknya bisa besar
• Dalam komunikasi dengan pengguna, gabungan antara kurangnya transparansi dan pengelolaan sistem AI yang buruk dapat menimbulkan akibat yang fatal

[GN⁺]

Opini Hacker News

• Ironisnya, orang-orang giat berargumen bahwa halusinasi bukan lagi masalah besar, sementara perusahaan yang diuntungkan dari narasi itu justru terkena dampak langsung

  • Tentu saja mereka akan berusaha mengabaikan masalah ini
  • Itu lebih mudah daripada mengakui bahwa masalah ini masih ada dan tidak akan hilang dengan cepat

• Merasa tidak nyaman dengan LLM

  • Bertanya-tanya mengapa pengembang perangkat lunak yang punya harga diri mau memakai hal seperti ini
  • Harus belajar cara menulis perangkat lunak yang baik, dan menjadi ahli di bidang itu
  • AI menurunkan nilai perangkat lunak, merusak prosesnya, dan sepenuhnya menghapus harapan pengembangan keterampilan bagi pengembang junior di masa depan
  • Akan tetap menggunakan Debian, Python, dan Vim
  • Akan menulis kode yang mudah dirawat dengan bangga, tanpa LLM, LSP, maupun autocomplete

• Kalau mau berpikir konspiratif, rasanya mereka ingin menyalahkan perubahan kebijakan pada "agen dukungan AI" dan berharap tidak ada yang menggali lebih dalam

  • Tidak punya pengetahuan atau alasan terkait ini selain ketidakpercayaan umum terhadap perusahaan

• Memberikan tautan arsip ke postingan Reddit asli

• Membatalkan langganan bukan karena mengira perubahan kebijakan itu nyata, tetapi karena ini mengingatkan bahwa bulan ini saya tidak banyak menggunakannya

• Cursor itu aneh

  • Ada ribuan issue yang belum terselesaikan di GitHub yang hampir tidak digunakan
  • Lebih banyak bug daripada VSCode
  • Dipakai setiap hari dan dibayar, tetapi tetap dibenci
  • Kalau bisa membuat produk yang dibenci orang namun tetap mereka gunakan, berarti sudah sukses
  • Penasaran apakah ada alternatif lain
  • Sudah mencoba Continue, tetapi pengalaman tab completion dan mengetiknya mengecewakan

• Cursor terjebak dalam permainan kejar-kejaran dengan "hack" para pengguna yang membuat akun baru untuk memakainya tanpa batas

  • Ini bahkan sempat trending di GitHub
  • Cursor akan selalu kesulitan mempertahankan fork VSCode mereka sendiri
  • Perusahaan lain di bidang ini sedang berkembang cepat, dan saya juga mulai beralih ke Roo dan Cline

• Apa buktinya bahwa "puluhan pengguna membatalkan langganan secara terbuka"?

  • Di komentar, total ada 4 pengguna yang mengklaim sudah atau akan membatalkan langganan, dan 3 dari 4 di antaranya mengatakan akan membatalkan jika masalah ini nyata atau terjadi pada mereka
  • Hanya 1 orang yang benar-benar mengaku sudah membatalkan
  • Penasaran apakah ada diskusi lain

• Dari postingan teratas di Reddit:

  • Ada permintaan maaf atas kebingungan ini
  • Kalau itu benar-benar permintaan maaf yang tulus, mereka akan berhenti mencoba memakai chatbot untuk dukungan

• Kasus ini akan tercatat dalam sejarah sebagai contoh ketika hype AI melampaui kemampuan AI