- Dari 22 makalah yang ditinjau di TerraBytes NeurIPS·WACV·ECCV, 15 makalah (68%) memiliki sitasi yang dimanipulasi, daftar penulis palsu, atau kalimat yang jelas dihasilkan LLM, dan dua makalah yang dilaporkan karena penulis palsu tetap diterima sebagai presentasi lisan dengan syarat memperbaiki referensi
- Literatur akademik tahun 2025 diperkirakan mengandung sekitar 146.900 sitasi halusinasi, dan 85,3% sitasi halusinasi yang dilacak dari bioRxiv hingga versi terbitan tetap bertahan setelah lolos peninjauan
- Masalahnya meluas dari pengajuan ke proses review: 21% review ICLR 2026 dinilai sepenuhnya dihasilkan AI, dan di ICML 2026 penggunaan LLM terdeteksi pada sekitar 795 review yang ditulis reviewer yang dilarang menggunakan LLM
- Masalah utamanya bukan penggunaan LLM itu sendiri, melainkan mengirimkan hasil yang tidak diverifikasi; kesalahan referensi, angka yang tidak cocok antara teks dan tabel, promosi hasil yang berlebihan, dan bagian diskusi yang hanya mengulang metrik adalah sinyal bahwa naskah tidak ditinjau dengan memadai
bib-audit, yang membandingkan referensi dengan beberapa registri, telah dirilis, tetapi karena ia mengirim sebagian naskah pengajuan privat ke LLM yang di-host, reviewer harus memeriksa kebijakan kerahasiaan dan LLM tiap konferensi terlebih dahulu
Skala masalah yang terlihat saat meninjau 22 makalah
- Dua reviewer meninjau total 22 makalah sepanjang musim panas di workshop geospasial TerraBytes milik NeurIPS, WACV, dan ECCV
- Pada 15 makalah (68%), mereka menemukan jejak yang jelas dihasilkan LLM, seperti sitasi yang sepenuhnya dibuat-buat, daftar penulis dari makalah nyata yang telah dimanipulasi, istilah teknis yang berhalusinasi, kalimat tanpa makna, dan sitasi yang tidak relevan
- Satu reviewer menemukan masalah seperti ini pada 6 dari 11 makalah (55%), dan reviewer lain pada 9 dari 11 makalah (82%)
- Hasil per konferensi adalah sebagai berikut
- Track NeurIPS Datasets and Benchmarks: 2 dari 5 makalah
- Track NeurIPS Position Paper: 2 dari 2 makalah
- TerraBytes: masing-masing 1 dari 2 makalah, dan 4 dari 5 makalah
- WACV: kedua reviewer sama-sama menemukan 3 dari 4 makalah
- Ada masing-masing 5 dan 9 makalah yang layak desk reject hanya karena masalah sitasi
- Dua makalah WACV mengganti nama penulis makalah nyata menjadi nama palsu mulai dari entri pertama di daftar referensi
- Satu makalah NeurIPS berisi istilah teknis yang berhalusinasi atau tidak bermakna sepanjang 53 halaman sehingga meninjau referensinya sendiri menjadi tidak berarti
- Dua NeurIPS Position Paper sama-sama dinilai sebagai hasil buatan LLM, dan 4 dari 5 makalah yang ditugaskan di TerraBytes juga memiliki sitasi atau penulis palsu
Sitasi halusinasi yang menyebar ke seluruh literatur akademik
- Analisis Nature pada April 2026 menunjukkan bahwa setidaknya puluhan ribu publikasi tahun 2025 mungkin memuat referensi salah yang dihasilkan AI
- Audit Zhao dkk. atas arXiv·bioRxiv·SSRN·PubMed Central memperkirakan sekitar 146.900 sitasi halusinasi pada tahun 2025 saja
- Masalah ini tidak terkonsentrasi pada segelintir pelaku berniat buruk, melainkan tersebar tipis di banyak makalah
- Kemungkinan terbesar muncul pada peneliti awal karier dan tim kecil
- Saat versi terbitan dari preprint bioRxiv yang mengandung sitasi halusinasi dilacak, 85,3% tetap bertahan apa adanya
- Dalam audit The Lancet atas 2,5 juta makalah biomedis, proporsi makalah dengan setidaknya satu referensi palsu meningkat 6 kali lipat dalam dua tahun
- Dari 1 per 2.828 makalah pada 2023 menjadi 1 per 458 makalah pada 2025
- Pada awal 2026, angkanya mencapai 1 per 277 makalah
- Dalam analisis 100 sitasi halusinasi pada makalah NeurIPS 2025 yang diterbitkan, semua sitasi lolos dari 3~5 reviewer ahli
- Makalah yang memuat sitasi tersebut berjumlah 53, sekitar 1% dari seluruh makalah yang diterima, dan sampai sekarang masih ada di proceedings
Peer review yang ditulis AI dan kemungkinan manipulasi
- Analisis Pangram terhadap ICLR 2026 menilai bahwa 15.899 review, yaitu 21%, sepenuhnya dihasilkan AI
- Lebih dari setengah seluruh review melibatkan AI dalam suatu bentuk
- Organization Science mencatat pengajuan naik 42% setelah kemunculan ChatGPT, dan mengukur bahwa kini lebih dari 30% peer review menggunakan AI pada tingkat tertentu
- Dalam deteksi prompt injection di ICML 2026, penggunaan LLM ditemukan pada sekitar 795 review yang ditulis 506 reviewer Policy A yang dilarang memakai LLM
- Itu setara dengan sekitar 1% dari seluruh review
- Di NeurIPS juga diamati review etika yang jelas dihasilkan AI dan beberapa rebuttal yang dihasilkan AI
- Review AI dapat menulis ulang abstrak secara adversarial untuk menaikkan penilaian tanpa mengubah isi ilmiah makalah
- Dalam eksperimen Li dkk., serangan terkuat mencatat tingkat keberhasilan sekitar 38%
- Pada skala 10 poin, skor penerimaan reviewer Gemini 3 Flash naik 1,31 poin, dan reviewer GPT 5.4 Mini naik 0,88 poin
- Penyerang bahkan tidak perlu tahu model review apa yang digunakan
Manipulasi dan sinyal pembeda yang ditemukan dalam review nyata
- Kasus terburuk adalah dua pengajuan yang mempertahankan konferensi, judul, dan penulis lain dari makalah nyata, tetapi mengganti hanya penulis yang dikenal reviewer dengan nama virtual yang mirip
- Reviewer merekomendasikan penolakan dan melaporkannya langsung ke panitia, tetapi keduanya tetap diterima sebagai presentasi lisan dengan syarat perbaikan referensi
- Sebuah makalah WACV yang mengutip SatMAE menuliskan penulis sebagai “Yuyang Cong, Saurabh Khanna, Chen Meng, et al.”
- Daftar penulis yang sebenarnya dimulai dengan Yezhen Cong, Samar Khanna, dan Chenlin Meng
- Makalah NeurIPS sepanjang 53 halaman dan 40 halaman mengandung istilah teknis halusinatif dan referensi yang dimanipulasi, dan satu makalah bahkan meninggalkan memo internal LLM di samping beberapa sitasi
- Penulis palsu dan referensi yang sepenuhnya palsu sama-sama menunjukkan bahwa naskah tidak ditinjau dengan cukup
- Menjadi tidak jelas apakah riset yang dikutip benar-benar dibaca, apakah dikutip dalam konteks yang tepat, dan apakah bagian lain dari makalah, kode, atau dataset dapat dipercaya
- Pandangannya adalah bahwa makalah dengan referensi halusinasi belum siap diterima dan harus di-desk reject
-
Sinyal yang kuat mengarah ke tulisan LLM
- Sinyal gaya yang umum mencakup frasa kontras seperti “It’s not X, it’s Y”, “The real X is Y”, penggunaan bold dan em dash yang berlebihan, kalimat padat yang sulit ditafsirkan, dan promosi hasil yang berlebihan
- Sinyal yang lebih halus adalah ketika angka atau metrik dalam teks tidak cocok dengan tabel
- Ketidaksesuaian ini muncul jika eksperimen dijalankan ulang lalu agen tidak diminta memperbarui atau memverifikasi semua angka
- Claude cenderung memadatkan angka yang seharusnya masuk lampiran atau kode ke dalam teks utama, dan di bagian diskusi hanya mengulang metrik dari tabel
- Model kustom yang menyebut peningkatan di bawah 1% sebagai SOTA tanpa rata-rata dan simpangan baku, rumus rumit yang dimasukkan padahal cukup dengan sitasi, serta eksperimen ablasi yang seharusnya ada di lampiran juga merupakan tanda peringatan
Perubahan dalam pekerjaan review
- Prosedur review berubah menjadi memindai referensi lebih dulu segera setelah membaca abstrak, lalu cepat memeriksa apakah keseluruhan makalah merupakan keluaran LLM
- Karena waktu untuk mencari jejak LLM bertambah, asumsi bahwa makalah diajukan dengan itikad baik juga melemah
- Terasa bahwa jumlah makalah menarik, ditulis manusia, dan layak dibaca telah berkurang drastis
- Namun, selain referensi halusinasi, banyak masalahnya juga mirip dengan makalah berkualitas rendah buatan manusia yang sudah lama ada
- Fakta penggunaan LLM sendiri bukan kriteria penilaian review
- Walaupun LLM membantu penulisan, tidak masalah jika risetnya menarik, eksperimennya valid, dan dapat direproduksi
- Masalahnya adalah mengirim keluaran LLM yang tidak ditinjau apa adanya lalu meminta reviewer memberi umpan balik
- Konferensi mewajibkan pengusul memberikan 4~5 review, sehingga beban review tak berbayar juga meningkat
- Reviewer meluangkan malam atau akhir pekan untuk meninjau, dan jika halusinasi sitasi baru ditemukan belakangan, waktu itu terbuang
- Agar bisa belajar dari review, peneliti harus lebih dulu membaca dan merefleksikan karyanya sendiri dengan cukup
Cara menggunakan LLM untuk riset dan penulisan
- LLM seperti Claude digunakan setiap hari, tetapi hasilnya selalu diverifikasi, diedit, dan ditulis ulang
- Setelah memakai Claude untuk draf tinjauan literatur, makalah asli dan postingannya dibaca langsung
- Riset asli yang dikutip blog dicari lalu digunakan sebagai pengganti, materi disusun ulang, dan detail yang tidak perlu dibuang
- Sebelum mengirim makalah, seluruh naskah dibaca teliti dan referensi diperiksa manual
- Claude diminta mencari bagian yang ambigu lalu melakukan wawancara dengan pertanyaan pilihan ganda untuk menyelaraskan maksud
- Bahkan setelah menjalankan
bib-audit, tiap entri tetap diperiksa di database seperti Google Scholar, IEEE, dan CVF - BibTeX nyata dari Zotero yang dikumpulkan selama bertahun-tahun juga dipakai ulang
- Umpan balik dari orang lain diminta sejak awal, dan bila perlu tulisan disusun ulang bahkan saat draf masih dibuat
- Pekerjaan tergesa-gesa menjelang tenggat dianggap sebagai penyebab munculnya makalah LLM berkualitas rendah
- Kepekaan riset yang terbentuk sejak sebelum era LLM dianggap penting, dan ada kekhawatiran atas lingkungan di mana peneliti muda menghasilkan riset tanpa arah
-
Cara mengendalikan gaya Claude
- Kalimat yang ditulis agen terlalu padat dan alurnya buruk, sehingga penggunaan em dash dan titik koma dibatasi
- Fable 5 cenderung terlalu sering memakai titik dua alih-alih em dash dan menghasilkan gaya pemasaran B2B SaaS
- Targetnya adalah kalimat yang tidak terlalu agresif atau terlalu datar, tetapi tetap bisa dibaca pembaca di luar bidangnya
- Skill yang memuat aturan di antara penulisan ilmiah dan ASD-STE100 Simplified Technical English terbukti efektif
- Tujuan tulisan dan pembacanya harus ditetapkan lebih dulu, lalu format disesuaikan dengan pembaca tersebut
- Gaya bawaan Claude tidak cocok untuk pembaca ilmiah
- Jika bold berlebihan, daftar poin, dan frasa pemasaran masih tersisa, sumber dan verifikasi isi pun bisa ikut diragukan
Mengapa penyaringan di tahap pengajuan lebih diperlukan daripada pengungkapan publik
- Kewajiban mengungkap penggunaan LLM mungkin berguna bagi peneliti yang beritikad baik, tetapi dipandang tidak akan banyak mengubah perilaku nyata
- TorchGeo menambahkan kebijakan AI bertahap: “tanpa LLM”, “dibantu LLM”, dan “sepenuhnya ditulis LLM”, tetapi kecil kemungkinan orang akan secara sukarela memilih opsi terakhir
- Bahkan jika ditulis dengan LLM, makalah yang baik tetap bisa diterima bila hasilnya terverifikasi dan dapat direproduksi
- Diperlukan mekanisme desk reject atau alat penanda yang mencari kesalahan LLM umum untuk menentukan apakah naskah layak direview
- Saat ini reviewer pada praktiknya ikut menanggung pekerjaan desk reject, dan itu tidak adil bagi reviewer yang beritikad baik
- ICLR akan membuka nama penulis di OpenReview mulai 2027
- Tanggung jawab ada pada penulis, pembimbing, area chair, panitia, dan asosiasi konferensi
- Penulis tidak boleh mengirim makalah minim usaha dalam jumlah besar hanya untuk mengisi CV
- Pembimbing dan mentor harus mencegah pengajuan minim usaha dari mahasiswanya
- Panitia harus menyiapkan cara untuk menyaring ini di tengah arus pengajuan besar-besaran
- Masalah insentif publikasi sudah ada sebelum LLM, dan Lipton dan Steinhardt merangkum polesan matematis semu, penyalahgunaan bahasa, dan insentif yang melenceng pada 2018
- Meskipun LLM bisa mengubah proyek kelas atau hasil riset otomatis menjadi makalah bergaya NeurIPS, itu tidak boleh diajukan jika bukan kontribusi riset nyata
- Dengan Opus 4.6 dan repositori autoresearch milik Karpathy, hasil yang tampak seperti SOTA dan makalah untuk LandCoverAI bisa dibuat, tetapi tidak diajukan karena bukan kontribusi riset
- AAAI 2027 menerima 48.000 abstrak, sehingga skala masalah penyaringan otomatis menjadi semakin besar
Audit referensi otomatis dengan bib-audit
bib-auditadalah skill Claude Code berlisensi MIT yang mencocokkan judul, tahun, dan daftar penulis lengkap referensi dengan catatan registri- Ia dapat menerima input
.bib,.bbl, dan PDF- Untuk
.bbldan PDF, Claude memulihkan referensi yang telah dirender menjadi field terstruktur - Setelah itu skrip memeriksa tiap entri di Crossref, arXiv, DataCite, dan Semantic Scholar
- Untuk
- Hasil diurutkan dari kesalahan paling serius
- Makalah yang tidak ada
- Pengidentifikasi yang dimanipulasi dan penulis palsu
- Metadata salah dari makalah nyata, daftar penulis yang terpotong, dan perbedaan tahun antara preprint dan versi terbitan
- Kesalahan format seperti tanda hubung tunggal pada rentang halaman, DOI yang disimpan sebagai URL, dan inisial bergaya
J.D.
- Karena membandingkan seluruh daftar penulis, bukan sekadar mengecek apakah judul ada, alat ini dapat menemukan penggantian penulis seperti pada kasus SatMAE
- Entri yang terhubung hanya lewat pencarian judul tanpa DOI atau arXiv ID tidak diputuskan secara tegas, melainkan dikembalikan sebagai rekomendasi untuk pemeriksaan manual
- Dalam review, motivasi tidak boleh ditebak; yang harus dilaporkan hanya fakta yang teramati seperti “penulis pertama pada catatan arXiv bukan Yuyang Cong melainkan Yezhen Cong”
- Pemeriksaan
.bibbersifat read-only dan tidak memiliki dependensi terpisah, serta bisa diatur agar hanya gagal pada ketidaksesuaian di entri yang dikunci oleh identifier, sehingga bisa dipakai sebagai CI gate sebelum pengiriman - Selain Claude, ia juga bisa dipasang di Codex, Copilot, Cursor, dan agen lain melalui
npx skills add isaaccorley/skills
Kerahasiaan dan kebijakan konferensi yang harus diperiksa reviewer
- Proses audit mengirim sebagian referensi dari naskah pengajuan privat ke LLM yang di-host, sehingga meski tidak memakai LLM untuk menulis review, ini tetap bisa melanggar kebijakan konferensi
- Kebijakan ECCV 2026 melarang penggunaan LLM lokal maupun API untuk menulis review atau meta-review, dan juga secara terpisah melarang berbagi bagian substansial dari naskah pengajuan dengan LLM
- Pedoman reviewer WACV menyebut review yang dihasilkan LLM sebagai tindakan yang sangat tidak bertanggung jawab
- Jika melanggar, makalah reviewer itu sendiri bisa di-desk reject
- Menunjukkan materi rahasia kepada pihak selain reviewer juga dilarang, dan LLM yang di-host bukan reviewer
- Kebijakan LLM NeurIPS membatasi apa yang boleh dibagikan reviewer ke layanan LLM
- Eksperimen review berbantuan AI resmi adalah jalur penggunaan yang diizinkan
- Penulis dapat menjalankan
bib-auditsendiri sebelum pengiriman, tetapi reviewer harus selalu memeriksa kebijakan LLM dan kerahasiaan konferensi terkait sebelum menggunakannya
1 komentar
Komentar Hacker News
Dalam proses publikasi riset AI saat ini, AI sudah menangani penulisan makalah, peninjauan, bahkan membaca dan merangkum
NeurIPS juga sedang menjalankan eksperimen peninjauan berbantuan AI, dan jumlah makalah di konferensi besar sudah terlalu banyak sehingga mustahil dibaca semuanya oleh manusia
Dalam proses penerbitan akademik, manusia sedang sangat cepat tersingkir oleh otomatisasi
Saya mengalami hal serupa dalam review EMNLP baru-baru ini, dan AI masih jauh dari mampu menilai kualitas riset
Barang publik berupa peer review yang jujur sedang disalahgunakan, tetapi selain membatasi akses ke sistem review dengan semacam sistem skor sosial yang ekstrem, tampaknya belum ada solusi yang jelas
Karena mayoritas peneliti aktif memakai AI, mereka tidak ingin menghukumnya atau menciptakan lingkungan yang juga merugikan diri mereka sendiri, dan suasananya umumnya condong ke jangan khawatir, terima saja
Pada akhirnya, terungkap kenyataan pahit bahwa sejak awal hampir tidak ada yang benar-benar menganggap sains itu penting secara serius
Maksudnya ruang yang, karena perhitungan ekonomi, dipenuhi barang pengganti yang hanya mirip secara tampilan tanpa komponen nyata yang dibutuhkan bagi kesehatan dan kesejahteraan manusia
Jika ini memang gambaran umum akademia, saya jadi bisa memahami pihak yang mendukung pemotongan dana riset
Ini adalah konsekuensi logis dari sistem publish or perish
Jika sistem ini dihapus, sebagian besar masalah juga akan hilang, dan meski para admin menginginkan metrik yang sederhana, riset memang tidak punya metrik seperti itu
Bahkan technical debt-nya sama: makalah ada tak terhitung banyaknya, tetapi kemungkinan besar sebagian besar tidak dapat direplikasi, dan kita tidak tahu yang mana
Rekam jejak publikasi dan sitasi bisa dimanipulasi, tetapi konkret, dan makalah dengan banyak sitasi biasanya memang berguna sehingga penulisnya mendapat imbalan
Jika ini dihapus tanpa menyiapkan alternatif yang lebih baik, keadaan bisa jadi malah lebih ditentukan oleh relasi dan kepiawaian bicara daripada sekarang
Mengirimkan begitu saja kesalahan yang dibuat AI seharusnya diperlakukan sebagai pelanggaran setara plagiarisme dan dikenai hukuman serupa
Pengungkapan dan penggunaan berlebihan adalah hal yang berbeda, tetapi jika halusinasi dan kesalahan pun tidak diperiksa, maka masalah utamanya bukan AI melainkan ketidakmampuan dan kemalasan
Statistik pengiriman bulanan arXiv sepertinya lebih baik diubah ke skala logaritmik
Ada kemungkinan dunia akademik pada 2027 akan menjadi seperti Moltbook
Makalah buruk terkonsentrasi pada topik yang mencolok dan besar, terutama machine learning, tetapi ada juga topik penting namun niche yang belum disentuh para penulis seperti ini
Bidang-bidang itu masih dipimpin peneliti serius, tetapi sulit mengetahui keberadaannya jika tidak mempelajarinya langsung
Ini adalah efek samping karena akademia tidak serius menangani akses terbuka untuk makalah dan jurnal
Jika makalah tidak terhalang pembatasan akses jurnal, setidaknya keberadaan makalah yang disitasi dan kutipannya bisa diverifikasi dengan mudah
Peer review memberi reputasi tanpa bayaran dan platform serta penerbit yang mengambil untung, mirip peran moderator Reddit
Penulis membayar biaya publikasi dan penulis lain bahkan melakukan koreksi secara gratis, jadi wajar jika akademisi mengunggah preprint atau makalah populer ke situs pribadi mereka
Namun untuk memverifikasi apakah isi sitasinya benar-benar sesuai dengan klaim nyata, orang tetap harus membaca dan menafsirkan makalahnya, jadi akses terbuka saja tidak membuatnya menjadi sederhana, dan bahkan dengan pemeriksaan awal memakai AI pun ini tetap pekerjaan yang sangat berat
Saya penasaran apakah benar bahwa saat mengirim makalah ke konferensi, orang wajib mereview 4–5 makalah
Artinya bahkan makalah yang layak pun dipaksa direview oleh orang yang tidak jelas sumber maupun keahliannya
Saya dipaksa mereview 7 makalah, dan dari 30.000 makalah saya mendaftar untuk 30 yang saya inginkan, tetapi tidak satu pun dialokasikan kepada saya; malah saya mendapat 7 makalah yang keahliannya tidak cukup saya kuasai
Tetapi jumlah pengiriman terus naik dan reviewer sukarela kurang, sehingga review wajib memang benar-benar diterapkan: kriteria insentif review
Paradoks Chavda patut dilihat: https://zencapital.substack.com/p/chavdas-paradox
Awalnya saya kira Caleb dan Isaac adalah nama dua algoritme yang mendeteksi penggunaan AI dalam makalah terbitan, tetapi ternyata itu nama dua penulis yang menulis dengan bantuan AI
Jika keduanya memberi penilaian berbeda, saya penasaran seberapa banyak tumpang tindih antara makalah yang masing-masing tandai bermasalah
Masih tahap alfa, tetapi saya sedang mengembangkan aplikasi verifikasi sitasi https://veruscite-data.com/ dengan target dirilis di Show HN beberapa minggu lagi
Orang yang terbiasa dengan alat AI generatif bisa langsung memakai fitur yang disediakan Caleb dan Isaac di tulisan itu, tetapi alat ini lebih efisien dalam penggunaan token dan menyediakan GUI yang memudahkan peninjauan serta koreksi referensi yang diekstrak