AI Merusak Open Source, Padahal Masih Belum Benar-Benar Berfungsi

 (jeffgeerling.com)
14 poin oleh GN⁺ 2026-02-18 | 3 komentar | Bagikan ke WhatsApp
  • AI memublikasikan postingan bernada kecaman setelah penggabungan kode ditolak, dan bahkan sampai terjadi penarikan artikel akibat kutipan palsu, sehingga tampak jelas dampak negatif AI terhadap ekosistem open source
  • Para maintainer open source mengalami lonjakan beban review akibat kode (PR) dan laporan bug tidak akurat buatan AI, sementara rasio laporan yang benar-benar berguna turun drastis
  • Situasinya memburuk sampai GitHub memperkenalkan fitur untuk menonaktifkan Pull Request
  • Kemampuan model AI dalam menghasilkan kode telah mencapai plateau pada tingkat tertentu, sementara sumber daya reviewer manusia sudah menyentuh batasnya
  • Tulisan ini memperingatkan bahwa demam AI menunjukkan euforia spekulatif mirip boom NFT dan kripto, serta merusak open source dan ekosistem teknologi

Benturan AI dan open source

Kerugian yang dialami maintainer open source

  • Maintainer curl Daniel Stenberg menghentikan program bug bounty karena penurunan kualitas laporan bug buatan AI
    • Rasio laporan kerentanan yang berguna turun dari 15% menjadi 5%
    • Ia menyebut “para pengguna AI tidak ikut berkontribusi pada perbaikan nyata, hanya mengklaim kerentanan yang dibesar-besarkan demi mengejar imbalan”
  • Jeff Geerling, yang juga mengelola lebih dari 300 proyek open source, mengatakan lonjakan ‘slop PR’ buatan AI (usulan kode berkualitas buruk) terus meningkat
  • Karena masalah ini, GitHub menambahkan opsi pengaturan untuk menonaktifkan Pull Request
    • Ini menjadi kasus pertama di mana fitur inti GitHub dibatasi, yang berarti penyusutan mendasar pada struktur kolaborasi open source

Batasan AI dalam menghasilkan kode

  • Kemampuan AI menghasilkan kode telah mencapai plateau pada tingkat tertentu, dan peningkatan kualitasnya berhenti
  • Pengembang manusia yang bertugas melakukan review kode memiliki batas, tidak seperti perusahaan AI yang seolah punya sumber daya tak terbatas
  • Sebagian pihak mengklaim AI bisa menggantikan code review, tetapi Geerling memperingatkan bahwa penggunaan kode AI yang belum terbukti di lingkungan produksi itu berbahaya
    • Ini mungkin dapat diterima untuk proyek eksperimen pribadi, tetapi tidak cocok untuk layanan komersial

Demam AI dan distorsi ekosistem teknologi

  • Penyebaran OpenClaw dan dorongan OpenAI untuk ‘memopulerkan agen’ berpotensi memperburuk situasi yang sudah bermasalah
  • Geerling menilai demam AI saat ini menunjukkan optimisme irasional dan euforia spekulatif yang mirip dengan boom kripto dan NFT
  • LLM dan machine learning memang punya kegunaan nyata, tetapi proyek-proyek bernuansa penipuan merusak ekosistem open source dengan menjadikannya sebagai dalih

Tanda-tanda industri AI yang terlalu panas

  • Western Digital mengumumkan bahwa stok hard disk untuk 2026 sudah habis terjual seluruhnya, dan lonjakan permintaan terkait AI disebut sebagai penyebabnya
  • Geerling melihat fenomena ini sebagai tanda khas gelembung AI, dan khawatir “berapa banyak yang akan dihancurkan perusahaan AI sebelum mereka harus membayar harganya”
  • Ia menekankan bahwa AI, yang bahkan belum cukup ‘bagus’, sedang meruntuhkan struktur kepercayaan dan kolaborasi dalam open source

Pengalaman pribadi dan kesimpulan

  • Geerling mengakui manfaat AI sebagai alat bantu saat memindahkan blognya dari Drupal ke Hugo dengan memanfaatkan open model lokal
    • Namun, semua kode yang dihasilkan ia uji dan review sendiri sebelum dipasang, dan ia menambahkan bahwa kontribusi ke proyek lain memerlukan verifikasi yang lebih ketat
  • Ia menyimpulkan bahwa AI memang bisa meningkatkan efisiensi pengembangan, tetapi otomatisasi tanpa verifikasi mengancam kualitas open source

Bacaan terkait

3 komentar

 
jeeeyul 2026-02-19

Salah satu esensi open source menurut saya ada pada kode yang bisa dengan bangga diperlihatkan kepada orang lain. Keanggunan logis, keringkasan, dan rasa bangga adalah hal yang esensial. Ini memang kode, tetapi juga seperti puisi, dan punya daya tarik yang berbeda dari kode industri.

Agen juga cukup bagus sampai tahap perencanaan dan tahap rencana implementasi, tetapi setelah itu mereka hanya mengubah strategi sampai fungsi verifikasi lolos. Semakin dalam proses ini, semakin terbentuk semacam lereng yang mirip implementation trap. Masalahnya, ada juga banyak pengguna manusia yang merasa asal bisa berjalan saja sudah OK.

Pada akhirnya, berdasarkan keselarasan filosofis komunitas, peninjauan oleh manusia pada tahap perencanaan harus dilakukan dengan lebih baik, tetapi ini membutuhkan usaha selain intuisi yang luar biasa. Sebenarnya, karena terlalu meyakinkan, men-debug rencana agen bukanlah hal yang mudah.

Sepertinya para moderator akan sangat kewalahan.
 
GN⁺ 2026-02-18
Pendapat Hacker News

  • Ini bukan sekadar masalah open source. Sumber informasi berkualitas tinggi sedang dieksploitasi berlebihan dan rusak
    StackOverflow praktis sudah mati (artikel terkait), penerbit membatasi akses ke Internet Archive, jurnal akademik dibanjiri makalah palsu dan ulasan berkualitas rendah berbasis LLM, dan proyek seperti OpenStreetMap menanggung biaya besar akibat scraping
    Rasanya kita berpindah dari era data mining ke era data fracking

    • StackOverflow sudah menurun jauh sebelum ChatGPT. Sejak 2014 trennya terus turun, dan penurunan tajam setelah ChatGPT hanya sementara; tren jangka panjangnya tetap sama
    • Reddit juga pada dasarnya mati karena AI. Kalau tidak salah, perubahan API adalah respons awal terhadap GPT. Konten bagus hilang, yang tersisa hanya sampah AI
    • Hype AI sedang memperburuk seluruh industri TI
    • StackOverflow runtuh karena pertanyaan yang buruk dan kesombongan para moderatornya. Pertanyaan bagus pun sering langsung ditutup, dan forum meta dipenuhi orang-orang dogmatis. Sebaliknya, situs SE kecil seperti memasak atau LaTeX masih berjalan baik
    • Meski AI tidak memusnahkan umat manusia, kemungkinan besar ini tetap akan menjadi teknologi paling destruktif dalam satu generasi. Ikatan sosial sudah rusak oleh media sosial dan aplikasi bergaya judi, sementara depresi, isolasi, dan ekstremisme meningkat. AI tampaknya akan menghapus sisa inovasi positif yang masih ada dan memaksimalkan kecemasan sosial

  • Saya menulis kode sebagai hobi, dan belakangan ini sebagian besar memakai LLM. Proyek saya tidak punya pengguna, dan itu tidak masalah
    Tapi saat berkontribusi ke open source, ceritanya berbeda. Dulu pemula bisa tumbuh lewat mentoring, tetapi setelah LLM, percakapan nyaris hilang. Mereka seperti Linguini di film Pixar Ratatouille: tanpa gairah untuk belajar, hanya memasukkan sesuatu ke kotak teks lalu melihat hasilnya.
    Jangan mengotori dapur (proyek) masing-masing; datanglah dengan empati

    • OSS kekurangan orang untuk meninjau PR. Bahkan jika memakai agen review otomatis, biayanya besar sehingga kebanyakan proyek tidak sanggup
    • LLM bagus untuk proyek pribadi, tetapi biaya operasionalnya mahal, sehingga pada akhirnya ada dorongan untuk menyelipkannya ke mana-mana
    • Jika tujuan open source bukan kodenya sendiri melainkan membangun komunitas, AI mungkin bisa melahirkan bentuk baru produk komunitas
    • Karena itu GitHub sedang menambahkan fitur pemblokiran PR
    • Saya selalu membuka issue dulu, lalu mengirim PR. Jika maintainer memberi arahan, saya menganggap wajar harus merevisi beberapa kali

  • Penyebaran AI terasa seperti serangan DDoS yang canggih. Bukan cuma server, tapi perhatian dan sumber daya manusia juga terkuras.
    Sebagian besar konten AI berkualitas rendah, jadi sangat melelahkan bagi manusia. Mungkin suatu hari nanti akan berguna, tetapi untuk sekarang ini adalah masa transisi yang kacau

    • AI adalah tindakan konsumsi yang menyamar sebagai produktivitas. Itu merusak ruang tempat orang benar-benar membuat sesuatu
    • Teknologi yang cukup maju memang selalu bertindak seperti DDoS terhadap masyarakat. Saat ini kita hanya sedang menahan dampaknya

  • Code review memang sejak awal adalah bottleneck, dan jika kode yang tidak teruji makin banyak, beban maintainer akan meledak.
    Open source membutuhkan jaminan kualitas kode demi kompatibilitas jangka panjang

    • Karena itu dulu muncul pair programming, tetapi orang tampaknya lebih suka bekerja dengan mesin daripada berkolaborasi dengan sesama manusia

  • LLM sedang mencemari internet dengan konten berkualitas rendah. Bahkan belum jelas apakah itu masih bisa dipakai sebagai data pelatihan ke depan

    • Bukan AI yang merusak internet; internet sudah lebih dulu dirusak oleh ekonomi perhatian yang berpusat pada iklan. AI hanya mempercepat proses itu
    • AI hanyalah alat; hasilnya bergantung pada kualitas usaha yang dimasukkan. Yang jadi masalah adalah hasil kerja yang dibuat asal-asalan
    • Internet yang saya sukai dulu sebagian besar berisi konten nonkomersial. Ekonomi perhatian yang mengejar pendapatan iklan adalah perusak yang sebenarnya
    • Struktur ekonomi platform konten sudah mulai merusak internet sejak lama. Keyakinan bahwa “konten bagus akan menang” telah runtuh
    • Bahkan sebelum LLM, banjir informasi tak bermakna seperti forum Microsoft atau video YouTube yang dibuat otomatis sudah lebih dulu ada

  • Inti masalahnya bukan AI, melainkan asimetri usaha. Dulu membuat PR buruk tetap membutuhkan usaha minimum, sekarang cukup beberapa klik
    Maintainer memerlukan alat penyaringan teknis dan sosial. Seperti spam email, dibutuhkan pendekatan campuran teknologi + kebijakan

    • Tetapi asimetri usaha justru adalah alasan keberadaan AI itu sendiri. Jadi pada akhirnya, masalahnya memang AI
    • LLM juga bisa membaca pedoman, jadi filter sederhana berbentuk kuis tidak akan bertahan lama. Metode dengan friksi lebih tinggi seperti PR berbasis email mungkin lebih baik
    • Diperlukan fitur opsional untuk memblokir pembuatan PR melalui API
    • LLM tampaknya akan membawa akhir bagi sistem berbasis anonimitas. Menghubungkan akun ke identitas nyata bisa mengurangi spam dan bot

  • Akhir pekan lalu saya menemukan bug di sqlcmd versi Golang milik Microsoft dan memperbaikinya dengan Claude.
    Kontribusi yang disengaja seperti ini berdampak positif bagi ekosistem

    • Tapi perlu diverifikasi apakah perbaikannya benar-benar menyelesaikan masalah, atau justru menciptakan bug baru. Maintainer harus memeriksa dampaknya secara menyeluruh
    • Menilai niat dan kualitas kontributor memerlukan banyak waktu dan usaha manusia
    • Yang bermasalah dari LLM adalah orang-orang yang melempar PR tanpa pengujian. Mereka mengejar output, bukan hasil nyata
    • Jika kamu sendiri yang menguji dan mengirimkannya, itu tidak berbeda dari cara lama. Masalahnya adalah PR otomatis yang tidak bertanggung jawab
    • Ini contoh yang positif. Jika manusia tetap bertanggung jawab dan memakai AI sebagai alat, itu tidak masalah
    • Saya penasaran dengan link PR itu

  • Pada 2020, para siswa membanjiri proyek dengan PR yang hanya mengubah satu baris README demi mendapat kaus. Bahkan tanpa AI pun open source sudah kelebihan beban
    Mentoring antargenerasi terputus, dan ekosistem menjadi tidak stabil dan rapuh.
    Meski begitu, open source tidak akan mati. Selama masih ada orang yang membagikan proyek yang dibuat di kamar mereka sendiri, ia akan tetap hidup.
    Diperlukan standarisasi seperti template panduan kontribusi, alat laporan bug otomatis, dan pelatihan bagi maintainer baru.
    Menonaktifkan PR dan issue juga tidak masalah. Tidak wajib selalu memakai GitHub

    • Tetapi AI bisa merusak discoverability dan komunitas. GitHub bukan karena sempurna, melainkan karena orang-orang berkumpul di sana
    • Sekarang agen AI bisa membuat dan membagikan proyek sendiri
    • Dulu pun satu video edukasi bisa membuat banyak orang mengirim PR yang tidak berarti

  • Pernyataan bahwa “perkembangan AI melambat” terdengar aneh. Dalam beberapa bulan terakhir saja sudah ada peningkatan besar seperti Opus 4.5, 4.6, dan Codex 5.3
    Jika melihat grafik METR, pada 2024 memang sempat melambat, tetapi pada 2025 kembali melampaui garis tren

    • Tulisan tentang “melambat” itu terbit dua bulan sebelum Opus 4.5 dirilis. Jadi sebenarnya bukan stagnasi
    • Klaim seperti ini sering muncul dari kubu anti-LLM, tetapi laju kemajuannya masih cepat. Sayang sekali kedua kubu berubah seperti perang budaya yang mengabaikan bukti
    • Jika dilihat dalam rentang satu tahun, peningkatan yang dirasakan mungkin kecil. Beberapa proyek masih belum layak produksi

  • Dulu internet adalah tempat yang menyenangkan, tetapi iklan dan media sosial telah mematikan kreativitas dan kolaborasi.
    Dulu ada semangat begadang sambil makan pizza untuk debugging, sekarang semuanya terasa sangat membosankan

    • Kita masih bisa menikmati proyek hobi seperti dulu. Fakta bahwa orang lain bermain-main dengan LLM tidak merampas kesenangan saya. Bersenang-senang saja dengan cara masing-masing
    • Saat ini AI banyak dipakai secara antisosial, tetapi bisa saja berkembang ke arah yang membantu kolaborasi
    • Web sudah dikomersialisasi sejak banner ad pertama pada 1994. Struktur berbasis iklan bukan hal baru
    • Generasi seperti saya dulu merasa AOL yang merusak internet. AI pun pada akhirnya adalah perubahan yang harus diterima
    • Mengatakan “AI membunuh kreativitas” itu seperti mengatakan terapi multiobat menghilangkan solidaritas dalam komunitas penderita kusta
 
realg 2026-02-18

Apakah ini masalah AI, atau masalah orang yang menggunakan AI sembarangan tanpa pikir panjang? Dari sekarang saja sudah terasa ada suasana yang hanya ingin melemparkan perilaku salah manusia kepada AI.