L dalam LLM berarti "Lying"

• Terlepas dari hype berlebihan seputar alat coding berbasis LLM, kualitas hasil pengembangan perangkat lunak nyata tidak banyak membaik, dan justru dibanjiri keluaran yang mendekati forgery
• Hakikat pekerjaan LLM adalah memungkinkan individu meniru keluaran potensial miliknya sendiri atau orang lain lalu menghasilkan versi itu lebih cepat, dan masalah muncul saat hasil ini dipakai sebagai pengganti karya asli
• Proyek open source mengalami kerugian nyata akibat PR berkualitas rendah buatan AI, sampai harus menutup kontribusi publik atau menghentikan bug bounty
• Industri game, didorong oleh konsumen, secara efektif melawan dengan menuntut pelabelan dan pemfilteran konten AI, sementara para software engineer menerimanya tanpa perlindungan berarti
• Agar LLM berhenti berbohong, source attribution yang benar adalah syarat mutlak, tetapi dalam arsitektur model saat ini hal itu secara teknis tidak mungkin

---

Sanggahan terhadap framing bahwa penggunaan AI tidak terhindarkan

• Menurut hype industri, pengembangan perangkat lunak lama sudah berakhir, tetapi setelah bertahun-tahun memakai alat berbasis LLM, hasilnya tetap hampir sama seperti sebelumnya
• Hype dalam jumlah luar biasa besar mendorong investasi masif, lalu investasi itu sendiri menuntut lebih banyak hype, membentuk siklus berulang
• Model-model baru terus dilatih untuk memenuhi janji yang seharusnya sudah dipenuhi oleh model yang kini bahkan sudah dipensiunkan
• "Tidak memakai AI sepenuhnya tidak masalah" — ini bukan sikap kuno, dan justru bisa lebih minim stres serta lebih memuaskan dibanding menerima AI

Craft vs Kraft: framing pemalsuan

• Di antara berbagai framing tentang apa yang dilakukan LLM (bantuan, kreativitas, produktivitas vs kemalasan, sekali pakai, penjiplakan), kata yang mengejutkan justru hilang adalah forgery
• Jika Anda melukis dengan gaya Van Gogh lalu membubuhkan tanda tangannya, itu forgery; jika menyamar sebagai dokumen hukum, itu forgery; riset yang memanipulasi data juga forgery — status forgery melekat pada objek dan cara pembuatannya
• LLM adalah alat yang memungkinkan seseorang membuat barang palsu dari keluaran potensial miliknya sendiri atau orang lain dengan lebih cepat
• Meniru itu sendiri legal sebagai bentuk kebebasan berekspresi, tetapi masalah muncul ketika barang palsu dipakai sebagai pengganti karya asli
• Memalsukan surat dari Santa Claus tidak akan membuat Anda ditangkap, tetapi bahkan menyimpan uang palsu tiruan yang sangat meyakinkan sebagai koleksi pribadi pun tidak diizinkan di yurisdiksi mana pun

Analogi perlindungan asal-usul dan standar mutu

• Produk pangan dengan kontrol asal seperti "Brie de Meaux" di Prancis menuntut cara produksi tradisional, bahan baku berkualitas tinggi, dan asal geografis tertentu
• Jika produksi luar negeri diizinkan, dampaknya hampir pasti berupa banjir tiruan murah yang merusak merek asli dan mengancam keahlian lokal langka yang diwariskan lintas generasi
• Penilaian konsumen per individu saja tidak cukup menjamin pasar berfungsi dengan layak, karena barang yang muncul di rak toko sudah ditentukan oleh faktor-faktor di luar kendali konsumen
• Mutu keju artisan mewakili seluruh rantai pasok yang dijalankan dengan metode modern, dan memindahkannya ke tempat lain membutuhkan investasi besar pada modal manusia, infrastruktur, dan pertanian
• Setiap masyarakat harus menarik garis di suatu titik antara "keju artisan tradisional" dan "telur palsu yang dibuat dari bahan kimia industri", dan hanya masyarakat yang memahami serta menjaga nilai craftsmanship pangan yang bisa menghindari tingkat obesitas di atas 70% seperti kasus Nauru

Dampak AI slop pada open source dan coding sehari-hari

• Para maintainer open source adalah pihak yang paling dulu merasakan efek sampingnya — sejak awal sudah sulit menemukan kontributor yang benar-benar termotivasi dan membantu mereka beradaptasi dengan tujuan proyek serta pola pikir engineering
• Kini muncul kontributor yang mengirim PR hasil slop coding demi memoles resume GitHub
  • tldraw menutup kontribusi publik, proyek curl menghentikan bug bounty, dan proyek lain merespons dengan mengejek kontributor palsu
• Efek serupa juga muncul dalam kerja harian bersama rekan yang vibe-coding — staf junior terlihat cepat beradaptasi, padahal sebenarnya mereka melempar proses belajar awal ke bot
• Pada 2026, jika staf junior mengirim PR dengan penjelasan dan komentar yang sangat detail, maka setiap katanya harus dicurigai

Engineer senior dan ilusi produktivitas 10x/100x

• Veteran berpengalaman yang memakai AI dikatakan menghasilkan kode 10 kali atau 100 kali lebih banyak, tetapi mereka tetap gagal memahami bahwa setiap baris kode yang dijalankan dan diandalkan adalah liability
• Pernyataan bahwa "AI coding hebat karena semua yang dibutuhkan agen sudah dijelaskan di codebase" adalah klaim yang fatal kelirunya — jika itu benar, maka sebenarnya tidak ada lagi pekerjaan coding yang perlu dilakukan
• Perbedaan kuncinya adalah apakah seorang engineer menghabiskan sebagian besar kariernya untuk menyelesaikan masalah yang dibuat software lain, atau untuk menyelesaikan masalah yang sudah dimiliki orang sebelum software itu ada
  • Hanya yang kedua yang mengajarkan cara memikirkan batasan nyata masalah dan kebutuhan pengguna
• Saat software diperlakukan sebagai tujuan itu sendiri, sesuatu yang cukup ditangani dengan VPS $10/bulan malah berubah menjadi cloud infrastructure yang over-engineered

Ciri slop code dan respons industri

• Engineer yang punya craftsmanship dapat dengan mudah mengenali slop saat review — misalnya pengulangan kode berlebihan, kompleksitas yang tidak perlu, dan penolakan untuk refactor
• Bahkan engineer senior pun, meski sudah berpengalaman bertahun-tahun, terlihat melakukan kesalahan yang memalukan lewat vibe-coding lalu menyerahkannya begitu saja
• Insiden di Co-pilot Discord milik Microsoft yang melarang ejekan "Microslop" — penolakan pengguna dibingkai sebagai "spam" atau "berbahaya", sehingga janji diperlakukan lebih penting daripada hasil nyata
• Alat-alat ini disebut "adiktif" atau "teman terbaik yang bisa dimiliki", tetapi ledakan kreativitas dan pencapaian ala Cambrian yang menyertainya tidak terlihat

Masalah struktural industri perangkat lunak dan peran AI

• Yang banyak dibuat AI pada dasarnya adalah glue code yang dibutuhkan karena aplikasi perangkat lunak sejak revolusi PC menjadi lebih tertutup, lebih terdistribusi, dan lebih korporat
• HTTP API gagal memberi keterbukaan sejati karena menuntut JSON blob yang dokumentasinya buruk dan skemanya bisa berubah setiap malam
• Banyak perusahaan sampai sekarang masih dijalankan terutama dengan Excel, dan belum ada alat yang menjadi padanan Excel untuk JSON
• SQL pernah dijanjikan akan membebaskan bisnis dari ketergantungan pada alat-alat khusus, tetapi gagal, dan sejarah sedang berulang
• Dalam situasi ketika aplikasi Electron hasil vibe-coding masih lebih disukai daripada aplikasi native multiplatform, wajar dipertanyakan di mana sebenarnya wujud produktivitas 100x itu
• Jika bahkan Apple tidak mampu mempertahankan sistem form dan ikon yang layak pada OS terbarunya, maka kemungkinan AI yang dilatih dengan web slop untuk berhasil jadi makin kecil

Perlawanan efektif dari industri game

• Para software engineer terjun tanpa pelampung, tetapi industri game melawan dengan efektif berkat dorongan konsumen
• Banyak judul game sudah meminta maaf dan menghapus konten AI yang tidak diberi label
• Steam memiliki kebijakan yang jelas soal konten AI, dan SteamDB menyediakan alat untuk memfilter game buatan AI
  • Kebijakan Steam baru-baru ini diperbarui sehingga mengecualikan penggunaan untuk "peningkatan efisiensi" pada alat pengembangan yang tidak menghasilkan konten yang ditampilkan kepada pemain
• Ada dua alasan mengapa pasar game bisa melawan secara efektif:
  • Pasar distribusi digital yang murni D2C (langsung ke konsumen) — gamer memegang seluruh pilihan, dan para penentu selera yang menuntut transparansi adalah gamer itu sendiri
  • Sebagian besar game bersifat artistik, dan dibeli karena daya tarik artistik tertentu — dalam seni, imitasi dianggap menurunkan nilai karya asli dan mencuri kredit

Kontras antara reuse kode dan orisinalitas artistik

• Kode pada umumnya tidak dirugikan oleh reuse, atau dalam kasus infrastruktur justru bisa menguntungkan
• Inilah alasan proyek open source sangat tidak cocok untuk menarik kreator artistik yang berbakat — semangat berbagi tanpa biaya berarti desain artistik bisa langsung dibajak keluar dari konteks aslinya
• Procedural generation klasik layak diperhatikan sebagai preseden, dan pada umumnya juga gagal memenuhi harapan
  • Kasus No Man's Sky (versi 2016) — janji menciptakan konten eksponensial dari sumber terbatas justru membuat keragaman hasilnya sendiri menjadi tidak bernilai

AI generatif, perpustakaan bajakan, dan ambiguitas hukum

• Wajar jika para seniman mengecam AI generatif sebagai plagiarisme massal, dan sama wajarnya bila entrepreneur teknologi serta kurator data gagal memahaminya lalu melatih model dari shadow library bajakan
  • Nvidia dituduh mencoba membuat kesepakatan akses berkecepatan tinggi ke koleksi buku bajakan raksasa milik Anna's Archive
• Ada alasan jelas mengapa output-nya terasa biasa saja, kasar, dan meragukan — sampel pelatihan yang beragam dalam sumber data itu sendiri hanyalah slop untuk mesin
• Hal ini menciptakan plausible deniability yang membuat mustahil membedakan mana kutipan, mana halusinasi, dan mana yang orisinal
• Menempelkan label buatan AI atau watermark pada konten AI pada dasarnya lebih merupakan pengalihan tanggung jawab daripada bentuk pengungkapan yang sungguh bertanggung jawab
• Agar vibe-coding bisa dianggap dapat diterima dan dibenarkan, engineer harus menerima posisi paradoks bahwa hasil karyanya sendiri sekali pakai, tidak kreatif, dan tidak layak mendapat kredit

Source Attribution sebagai solusi

• Tidak seharusnya ada pengadilan yang memutuskan legalitas atau kelayakan hak cipta untuk keseluruhan output AI; output tanpa sumber harus diperlakukan sebagai forgery
• Solusi untuk masalah LLM sebenarnya jelas tetapi mustahil dicapai: LLM harus mampu melakukan source attribution yang benar bersamaan dengan penalarannya
  • Ini bisa mengungkap bukan hanya sisi artistik, tetapi juga bahwa banyak vibe code sebenarnya copy/paste dari codebase yang ada tanpa menyebut penulis asli, lisensi, maupun tautan
• Pada model saat ini, atribusi yang nyata secara teknis tidak mungkin — kemampuan LLM untuk menyebut sumber dan mengutip itu sendiri hanyalah emergent property dari data yang dikumpulkan
  • LLM hanya bisa mengutip sumber saat konteks posisi teks saat ini terasa tepat, yang pada dasarnya hanyalah role-play sitasi: pandai mengutip hal-hal yang memang sering dikutip dengan benar
• Implikasi tuntutan atribusi sangat besar: jika bobot harus bisa diatribusikan dan forward pass harus bisa diaudit, seperti apa bentuk backpropagation nantinya, dan jelas itu bukan sesuatu yang muat dalam int4
• Inilah problem yang coba diselesaikan secara terbalik oleh "alat deteksi AI"
• Sungguh paradoks jika teknologi generasi setelah World Wide Web dan mesin pencari skala Google justru tidak bisa memberi tahu sumber informasi secara by design
• Jika mesin harus berhenti berbohong, maka ia harus mengutip sumber dengan benar, dan hal yang sama berlaku untuk perusahaan AI

[hungryman]

Apa ya, kosakataku sepertinya mulai payah.
Aku malah duduk cari arti "emergent, slop, atribusi sumber, framing effect, ledakan Kambrium".

[GN⁺]

Komentar Hacker News

• Pasar video game tampaknya menjadi kasus langka di mana konsumen menolak AI, tetapi sebenarnya penolakan itu hanya terjadi pada aset seni AI
  Tak ada yang benar-benar peduli apakah kode ditulis dengan AI atau tidak. Dari survei AI Steam, pembuatan kode pada dasarnya sudah diizinkan
  Pada akhirnya, penyebaran coding dengan LLM tidak terelakkan. Hal yang sama juga berlaku untuk procedural generation; ini lebih bergantung pada kemampuan orang yang menggunakannya daripada pada alatnya sendiri

  • Anggapan bahwa procedural generation gagal adalah pandangan yang tidak paham. Dari karya klasik seperti Elite dan Powermonger hingga game roguelike modern, ada banyak contoh yang berhasil
  • Memang benar LLM mengurangi kode berulang, tetapi itu bukan penggunaan ulang kode. Masalah seperti itu sebenarnya sudah bisa diselesaikan dengan library
  • Melihat seorang teman seniman mencela AI tetapi tetap memakai AI untuk tulisan pemasaran membuatku teringat pada sikap yang kontradiktif
  • Survei Steam memang menunjukkan bahwa pembuatan kode juga termasuk, tetapi pada akhirnya itu tidak berbeda dari menggunakan library
  • Daya tarik game open-world berkurang karena rasa segarnya sudah hilang. Klaim bahwa LLM menghemat waktu juga dasar buktinya lemah. Hasil instan tidak menjamin manfaat jangka panjang

• Perdebatan tentang LLM terasa melelahkan. Teknologi ini dipakai bukan untuk memberdayakan manusia, melainkan untuk mengendalikan mereka, mempermudah PHK, dan makin memusatkan kekayaan
  Rasanya seperti babi-babi yang sedang mendiskusikan kegunaan mesin pembuat bacon

  • Dengan 20 dolar per bulan, AI yang bisa dipakai siapa saja sudah merupakan alat yang cukup universal. Justru ini menurunkan hambatan. Reaksi penolakan ini tampak seperti ketakutan terhadap perubahan
  • Logika seperti ini sudah berulang pada semua teknologi otomasi sejak Revolusi Industri
  • AI juga bisa membebaskan kita dari ketergantungan komersial. Mungkin kita akan bisa membuat OS atau aplikasi sendiri
  • Yang perlu dituntut adalah otomasi penuh dan jaminan pendapatan dasar. Risiko yang sesungguhnya bukan AGI, melainkan manusia
  • Jika mayoritas kehilangan pekerjaan, pasar itu sendiri akan runtuh. Namun perusahaan, karena persaingan, pada akhirnya akan menciptakan pekerjaan baru

• Gerakan Luddite bukan sekadar anti-teknologi. Mereka mengkhawatirkan penurunan kualitas, dan ternyata mereka memang benar
  Syal wol buatan tangan di Eropa abad pertengahan benar-benar berbeda dari produk pabrik modern. Kemajuan teknologi tidak selalu berarti penggantian 1:1
  Bahkan sekarang, melihat alat internal buatan non-teknisi yang menghemat ratusan jam kerja membuatku merasa bahwa meski tidak sempurna, cukup efektif saja sudah memadai

  • Jepang adalah masyarakat yang terindustrialisasi, tetapi tetap menghormati tradisi kerajinan tangan
  • Delapan ratus tahun lagi, kode yang tersisa di museum mungkin hanyalah kode yang benar-benar bagus. Ada bias penyintas yang membuat masa lalu tampak lebih indah
  • Merekomendasikan ceramah Jonathan Blow Preventing the Collapse of Civilization
  • Menyebut software engineer sebagai Luddite itu keliru. Sebagian besar rekayasa perangkat lunak pada dasarnya lebih dekat ke pekerjaan kerajinan tangan, berulang, dan sangat bergantung pada pengalaman
  • Gagasan untuk kembali ke masa sebelum industrialisasi hanyalah nostalgia aristokratis. Justru LLM membuka akses perangkat lunak kustom kepada publik luas

• Realitas yang diungkap LLM adalah bahwa sebagian besar pemrograman hanyalah kode boilerplate
  Nilai yang sesungguhnya ada pada inovasi kecil di level yang lebih tinggi

  • Jika kecepatan pengembangan benar-benar penting, struktur organisasi seharusnya sudah berubah sejak lama. Kenyataannya, masalah utamanya adalah birokrasi yang tidak efisien
  • Library dan abstraksi justru sering menyebabkan penggelembungan kode. Karena LLM dilatih dengan kode seperti ini, sulit baginya menghasilkan kode yang benar-benar rapi
  • Bahkan dalam kode berulang pun bisa ada jiwa craftsmanship. Membangun fondasi dengan baik juga merupakan pekerjaan yang bernilai
  • Dulu tahapan coding dibagi menjadi “memilih apa yang akan dilakukan–menulis–debugging”, tetapi sekarang itu terasa ketinggalan zaman
  • Buku pada akhirnya juga seperti makalah sederhana yang diisi ratusan halaman boilerplate

• Pemanfaatan LLM yang ideal adalah sebagai guru. Akan lebih baik jika dipakai sebagai alat untuk mengajarkan konsep dengan cepat, alih-alih langsung menulis kode

  • Sekaranglah saat yang tepat untuk itu. Cukup tulis jelas di prompt: “jangan menulis kode, jadilah guru yang baik”
  • Namun belajar dari guru yang tidak bisa dipercaya adalah pengalaman yang membuat cemas. Rasanya pembelajaran yang stabil, meski lebih lambat, tetap lebih baik

• Seperti keju atau ham buatan artisan, mungkin di masa depan akan ada Artisanal Coding

  • ‘Handmade Network’ sudah mempraktikkan filosofi itu. LLM hanyalah titik akhir dari pengembangan perangkat lunak yang terindustrialisasi
    Pada dasarnya ia menjadi mesin yang menerjemahkan spesifikasi menjadi kode menggantikan manusia
  • Contoh yang paling dekat adalah kasus seperti Steve Gibson yang menulis assembly secara manual. Namun itu bukan arus utama
  • Logika pelindungan tradisi seperti penamaan asal geografis kebanyakan kurang punya dasar kuat

• Kenyataan pahitnya, tak ada yang benar-benar peduli pada kode kita itu sendiri
  Kebanyakan orang hanya peduli apakah itu berjalan, seberapa cepat, dan berapa biayanya. Pada akhirnya kita lebih mirip buruh pabrik
  Ini mirip dengan rasa kehilangan yang mungkin dirasakan pembuat jam ketika melihat mesin bubut otomatis

  • Mereka tak peduli pada kualitas sampai sistem runtuh karena utang teknis, lalu baru terkejut
  • Perangkat lunak enterprise cukup jika ‘asal berjalan’, tetapi produk untuk konsumen menuntut kualitas dan penyempurnaan
  • Aku menganggap kode sebagai utang. Ada kepuasan saat bisa membuangnya dengan tegas ketika sudah tidak diperlukan
  • Coding itu tidak kreatif, juga tidak seksi. Dunia hanya melihat “apakah ini bekerja dengan baik, cepat, murah, dan rilis lebih dulu daripada pesaing”
    Pada akhirnya, narasi romantis tentang pekerjaan kreatif yang selama ini kita pertahankan sedang runtuh

• Semua diskusi ini pada akhirnya terasa seperti persoalan sifat manusia yang terus berulang, mirip meme TTP(Time To Penis)

• Tulisan ini benar-benar menunjukkan sudut pandang yang realistis dan seimbang

[parkindani]

Baik isi artikel maupun komentarnya terasa sangat negatif sampai-sampai terasa aneh. Apa mereka semua bahkan belum pernah mencoba menjalankan Claude Code..