- 'Slop', yaitu konten berkualitas rendah yang dihasilkan AI, menyebar di seluruh internet, dan fenomena serupa juga muncul di ranah perangkat lunak, selain musik, video, dan teks
- Produksi konten makin dioptimalkan hanya untuk memaksimalkan engagement dan pendapatan, sementara semangat kriya dan kreativitas cenderung menghilang
- Penurunan kualitas dan kemunduran teknis di perusahaan teknologi besar sudah berlangsung bahkan sebelum kemunculan AI, dan pembagian kerja yang sempit melemahkan keterampilan serta daya pikir para engineer
- Agen AI berguna untuk pekerjaan berulang yang terdefinisi dengan baik, tetapi memiliki keterbatasan mendasar: berhalusinasi, tidak benar-benar memahami kode, dan menghasilkan kode yang buruk
- Seperti gerakan Arts and Crafts pada abad ke-19, kini saatnya perangkat lunak juga memulihkan gagasan komputasi awal dan menghidupkan kembali semangat kriya yang berpusat pada manusia
Penyebaran AI slop dan konsep technique
- Sejak model AI dirilis, konten AI berkualitas rendah yang disebut 'slop' meningkat tajam di audio, video, dan teks
- Konten sampah selalu ada, tetapi dengan AI, tenaga kerja yang dibutuhkan untuk membuatnya berkurang puluhan kali lipat atau lebih
- Dalam pekerjaan yang tidak memerlukan penilaian baik, atau ketika penilaian itu tidak penting, AI telah mencapai tingkat yang cukup untuk menggantikan tangan manusia
- Konsep 'technique' dari Jacques Ellul: cara berpikir yang mereduksi aktivitas menjadi sekumpulan sarana efisien menuju tujuan yang terukur dan terdefinisi
- Instagram Reels, video YouTube, dan posting blog dianggap sebagai hasil yang 'baik' jika mampu menarik engagement maksimum dengan upaya minimum
- Obsesi pada metrik dan performa menggerus nilai-nilai tak berwujud seperti semangat kriya, keindahan, dan kesenangan
Perbandingan platform musik: Bandcamp vs Spotify
- Bandcamp: berfokus pada album utuh dan kurasi personal
- Menopang ledakan musik indie pada 2010-an hingga 2020-an, serta membantu naiknya artis seperti Car Seat Headrest, Mitski, Alex G, dan Phoebe Bridgers
- Sebagai platform yang menjadikan musik itu sendiri sebagai tujuan, Bandcamp melarang musik hasil AI
- Spotify: model berbasis playlist dan rekomendasi algoritmik
- Fokus pada optimasi metrik, bukan pada musik itu sendiri
- Penyebaran musik hambar yang disesuaikan dengan algoritme (muzak)
- Dalam lingkungan yang tidak mempertimbangkan semangat kriya, AI mampu memproduksi massal konten yang jauh lebih unggul daripada musik buatan manusia dari sisi 'maksimalisasi pendapatan'
Fenomena penurunan kualitas di industri perangkat lunak
- Bahkan sebelum AI muncul, banyak perangkat lunak sudah berada dalam kondisi berkualitas rendah secara umum
- Rekayasa perangkat lunak di perusahaan teknologi besar telah berubah menjadi sesuatu yang lebih mirip 'pekerjaan plumbing'
- Sekadar menghubungkan berbagai sistem agar data bisa mengalir
- Gagasan Richard Hamming tentang 'pekerjaan besar', yaitu menciptakan hadiah bagi umat manusia, kini dianggap terlalu idealistis dalam industri teknologi
- Banyak sistem perangkat lunak besar berada dalam kondisi terlalu gemuk, dirancang dengan buruk, dan kurang terdokumentasi
- Pengguna terus dipaksa bersikap defensif agar tidak dieksploitasi dalam proses 'enshittification' yang membuat platform makin memburuk
- Penulis sependapat dengan pandangan dalam ceramah Jonathan Blow, Preventing the Collapse of Software Civilization
- Engineer profesional dan perusahaan perangkat lunak besar telah melupakan cara melakukan pekerjaan dengan benar
- Karena struktur monopoli nonkompetitif yang melindungi mereka dari tekanan pasar
- praktik perangkat lunak menjadi longgar
- organisasi membengkak
- kualitas keseluruhan menurun drastis
- Engineer Big Tech hanya menjalankan peran yang sangat terbatas di dalam organisasi besar
- kemampuan engineering yang luas dan semangat kriya pun secara alami merosot
Modal manusia dan masalah pembagian kerja
- Apa yang bisa dicapai perusahaan atau masyarakat dengan komputer bergantung pada modal manusia, yaitu seberapa jauh mereka mampu membina engineer dengan keterampilan yang luas
- Struktur pembagian kerja yang ekstrem di perusahaan teknologi besar
- menghasilkan tenaga teknis sempit yang hanya terbiasa dengan area tertentu
- dan membuat mereka terikat sebagai tenaga kerja yang hanya dapat berfungsi dalam struktur organisasi Big Tech saat ini
Muncul dua fenomena ketika AI dianggap mengancam software engineering
- 1. Kesadaran realistis bahwa agen AI mengancam software engineering profesional
- Bagi engineer yang perannya telah menyusut menjadi produksi perangkat lunak berkualitas rendah yang repetitif dan bercakupan sempit
- AI memang dapat berfungsi sebagai pengganti yang cukup efektif
- 2. Generalisasi berlebihan terhadap kemampuan agen AI
Keterbatasan mendasar agen AI
- Agar klaim semacam itu berlaku, orang harus menerima pandangan yang sangat sempit tentang apa itu perangkat lunak
- Sama seperti musik buatan AI menuntut cara pandang yang melihat musik semata sebagai metrik konsumsi
- Perangkat lunak dipandang hanya sebagai alat untuk mencapai tujuan, dengan sikap "cukup bagus sudah cukup"
- Dari hasil eksperimen langsung dengan agen AI, memang ada sisi yang berguna, tetapi juga ada batasan yang jelas
- AI sering menyampaikan hal yang tidak faktual seolah meyakinkan, tidak benar-benar memahami konteks, dan kerap menghasilkan kode berkualitas rendah
- Beberapa area mungkin masih bisa membaik, tetapi seperti musik atau teks, keterbatasan strukturalnya juga jelas
- Agen AI tidak memiliki pemikiran otonom, dan tidak dapat memahami sendiri apa yang sebenarnya diinginkan pengguna
- Agen AI bekerja paling baik ketika masalahnya didefinisikan dengan jelas
- Contoh: “menulis unit test”, “mengimplementasikan fungsi DB dengan bentuk seperti ini”
- Upaya untuk menggeneralisasi kemampuannya sebagian besar gagal
- Sering menghasilkan kode monster yang memang baru, tetapi sulit dipelihara, dipahami, dan diperluas
Masalah “Vibe Coding”
- Pada awalnya tampak mengesankan, tetapi seiring waktu cacat khasnya makin menonjol
- kode yang terlalu bertele-tele dan gaya yang seadanya
- struktur yang sederhana tetapi datar dan miskin secara estetika
- jejak khas yang terus berulang lama-lama terasa mengganggu
- Saat masalah muncul, proses debugging berubah menjadi pekerjaan berulang yang membuat frustrasi
- sambil menonton video lain atau scroll SNS lalu coding tanpa fokus
- terus mengulang permintaan kepada agen: “ada bug, tolong perbaiki lagi”
- Ciri yang sering terlihat pada kode hasil AI
- tombol dengan padding berlebihan
- jarak dan warna yang tidak konsisten
- estetika keseluruhan yang datar
- elemen UI yang alasan keberadaannya tidak jelas
- kecenderungan menambahkan label dan penjelasan yang tidak perlu pada semua elemen
Masalah sistemik industri perangkat lunak dan perlunya semangat kriya
- Sulit menyangkal bahwa sebagian besar kode memang tidak terlalu bagus, terutama di lingkungan perusahaan besar
- Dengan AI, perangkat lunak berkualitas rendah bisa terus diproduksi lebih cepat dan lebih efisien
- Namun AI tidak menyelesaikan masalah sistemik inti yang dihadapi industri perangkat lunak
- Masalah mendasarnya adalah cara membuat perangkat lunak dengan baik dalam skala besar itu sendiri belum benar-benar mapan
- Untuk memecahkan masalah ini, yang dibutuhkan bukan otomatisasi, melainkan semangat kriya dan pemikiran kritis manusia
Gerakan Arts and Crafts dan kemiripannya dengan perangkat lunak
- Perhatian diarahkan pada gerakan Arts and Crafts pada masa Revolusi Industri Kedua
- John Ruskin dan William Morris merespons era ketika kemampuan mesin dan produksi industri yang luar biasa mulai menyingkirkan perajin individual
- Mereka tidak melihat produksi industri sebagai kemajuan tanpa syarat, dan menyadari bahwa hasil serta kondisi kerja yang ditimbulkannya memiliki 'gaya' yang khas
- Mereka mengkritik bagaimana pekerja makin berubah menjadi komponen dari mesin industri raksasa
- Mereka menegaskan bahwa ada wilayah yang jelas tidak bisa dikerjakan mesin, dan hal itu tidak berubah dulu maupun sekarang
- Sebagai sumber inspirasi, mereka berupaya memulihkan semangat kriya abad pertengahan
Peralihan serupa yang dibutuhkan dalam perangkat lunak
- Di bidang perangkat lunak juga dibutuhkan peralihan dan gerakan serupa
- Cara dan pola pikir komputasi awal perlu dipelajari ulang dan dipulihkan
- Ada gudang harta karun berisi gagasan-gagasan kaya yang diabaikan arus utama tetapi tidak pernah benar-benar hilang
- proyek-proyek yang mengesankan dan indah dengan cara yang berbeda dari perangkat lunak masa kini
- Saat ini kita hanya berada di cabang perkembangan teknologi yang sangat sempit, yaitu jalur dari C/Unix ke Javascript/web
- padahal masih jauh lebih banyak wilayah lain yang bisa dieksplorasi
- Begitu bergerak sedikit saja ke arah yang tidak konvensional, bantuan AI hampir lenyap
- Saat mencoba menulis Forth dengan Claude, hasilnya terasa lebih dekat ke gangguan daripada bantuan
- Sebagai titik awal, penulis merekomendasikan Permacomputing wiki
Prospek di era kode AI
- Kode AI kemungkinan akan membuat perangkat lunak produksi massal berkualitas rendah menjadi semakin umum
- Pada saat yang sama, hal itu juga bisa membuka ruang baru bagi engineer yang ingin memulihkan semangat kriya dan ekspresi kreatif
- Penulis tidak pesimistis: semakin langka semangat kriya, semakin besar pula nilainya
- Ketika perangkat lunak arus utama mulai memperlihatkan batasnya, penurunan kualitas terus berlanjut, dan kesadaran politik mendorong peninjauan ulang atas nilai struktur yang tersentralisasi
- inilah saat yang tepat bagi perangkat lunak eksperimental, buatan manusia, dan dijalankan dalam skala manusia untuk bersinar dari pinggiran
1 komentar
Opini Hacker News
Saya suka bagian yang menyebut pemikiran Jacques Ellul
Itu membuat saya kembali memikirkan bahwa hakikat ‘kemajuan’ teknologi terletak pada pengangkatan efisiensi sebagai nilai tertinggi
Menarik bahwa nilai ini diterima hampir tanpa tantangan. Namun saya masih percaya pilihan lain tetap mungkin
Efisiensi pada dasarnya memiliki sifat yang mengorbankan kemampuan beradaptasi dan ketahanan
Sebaliknya, keahlian, ketelitian, dan rasa takjub sulit diukur. Metrik yang saya pakai adalah email dari orang sungguhan, dan itu tidak teratur serta sulit diprediksi
Saya pikir kode berkualitas tinggi tetap bisa dibuat lewat coding agent
Bukan selesai dalam satu prompt, melainkan butuh proses terorkestrasi berupa perencanaan–implementasi–verifikasi–review
Pada akhirnya ini tetap pekerjaan engineering, hanya alatnya yang berbeda. Seperti perbedaan gergaji tangan dan gergaji mesin: hasilnya sama, tetapi prosesnya berbeda
Software enterprise buruk terutama karena dijual kepada manajer yang tidak memakainya
Sebaliknya, software konsumen lebih ramah karena dipilih langsung oleh penggunanya
Saat menulis kode untuk diri sendiri, kita hanya membangun fungsi yang dibutuhkan, jadi hasilnya kasar tetapi bekerja dengan baik
Coding agent bisa dipakai seperti mesin cuci tekanan tinggi untuk membersihkan proyek. Bukan seni, tapi memuaskan
Hanya saja jangan dipakai pada kode yang halus dan sensitif. Namun sebagian besar web app punya pengujian yang baik, dan sekarang hampir tidak ada alasan untuk mengerjakannya secara manual
Akibatnya jadi penuh dengan fitur dan toggle yang tidak perlu
Manajer menginginkan data yang akurat, tetapi karyawan mengeluh karena input merepotkan
Sering kali juga tidak ada anggaran integrasi atau kontraknya terlalu pendek sehingga integrasi CRM pun tidak bisa dilakukan
Sementara software enterprise terdistorsi menjadi workflow aneh karena insentif antara pihak yang membayar dan pihak yang memakai tidak selaras
Sebagian besar software engineer bahkan sebelum AI pun lebih fokus pada gaji dan efisiensi daripada keahlian
Jadi kode yang dihasilkan AI juga hanya akan menjadi kode yang biasa-biasa saja
Saya rasa AI bukan akan menghidupkan kembali keahlian, melainkan justru menghapus jejak terakhirnya
Seperti power tool tidak menghapus pertukangan kayu manual, AI pun akan begitu
Di masa depan, “orang IDE” dan “orang prompt agent” akan hidup berdampingan
Senang melihat Forth disebut. Saya sering memakainya
Kode Forth yang dihasilkan LLM punya gaya buruk seperti terjemahan dari C
Forth standar seharusnya singkat dan jelas, tetapi LLM membuat kode panjang yang penuh conditional bersarang
Belakangan saya sedang membaca Turing’s Cathedral
Itu kembali menyadarkan saya akan keahlian engineering Amerika pascaperang
Sekarang kita menganggap segalanya wajar dan seolah lupa seperti apa engineering yang sesungguhnya
Sebagian besar kode memang sejak awal berkualitas buruk
Dalam budaya yang berfokus pada hasil, kualitas menjadi urusan sekunder, dan bug dianggap bagian dari biaya bisnis
AI sangat cocok masuk ke lingkungan seperti ini. Ia sudah berkembang dalam budaya kode yang levelnya rendah
Saya pikir AI bisa dipakai untuk membuat software yang lebih baik
Bahkan pada kode yang dihasilkan AI, desain, pattern, dan best practice tetap bisa diterapkan
Ini mirip dengan perbedaan antara pembuatan gitar tradisional dan pembuatan gitar modern berbasis CNC
Jika melihat video pembuatan gitar Ulrich Teuffel, teknologi dan seni bisa hidup berdampingan
Tentu saja, karena keahlian itu mahal, kebanyakan orang akan memilih produk hasil produksi industri
Ini sedang diterapkan pada proyek skala besar, tetapi hasil jangka panjangnya masih belum diketahui
Algoritme yang dulu saya tulis sendiri kini saya serahkan ke agent
Seperti memakai CNC alih-alih milling manual, saya mengembangkan tech stack untuk menghasilkan karya dengan kualitas lebih tinggi
Jika AI bisa membuat software buruk dengan murah, itu tidak masalah
Yang penting adalah apakah proporsi software bagus meningkat. AI meningkatkan kemungkinan itu
AI berkembang subur di lingkungan yang mengoptimalkan software ke tingkat ‘cukup bagus’
Alih-alih menggantikan engineer hebat, AI justru menyingkap realitas industri yang sudah mekanistis dan berpusat pada metrik
Semakin umum kode hasil produksi massal, semakin daya nilai manusia, penilaian, dan selera estetika akan menjadi sumber daya yang benar-benar langka