Takut pada ‘Slop (hasil kasar)’ yang dihasilkan AI

• Mengungkapkan kekhawatiran akan kemungkinan bahwa kecerdasan buatan berhenti berkembang di level saat ini, dan manusia juga berhenti mengejar kualitas yang lebih baik
• AI saat ini bisa dengan cepat menghasilkan output yang 90% selesai, tetapi ada risiko hilangnya budaya yang mau berusaha demi 10% penyempurnaan sisanya
• Menyoroti kekhawatiran atas fenomena produk ‘cukup bagus (good enough)’ yang langsung dirilis, lalu diterima konsumen tanpa sikap kritis
• Alat AI memproduksi hasil yang seragam secara massal, sehingga pembuatan software yang orisinal dan memiliki jiwa craftsmanship makin sulit
• Dibanding kemajuan teknologi, masalah yang lebih besar adalah kemunduran kualitas dan kreativitas; ketika developer dan pengguna sama-sama tidak peduli, craftsmanship dalam software bisa menghilang

---

Batas perkembangan AI dan bahaya level ‘cukup bagus’

• Jika AI berhenti di level sekarang, maka model yang bisa hampir menyelesaikan web browser atau compiler memang ada, tetapi tetap akan berhenti pada kondisi yang tidak sempurna
  • Dicontohkan seperti mobil swakemudi yang berfungsi di sebagian besar situasi, tetapi gagal pada momen penting
• Jika hasil yang 90% selesai seperti ini terus diproduksi massal, muncul ketakutan bahwa masyarakat akan berhenti mengejar 10% penyempurnaan yang tersisa
• Inti masalahnya bukan pada AI itu sendiri, melainkan pada sikap manusia yang menganggap sesuatu sudah ‘cukup bagus’

‘Slop’ dan penurunan kualitas software

• Penulis mengkhawatirkan fenomena ketika hasil kasar buatan AI (slop) menjadi hal yang biasa
  • Aplikasi atau konten buatan AI hanya dinilai sebatas ‘layak dirilis’, sementara pembelajaran dan pemahaman tentang kualitas yang sesungguhnya justru tidak ada
• Bahkan jika agen AI menulis aplikasi, situasi ketika orang yang mengelolanya tidak memahami kualitas hasilnya namun tetap mendistribusikannya dipandang sebagai masalah
• Arus ini digambarkan mengarah pada dropshipping software, yang menghasilkan sesuatu yang bahkan lebih rendah daripada produksi massal level IKEA

Penyeragaman alat AI dan hilangnya kreativitas

• Model AI seperti Claude bisa membantu mempelajari teknologi baru, tetapi pada akhirnya cenderung bermuara pada aplikasi bergaya ‘Next-React-Tailwind’ yang rata-rata
• Bahkan jika mencoba membuat aplikasi yang orisinal dengan alat AI (contoh: Paper by FiftyThree), hasilnya tetap berujung pada bentuk yang biasa saja dan minim inspirasi
• AI tidak mahir menangani kreasi yang keluar dari jalur yang sudah ditentukan, dan ini menjadi batasan dalam pembuatan software yang kreatif

Masalah yang berpusat pada manusia dan struktur industri

• ‘Slop’ bukan fenomena baru, melainkan masalah yang sejak awal berasal dari pengambilan keputusan manusia yang buruk dan struktur insentif
  • Kursi yang tidak nyaman, hasil pencarian yang tercemar SEO, UI yang buruk, semuanya adalah hasil pilihan manusia
• Dalam budaya “Move fast and break things”, aplikasi yang dibuat dengan craftsmanship menghilang karena ditiru gratis oleh perusahaan besar dan pasar dirusak
• Agen AI dapat mengulangi proses ini dengan lebih cepat, sehingga percepatan lenyapnya software yang bagus terjadi secara siklik

Ketidakpedulian pengguna dan developer

• Ada juga harapan bahwa alat AI dapat mengurangi kesenjangan antara pengguna dan developer
  • Sebagai contoh, disebutkan staf akuntansi yang membuat sheet Excel kompleks atau pengguna di TikTok yang membangun automasi
• Namun, ada kemungkinan bahwa para pengguna kreatif seperti ini hanyalah pengecualian, sementara kebanyakan orang tidak peduli pada masalah teknis, privasi, atau kualitas
• Pada akhirnya, jika masyarakat puas pada level ‘cukup bagus’, maka craftsmanship dan budaya pengembangan yang kreatif bisa lenyap
• Kesimpulan tulisan ini ditutup dengan pandangan putus asa bahwa “tidak akan ada yang bersedih meski craftsmanship teknis kita mati”

[GN⁺]

Pendapat Hacker News

• Dengan semakin luasnya penggunaan produk AI generatif, ada penyesalan bahwa orang-orang tidak melihat dunia dalam konteks historis
  Dampak AI terhadap dunia mirip dengan perubahan teknologi di masa lalu, dan cara dunia bekerja tidak banyak berubah
  Sebagian besar produk dan layanan selama ini mempertahankan fungsi pada tingkat ‘cukup baik’ sambil mengorbankan kualitas
  Seperti sepatu hiking yang hanya perlu bertahan 20 mil, tidak ada alasan membeli yang tahan lama bila itu sudah cukup; hal yang sama juga berlaku untuk perangkat lunak
  Sebagian besar pengguna tidak peduli pada keamanan, privasi, kemudahan pemeliharaan, ketangguhan, dan sebagainya
  Kenyataan ini bukan hal baru dan akan terus berlanjut

  • Sebagian besar pengguna tidak memedulikan masalah seperti ini sampai mereka mengalaminya sendiri
    Baru ketika terjadi kebocoran data besar-besaran atau gangguan global mereka marah
    Hal-hal inilah yang disebut persyaratan tersembunyi (hidden requirements)
    Saat persyaratan berubah, perangkat lunak pun mencapai batasnya, seperti sepatu yang hanya sanggup 20 mil tidak akan bisa dipakai 35 mil
  • Terasa ada dikotomi palsu antara kualitas dan biaya
    Ada produk murah yang tahan lama, dan ada juga proyek mahal yang kacau
    Muncul pertanyaan mengapa sejak awal tidak bisa membuat sesuatu yang murah sekaligus berkualitas
  • Perusahaan yang membuat produk berkualitas tinggi dalam jumlah kecil kebanyakan bangkrut
    Karena orang tidak menginginkan belanja modal (capex)
    Hampir tidak ada yang ingin membeli mobil yang lebih mahal daripada rumahnya atau sepatu seharga 2000 dolar
  • Hakikat kapitalisme yang ingin memenuhi persyaratan minimum dengan cara termurah dan tercepat pada akhirnya menciptakan standar hidup yang tinggi
    Misalnya, Model T dari Ford memasyarakatkan mobil dengan menekan biaya manufaktur
  • Semua pola historis teknologi tujuan umum seperti mesin cetak, industrialisasi, mobil, dan internet serupa
    Kualitas memang menurun, tetapi aksesibilitas meledak, dan pada akhirnya tercapai titik keseimbangan baru
    Kualitas tinggi hanya bertahan di ceruk yang secara ekonomi bisa dibenarkan

• Ada rasa takut tentang bagaimana peradaban akan berubah
  Kaum kaya akan makin kaya, dan banyak orang tampaknya akan kehilangan pekerjaan serta harapan
  Masyarakat tanpa pendapatan tidak berkelanjutan dan berisiko berujung pada kekerasan
  Hampir tidak ada pihak berkuasa yang diyakini mampu mencegahnya

  • Untuk pertanyaan “siapa yang bisa menghentikannya?”, jawabannya adalah tidak ada siapa-siapa
    Sebagai rujukan terkait, dia mengajukan Survival of the Richest karya Douglas Rushkoff dan video YouTube
  • Merekomendasikan video tentang Reinhold Niebuhr
    Ada hal yang memburuk dan ada yang membaik, sehingga sulit menyimpulkan semuanya sebagai penurunan atau peningkatan bersih
    Setiap zaman memiliki masalah berbeda yang harus diselesaikan
  • Kebangkitan populisme dipandang sebagai cara perubahan tanpa kekerasan, sebagai upaya untuk mengubah tatanan lama
  • Mereka yang berkuasa bergerak bukan karena etika atau wawasan, melainkan ketika biaya untuk tidak bertindak menjadi lebih besar
  • Diyakini ada perlombaan mengembangkan robot canggih untuk menghindari kekerasan

• Ada kekhawatiran mendasar terhadap sistem berbasis LLM
  Namun kesadaran akan masalah ini sudah ada bahkan sebelum LLM
  Mirip dengan offshoring (outsourcing ke luar negeri) di masa lalu, kini GPU farm menghasilkan kode menggantikan manusia
  Bedanya, kali ini investasi swasta telah menekan biayanya hingga nyaris nol
  Pada akhirnya, harga itu tetap akan dibayar suatu saat nanti

  • Dahulu uang mengalir ke negara berupah rendah dan membantu pertumbuhan negara tersebut,
    tetapi kini uang justru terkonsentrasi ke negara-negara terkaya
  • Biaya AI offshoring bukan nol
    Layanan seperti ChatGPT mengenakan biaya langganan, dan pada akhirnya harganya akan disesuaikan ke kisaran tarif outsourcing India
  • Ungkapan “kode spaghetti murah” tidak pantas karena memuat prasangka rasial
    Kualitas kode bukan soal ras, melainkan soal investasi dan manajemen

• AI generatif adalah kelanjutan dari industrialisasi
  Strukturnya adalah menghasilkan produk secepat dan semurah mungkin
  “Cukup baik” telah menjadi standar, dan akibatnya akumulasi penurunan kualitas tidak berhenti
  Sistem sudah terlalu besar sehingga sulit mengubah arahnya

• Di dunia startup, kebanyakan orang lebih mementingkan kecepatan daripada craftsmanship
  Slogan seperti “Move fast and break things” sudah menjadi hal biasa
  Faktanya, sejak lama kebanyakan orang memang tidak peduli pada 10% kualitas terakhir

  • Bahkan sebelum LLM, kualitas perangkat lunak sudah terus menurun
    Justru LLM bisa mempercepat perbaikan bug
    Masalah yang dulu dibiarkan dengan alasan “statistik pengguna menunjukkan tak ada yang peduli” kini bisa diselesaikan lebih cepat
    • Semua perangkat lunak yang sukses menemukan titik keseimbangan antara bug dan kegunaan
      Bug 0% hampir mustahil, dan pengguna menerima sebagian bug demi fitur yang mereka butuhkan
      LLM tidak mengubah keseimbangan ini, tetapi bisa mengurangi peluang para pesaing menargetkan kelompok pengguna niche
    • LLM bukan penyebab mendasar, melainkan hanya sedikit mempercepat sistem yang sejak awal sudah condong ke arah itu
    • Jika tim yang sangat kecil bisa merilis aplikasi besar, ini justru bisa berujung pada peningkatan kualitas

• Menanggapi pernyataan “aku takut keahlian perajin akan mati”,
  jika masih ada orang yang mencintai keahlian itu, maka itu tidak akan mati

• LLM tampak seperti perwujudan hukum Pareto
  Jika 80% hasil bisa didapat dengan 1% waktu, tak ada yang peduli pada 20% sisanya
  Ini menyingkap kelemahan budaya yang memaksimalkan konsumsi alih-alih kualitas
  Fenomena seperti content farm sudah ada sebelumnya, dan kini kita melihat titik akhirnya dalam pemborosan pusat data

  • Dari sudut pandang ini, ekspansi pusat data terasa seperti pemborosan sumber daya skala planet
    Hal ini mempercepat budaya yang bahkan telah kehilangan makna kualitas itu sendiri
  • “Kualitas itu penting”
    Cara berpikir yang percaya sebaliknya pada akhirnya akan menghancurkan dirinya sendiri
    Namun manusia itu tidak rasional, jadi tak ada yang tahu kapan ‘akhirnya’ itu akan datang

• Amerika Serikat lebih permisif terhadap standar “cukup baik”
  Jepang bahkan tidak akan merilis produk seperti itu
  Sebagai contoh, seri 3D Mario dari Nintendo menunjukkan tingkat penyelesaian yang tak terbayangkan oleh studio Amerika
  Apple adalah pengecualian yang sangat terobsesi pada kualitas, sedangkan Microsoft dinilai “tidak punya selera”

• Ada keluhan besar di lapangan terhadap para developer yang terlalu berlebihan menggunakan LLM
  Orang yang harus menangani code review atau pemeliharaan kode LLM mengalami beban kerja berlipat karena struktur kode yang tidak manusiawi
  Mereka mengira itu “efisien”, padahal sebenarnya hanya membuang waktu orang lain
  Orang berharap situasi seperti ini segera berakhir

• Jika ini tulisan seseorang yang memakai domain Jepang, itu terasa menarik
  Orang Jepang punya kesabaran yang lebih tinggi terhadap kualitas, sementara orang Amerika cenderung puas dengan “cukup baik”
  Fakta bahwa produk mahal seperti Grado tetap laku meski dirakit dengan glue gun dijadikan contoh