Saya suka LLM, tetapi benci hype berlebihan

• LLM, mobil swakemudi, model pembuat video, dan coding agent memang benar-benar berguna dan menarik, tetapi saya tidak setuju dengan ketakutan dan hype apokaliptik yang mengelilinginya
• Narasi bahwa jika jendela peluang tertutup maka kita akan menjadi kelas bawah permanen bukanlah fakta, melainkan lebih dekat ke hype yang menarik orang ke San Francisco dengan membuat mereka cemas
• Saya menolak proyeksi yang melompat dari LLM sebagai autocomplete canggih, compiler pintar, dan mesin pencari yang ditingkatkan menjadi superintelijen yang akan menguasai alam semesta; menurut saya, perkembangan AI terutama berasal dari Hukum Moore dan kemajuan komputasi secara umum ketimbang dari kelompok tertentu
• Coding agent memang mengubah cara pemrograman dan sampai batas tertentu meningkatkan produktivitas, tetapi juga bisa menambah kelelahan kognitif, dan hasil vibe coding masih banyak berisi kode berkualitas rendah
• AI berada di garis kontinuitas revolusi komputer, dan LLM adalah alat yang membantu pengembang seperti find/replace, Stack Overflow, dan regex, tetapi kegunaannya itu tidak otomatis berujung pada penangkapan nilai oleh lab AI frontier

---

Di antara kemajuan AI dan hype berlebihan

• Setelah fokus pada hacking pada 2007–2014, saya menginvestasikan seluruh karier saya ke AI, dan menyambut kemajuan LLM baru, mobil swakemudi, model pembuat video, dan coding agent
• Saat menjalankan opencode di GLM-5.2 lokal dan memberi perintah install tmux with the geohot configuration, instalasinya berhasil, dan saya menganggapnya sebagai contoh bahwa tahun Linux desktop akhirnya benar-benar datang
• Hype yang saya tolak terbagi menjadi dua arah
  • Narasi bahwa jendela peluang akan tertutup sehingga kita menjadi kelas bawah permanen atau tertinggal tanpa bisa pulih adalah hype negatif yang dibuat untuk mencemaskan orang
  • Logika yang melompat dari autocomplete canggih, compiler pintar, dan mesin pencari yang ditingkatkan ke skenario superintelijen di mana segala sesuatu tiba-tiba berubah adalah lompatan orang-orangan sawah, dan saya menegaskan bahwa peristiwa seperti itu tidak akan terjadi
• Presentasi superintelijen tahun 2016 dan film Terminator 2 tahun 1991 tentang mesin yang menguasai dunia menunjukkan bahwa gagasan seperti ini bukan sesuatu yang baru dibuat oleh kelompok tertentu belakangan ini
• Saya mengakui AI bisa menciptakan nilai yang sangat besar, tetapi berpendapat bahwa lab frontier tidak akan bisa langsung menangkap nilai itu sampai pada tingkat yang membenarkan valuasi perusahaan lab frontier
• Saya menilai bahwa inti logika yang menentang open source bukanlah isu keselamatan atau Tiongkok, melainkan ketakutan terhadap komoditisasi umum
  • Perkembangan AI terutama berasal dari Hukum Moore dan kemajuan komputasi secara umum, bukan dari lab tertentu
  • Jika fakta ini diketahui luas, investor mungkin tidak akan menyediakan puluhan miliar dolar, sehingga lab punya insentif kuat untuk menutupinya

Realitas produktivitas dari coding agent

• Dalam The Eternal Sloptember saya mungkin menilai kemampuan pemrograman model terlalu keras, dan kini mengakui bahwa cara pemrograman itu sendiri sedang berubah
• Pernyataan Linus Torvalds membandingkan agent yang meningkatkan produktivitas pemrograman 10x dengan compiler yang meningkatkannya 1.000x
  • Saya menganggap 10x dan 1.000x sama-sama estimasi yang ekstrem
  • Seiring kemampuan memanfaatkan model membaik, saya yakin benar-benar memperoleh peningkatan produktivitas sampai tingkat tertentu
  • Pemanfaatan model adalah keterampilan baru yang harus dipelajari secara terpisah, dan sejak sebelumnya saya terus mencoba berbagai model
• Coding agent tetap memiliki keterbatasan yang jelas
  • Model dapat meningkatkan kelelahan kognitif, sehingga harus digunakan dengan hati-hati
  • Hasil vibe coding masih berkualitas rendah, dan juga belum jelas di mana tepatnya perangkat lunak baru yang sebanding dengan peningkatan produktivitas yang diklaim itu berada
• Meski begitu, model tetap merupakan alat bantu pengembangan yang berguna seperti find/replace, Stack Overflow, dan regex, dan AI juga berada dalam garis kontinuitas revolusi komputer

[GN⁺]

Komentar Hacker News

• Kalimat “bukan berarti AI tidak menciptakan nilai besar, tetapi lab frontier-lah yang tidak akan mengambil nilai itu” menjelaskan dengan ringkas perilaku mereka dan alasan mereka ingin membuat orang memakai model terbaik dengan harga per token
  Dengan biaya langganan saat ini, yaitu token yang longgar tetapi terbatas di kisaran 100~200 dolar per bulan, kebanyakan individu dan perusahaan akan dengan mudah memilih model frontier. Namun, jika harga per token menjadi 10~100 kali lebih mahal daripada model terbuka atau model frontier dari sebulan lalu, ceritanya berubah. Saya tidak akan menghabiskan 1.000 dolar per bulan untuk model terbaik, apalagi 10.000 dolar, dan pemberi kerja saya pun mungkin masih bisa mempertimbangkan sampai 1.000 dolar, tetapi jelas tidak akan membayar 10.000 dolar
  Untuk membenarkan valuasi perusahaan saat ini, semua orang harus membayar 100 kali lebih mahal daripada sekarang, tetapi itu tidak akan terjadi selama siapa pun bisa membuat model seperti ini. OpenAI dan Anthropic sama-sama sedang mencari jalan keluar, dan khususnya Anthropic tampaknya ingin mengalihkan Fable ke penagihan berbasis penggunaan. Namun, 5.6 Sol milik OpenAI cukup bagus untuk bersaing dengan Fable dan bahkan bisa dipakai dalam langganan 20 dolar per bulan, jadi tidak ada moat yang bisa mencegah perpindahan. Jika Anthropic benar-benar menghentikan akses Fable dari paket langganan beberapa hari lagi, saya rasa pasar akan beralih besar-besaran ke OpenAI
  Pasar tidak akan menerima biaya setinggi yang diperlukan untuk membuat investasi frontier masuk akal secara ekonomi

  • Saya juga mulai lebih sering beralih ke model lokal. Untuk tugas yang tidak bisa ditangani baik oleh model lokal, saya akan memakai model frontier dengan harga saat ini, tetapi jika pada akhirnya syarat harganya dibalik dan mereka meminta 1.000~2.000 dolar per bulan, nilainya tidak sepadan
    Untuk penggunaan saya, model juga tidak perlu berkembang jauh lebih baik. Saya sudah mencoba Fable beberapa kali, tetapi tidak banyak alasan untuk sengaja memilihnya, dan Opus melakukan pekerjaan yang sama dengan biaya jauh lebih murah. Jika model menjadi komoditas umum, pertanyaan menariknya adalah siapa yang akan mau menanggung biaya pelatihan yang sangat besar. Biaya pada akhirnya memang akan turun, tetapi sepertinya tidak akan turun cukup cepat agar perusahaan-perusahaan ini bisa bertahan
  • Yang lucu, Fable kemungkinan besar akan menjadi usang dalam satu atau dua bulan. Mereka sudah membuat keributan embargo rilis yang sebenarnya bisa dihindari kalau saja mereka tidak berpura-pura itu berbahaya, lalu tetap membuka akses dan pada dasarnya menyia-nyiakan sedikit keunggulan yang mereka punya
    Akan lebih menarik kalau sejak awal mereka mengenakan harga lebih mahal dan menguji sampai batas mana pasar sanggup membayar, daripada membuat orang penasaran dulu sampai akhirnya disaingi model berikutnya
  • Kekuatan model yang cukup bagus tidak bisa diremehkan. Walaupun GLM5.2 mungkin tidak sebaik model paling mutakhir, bisa jadi itu sudah cukup untuk memenuhi sebagian besar, bahkan mungkin semua, kebutuhan kita
  • Saya ragu apakah mereka benar-benar model terbaik. Anthropic mungkin cuma sekitar peringkat ketiga kalau tidak ada mythos
    OpenAI memang belakangan kembali memimpin, tetapi untuk itu mereka memakai model raksasa dengan biaya per token yang sangat tidak masuk akal. Tidak ada yang membutuhkan model seperti itu. Ini mirip NVIDIA atau Intel mengklaim performa gaming terbaik sambil menghabiskan daya per frame jauh lebih besar daripada produk pesaing
  • Tepatnya, masa penggunaan langganan Fable diperpanjang lagi sampai 19 Juli

• Perangkat lunak baru yang terasa seperti sihir karena peningkatan produktivitas sedang berjalan secara privat di homelab saya
  Sepertinya sekarang kita sudah masuk era “membuat sesuai keinginan”. Jika proyek open source tidak bekerja seperti yang diinginkan, kita bisa fork atau membuat versi baru, dan itu menjadi terlalu mudah
  Namun, saya agak khawatir dengan masa depan open source. Dulu, merawat fork juga butuh usaha, jadi ada nilai untuk mengirim perubahan kembali ke upstream. Sekarang keseimbangannya banyak berubah. Banyak proyek memperketat syarat kontribusi dan sebagian bahkan terang-terangan memusuhi AI, dan itu bukan hal yang sulit dipahami. Namun, makin banyak adopsi AI, makin kecil kemungkinan perbaikan akan dikembalikan ke komunitas

  • Harus diingat bahwa kode itu gratis dalam arti seperti “anak anjing gratis”. Nilai komunitas free/open source bukan pada kodenya sendiri, melainkan pada dokumentasi bersama dan pengetahuan lisan yang membuat perangkat lunak tetap berguna, dapat dipakai, dan selalu mutakhir
  • Kemungkinan besar orang akan segera jatuh ke dalam neraka pemeliharaan. Bagian yang sulit dan menjengkelkan bukan menulis kodenya, melainkan harus membuka lagi satu per satu proyek kecil itu setiap kali perlu perbaikan sepele, dan dalam jangka panjang itu menjadi pekerjaan remeh yang sangat besar. Sekalipun ada AI, itu tampaknya tidak akan jauh lebih mudah
  • Alasan untuk fork proyek yang aktif biasanya hanya jika pengguna fork itu cuma diri sendiri, dan perubahan impian yang diinginkan memang benar-benar penting. Saya sudah terlalu sering melihat fork tak perlu dari proyek populer, jadi menurut saya lebih baik tetap mempertahankan versi asli meski tidak sempurna
  • Anda tetap harus melacak perubahan upstream dan menyelesaikan konflik merge. Kalau tidak, Anda harus menyuruh LLM memperbaiki semua CVE di fork tersebut
  • Penjelasan bahwa kita sekarang bisa menulis semua kode ini dengan alat baru, tetapi semua individu dan perusahaan seolah-olah bersekongkol besar-besaran untuk hanya membuat hasilnya sebagai perangkat lunak tertutup dan tidak pernah merilisnya, terasa tidak terlalu masuk akal

• Setidaknya bagi saya, peningkatan produktivitas itu dipakai untuk membuat perangkat lunak ringkas sekali pakai untuk kegunaan yang sangat spesifik
  Dengan LLM, kita bisa membuat apa saja, tetapi kita sendiri harus tahu apa yang ingin dibuat dan harus memikirkan setiap perilakunya. Kalau tidak, LLM akan mengisi bagian dalamnya dengan sampah acak seperti sosis. Cukup melihat kualitas perangkat lunak yang naik turun dari perusahaan-perusahaan dengan valuasi triliunan dolar saja sudah menunjukkan bahwa model masih tidak merata dan terbatas. Masa depan adalah sosis

  • Walaupun saya bisa membuat roti di rumah, kalau biayanya 10 kali lipat dan rasanya juga buruk, saya tidak ingin menghabiskan waktu untuk menyempurnakan keahlian membuat roti harian. Untuk sesekali menenangkan diri, itu boleh saja, tetapi untuk seumur hidup saya justru ingin mendukung orang yang dengan senang hati mencurahkan lebih banyak waktu dan usaha daripada saya untuk menyempurnakan solusinya
    Dengan begitu saya tidak perlu lagi memikirkan masalah itu dan bisa fokus pada hal yang memang ingin saya lakukan

• Pada 2024~2025 saya juga merasakan hal yang serupa. Namun, setelah Sonnet 4 keluar, itu mulai berubah, dan Opus 4.5 adalah lompatan besar berikutnya
  Rasanya semuanya sedang dipercepat dan jadwal yang diperkirakan pun makin terkompresi. Dalam beberapa hal, saya iri pada penulis asli yang bersedia “mempertaruhkan segalanya” melawan ASI. Kenyataannya, saya juga tidak tahu ini akan berakhir ke mana, dan saya rasa tidak ada siapa pun yang benar-benar tahu

  • Penulis asli tidak mengatakan bahwa ia mempertaruhkan segalanya pada keyakinan bahwa ASI tidak akan datang. Ia mengatakan bahwa ia bertaruh melawan pandangan bahwa ASI akan muncul seperti kilatan cahaya dari langit dan menghancurkan peluang kita untuk mengakses kekayaan yang diciptakannya

• Saya juga menyukai LLM, tetapi saya khawatir dengan biaya. Saat ini semuanya masih sangat disubsidi, tetapi adakah jaminan bahwa kita akan bisa menjalankan model setingkat Opus 4.8 di komputer pribadi sebelum laboratorium AI besar menaikkan harga?

  • Sebaliknya, saya melihat laboratorium frontier justru memperoleh margin yang cukup besar dibanding biaya per unit inferensi.
    Biaya untuk menjalankan model dengan ukuran yang mendekati frontier sudah bisa dipastikan. Perusahaan independen sudah beralih menjadi bisnis yang menawarkan model semacam ini dengan harga yang masuk akal, dan di OpenRouter mereka bersaing dengan harga yang jauh lebih rendah daripada laboratorium frontier.
    Jika nanti memungkinkan menjalankan model setingkat Opus 4.8 di komputer pribadi, maka pusat data akan bisa melayaninya jauh lebih murah dengan perangkat keras mereka sendiri. Jadi saya berani bertaruh harga bukan akan naik, melainkan kemungkinan besar akan turun drastis.
  • Bahkan dengan harga RAM cepat yang saat ini sangat melambung, kita tetap bisa menjalankan model lokal kira-kira setingkat Sonnet 4.5 dengan biaya yang lebih murah daripada satu mobil baru. Mungkin ini bukan jawaban yang diharapkan, tetapi ini pilihan yang memungkinkan, dan kita juga bisa membentuk koperasi AI kecil tempat beberapa pengembang berbagi satu server dengan dua RTX Pro 6000.
    DeepSeek V4 Pro murah di hampir semua API umum, dan DeepSeek V4 Flash pada kisaran $0.09 per 1 juta token input dan $0.18 per 1 juta token output pada dasarnya nyaris gratis. Ini juga bukan harga yang biasanya tercipta karena subsidi.
    Untuk konfigurasi lokal yang lebih realistis, Qwen3.6 27B yang dijalankan di satu atau dua Nvidia 3090 bekas ternyata sangat bagus. Model ini butuh instruksi yang jelas dan tidak cocok untuk vibe coding yang sepenuhnya otomatis, tetapi cukup praktis bagi programmer yang ikut campur langsung.
  • Sulit meminta jaminan, tetapi jika persaingan yang sehat terus berlanjut, kemungkinan sangat besar kurva penawaran dan permintaan akan bertemu di titik yang wajar. Yang selalu pasti adalah kita bisa menyimpan model terbuka secara terpisah.
  • Katanya dalam 2 tahun akan ada Mac Studio 1.5TB RAM, dan itu akan cukup untuk menjalankan model kelas Opus. Tentu saja harganya kemungkinan sekitar $50.000.
    Jika AI lokal benar-benar menyebar luas, ini bisa menjadi salah satu barang yang dibeli dengan cicilan seperti mobil.
  • Saat ini, karena subsidi pada model frontier, permintaan terutama terkonsentrasi pada kecerdasan yang lebih tinggi. Jika subsidi berakhir, permintaan terhadap efisiensi harga per unit kecerdasan akan meningkat tajam, dan karena pelaku pasar banyak, sebagian perusahaan akan memenuhinya.

• Saya ingin setuju dengan logika “alat baru yang ditambahkan ke kotak peralatan pengrajin perangkat lunak profesional”, tetapi kita perlu memikirkan cotton bud.
  Meski tertulis “jangan digunakan untuk membersihkan telinga”, kebanyakan orang justru ingin memakainya hanya untuk tujuan itu. Pada praktiknya, hasil akhirnya adalah “menggunakan cotton bud secara sembarangan” atau “tidak menggunakannya sama sekali”, sedangkan “menggunakannya dengan benar” hanya mencakup porsi yang amat kecil.

  • Cotton bud memang sebenarnya dibuat untuk membersihkan telinga. Tulisan agar tidak melakukannya ada supaya mereka tidak digugat setiap kali seseorang melukai telinganya.

• Ia mengatakan tulisan “eternal sloptember” pada bulan Mei mungkin terlalu keras: https://geohot.github.io/blog/jekyll/update/2026/05/24/the-e...
  Saya penasaran bagian mana yang dianggap terlalu keras. Tulisan itu masih tampak sangat akurat, dan rasanya penilaiannya akan tetap baik seiring waktu.

  • Berbeda dengan kalimat “membawa agen AI ke pengembangan perangkat lunak akan menjadi salah satu kesalahan termahal dalam sejarah bidang ini. Agen tidak bisa memrogram, dan butuh makin lama bagi orang untuk menyadari fakta itu”, sekarang tampaknya ia berpikir agen sudah bisa sedikit memrogram.

• Tidak ada yang membicarakannya, tetapi Terminator 2 bukan cerita tentang mesin menguasai dunia. Itu sudah terjadi atau akan terjadi, tetapi pada akhirnya manusia mengalahkan mesin. Skynet berusaha mencegah hal itu dengan mencoba membunuh John Connor, dan itulah inti filmnya.
  Ini juga kisah tentang John yang menemukan sosok pengganti orang tua lewat T800. Ia tidak mendapatkannya dari orang tua angkatnya maupun dari ibunya yang renggang dengannya. Sayang sekali orang ini tampaknya belum benar-benar menonton filmnya. Padahal itu mahakarya klasik.

  • Ini pemain peran paling parah sepanjang masa.

• Ada banyak alasan yang sah untuk membenci para pedagang dan pemasaran mereka, tetapi orang yang membuat sesuatu bukanlah pedagang. Orang yang membuat sesuatu akan menggunakan alat apa pun yang tersedia.

  • Geohot juga pernah menjadi salah satu orang yang ingin menjadi pedagang. Mungkin sikapnya berubah karena usahanya tidak berjalan baik.

• Untuk memakai LLM, tidak perlu masuk ke Twitter dan terpapar orang-orang yang bicara tentang “kelas bawah permanen”. Saya suka internet, tetapi sekarang saya merasa lebih dari sebelumnya bahwa kita harus secara sadar memilih situs yang kita kunjungi.

  • Orang-orang seperti itu tidak hanya ada di Twitter. Mereka juga ada di sini, di tempat kerja, dan akan muncul lagi di pertemuan sosial berikutnya. Sampai taraf tertentu, mereka terasa sebagai keberadaan yang tak terhindarkan.
  • Nuansa anti-hype berlebihan yang penuh niat buruk di sini cukup tidak menyenangkan. Saya rasa ini terjadi karena banyak orang sengaja mencari pandangan yang sebenarnya tidak saya temui.
    Teori konspirasi konyol tentang pusat data dan kondisi keuangan perusahaan-perusahaan terkait bermula di Bluesky atau Instagram, lalu sering lewat sini dan akhirnya sampai juga ke saya. Tetapi saya sendiri belum pernah melihat langsung gelombang hype tak terbendung yang katanya sedang mereka lawan. Saya juga membaca Scott Alexander, tetapi ia jauh lebih berhati-hati daripada gambaran orang-orang.
  • Saya penasaran apakah di Xitter masih ada orang yang mengeluhkan perpecahan kelas. Sekarang saya hampir tidak pernah ke sana, tetapi dulu pun saya tidak pernah melihatnya di sana.