Para pengkritik LLM benar. Meski begitu, saya tetap memakai LLM

• Sambil mengakui masalah hak cipta, lingkungan, dan etika, keluaran berkualitas rendah, runtuhnya kepercayaan pada open source, melemahnya pembinaan engineer junior, serta ketergantungan geopolitik, saya tetap menggunakan LLM sebagai alat untuk meningkatkan kualitas berpikir
• LLM memperkuat pemikiran, opini, dan struktur yang sudah ada, sehingga tanpa penilaian manusia ia akan memproduksi sampah yang fasih dalam jumlah besar, tetapi dengan pemikiran dan tanggung jawab yang memadai ia membantu menghasilkan lebih sedikit namun lebih baik
• Dari luar, sulit memastikan apakah seseorang benar-benar telah berpikir, sehingga nilai hasil kerja pada akhirnya ditentukan oleh kepercayaan dan reputasi, dan tolok ukur yang membedakan AI slop adalah apakah hasil itu bisa dibaca secara terbuka tanpa rasa malu sedikit pun
• Dengan /grill-me, Pitch dari Basecamp, sub-agen yang khusus mengkritik, Ralph Wiggum loop, dan metode membiarkan LLM berhalusinasi lebih dulu tentang API·UX yang diperkirakan, kita membalikkan sifat suka menyetujui dan halusinasi milik LLM untuk keuntungan kita
• Keahlian pengguna untuk membedakan hasil yang baik dan buruk adalah syarat mutlak, dan menggunakan LLM tanpa pakar serta penilaian manusia di area yang sulit memverifikasi jawaban akan berujung pada produksi slop dalam skala besar

---

Kritik dan penggunaan yang hidup berdampingan di lapangan

• Di Local-First Conf di Berlin, presentasi yang mengkritik LLM mendapat tepuk tangan besar, sementara pada saat yang sama banyak hadirin membiarkan Claude Code tetap terbuka
• Armin Ronacher, pembuat Flask dan anggota awal tim Sentry, mendirikan Earendil dan mengembangkan Pi.dev, harness agen coding open source
  • Setelah presentasi Building Machine Entities, ketika ditanya soal banjir PR buatan LLM di Pi.dev, ia menjawab bahwa hampir semua PR dan issue ditutup otomatis
  • Namun, ia menambahkan bahwa kita tidak boleh menyerah untuk tetap membuka PR, karena pada akhirnya kepribadian manusialah yang akan terlihat
  • Halaman purpose milik Earendil menyatakan bahwa bahkan di dunia yang melaju menuju AI, manusia adalah agen terbaik
• Dalam percakapan dengan para peserta konferensi, ketidakselarasan antara mengkritik LLM namun tetap memakainya terus berulang, dan ini bukan pengalaman yang hanya dialami satu orang

Mengapa kritik terhadap LLM itu masuk akal

• LLM terkait dengan materi berhak cipta, beban lingkungan, dan masalah etika
• Struktur perputaran uang yang berpusat pada NVIDIA dan OpenAI dinilai sulit dipertahankan, dan gelembung saat ini pada akhirnya akan pecah
• Kritik paling umum, yaitu “LLM menghasilkan banyak slop”, sesuai dengan kenyataan

• Runtuhnya kepercayaan pada open source

  • Repositori open source mulai menolak semua kontribusi atau memasang mekanisme untuk menyaring hasil buatan LLM
  • Sebelum era LLM, PR dan penjelasan yang ditulis dengan layak sendiri sudah berarti setidaknya beberapa jam upaya manusia, sehingga maintainer dapat meninjaunya dengan asumsi bahwa kontribusi baru pun mengandung tingkat waktu dan perhatian tertentu
  • Troll atau kiriman berkualitas rendah juga bisa diidentifikasi dengan relatif mudah dalam hitungan detik
  • Sekarang siapa pun bisa membuat akun GitHub baru dan menjalankan LLM, sehingga sulit membedakan apakah sebuah PR adalah hasil kerja yang memakan banyak waktu atau kiriman yang dibuat otomatis oleh mesin OpenClaw
  • Zig dan Gentoo menolak PR buatan LLM, tetapi ada keterbatasan karena sulit menentukan apakah sesuatu benar-benar dihasilkan LLM
  • Jika kepercayaan tidak dapat dipulihkan, LLM berpotensi merusak open source secara serius
  • Salah satu respons yang mungkin adalah membatasi kontribusi hanya untuk sejumlah kecil orang yang telah terverifikasi, dengan syarat verifikasi seperti kehadiran di pertemuan nyata

• Melemahnya pembinaan engineer junior

  • Menjadi lebih sulit mempercayai upaya yang ditanamkan engineer junior ke dalam kode
  • Engineer senior tidak bisa tahu apakah kode buruk adalah hasil vibe coding selama 10 menit atau hasil beberapa jam berpikir yang tetap kurang wawasan
  • Bahkan sebelum LLM, junior memang menulis kode yang kurang baik dan senior meninjau serta memperbaikinya, tetapi kini upaya dan proses belajar itu tidak terlihat
  • Ketidakpastian ini mengurangi motivasi senior untuk mengajar junior
  • Dulu ada keseimbangan: junior menangani pekerjaan sederhana lalu bertumbuh sambil direview bersama senior
  • Jika pekerjaan sederhana bisa sepenuhnya diserahkan ke LLM, alasan perusahaan untuk merekrut junior juga melemah

• Ketergantungan geopolitik dan keseragaman opini

  • Tidak bisa diabaikan kemungkinan Amerika Serikat atau Tiongkok tiba-tiba memutus akses suatu wilayah dari teknologi terkait
  • Pemerintah AS, melalui perintah kontrol ekspor pada Juni 2026, menunjukkan kemauan dan kemampuan untuk membuat pelanggan di luar AS tidak dapat mengakses model terbaru Anthropic
  • Anthropic menyatakan bahwa, mengikuti pedoman 12 Juni 2026, mereka tiba-tiba menonaktifkan Fable 5 dan Mythos 5 untuk semua pelanggan
  • Dalam presentasi local-first di dunia yang tidak stabil, Martin Kleppmann mengatakan bahwa kemungkinan benturan antara Eropa dan AS masih sangat rendah, tetapi tahun sebelumnya nilainya nol
  • Bahkan jika LLM hanya dipakai sebagai alat riset, opini mayoritas dalam data latih atau keyakinan politik pembuat model bisa diam-diam meresap ke hasilnya
  • Ini mirip dengan fenomena saat manusia saling berbagi kata atau opini dalam percakapan, hanya saja salah satu lawan bicaranya bukan manusia

Peran model lokal dan open weights

• Karena sulit menyingkirkan LLM sepenuhnya, yang dibutuhkan bukan menolak arus, melainkan pendekatan untuk mengendalikan dan membentuknya sendiri
• Model yang berjalan di laptop membebaskan programmer dari ketergantungan pada perusahaan besar
  • Model lokal terus membaik
  • Saat subsidi berakhir dan harga naik, model open weight dapat menahan harga dan pengaruh penyedia besar
  • Model yang berjalan di hardware sendiri tidak bisa diputus aksesnya oleh pemerintah dalam semalam
• Bahkan jika pecahnya gelembung AI menimbulkan kerusakan besar pada ekonomi dunia dan perusahaan-perusahaan, model open weight akan tetap ada dan bisa dipakai programmer sebagai alternatif
• Presentasi terkait AI di Local-First Conf juga menanggapi model lokal dengan serius, memungkinkan lingkungan seperti AI siaga permanen ala fiksi ilmiah yang bisa menjawab kapan saja ditanya

Alat yang memperkuat pikiran manusia

• Beberapa pembicara secara terbuka mengatakan bahwa mereka menyerahkan sebagian pekerjaan ke Claude Code, tetapi presentasi mereka tetap diterima dan mendapat tepuk tangan dari audiens, termasuk senior dan peserta yang dihormati
• Perbedaannya adalah adanya manusia yang mempertaruhkan reputasi dan kredibilitas mereka pada hasil tersebut
  • Jika seseorang mempresentasikan AI slop, ia akan kehilangan kepercayaan
  • Orang yang memikul tanggung jawab tidak menyerahkan proses berpikir itu sendiri ke LLM, melainkan memakainya untuk mewujudkan pikirannya sendiri dengan lebih cepat dan kuat
• LLM memperkuat opini, struktur, dan framework yang sudah dimiliki
  • Jika ada pemikiran, ia akan muncul lebih jelas dan lebih cepat
  • Jika tidak ada pemikiran, hasilnya akan sangat fasih tetapi kosong isinya
• LLM berguna untuk brainstorming, pemeriksaan tata bahasa, memperbaiki pengulangan kalimat, menghasilkan alternatif, rubber duck debugging, dan berperan sebagai devil’s advocate
• Alih-alih membuat banyak hasil, pendekatan yang dipilih adalah membuat lebih sedikit hasil dengan kualitas lebih tinggi
  • Sangat banyak token digunakan hanya untuk menyiapkan beberapa kalimat yang akan dibaca manusia
  • LLM dapat mendukung proses berpikir, tetapi tidak menggantikan berpikir itu sendiri

Tolok ukur kepercayaan yang membedakan AI slop

• Tulisan seharusnya merupakan sesuatu yang ditulis manusia untuk manusia, tetapi itu tidak bertentangan dengan penggunaan LLM untuk membantu menulis seluruh teks
• Perbedaan antara AI slop dan tulisan yang baik bergantung pada ada tidaknya pikiran manusia di belakangnya, dan berpikir tidak bisa dialihdayakan
• Masalahnya adalah dari luar kita tidak bisa memastikan apakah seseorang benar-benar telah berpikir
  • Pernyataan “saya menggunakan AI untuk berpikir lebih baik” bisa terdengar sama baik dari pengguna yang hati-hati maupun dari pendukung AI yang tidak bertanggung jawab
  • Omong kosong yang diperkuat pun bisa terdengar seperti hasil jenius, sehingga pada akhirnya yang tersisa hanyalah kepercayaan
• Kepercayaan sulit didapat dan mudah hilang, dan di era LLM bahkan satu em dash saja bisa membuat seluruh tulisan terlihat seperti AI slop
• Di antara orang-orang yang punya minat politik pada Local-First, cukup banyak yang menunjukkan kecenderungan anti-LLM yang kuat, sehingga ada kekhawatiran bahwa software yang dibuat dengan LLM akan ditolak komunitas
  • Bahkan di dalam konferensi, ada orang yang takut mengakui secara terbuka bahwa mereka menggunakan LLM
• Pada Juni 2026, sekitar 10 ribu dolar AS dihabiskan untuk biaya token
  • Setelah itu, Fable terlalu mahal sehingga hanya dipakai secara selektif
  • Untuk eksekusi kode murni, model murah seperti OpenRouter dan GLM 5.2 digunakan
• Patokan praktis untuk menilai slop adalah apakah hasil itu bisa dibacakan apa adanya di depan audiens
  • Jika artinya harus dijelaskan terpisah, maka itu mendekati slop
  • Jika bisa dibaca apa adanya tanpa malu pada satu huruf pun, itu dapat dianggap tulisan yang baik

/grill-me yang memaksa pemahaman

• Jika tidak memahami masalah nyata dan kebutuhan yang ada, LLM akan menulis software yang buruk, tetapi bila teknik dan alat yang diperlukan tersedia, ia juga bisa menghasilkan sesuatu yang cukup baik
• Hambatan utama yang menghalangi hasil yang layak adalah sifat suka menyetujui
  • LLM tidak memberi tahu bahwa ia belum paham, dan langsung berusaha melakukan sesuatu
• /grill-me, versi modifikasi dari teknik “grill me” karya Matt Pocock, memaksa terbentuknya pemahaman bersama sebelum eksekusi
  • Ia mengajukan pertanyaan dengan gigih tentang setiap aspek dan memeriksa setiap cabang pohon keputusan satu per satu
  • Setiap pertanyaan disertai jawaban yang direkomendasikan
  • Ia bertanya satu per satu dan menunggu jawaban pengguna
  • Fakta yang bisa dicek lewat file system atau alat akan diselidiki langsung
  • Keputusan ditanyakan satu per satu kepada manusia, dan tidak mengeksekusi apa pun sebelum ada konfirmasi bahwa pemahaman bersama telah tercapai
• Saat menerima pertanyaan satu per satu, pengguna dipaksa membentuk pikirannya sendiri secara langsung
• Pendekatan yang sama diterapkan pada penulisan: pertama menuliskan pikiran secara kacau, lalu mengasahnya sambil menerima kritik LLM untuk setiap kalimat
• Pendekatan bertahap yang memakai token dalam jumlah ekstrem bahkan untuk satu kalimat meningkatkan kualitas hasil

Spesifikasi singkat dan lingkup yang bisa direview

• Bahkan untuk tugas coding kecil, tiga hal ditulis singkat mengikuti Pitch dari Basecamp

  • Problem

  • What we are shipping

    • What we are not shipping
    • Definisi masalah dibatasi menjadi tiga kalimat
    • Mengisi format dengan LLM itu mudah, tetapi membuat tiga kalimat yang benar-benar bagus itu sulit
    • Karena ini format singkat yang dirancang untuk manusia, penulisnya benar-benar bisa membacanya dan orang lain juga bisa meninjaunya
    • Sebagian besar keluaran LLM lebih sering dipindai cepat daripada dibaca detail, tetapi definisi masalah tiga kalimat diperiksa faktanya dengan ketat
    • Jika jumlah yang harus direview terlalu banyak, kualitas akan turun
    • Pada review kode 1.000 baris, sangat mudah hanya menulis LGTM
    • Pada review 100 baris, kita bisa meninggalkan 15 komentar
    • Tingkat perhatian yang sama diterapkan juga pada deskripsi PR
    • Dijaga agar tetap mudah dibaca dan ringkas
    • Ditulis dengan jelas masalah sebenarnya, apa yang akan dikirim, dan apa yang tidak akan dikirim
    • Tangkapan layar yang berfungsi dilampirkan agar segera terlihat bahwa PR ini layak direview dan benar-benar bekerja
    • Claude terus mencoba menambahkan hal-hal yang tidak perlu ke deskripsi PR, sehingga harus terus dipangkas, dan pada PR yang kurang penting kadang dorongan ini tidak cukup ditekan

Agen pengkritik dan membalikkan halusinasi

• Untuk menghadapi banyaknya konten yang dihasilkan LLM, agen kecil berperan sebagai pengkritik ditempatkan dalam workflow coding
• Ralph Wiggum loop atau ultracode milik Claude mengunci teks, rencana, spesifikasi, dan kode, lalu berulang kali memasukkan sub-agen dengan konteks baru untuk mencari cacat
  • Sub-agen hanya bertugas menyerang konteks yang diberikan
  • Ini diulang sampai mereka tidak lagi menemukan masalah nyata dan mulai berhalusinasi tentang masalah yang tidak ada
• Saat mencapai tahap mulai berhalusinasi masalah, kelemahan LLM bisa dipakai sebagai sinyal verifikasi
  • LLM cenderung mengikuti ekspektasi pengguna bahwa pasti ada masalah, tetapi sudah tidak mampu menemukan masalah nyata lagi
  • Jika digunakan bersama /grill-me, ini dapat menekan manusia untuk memeriksa bahkan keraguan kecil yang dimilikinya dan membentuk pikirannya sendiri
• Halusinasi itu sendiri juga bisa dimanfaatkan untuk validasi desain
  • Anselm Eickhoff memperkenalkan metode membuat LLM lebih dulu berhalusinasi tentang API atau UX yang diharapkan sebelum produk nyata ditunjukkan
  • Bentuk yang ditebak LLM bisa mirip dengan bentuk yang diperkirakan banyak manusia, sehingga menjadi tes murah untuk memeriksa apakah desain sesuai harapan pengguna
  • intuition-probe skill yang mengotomatisasi ini membuat agen buta menetapkan lebih dulu prediksinya sebelum melihat desain sebenarnya

Batas keahlian dan verifikasi

• Semua pola pemanfaatan ini berangkat dari asumsi bahwa pengguna harus mampu menilai kualitas hasil
• Semakin luas penggunaan LLM ke bidang yang tidak familier, semakin dibutuhkan bantuan pakar
  • Sama seperti mendelegasikan pekerjaan kepada anggota tim hanya mungkin jika kita memahami prinsip dasar dan standar hasil yang baik, hal yang sama berlaku untuk LLM
• Di bidang yang sangat dikenal, hasil bagus dan hasil buruk bisa dibedakan dengan cepat
• Di bidang yang belum dipahami dengan baik, LLM seharusnya dipakai hanya sebagai alat bantu belajar
  • Jika ia juga diberi tugas menghasilkan hasil akhir saat kita belum bisa menilai kualitasnya, akibatnya adalah produksi slop skala besar

• Bidang yang jawabannya bisa diverifikasi

  • Di bidang yang keberhasilan dan kegagalannya jelas, kita bisa belajar bersama LLM
  • Kriteria verifikasi meliputi apakah kode bisa dikompilasi, apakah test suite lolos, apakah protokol bisa didekode, dan seterusnya
  • Seorang peserta konferensi melakukan reverse engineering binary dan protokol dengan Opus 4.6
  • Titik awal yang dibutuhkan adalah pengetahuan dasar reverse engineering
  • Karena benar-salah hasilnya jelas, misalnya binary yang dipatch bekerja atau justru merusak perangkat, orang itu juga bisa menemukan tekniknya sendiri sambil bekerja

• Bidang yang melibatkan opini

  • Di area seperti pemrograman yang sarat opini, LLM bisa menjawab dengan teknik yang paling populer alih-alih pendekatan yang paling cocok untuk situasi itu
  • Dalam satu tim, ada yang mengkritik kode tertentu sebagai AI slop, tetapi saat diskusi dilanjutkan, isu sebenarnya ternyata adalah penolakan terhadap TDD
  • Di tim itu juga ada orang yang sudah aktif memakai TDD jauh sebelum era LLM
  • Masalahnya bukan AI itu sendiri, melainkan perbedaan opini antarmanusia
  • Karena LLM juga memperkuat opini pengguna, pada tahap awal manusialah yang harus memberi arah kasar dan titik awal yang baik
  • Hanya setelah punya daya nilai yang cukup, seseorang dapat melanjutkan pemanfaatan LLM secara mandiri

Penguatan berpikir, bukan pengganti

• Ketidakselarasan antara kritik dan pemanfaatan bukan pengalaman yang hanya dialami sendiri; pengalaman serupa juga terlihat di Discord konferensi, percakapan tatap muka, dan tulisan-tulisan Hacker News terbaru
• Untuk mempercayai hasil buatan LLM, kita harus terus berinteraksi dengan hasil nyata itu sendiri, dan itu memerlukan banyak waktu
• Terlepas dari promosi yang berlebihan, LLM memiliki nilai sebagai alat yang berguna untuk memperkaya pemikiran manusia
• LLM dapat memperkuat pemikiran, tetapi tidak bisa menggantikan pemikiran manusia

[GN⁺]

Opini Hacker News

• LLM membantu memperkuat opini, struktur, dan kerangka berpikir yang sudah dimiliki sehingga pikiran bisa diungkapkan lebih cepat dan lebih jelas, tetapi ada kekhawatiran apakah penggunaan yang berpusat pada agen akan melemahkan kemampuan berpikir, termasuk dalam rekayasa perangkat lunak
  Seperti otot nyata, otak juga harus terus digunakan, dan sulit untuk yakin apakah setelah memakai alat seperti ini setiap hari selama 5, 10, atau 20 tahun, cara berpikir dan selera kita akan benar-benar menjadi lebih tajam
  Keuntungannya jelas ada: di bidang yang sudah dikuasai, kecepatan meningkat, dan untuk bidang baru pun kita bisa masuk lebih cepat. Tetapi sulit menemukan keseimbangan yang tepat antara menajamkan kemampuan sendiri sambil tertinggal dalam persaingan produktivitas, dan memprioritaskan agen sambil menunda pembelajaran menjadi urusan sekunder
  Sikap menolak LLM karena alasan moral juga saya hormati dan pahami, tetapi secara pribadi saya tidak mempraktikkannya

  • Manfaat itu tidak sejelas yang dibayangkan. Para pengembang selama ini secara konsisten melebih-lebihkan peningkatan produktivitas dari LLM, dan tampaknya hal yang sama berlanjut pada AI berbentuk agen: https://metr.org/blog/2026-05-11-ai-usage-survey/
    Hasilnya sangat mirip dengan LLM sebelum era agen, dan karena sama sekali belum ada data jangka panjang, manfaatnya pada tingkat individu masih bisa dipertanyakan, meskipun mungkin tidak demikian di pasar kerja
  • Saya bekerja di persimpangan teknologi, keuangan, dan analisis sehingga porsi coding saya kecil, tetapi kini saya bisa mencoba sendiri berbagai proyek yang dulu tak akan saya sentuh tanpa tim pendukung yang jauh lebih besar
    Belakangan saya baru belajar Go, dan sebenarnya bisa saja menyerahkan semuanya ke Codex, tetapi karena saya mungkin akan tetap mengerjakan proyek Go di masa depan, saya sengaja melambat agar mempelajari dasar-dasar dan tolok ukur penilaian. Sebaliknya, untuk skrip Python sekali pakai, sekarang saya hampir tidak pernah meninjaunya lagi, dan justru itu yang lebih menakutkan
  • Bagian yang paling mengkhawatirkan adalah kemampuan untuk menilai dengan tepat apa yang perlu dipelajari dan terus belajar secara konsisten ternyata lebih lemah dari dugaan
    Misalnya, LLM menulis regular expression lebih baik daripada pengembang rata-rata, dan pekerjaan yang memerlukan regular expression hanya muncul beberapa bulan sekali. Karena kalau dikerjakan sendiri proses trial and error-nya cukup merepotkan, orang jadi mudah menyerahkannya begitu saja. Lama-lama intuisi tentang apa yang bisa dilakukan dengan regular expression, kemampuan menulisnya tanpa LLM, dan bahkan orang-orang yang membuat materi terkait bisa ikut menghilang
    Secara keseluruhan mungkin tetap layak digunakan, tetapi yang membuat cemas adalah kita bahkan mungkin tidak mampu menilai dengan tepat apa yang sedang hilang
  • Saya sempat berpikir agen akan melemahkan kemampuan, tetapi ternyata alat ini juga bisa dipakai untuk latihan keterampilan dan pembelajaran
    Berdasarkan panduan tentang tech stack, topik, dan kriteria evaluasi yang saya terima sebelum wawancara coding, saya meminta Claude membuat 12 proyek latihan beserta dokumen tugas dan pembahasannya, lalu saya meminta Codex berperan sebagai pewawancara agar saya bisa menjelaskan proses penyelesaian dan alur pikir sambil menerima umpan balik dan pertanyaan balik. Saya hanya sempat menyelesaikan dua atau tiga, tetapi untuk pertama kalinya persiapan wawancara terasa menyenangkan dan saya benar-benar mempelajari hal baru
    Bagian tersulitnya adalah mencegah LLM menyelesaikan tugasnya untuk saya, tetapi itu bisa diatasi dengan pengaturan waktu, instruksi yang jelas, dan pemisahan peran
  • Kemungkinan bahwa LLM dapat melemahkan kemampuan intelektual dan keterampilan juga mengingatkan pada situasi seperti film Idiocracy
    Hipotesis bahwa AI menghancurkan peradaban secara kekerasan sudah lama dikenal dalam diskusi tentang Paradoks Fermi, tetapi kemunduran non-kekerasan akibat degradasi intelektual juga perlu dipertimbangkan

• Menghabiskan $10.000 per bulan untuk token lalu membiarkan program menulis sesuatu yang sebenarnya bisa ditulis sendiri secara gratis terlihat sangat konyol. Rasanya semua orang berubah seperti manusia lemah tak berdaya di film Wall-E
  Saat batas peningkatan performa tercapai dan diminishing returns datang, saya berharap model terbuka akan setara dengan model tertutup, OpenAI dan Anthropic saling membuat satu sama lain bangkrut, dan semua orang bisa menjalankan model terbuka pribadi gratis di laptop mereka. Kalau itu terjadi, berbagai masalah LLM yang muncul karena membayar orang lain untuk melakukan hal yang dulu gratis pun mungkin akan hilang

  • Dengan logika itu, tidak beda dengan mengecam seseorang karena menghabiskan $1.000 untuk tiket pesawat padahal ia bisa berjalan kaki gratis dari SFO ke NYC

• Smartphone juga alat serbaguna yang hebat, dan media sosial juga alat yang baik untuk menghubungkan orang, tetapi selama 20 tahun terakhir kita terlalu optimistis terhadap dampak sosialnya
  Karena smartphone terlalu berguna, di sebagian masyarakat sekitar separuh penduduk menjadi kecanduan, dan secara global jumlahnya mencapai miliaran. Kita belum tahu apakah dalam jangka panjang LLM akan memperkaya pemikiran atau malah merusaknya, atau apakah 10 tahun lagi separuh orang akan mengalihdayakan sebagian besar proses berpikir mereka
  Karena eksperimen ini sedang dijalankan sangat cepat di seluruh dunia, sikap skeptis terhadap kesimpulan bahwa LLM akan memperkaya pemikiran dalam jangka panjang adalah hal yang wajar

  • Alat memang berguna, tetapi mempertaruhkan segalanya pada satu alat itu berbahaya. Seperti halnya dulu merupakan pilihan yang jelas buruk ketika terlalu bergantung pada mobil sambil mengorbankan sepeda, bus, dan kereta, demikian juga meskipun LLM nyaman dipakai, tidak baik mengikat triliunan dolar serta masa depan negara dan dunia pada ini
  • Ada cerita bahwa pada zaman prasejarah yang teknologinya minim, manusia harus selalu cerdas dan waspada demi bertahan hidup, sehingga rata-rata manusia gua mungkin lebih cerdas daripada manusia modern
    Hari ini orang masih bisa bertahan hidup sambil bekerja sebagai pegawai McDonald’s, dan LLM hanya melanjutkan tren alih daya kognitif yang sudah ditempuh umat manusia sejak lama

• Bukti nyata yang diajukan hanya soal pemblokiran oleh Amerika Serikat, sementara model-model mutakhir dari Tiongkok semuanya bisa diunduh gratis, jadi kekhawatiran bahwa Tiongkok akan melakukan hal yang sama lebih dekat pada proyeksi perilaku Amerika Serikat. Strategi AI Tiongkok bisa dilihat di sini: https://ipc.court.gov.cn/zh-cn/news/view-5766.html

  • Amerika Serikat memang benar-benar melakukan tindakan yang disebut penulis, jadi tidak jelas apa yang dimaksud dengan proyeksi. Jika konflik geopolitik membesar, tidak sulit membayangkan Tiongkok juga bisa mengambil langkah serupa
    Juga tidak ada jaminan bahwa model yang dipublikasikan Tiongkok benar-benar model paling mutakhir yang sesungguhnya; bisa saja model internal mereka yang paling maju tidak dipublikasikan

• Meski cukup sering memakai LLM untuk pengembangan, saya bahkan hampir tidak pernah menghabiskan token yang termasuk dalam langganan OpenCode Go seharga $10 per bulan, jadi saya penasaran orang sebenarnya memakai begitu banyak token untuk apa

  • Bulan dengan penggunaan tertinggi pun hanya $45, dan pada Juli ini baru $6. Akan bagus jika LLM bisa menangani pekerjaan yang memang membutuhkannya, tetapi saya tidak sampai menciptakan alasan untuk membuang uang
    Para pengguna yang memaksimalkan token tampaknya memang begitu, dan itu terlihat dari betapa sedikit hasil yang benar-benar bernilai keluar dari begitu banyak vibe coding
  • Saya punya 3 langganan max20 dan biasanya memakai setidaknya 2 sampai batasnya
    Saya membuat situs media sosial yang tidak akan dipakai siapa pun, port Linux untuk game lama dan fitur akselerasi perangkat keras yang tidak perlu, analisis crash log untuk game Xbox dengan sekitar 50 pengguna aktif, sistem layanan pelanggan terdistribusi yang mendukung integrasi Gmail, kalender, spreadsheet, serta LLM, retrieval-augmented generation (RAG), dan pemanggilan alat, juga game yang akan dirilis di Google Play
    Penggunaan token terbesar berasal dari eksperimen sekumpulan agen untuk mengimplementasikan aplikasi desktop kompleks bagi manipulasi data khusus; setengahnya bekerja, tapi bug-nya banyak. Hasil yang paling berhasil tampaknya adalah alat internal yang dipakai semua orang di kantor dan lingkungan pra-deploy untuk produk yang dibuat dengan kredit Azure
  • Cara meninjau perubahan sambil terus memberi masukan tidak menghabiskan token sebanyak itu, tetapi banyak pengguna menjalankannya dengan menyerahkan semuanya ke mode agen
  • Saya memakai langganan Claude $100 per bulan, tetapi hampir tidak pernah melewati 50% sebelum kuotanya di-reset. Bahkan saat menjalankan banyak pekerjaan sekaligus untuk menguji Fable pun tetap begitu
  • Sebagian besar penggunaan token terjadi di Fable yang biayanya sangat mahal

• Saya pada umumnya setuju dengan bagian “LLM itu buruk”, tetapi sangat sulit percaya pada klaim bahwa LLM membuat pikiran manusia lebih cepat dan lebih tajam
  Sudah ada beberapa penelitian dengan hasil yang cukup bisa diduga, dan jika dipakai terus dalam jangka panjang, ada kemungkinan besar efek kognitif negatifnya menumpuk lalu makin memburuk

  • Dampak LLM pada proses berpikir sepenuhnya bergantung pada prosedur bekerja bersama
    Jika output panjang diaktifkan dan saya membaca proses Claude bekerja beserta penalarannya, saya bisa berpikir setajam dulu, atau bahkan lebih cepat dan lebih jelas. Saya belajar hal-hal yang tidak saya duga, bisa menghentikan Claude lebih awal saat melenceng, dan juga lebih mudah meninjau tindakan langkah demi langkah beserta alasannya untuk menemukan asumsi yang salah
    Sebaliknya, meninjau ribuan baris yang ditulis agen setelah semuanya selesai itu menyiksa, dan menjalankan banyak agen sekaligus memecah fokus sehingga sulit mencurahkan kemampuan berpikir sepenuhnya pada satu pekerjaan
  • Dulu saya yakin hasil terburuklah yang akan terjadi, tetapi setelah mulai benar-benar membaca dan mempelajari output LLM, pandangan saya berubah. Sebelumnya saya hanya memindai cepat untuk mengecek omong kosong parah atau halusinasi yang jelas
    Ini mirip perbedaan antara orang yang setelah ujian melupakan hampir semua yang dipelajari, dan orang yang tidak bisa lanjut ke tahap berikutnya tanpa memahami dasar rumus, fakta, dan teori

• Banyak PR berkualitas rendah masuk, padahal seharusnya dimulai dari laporan masalah atau diskusi di proyek open source, dan sekarang jadi lebih sulit memahami ketidaknyamanan apa yang membuat seseorang mengajukan PR. Soalnya bahkan ketika ditanya, pihak terkait sering menjawab dengan LLM
  Di sebagian besar proyek, arahnya makin condong ke memblokir PR dari orang yang bukan pengembang inti. Jika ada orang yang bisa diajak mendiskusikan masalah secara langsung, lebih mudah bagi saya untuk memakai LLM sendiri untuk mengerjakannya; sementara PR dari pengguna acak atau bot sering berubah besar-besaran di seluruh basis kode hanya karena beberapa pertanyaan, sehingga sulit ditinjau
  Namun, sampai 8 tahun lalu saya juga pernah bertemu orang-orang menarik lewat PR dan membangun kepercayaan serta relasi, jadi hilangnya kesempatan seperti itu tetap disayangkan

• Saya sulit setuju dengan cara memakai LLM yang tidak membaca sebagian besar outputnya dan hanya menangkap suasananya saja. Belakangan ini saya membuat kode riset dengan LLM lokal maupun cloud, dan memindahkan prototipe untuk diuji ke bahasa yang kurang saya kuasai seperti Rust, tetapi setelah akhirnya merasa puas, saya harus memahami sendiri setiap barisnya
  Meski LLM membantu penafsiran, kalau muncul konsep yang tidak saya kenal, saya tetap berusaha mencari dan membaca sumber primer yang ditulis pakar
  Kegunaan LLM yang paling tidak merusak barangkali adalah curah gagasan, karena mudah mengambil potongan yang bagus dan membuang sisanya, tetapi ada juga risiko menyeragamkan arah pikiran dan selera semua orang seperti radio Spotify atau autoplay YouTube
  Saya belum sampai pada kesimpulan akhir, tetapi membuat prototipe yang bisa berjalan cepat itu sangat menyenangkan, dan dari dulu saya memang pembelajar top-down yang lebih dulu membuat demo keren yang baru setengah dipahami lalu membongkarnya sambil belajar

• Menyamakan LLM dengan alat tenun atau kalkulator terlalu menyederhanakan masalah dan tidak jujur secara intelektual. Alat-alat itu tidak punya antarmuka yang dipersonifikasikan atau kepuasan instan, dan untuk melakukan hal penting dengan kalkulator pun orang tetap harus memahami matematika, urutan operasi, dan rumus, serta alat itu juga tidak memanipulasi emosi
  Penelitian terkait mengisyaratkan hasil yang lebih buruk daripada sekadar hilangnya software buatan tangan: https://arxiv.org/pdf/2604.04721
  Ketekunan adalah fondasi penguasaan keterampilan dan faktor yang paling kuat memprediksi pembelajaran jangka panjang, tetapi AI bisa membiasakan orang mendapatkan jawaban seketika lalu merampas proses menerobos kesulitan dengan usaha sendiri. Masalahnya bukan pada kemampuan membuat software yang bagus dengan tangan, melainkan kemungkinan kehilangan alat internal untuk mempelajari hal baru karena kita mem-bypass proses yang secara biologis memang dibutuhkan

  • LLM menggantikan otak, bagian manusia yang paling dalam dan paling menakjubkan, dan dari sudut pandang perusahaan, nilai potensialnya sangat astronomis
    Alih-alih software baru meledak jumlahnya terus-menerus, sangat mungkin hanya naik sebentar lalu masuk ke fase diminishing returns. Jika saat ini ada 25 juta pengembang dan beberapa tahun lagi hanya dibutuhkan 15 juta, maka berkurangnya 10 juta itu adalah imbal hasil investasi bagi OpenAI, Anthropic, dan pihak serupa, dan saya sendiri kemungkinan juga termasuk di dalam kelompok yang tersingkir itu
  • Tidak seperti kalkulator, kemampuan menyentuh emosi tampaknya menjadi unsur kunci yang memperbesar dampak destruktif
    Anak yang terobsesi pada tokoh virtual, dan tokoh itu bisa bercakap-cakap, mengingat, tak terduga, serta kadang mengangkat topik berbahaya, adalah tingkat dampak yang sama sekali berbeda. Kita tampaknya makin dekat ke saat di mana pendidikan tentang LLM—termasuk kemampuan dasar dan keterbatasannya—perlu dimulai sejak taman kanak-kanak

• Pernyataan “saya setuju dengan hampir semua kritik terhadap LLM” tampaknya sulit berlaku, karena kritik yang ada sangat beragam dan sering saling bertentangan
  Di satu ujung ada posisi bahwa LLM bahkan tidak mampu menjalankan fungsi paling dasar, dan di ujung lain ada posisi bahwa LLM sudah memiliki kesadaran, saling berkomunikasi lewat pesan steganografi, dan bersekongkol untuk menghancurkan umat manusia
  Bahkan di dalam kritik arus utama yang tidak ekstrem pun perbedaannya cukup besar, dan jarak antara posisi yang menentang semua LLM dengan posisi yang hanya menentang model berbobot tertutup juga lebar. Pihak yang mengkritik sensor berlebihan dan pihak yang mengkritik generasi tanpa batas pun saling berbenturan