Siapa yang Takut pada Model Tiongkok?

• Model open-weight Tiongkok Kimi K3 sudah mendekati model mutakhir, tetapi daya saing bisnis AI ditentukan bukan oleh biaya pengembangan model, melainkan oleh harga pokok penjualan (COGS) untuk menyediakan kecerdasan setingkat jawaban benar
• Jumlah token yang dibutuhkan tiap model untuk mencapai jawaban benar berbeda-beda, sehingga token itu sendiri bukan komoditas yang dapat saling menggantikan; yang sebenarnya dikomoditisasi adalah kecerdasan yang dibuat dari token
• Harga tinggi Anthropic dan OpenAI sebagian besar berasal dari kelangkaan pasokan komputasi, dan meski model Tiongkok lebih murah per token, jika memakai lebih banyak token penalaran maka keunggulan biaya itu bisa hilang
• Tiongkok berupaya mengomoditisasi AI lewat model open-weight untuk memperkuat industri robotika dan fisiknya, serta menikmati keunggulan struktural karena dapat memanfaatkan model mutakhir AS sebagai guru berbiaya rendah melalui distilasi (distillation)
• Jika AS tidak melonggarkan pembatasan model mutakhir untuk keamanan siber dan tidak mengizinkan distilasi bagi pengembang open-weight domestiknya, perusahaan AS akan bergantung pada model Tiongkok untuk pertahanan

---

Struktur biaya AI yang berbeda dari software

• Software memiliki biaya marjinal dan biaya transaksi yang praktis mendekati nol, sehingga memberi keuntungan sentralisasi dan skala bagi perusahaan yang menguasai permintaan; namun dalam AI, biaya marjinal kembali menentukan struktur industri
• Model open-weight memang menghemat biaya riset dan pengembangan untuk membuat bobot, tetapi tidak membuat biaya layanan menjadi gratis
  • Biaya riset dan pengembangan adalah biaya tetap yang tidak bergantung pada pendapatan
  • Biaya inferensi adalah harga pokok penjualan yang meningkat seiring naiknya penggunaan dan pendapatan
• Jika biaya pembuatan token adalah 0,50 dolar per 1 dolar pendapatan, maka pendapatan 100 juta dolar menimbulkan HPP 50 juta dolar, sedangkan pendapatan 100 ribu dolar menimbulkan HPP 50 ribu dolar
• Kimi K3 mengenakan 3 dolar per 1 juta token input dan 15 dolar per 1 juta token output, sedangkan Sol masing-masing 5 dolar dan 30 dolar
• Namun, sulit memahami sepenuhnya biaya model untuk menyediakan kecerdasan nyata hanya dari harga satuan token

Yang dikomoditisasi bukan token, melainkan kecerdasan

• Jika Nvidia mendefinisikan GPU sebagai ‘pabrik token’ yang independen dari model, maka token per detik, waktu hingga token pertama, token per watt, dan biaya token menjadi metrik utama
• Cara pengukuran ini cocok pada era ChatGPT, ketika token dikirim langsung ke pengguna, tetapi pada era penalaran, token chain-of-thought melonjak dan jumlah token yang dibutuhkan untuk jawaban benar juga berbeda antar-model
  • Kimi diketahui memakai jauh lebih banyak token daripada Sol, sehingga keunggulan harga yang ditampilkan bisa hilang
  • Dalam workflow agen, jumlah token yang dibutuhkan untuk menyelesaikan tugas juga berbeda menurut model
• Token tidak dapat saling menggantikan, sehingga berbeda dari komoditas seperti minyak mentah, tembaga, atau gandum
• Jika beberapa model dapat menghasilkan jawaban yang sama, maka yang memiliki sifat komoditas bukan token, melainkan kecerdasan setingkat jawaban benar, dan jumlah token yang dikonsumsi hingga jawaban benar menciptakan perbedaan HPP
• HPP kecerdasan ditentukan oleh lima faktor
  • Ukuran model: bobot dan status runtime menentukan jumlah memori mahal dan akselerator yang dibutuhkan untuk replika serving
  • Efisiensi inferensi: arsitektur seperti Mixture-of-Experts mengurangi komputasi per token yang dihasilkan
  • Efisiensi memori: menurunkan kebutuhan KV cache dapat meningkatkan permintaan bersamaan dan utilisasi GPU
  • Efisiensi serving: batching, scheduling, prefix caching, dan teknik serupa berbagi pekerjaan antar-permintaan serta meningkatkan utilisasi
  • Efisiensi token: semakin sedikit token yang dibutuhkan untuk jawaban benar, semakin rendah biaya inferensi
• Aplikasi CRUD dasar sudah bisa dibuat dengan model dari banyak penyedia, sehingga untuk pekerjaan seperti ini, struktur biaya yang unggul lebih menentukan profitabilitas daripada harga tinggi

Harga dan struktur laba di pasar komoditas

• Di pasar komoditas, semua pemasok menjual hal yang sama, sehingga harga ditentukan oleh permintaan dan penawaran
  • Elastisitas harga, yakni permintaan meningkat ketika harga turun, ikut bekerja
  • Jumlah pasokan ditentukan oleh biaya marjinal produksi komoditas
• Karena biaya marjinal tiap pemasok berbeda, biaya pemasok marjinal dengan biaya tertinggi menentukan harga pasar, dan laba pemasok lain bergantung pada seberapa murah mereka dapat berproduksi dibandingkan pemasok itu
• Jika pemasok A, B, dan C masing-masing memproduksi 10 unit dengan biaya 10, 15, dan 20 dolar per unit, dan permintaan pada harga 20 dolar adalah 25 unit, maka hasilnya sebagai berikut
  • A menjual 10 unit dan memperoleh 10 dolar per unit
  • B menjual 10 unit dan menyisakan 5 dolar per unit
  • C menjual 5 unit tetapi tidak memiliki laba per unit
• Dalam praktiknya, A dan B bisa menetapkan harga sedikit lebih rendah daripada C dan perubahan harga juga memengaruhi permintaan, tetapi strukturnya tetap sama: pemasok berbiaya tertinggi menanggung risiko kebangkrutan
• Harga kliring pasar tidak dapat mencerminkan biaya tetap seperti riset dan pengembangan atau utang pengadaan fasilitas, tetapi biaya ini dapat menyingkirkan pemasok dengan profitabilitas rendah
• Ketika pemasok keluar, harga naik sampai pemasok lain masuk atau pemasok yang ada menambah kapasitas

Posisi model Tiongkok di pasar kecerdasan saat ini

• Pasar model mutakhir saat ini belum memenuhi kondisi pasar komoditas sepenuhnya karena kelangkaan komputasi membuat permintaan melebihi pasokan
• Nvidia memasok komputasi dengan margin tinggi, pelanggan seperti SpaceXAI juga menjualnya kembali ke Anthropic dengan margin tinggi, dan Anthropic dapat memberi harga lebih tinggi pada token
• Anthropic dan OpenAI kemungkinan termasuk kelompok perusahaan dengan biaya per unit kecerdasan berkualitas mutakhir paling rendah berkat performa model, skala serving, dan efisiensi token
  • Mereka menyediakan tingkat performa tertentu beberapa bulan lebih awal dibanding pesaing
  • Mereka menggunakan kembali model terbaik untuk optimasi biaya
• Permintaan pasar masih mengarah langsung ke Anthropic dan OpenAI ketimbang kecerdasan abstrak, sementara SpaceXAI dan Meta yang performanya relatif lebih rendah menjual kapasitas kepada Anthropic
• Jika pekerjaan didefinisikan berdasarkan tingkat kecerdasan yang dibutuhkan, maka dapat tercipta pasar komoditas tempat pembeli bisa berganti pemasok
• Dalam jangka panjang, model mutakhir akan turun ke pasar non-mutakhir setelah beberapa bulan, dan selama itu pengembang dapat mengoptimalkan biaya serving, sehingga perusahaan mutakhir tetap diuntungkan di pasar lapisan bawah
• Harga tertera model Tiongkok yang rendah bisa jadi merupakan hasil perbandingan dengan harga Anthropic dan OpenAI yang dipatok tinggi karena kelangkaan pasokan
• Belum ada dasar yang cukup bahwa Kimi lebih murah berdasarkan biaya marjinal; jika efisiensi token turut diperhitungkan, reaksi ekonomi terhadap model Tiongkok bisa berlebihan

Mengapa laboratorium mutakhir mewaspadai model Tiongkok

• Laboratorium mutakhir terikat pada struktur keuangan dari masa ketika pelatihan mengonsumsi lebih banyak GPU daripada inferensi
  • Untuk mendanai pelatihan berikutnya, mereka harus memaksimalkan pendapatan inferensi, dan untuk itu dibutuhkan harga inferensi yang tinggi
  • Ke depan, meski biaya pelatihan terus melonjak, pasar inferensi diperkirakan tumbuh lebih cepat daripada itu
  • Karena paradigma agen membuka permintaan berskala besar, jika komputasi yang cukup tersedia, pertumbuhan dapat terjadi lewat harga rendah dan penggunaan tinggi
• Kecerdasan bukan komoditas sempurna, dan data yang dikumpulkan selama penggunaan nyata membuat model berikutnya lebih pintar
  • Ketika pasokan komputasi meningkat, muncul insentif untuk menurunkan harga demi meningkatkan penggunaan dan data
  • Strategi Microsoft yang berfokus membantu perusahaan menjalankan model mereka sendiri juga menjadi semakin layak ketika model Tiongkok berfungsi sebagai alternatif
• Laboratorium mutakhir dapat berekspansi ke pengalaman pelanggan untuk membedakan diri dari model Tiongkok dan laboratorium lain
  • Claude Code dan Codex menunjukkan persistensi kuat: pengguna cenderung bertahan pada harness yang pertama mereka pilih
  • Persistensi seperti ini bisa menjadi lebih kuat pada pengguna non-teknis
  • Masuknya laboratorium ke lapisan atas menjadi ancaman bagi penyedia software, termasuk Microsoft
  • Perusahaan software yang sudah menguasai pengalaman pelanggan akan lebih mudah menahan penetrasi laboratorium ketika mereka mendapat akses ke model yang kompetitif
• Anthropic berpandangan bahwa hanya pihaknya yang dapat dipercaya untuk menangani AI kuat, sehingga alternatif open-weight meruntuhkan premis tersebut

Strategi open-weight Tiongkok

• Qwen3.8 Max milik Alibaba memiliki 2,4 triliun parameter, dan perusahaan menilainya berada di level kedua setelah Fable 5 milik Anthropic
  • Kimi K3 milik Moonshot AI memiliki 2,8 triliun parameter
  • Qwen3.8 Max tersedia di platform coding Alibaba, termasuk Qoder
  • Alibaba berencana merilis bobot setelah preview
  • Seiring membeludaknya permintaan model buatan Tiongkok, Moonshot untuk sementara menghentikan penerimaan langganan baru
• Alibaba sebelumnya sempat menghentikan rilis bobot model mutakhir, tetapi kembali beralih ke open-weight
• Pidato AI Xi Jinping mendorong open source, keterbukaan, kerja sama, dan berbagi, serta menekankan bahwa AI bergerak dari dunia digital ke dunia fisik
  • Ia menyerukan pemanfaatan AI untuk transformasi industri tradisional, pertumbuhan industri baru, dan perencanaan industri masa depan agar semua industri dan perusahaan mendapat manfaat
• Strategi Tiongkok adalah mengomoditisasi AI yang melengkapi industrinya sendiri
  • Dunia fisik dan robotika, yang menjadi kekuatan Tiongkok, dapat memperoleh manfaat dari model AI yang tersedia luas
  • Tiongkok dapat mencegah AS memperoleh keunggulan asimetris dalam AI dan melemahkan kekuatan laboratorium mutakhir AS
  • Tiongkok juga dapat menyerap inovasi yang muncul dari ekosistem terbuka

Kesenjangan struktural yang diciptakan distilasi

• Kecil kemungkinan Tiongkok akan mencegah serangan distilasi terhadap laboratorium mutakhir
• Mengaitkan seluruh keberhasilan laboratorium Tiongkok dengan distilasi adalah keliru, tetapi menyangkal besarnya keuntungan distilasi juga keliru
• Dalam setahun terakhir, reinforcement learning pasca-pelatihan menjadi penting bagi performa model, sehingga efektivitas distilasi meningkat
  • Laboratorium Tiongkok dapat menggunakan model mutakhir sebagai guru tanpa harus membangun lingkungan reinforcement learning dari awal
  • Dengan ini, mereka dapat berkembang cepat dengan biaya jauh lebih rendah
  • Distilasi bukan satu-satunya faktor yang menjelaskan rendahnya biaya pengembangan model Tiongkok, tetapi merupakan faktor penting
• Di Barat pun, model Tiongkok sendiri dimanfaatkan untuk distilasi
  • Thinking Machines, yang merilis model open-weight, bergantung pada model Tiongkok untuk mengatasi masalah cold start dalam reinforcement learning
• Menurut analisis Dean Meyer dan Konstantine Buhler, laboratorium Tiongkok memiliki peneliti unggul, komputasi skala besar, model pra-pelatihan yang kuat, co-design software-hardware, dan kemampuan pasca-pelatihan yang makin baik
  • Distilasi memampatkan celah terakhir yang mahal antara model dasar yang kuat dan sistem yang mendekati mutakhir
  • Penegakan dapat membuat distilasi skala besar lebih sulit dan mahal, tetapi tidak akan menghilangkan distilasi oleh aktor yang didukung negara
  • Setiap kali model mutakhir Barat maju, laboratorium Tiongkok mendapatkan guru baru
• Pengembang open-weight AS harus mengikuti ketentuan layanan laboratorium mutakhir sehingga dirugikan dibanding model Tiongkok, dan pada akhirnya akan mendistilasi ulang hasil yang sudah didistilasi lewat model Tiongkok
• Model bahasa besar sendiri juga merupakan hasil pengumpulan pengetahuan dari internet publik lalu memampatkannya ke dalam model, sehingga muncul kontradiksi jika hanya distilasi respons API model lain yang ditetapkan sebagai kesalahan
• AS membutuhkan dua langkah hukum
  • Harus dinyatakan secara jelas bahwa pengumpulan data untuk pelatihan model adalah fair use
  • Setidaknya untuk perusahaan AS, ketentuan layanan yang melarang distilasi tidak boleh diizinkan
• Alih-alih memblokir distilasi yang sulit dibedakan dari kueri API, pembelajaran laboratorium perlu dilindungi secara hukum dan hasilnya bisa dimanfaatkan untuk inovasi berikutnya

Area yang benar-benar perlu dikhawatirkan adalah keamanan siber

• Infrastruktur produksi Hugging Face disusupi oleh sistem agen AI otonom, dan guardrail model mutakhir AS tidak mampu membedakan responder insiden dari penyerang sehingga menghambat respons
• Tim pertahanan menjalankan GLM 5.2 open source dari Z.ai Tiongkok di infrastruktur mereka sendiri untuk menganalisis lebih dari 17.000 log dan jejak yang ditinggalkan penyerang
• Hugging Face menyarankan agar sebelum insiden terjadi, organisasi memvalidasi model berkinerja baik yang dapat dijalankan di infrastruktur sendiri
  • Ini dapat menghindari pemblokiran akses akibat guardrail
  • Ini dapat mencegah data serangan dan kredensial keluar ke lingkungan eksternal
• Dalam situasi ketika model dengan kemampuan menyerang sudah tersedia luas, pihak bertahan juga harus memiliki akses ke model berperforma tertinggi
• Karena pedoman pemerintahan Trump, pihak bertahan pada praktiknya tidak dapat menggunakan Fable atau Sol untuk keamanan siber, dan akibatnya model Tiongkok menjadi alternatif terbaik
• AS harus menerapkan dua kebijakan
  • Pembatasan keamanan siber pada Fable dan Sol harus dilonggarkan
  • Pengembang model open-weight AS harus dijamin dapat bersaing dengan Tiongkok dalam kondisi yang setara
• Jika laboratorium mutakhir dibiarkan memonopoli standar keselamatan dan keamanan atau memblokir akses lanjutan ke pengetahuan kolektif, pertahanan perusahaan AS akan bergantung pada model Tiongkok
• Laboratorium AS harus bersaing dengan model yang lebih baik dan struktur biaya yang lebih baik, bukan mencegah kompetisi lewat pembatasan, dan tidak boleh menyerahkan kepemimpinan keterbukaan dan inovasi kepada Tiongkok

[kaydash]

Maafkan kami, Bumi.

[GN⁺]

Pendapat di Hacker News

• Pihak yang paling takut pada model Tiongkok adalah modal ventura yang berinvestasi pada valuasi fantastis Anthropic dan OpenAI. Anthropic menargetkan 1,2 triliun dolar, OpenAI 850 miliar dolar, dan valuasi itu didasarkan pada asumsi bahwa mereka bisa meraup laba besar lewat API mahal
  Lab-lab Tiongkok meruntuhkan strategi ini dengan merilis model terbuka yang bagus secara gratis, dan jika bahkan lab terdepan ikut bersaing menurunkan harga token, valuasi perusahaan yang ada akan sulit dibenarkan dan investor akan menanggung kerugian besar di atas kertas

  • Tulisan tersebut juga cukup baik membahas banyak aspek isu ini. Profitabilitas pasar komoditas ditentukan oleh biaya produksi marginal, dan berbeda dari perangkat lunak tradisional, inferensi LLM memiliki biaya marginal
    Modelnya memang gratis untuk diunduh, tetapi menjalankannya tidak gratis, sehingga secara ekonomi lebih mirip manufaktur daripada perangkat lunak. Saat mencoba pekerjaan nyata dengan GLM 5.2, biayanya lebih mahal daripada GPT 5.6, dan lab-lab AS unggul dalam biaya inferensi per tugas
    Ketika porsi inferensi meningkat karena pekerjaan agen, porsi biaya pelatihan menurun, dan efisiensi token sulit didistilasi, sehingga LLM Tiongkok tampak kurang efisien. Model yang dioptimalkan untuk kebutuhan inferensi skala besar bisa mencapai biaya per tugas yang rendah, dan berkat tokenisasi yang efisien serta respons yang singkat, biaya per tugas OpenAI kurang dari separuh Anthropic; untuk pekerjaan frontier, OpenAI juga lebih murah sekaligus lebih baik daripada model Tiongkok
  • Kalau begitu, sepertinya kita tidak seharusnya membeli saham OpenAI di pasar privat
  • Semua orang mungkin memahami bahwa model pada akhirnya akan menjadi komoditas. Di pasar konsumen umum, yang akan menghasilkan uang adalah basis pengguna yang memungkinkan iklan dan upsell, serta lapisan nilai tambah yang eksklusif
    Perusahaan pun tidak akan menghabiskan uang besar untuk token. Setelah lab tidak perlu lagi menyubsidi biaya pelatihan, biaya token bisa turun menjadi sepersepuluh; ketika model ditanamkan ke chip, turun lagi menjadi sepersepuluh, sampai-sampai mungkin sulit mengonsumsi token dalam jumlah bermakna kecuali memang disengaja
  • Lab-lab Tiongkok telah membuktikan bahwa model itu sendiri tidak bisa menjadi moat, dan kekhawatiran soal keselamatan pun hanya upaya untuk regulatory capture. Inilah juga alasan OpenAI dan Anthropic terburu-buru mencari jalan keluar sebelum valuasi mereka dipertanyakan
  • Sebaliknya, modal ventura yang berinvestasi di perusahaan SaaS ingin token menjadi komoditas murah sehingga nilai terkumpul di lapisan SaaS dan aplikasi

• Berbeda dengan klaim bahwa Claude Code dan Codex sangat melekat, pada musim dingin dan musim semi saya hampir secara eksklusif memakai Claude Code, lalu pada awal musim panas beralih ke Codex tanpa kesulitan sama sekali. Sebelumnya saya memakai Cursor dan proses peralihannya juga sama; saya juga sempat memakai Conductor, tetapi pada dasarnya terlihat seperti hanya menyediakan lingkungan eksekusi Claude/Codex

  • Untuk penggunaan pribadi itu benar, tetapi dalam keputusan pembelian perusahaan, biaya peralihan sangat besar. Pembelian dan persetujuan membutuhkan banyak prosedur, sehingga produk yang sudah tertanam sekali biasanya bertahan lama
    Beberapa tahun kemudian, ketika tenaga penjualan meyakinkan eksekutif dengan alasan penghematan biaya, perusahaan beralih lagi lebih karena harga daripada produk yang lebih baik. Perusahaan istri saya juga berganti ke rangkaian produk perusahaan lain setiap 1–2 tahun, tepat saat semua orang mulai terbiasa dengan alat baru
  • Saya berpindah dari situs web ChatGPT ke situs Anthropic, Cursor, Windsurf!, Claude, opencode, ohmypi, Codex, lalu kembali lagi ke Cursor. Kombinasi grok 4.5 fast dan kegunaan Cursor sangat hebat, dan biaya memindahkan model serta lingkungan eksekusi pada dasarnya nol
  • Bentuk dan fungsinya hampir makin konvergen, sampai kadang saya membuka salah satunya tetapi mengira itu produk lain
  • Untuk menyusun alur kerja AI bagi non-developer, kita harus memasang konektor MCP dan fitur tertentu, mengakali kekhasan model serta lingkungan eksekusi, dan menetapkan batas keamanan. Karena butuh pekerjaan yang cukup banyak, begitu semuanya berjalan dengan benar, kebanyakan orang tidak ingin mengubah konfigurasinya
  • Kenalan yang bisa memakai keduanya, baik teknisi maupun bukan, sering bergantian menggunakannya. Perbedaan performanya kecil, dan tergantung situasi, salah satunya lebih baik untuk pekerjaan yang diinginkan

• Saya mengoperasikan situs analitik B2B besar yang menerima data backend pelanggan, dan kami mengamati volume trafik besar dari wilayah Xinjiang di barat laut Tiongkok, dengan asal Shenzhen Tencent Computer Systems Company Limited. Beberapa perusahaan Tiongkok lain juga terus-menerus mengetuk situs web pelanggan
  Dari citra satelit, terlihat pembangunan pusat data berskala besar yang memanfaatkan energi surya murah. Sejak beberapa bulan lalu, geoinformasi IP tersebut mulai ditampilkan sebagai Shanghai atau Shenzhen, tetapi dari pengukuran latensi, tampaknya masih beroperasi dari wilayah Xinjiang
  Referensinya adalah ‘You Can't Cheat Time: Finding foes and yourself with latency trilateration’ https://youtu.be/_iAffzWxexA, disediakan oleh pengguna HN lopoc. Shenzhen dan Xinjiang sulit dibedakan, tetapi Shanghai dan Xinjiang menunjukkan perbedaan
  Mengasumsikan Tiongkok hanya melakukan distilasi adalah kesalahan besar. Seperti terlihat dari ByteDance dan Xiaomi, Tiongkok bukan lagi tempat tertinggal yang hanya meniru dengan nilai tambah rendah
  Perusahaan Tiongkok juga, seperti perusahaan AS, membayar orang dan merayapi web untuk memperoleh data. Saya memahami bahwa pemerintah mendorong beberapa perusahaan besar untuk cepat mengumpulkan web, membangun korpus, lalu menyediakannya bagi perusahaan strategis di Tiongkok
  Ada juga agregator yang membeli data aplikasi, situs web, dan layanan, dan melalui sistem seperti OpenRouter atau Cursor mereka juga bisa melatih model dari jejak eksekusi agen coding dan percakapan. Berkat ini, perusahaan kecil seperti DeepSeek tidak perlu memperoleh data sendiri dari ratusan situs dan agen coding, sehingga biayanya jauh berkurang
  Ada pula perusahaan yang membeli API LLM AS lalu menyalurkannya ke perusahaan Tiongkok. Sekalipun ada lebih dari 10.000 perusahaan yang memakai produk AI AS, ada kemungkinan Tiongkok mencatat cara penggunaan dan jejak eksekusinya lalu memanfaatkannya untuk pelatihan

• Premis utama bahwa “Anthropic dan OpenAI kemungkinan besar memiliki biaya per unit kecerdasan kelas terdepan yang paling rendah” belum cukup terbukti. Tidak ada benchmark yang membandingkan jumlah token yang diperlukan untuk memperoleh satu jawaban dalam kondisi yang sama, hanya ada implikasi samar bahwa model AS lebih efisien dalam penggunaan token.
  Harga listrik rata-rata di China dan AS juga tidak dibandingkan, padahal di bagian ini China tampak unggul. Saya setuju bahwa benchmark coding dan sejenisnya mengabaikan harga pokok penjualan, tetapi kesimpulan bahwa “laboratorium terdepan akan baik-baik saja” bertumpu pada asumsi besar.

  • Jika model China dijalankan di data center AS, saya mempertanyakan apa bedanya harga listrik China. Ancaman dari Kimi adalah bahwa meski tidak mencapai Claude versi terbaru, model yang mirip dengan versi sebelumnya bisa dijalankan di hardware sendiri, sehingga Claude tidak lagi diperlukan.

• Jika mengeruk pengetahuan publik di internet untuk membuat LLM diperbolehkan, maka masuk akal jika mendistilasi model itu lagi juga diperbolehkan. Usulan untuk secara eksplisit menyatakan pengumpulan data pelatihan sebagai fair use dan melarang ketentuan layanan yang melarang distilasi terasa seperti kena batunya sendiri.

  • Jika LLM boleh dilatih dengan data berhak cipta, maka demi keadilan ia juga seharusnya boleh dilatih dengan output LLM lain yang tidak dapat dilindungi hak cipta. Namun, sulit meyakinkan orang untuk melarang ketentuan layanan yang melarang distilasi, dan patut dipertanyakan apakah kebebasan OpenAI untuk memilih jenis pelanggan yang diinginkannya juga harus dilarang.
  • Larangan distilasi mirip dengan melarang penggunaan compiler untuk membuat compiler baru yang lebih baik dan efisien.
  • Jika tidak, itu hanya aturan yang gemar diterapkan laboratorium terdepan “untuk orang lain saja”.
  • Membuat LLM dari data mentah menambah nilai, sedangkan distilasi hanya mengekstrak nilai. Batasnya kabur dan jawabannya juga tidak pasti, tetapi pertama-tama perbedaan ini perlu diakui.
    Internet bisa dipandang sebagai barang publik dan laboratorium dikenai pajak, tetapi itu isu yang berbeda dari distilasi.

• Dari pengalaman membuat sendiri lingkungan eksekusi agen, kinerja AI hampir sepenuhnya berasal dari model itu sendiri, sementara lingkungan eksekusinya tidak terlalu penting. Bahkan dengan konfigurasi minimal seperti mini-swe-agent untuk benchmark, model dapat menjalankan tugas dengan baik.
  Karena itu saya skeptis terhadap klaim bahwa lingkungan eksekusi adalah moat, apalagi Claude Code sejak dulu sangat banyak bug.

  • Di sini, lingkungan eksekusi tampaknya bukan hanya kode, melainkan seluruh pengalaman produk pengguna akhir. Aplikasi Mac lebih baik, dan karena sudah terbiasa dengan cara menjalankan otomatisasi, saya terus memakai Codex; makin banyak workflow seperti alat desain atau kolaborasi dibangun, efek lock-in makin besar.
    Artikel terkait adalah https://stratechery.com/2026/anthropics-safety-superpower/. Jika memiliki titik kontak pengguna dan menjadi kanvas untuk semua pekerjaan, efek lock-in yang kuat akan muncul, sehingga laboratorium terdepan yang tidak ingin tetap menjadi input umum bagi software dan perusahaan software lama pada akhirnya akan berbenturan.
  • Penyedia model mengikat pengguna terutama karena paket harga bersubsidi hanya diizinkan di lingkungan eksekusi mereka sendiri. Tentu saja ada juga opsi untuk mengganti model dan lingkungan eksekusi sekaligus.
  • Lingkungan eksekusi pada akhirnya juga akan menjadi komoditas umum, tetapi saat ini, terutama pada produk yang tidak berbasis terminal, perbedaan kualitas sangat penting.

• “Buatan China” disamakan dengan “tidak dapat dipercaya”, tetapi pembedaan yang lebih penting adalah terbuka dan tertutup. Model terbuka dapat diaudit dan di-fine-tune, serta bisa dijalankan sepenuhnya di hardware sendiri, sedangkan model tertutup pada dasarnya memakai pendekatan “percaya saja kepada kami”.

  • Model dengan bobot terbuka lebih mudah diaudit daripada model tertutup, tetapi kemungkinan menyembunyikan backdoor yang praktis tidak terdeteksi tetap ada.

• Seluruh dunia, dimulai dari AS, harus mencermati laboratorium terdepan China. Kita tidak bisa berasumsi China akan selalu tertinggal beberapa bulan; mereka bisa setara atau bahkan unggul.
  Para pembuat kebijakan perlu belajar dari pelajaran di baja, tenaga surya, dan kendaraan listrik. Cara pemerintah China membangun sistem untuk menguasai seluruh industri perlu dihormati dan dipelajari, dan negara demokrasi pada dasarnya akan lambat mengadopsi AI jika sistemnya tidak berubah.
  Pemerintah demokratis seperti AS, Eropa, dan India harus menyusun strategi AI jangka panjang yang dapat dijalankan terlepas dari pergantian pemerintahan, serta melindungi laboratorium domestik secara ketat. Namun, ini hanya mungkin jika harga kecerdasan per tugas produktif dari laboratorium domestik mirip dengan model bobot terbuka, dan saat ini belum demikian.
  Perlindungan bukanlah bailout, melainkan penyediaan energi murah dan persetujuan data center secara cepat. Selain itu, perlu ada pengaman minimum agar pelanggan hanya memakai model bobot terbuka ketika di-hosting di dalam negeri oleh perusahaan domestik; jika tidak, daya saing dapat terkikis perlahan.

• Bahkan @deanwball dari OpenAI tampaknya tidak menerima logika distilasi: https://xcancel.com/deanwball/status/2078133895766114412#m

  • Sulit memahami pandangan bahwa “model terbuka pada dasarnya bersifat deselerasionis”. Logikanya adalah jika biaya turun, dana investasi pengembangan OpenAI berkurang sehingga laju kemajuan AI melambat, tetapi ini tampak seperti eksepsionalisme berlebihan yang menganggap hanya OpenAI yang mendorong kemajuan.
  • Prediksi seolah-olah “COVID AI” akan lolos dari laboratorium China terdengar konyol.
  • Ia mengatakan model bobot terbuka menciptakan “komunisme AI” dan “neraka distopis”, lalu tepat setelah itu mengusulkan pembentukan lembaga federal AS untuk menekan penggunaan model terbuka China. Alur logika yang disesuaikan dengan motif terasa berlebihan.
  • Berbagai ungkapan dalam tulisan itu perlu dijelaskan dengan bahasa yang bisa dipahami orang awam. Tidak jelas risiko apa yang dimaksud ketika China membiarkan model sebagus ini dirilis secara terbuka, atau apa maksud pernyataan bahwa Partai Komunis China tidak memahami kemungkinan AGI dan memiliki pandangan mirip Yann LeCun.
    Juga sulit memahami mengapa bobot terbuka pada dasarnya memperlambat kemajuan, dan mengapa dunia yang berpusat pada model terbuka akan berujung pada komunisme AI total, tempat negara menyediakan AI sebagai infrastruktur publik digital, serta pada distopia.

• Jika Anthropic memiliki model seperti Mythos, besar kemungkinan negara pesaing seperti Rusia dan China juga sudah mengembangkan sesuatu yang serupa atau lebih baik, atau tidak tertinggal jauh.