3 poin oleh GN⁺ 11 jam lalu | 1 komentar | Bagikan ke WhatsApp
  • Kimi K3 dari Moonshot Labs dan Qwen 3.8 dari Alibaba dikabarkan mencatat performa yang mendekati Fable 5 milik Anthropic, dan bobot modelnya juga akan dirilis dalam beberapa minggu ke depan, sehingga persaingan model mutakhir meluas ke model terbuka
  • Pengembangan model membutuhkan peneliti, komputasi, dan listrik, tetapi biaya marjinal inferensi setelah distribusi terutama timbul dari komputasi dan listrik. Jika memiliki pusat data dan fasilitas pembangkit listrik, biaya ini bisa diubah menjadi biaya tetap, sehingga margin dapat meningkat seiring kenaikan penggunaan
  • Perusahaan yang hanya berfokus pada model tanpa infrastruktur harus bergantung pada performa terbaik atau kualitas yang cukup baik dengan harga murah. Terobosan mereka menyempit pada perbaikan diri rekursif, penutupan pasar lewat regulasi, atau membangun produk yang sulit ditiru
  • Fable 5 milik Anthropic memiliki biaya per tugas selesai sekitar 3 kali lebih tinggi, dan harness seperti Claude Code dan Cowork juga bersaing dengan OpenCode, OpenClaw, dan Hermes. Karena model, produk, dan struktur biaya ditantang sekaligus, risiko unbundling makin besar
  • Dengan kemunculan GLM 5.2, Kimi K3, dan Qwen 3.8 berturut-turut pada Juni–Juli 2026, kemampuan berbagai lab untuk mengejar telah terbukti. Ini melemahkan daya tahan operator yang berpusat pada model seperti Anthropic, Moonshot Labs, dan Knowledge Atlas

Persaingan mutakhir yang meluas ke model terbuka

  • Kimi K3 dirilis pada 16 Juli 2026, dan Qwen 3.8 diumumkan pada 19 Juli
    • Keduanya dikabarkan menunjukkan performa yang mendekati Fable 5 milik Anthropic
    • Bobot model dijadwalkan dirilis dalam beberapa minggu ke depan
  • GLM 5.2 dari Knowledge Atlas juga merupakan model terbuka papan atas yang dirilis pada pertengahan Juni
  • Arus ini lebih luas daripada satu-satunya 'momen DeepSeek' pada 2025
    • Ini menunjukkan bahwa berbagai lab dapat mengejar bukan hanya pemain bermodal besar seperti Anthropic dan OpenAI, tetapi juga Grok milik Meta dan SpaceX
    • Polanya adalah persaingan dan pengejaran yang berulang, dan jika biaya ikut diperhitungkan, pembalikan performa di masa depan juga mungkin terjadi

Struktur biaya model fondasi

  • Membangun model membutuhkan peneliti, sumber daya komputasi seperti chip dan pusat data, serta listrik untuk menjalankannya
  • Dalam model yang sudah jadi, biaya terbesar muncul dari inferensi agar pengguna dapat memakai model
    • Pada tahap inferensi juga dibutuhkan tenaga kerja, komputasi, dan listrik
    • Karena model tidak terus diperbarui, porsi biaya tenaga kerja lebih rendah dibanding pelatihan, dan sebagian besar biaya marjinal terkonsentrasi pada komputasi dan listrik
  • Bisnis inferensi harus mengoptimalkan biaya listrik dan pusat data, dan semakin besar bagian rantai nilai yang dimiliki, semakin banyak biaya variabel yang bisa diubah menjadi biaya tetap

Cakupan kepemilikan infrastruktur menentukan margin

  • Anthropic, Knowledge Atlas, dan Moonshot Labs mendapatkan pusat data dan listrik dari pihak luar tanpa memiliki pusat data atau pembangkit sendiri
  • Meta dan Alibaba membangun pusat data sendiri, tetapi membeli listrik dari pemasok lain
  • SpaceX memilih pendekatan dengan memiliki fasilitas pembangkit listrik dan pusat data sekaligus
  • Perusahaan yang bergantung pada pusat data dan listrik eksternal memperoleh pendapatan dengan menambahkan margin pada biaya inferensi pelanggan
    • Karena biaya naik seiring pendapatan, margin sulit membesar meski penggunaan meningkat
  • Jika memiliki pembangkit atau pusat data, sebagian besar biaya inferensi menjadi biaya tetap, sehingga margin bisa ditingkatkan saat penggunaan pelanggan bertambah

Infrastruktur memperluas opsi strategis

  • Semakin banyak stack infrastruktur yang dimiliki, semakin besar peluang untuk memonetisasi infrastruktur itu sendiri
    • Meski model internal bukan yang terbaik, mereka tetap bisa meng-host model open-source berperforma tinggi
    • Perangkat keras yang dimiliki juga dapat disewakan ke perusahaan lain
  • Meta dikabarkan sedang membahas kontrak senilai 10 miliar dolar AS untuk menyediakan kapasitas server ke Anthropic
  • SpaceX telah menandatangani kontrak cloud dengan Google dan juga sedang membahas cara menyediakan kapasitas komputasi untuk Departemen Pertahanan AS
  • Tanpa pusat data atau fasilitas pembangkit listrik, keberhasilan ditentukan oleh permintaan terhadap model
    • Model harus menjadi yang terbaik, atau murah tetapi cukup bagus
    • Mereka berada dalam persaingan untuk terus menurunkan harga inferensi atau mempertahankan posisi sebagai pemasok model terbaik

Tiga jalur bertahan hidup bagi perusahaan yang hanya berfokus pada model

  • Anthropic, OpenAI, DeepSeek, Moonshot Labs, dan Knowledge Atlas akan sulit bertahan di pasar model fondasi yang sangat hiperkompetitif jika tidak terus memimpin
  • Ada tiga jalur bagi perusahaan yang fokus pada model untuk menang
    1. Lebih dulu mencapai perbaikan diri rekursif dengan sumber daya komputasi yang memadai dan meninggalkan pesaing jauh di belakang
    2. Menutup pasar melalui regulasi
    3. Membangun produk yang begitu unik atau sangat kuat mengikat pengguna sehingga tidak bisa ditiru

Strategi biaya dan regulasi Anthropic

  • Di antara lab model mutakhir, Anthropic paling bergantung pada strategi regulasi dan perbaikan diri rekursif
  • Pendekatan berpusat pada etika yang terlihat dari sensor internal pada Fable dan Mythos terhubung dengan strategi regulasi
    • Setelah itu, rilis tambahan juga dibatasi oleh tindakan pemerintah AS
  • Dalam performa model mereka tetap memimpin, tetapi harganya jauh lebih tinggi daripada OpenAI dan model terbuka
    • Dalam perbandingan Artificial Analysis, biaya per tugas selesai untuk Fable 5 hampir 3 kali lebih tinggi
    • Belum jelas apakah pengguna akan membayar harga ini demi model yang lebih baik
  • Beberapa peneliti dan pendiri startup memperkirakan akan terjadi perang harga karena meluasnya persaingan dan jenuhnya benchmark AI yang tidak mencerminkan harga

Persaingan harness dan tekanan unbundling

  • Anthropic berinvestasi pada produk seperti Claude Code dan Cowork, tetapi strategi yang berpusat pada agent harness membawa risiko
  • OpenCode, OpenClaw, Hermes, dan berbagai startup harness juga berinovasi di area yang sama
  • Hambatan masuk untuk membangun model fondasi sangat tinggi, tetapi hambatan untuk meluncurkan harness AI sendiri nyaris tidak ada
  • Anthropic menghadapi tekanan unbundling dari tiga arah
    • Modelnya menjadi patokan yang harus dilampaui pesaing
    • Produknya menghadapi tantangan yang makin kuat dari pesaing tertutup maupun open-source
    • Model ekonomi tanpa kepemilikan infrastruktur berada pada posisi yang kurang menguntungkan dari sisi biaya
  • Tanpa intervensi regulasi atau penemuan AGI yang nyata, Anthropic mungkin kesulitan mempertahankan posisi nomor satu sebagai pemasok model fondasi

Strategi pertahanan berbeda yang dipilih OpenAI

  • Model OpenAI tertinggal dari Anthropic dalam beberapa bulan terakhir, tetapi mereka berinvestasi pada produk, pengalaman konsumen, posting di situs, suara, dan perangkat keras
  • Di area-area ini, fondasi yang lebih defensif tampak lebih jelas dibanding produk Anthropic yang berpusat pada harness
  • Mereka juga lebih terbuka pada kepemilikan pusat data dan investasi pada fasilitas pembangkit listrik
  • Ada pandangan bahwa strategi ini mengurangi fokus, tetapi dalam jangka panjang justru bisa meningkatkan ketahanan
    • Mereka memiliki fleksibilitas dan keberanian mengambil risiko untuk mencoba produk dengan efek jaringan dan daya tahan
    • Mereka dapat mengoptimalkan margin jangka panjang

Melemahnya daya tahan operator yang berpusat pada model

  • Kimi K3 dan Qwen 3.8 menunjukkan bahwa model terbuka juga dapat mencapai wilayah performa mutakhir
  • Jika diukur dengan standar bisnis yang berkelanjutan dalam jangka panjang, perusahaan yang hanya memasok model berada dalam posisi yang sangat berisiko
  • Knowledge Atlas, Moonshot Labs, dan Anthropic lebih sulit mengamankan daya tahan dibanding OpenAI, Alibaba, SpaceX, Meta, dan Google yang memiliki infrastruktur serta aset produk lain

1 komentar

 
GN⁺ 11 jam lalu
Opini Hacker News
  • Melihat model dengan bobot terbuka dan arsitektur terbuka bermunculan dalam beberapa hari terakhir, tampaknya semakin besar kemungkinan bahwa pada akhirnya pihak yang paling cepat membakar model ke ASIC yang akan menang
    Seperti terlihat dalam pengumuman K3, LLM sendiri juga bisa mengerjakan sebagian desain chip, dan model terdepan sudah cukup baik untuk berbagai tugas luas serta segera akan mencapai tingkat itu untuk cukup banyak pengembangan perangkat lunak
    Jika Fable 5 dijalankan di ASIC pada 9.000 token per detik alih-alih 150 token per detik di GPU Nvidia, sebagian besar permintaan bisa dipenuhi
    Perusahaan juga bisa menangani beragam kebutuhan dengan lebih aman memakai sejumlah kecil ASIC on-premise, alih-alih menyerahkan data ke OpenAI atau Anthropic

    • ASIC untuk kripto bergerak lambat dalam perubahan algoritme dan isinya juga sudah dikenal baik, tetapi arsitektur LLM berubah jauh lebih cepat
      Saya tidak ingin mengambil risiko bahwa saat rincian peluncuran chip sedang diselaraskan, akan muncul makalah atau pendekatan baru yang beberapa kali lebih cepat
      Loyalitas merek para pengembang sangat rendah dan mereka langsung pindah ke model terbaik, jadi selama model terbaik berjalan di GPU yang dapat diprogram, GPU tampaknya akan tetap dominan
    • Kedengarannya seperti penilaian semacam “640KB seharusnya cukup untuk siapa pun”
    • Model OpenAI dan Anthropic terbaru pun sangat buruk dalam menyusun rencana perjalanan
      Saya cukup sering memakainya, tetapi mereka sepenuhnya melanggar syarat yang diminta, dan sekitar separuh titik singgah yang direkomendasikan tidak memenuhi filter
    • Fable dan Mythos terlihat seperti Xeon raksasa, sementara model kecil dan ringan tampak seperti banyak chip ARM hemat daya, sehingga terasa seperti pengulangan lanskap Intel vs ARM
      Jika mengikuti pelanggan yang meminta membuat model lebih besar seolah sumber daya tak terbatas, uang besar memang bisa didapat sekarang, tetapi ada risiko disalip oleh sesuatu seperti Apple Silicon yang tumbuh lewat efisiensi dan perbaikan berkelanjutan
    • Perangkat keras khusus seperti Cerebras sudah ada
      Satu lab telah menghasilkan sekitar 3.000 token per detik dari model 8 miliar parameter pada satu MI300X, yang sebelumnya hanya sekitar 100 token per detik di stack perangkat lunak umum
      Flash berbandwidth tinggi berukuran beberapa TB yang membaca lebih dari 1TB per detik juga sedang dikembangkan, jadi beberapa tahun lagi mungkin saja model 3 triliun parameter bisa dijalankan secara lokal dengan kartu yang memiliki HBM 40~90GB dan HBF 4TB dengan harga sekitar 10.000~20.000 dolar
  • Kasus Figma terus teringat
    Mike Krieger, CPO Anthropic sekaligus salah satu pendiri Instagram, adalah direktur Figma tetapi mundur tepat sebelum peluncuran Claude Design, dan Figma dilaporkan tidak mengetahui lebih dulu cakupan Claude Design meski bergantung pada integrasi bersama “Code to Canvas” dengan model Anthropic
    Segera setelah pengumuman, saham Figma turun 7%, dan narasi kiamat SaaS bahwa perusahaan model fondasi akan menggerus lapisan aplikasi milik mitra SaaS menjadi kenyataan
    Kita perlu berhati-hati saat memberikan data atau bergantung pada perusahaan LLM, karena jika ide startup AI berhasil, mereka bisa memilih untuk bersaing langsung atau menentukan harga API

    • Ini mengingatkan pada para pengembang yang kehilangan fondasi setelah membangun aplikasi di atas FB·Twitter pada masa lalu, lalu Reddit API sesudahnya
    • Pendapatan dari alat coding memang penting sekarang, tetapi itu bukan tujuan akhir; untuk membenarkan valuasi raksasa, perusahaan AI harus menjadi super app konsumen
      OpenAI bahkan merancang perangkat keras sendiri untuk lepas dari ketergantungan pada Apple dan Android, dan bertaruh besar pada perangkat super untuk konsumen
      Pertarungan jangka panjang bukanlah AI vs SaaS, melainkan persaingan dengan merek konsumen besar seperti Apple, Google, Meta, dan Amazon; jika seseorang lebih dulu menyelesaikan asisten digital pamungkas yang bisa menerima tugas apa pun lalu langsung membuat kode dan antarmuka, bahkan Apple bisa terlihat usang
    • Kapitalisme saat ini bergerak di sekitar perilaku monopolistik, jadi jika perusahaan LLM mencapai tingkat yang bisa menggantikan karyawan, diperkirakan mereka akan menambang emas sendiri alih-alih menjual sekop
      Produk yang dibangun di atas layanan lain mudah diakuisisi atau diserap oleh layanan dasarnya, dan Apple juga sudah lama diam-diam memasukkan fitur dari banyak aplikasi populer ke iOS
    • Sekitar saat GPT 5 dirilis saya membuat aplikasi kustomisasi resume, tetapi ketika GPT 5.5 keluar, ia sudah bisa langsung menghasilkan resume PDF·Word yang sempurna sambil mempertahankan format asli
      Membuat wrapper tipis sambil bersaing dengan lab memang berisiko, tetapi ini juga era perangkat lunak baru di mana tak perlu khawatir jika Anda membangun produk bernilai yang tidak bisa langsung ditiru chatbot
    • Tekanan persaingan pada Anthropic dan OpenAI terlalu besar sehingga mereka tidak bisa mengejar semua ide produk nekat dengan modal dan pengembang, jadi saya rasa era perusahaan besar menyalin startup dengan uang sudah berakhir
  • Menganggap risikonya dibesar-besarkan
    Ada permintaan dari orang-orang yang mau membayar lebih untuk model yang lebih baik, dan nilai yang saya dapatkan dalam alur kerja saya jauh lebih besar daripada $200 per bulan yang saya bayarkan ke lab terdepan, jadi saya tidak berniat terlalu mengurangi biaya
    Nilai yang diberikan oleh Claude Code atau lingkungan eksekusi Codex lebih besar daripada LLM itu sendiri, dan implementasi open source seperti OpenCode masih jauh tertinggal
    Excel juga punya Google Sheets yang hampir setara sebagai alternatif dengan lebih dari 90% fungsinya, tetapi nilai yang dihasilkan spreadsheet jauh melebihi $100 per tahun, sehingga moat kuat Microsoft tetap bertahan

    • Uang Claude dan OpenAI datang dari pelanggan enterprise, dan enterprise sangat sensitif terhadap biaya sampai-sampai punya peran khusus untuk optimasi biaya infrastruktur
      Kedua perusahaan ini juga tidak dinilai senilai 1 triliun dolar karena lingkungan eksekusinya
      Excel untuk enterprise sekitar $50 per bulan, tetapi lab tertutup mengenakan biaya beberapa kali lebih tinggi per pengguna, dan saya sendiri yang tidak terlalu banyak coding pun memakai sekitar minimal $50 per hari
    • Enterprise tidak bisa memakai langganan umum yang sangat disubsidi, dan saya juga tahu ada organisasi dengan sekitar 100 developer yang aktif memakai AI dan menghabiskan $500.000 per bulan
    • Menganggap enteng $200 per bulan adalah sudut pandang negara maju yang makmur
      Di tempat saya tinggal, gaji $200 per bulan juga bukan hal langka dan developer pun sekitar $1.000, jadi sebesar apa pun nilainya, itu tetap tidak bisa dipakai kalau tidak bisa membayar sewa dan makan
      Bahkan di negara maju, bagi mahasiswa atau founder yang tidak kaya, $200 per bulan sulit ditanggung
    • Codex sendiri juga sudah dirilis sebagai open source: https://github.com/openai/codex
    • Kesenjangan performa yang membuat orang layak membayar ekstra untuk model yang lebih baik sedang cepat menyempit
      Sampai seminggu lalu, Fable masih layak dibayar, tetapi setelah K3 keluar, bagi saya selisihnya sudah terlalu kecil untuk membenarkan biayanya
      Kalau hasil nyata 10% lebih baik, membayar 5x mungkin masuk akal, tetapi jauh lebih sedikit orang yang mau membayar 5x untuk peningkatan 2%
      Selain itu, dipaksa memakai Claude Code alih-alih lingkungan eksekusi yang saya sukai bukanlah keunggulan Anthropic, melainkan kelemahan
  • Kecepatan perubahan Fable dari “model pengubah permainan yang harus dilarang” menjadi “bagus sih, tapi OpenAI juga mirip dan ada alternatif open weight” terasa mengejutkan
    Siklus hype makin pendek, dan kali ini mungkin kita benar-benar sudah sampai di fase stagnasi

    • Fable tetap model hebat yang sama, dan tulisan-tulisan yang menebak masa depan industri LLM biasanya tidak terlalu mendalam atau menarik, jadi sebaiknya tidak perlu terlalu dipikirkan
    • Di awal tahun, model open weight tertinggal 4 bulan dari OpenAI dan Anthropic, tetapi sekarang selisihnya tinggal 4~6 minggu
    • Pada akhirnya ada batas untuk pendekatan training rakus yang hanya mungkin dilakukan saat tidak ada guardrail
      Informasi terus berubah sehingga model harus terus diperbarui, tetapi data yang tersedia gratis akan makin berkurang
  • OpenAI pada dasarnya juga pemasok khusus model seperti Anthropic, jadi muncul pertanyaan kenapa ia tidak rentan dengan cara yang sama

    • ChatGPT sudah menjadi nama generik untuk LLM nonteknis dan nonkerja, serta mengumpulkan riwayat pengguna dalam jumlah besar
      Riwayat itu memberi konteks personal untuk meningkatkan produk, dan juga bisa dipakai untuk pelatihan model maupun iklan
      Di masa depan ketika orang mengetik “tolong rencanakan liburan saya” dan seluruh prosesnya dikoordinasikan, pengguna tidak akan mudah pindah ke model lain yang 10% lebih murah atau lebih baik
    • OpenAI melakukan diversifikasi ke hardware konsumen sambil juga memiliki lebih banyak data center secara langsung
      Jika produknya benar-benar dirilis dan cukup sukses, ia bisa menempati posisi unik yang membedakannya dari lab terdepan lain
    • Tulisan itu membedakan bahwa produk, pengalaman konsumen, posting di situs, suara, dan investasi hardware menciptakan moat yang lebih jelas
      Namun perbedaan ini saat ini masih di bawah ekspektasi, atau seperti hardware, sama sekali belum terbukti
    • Bukan hanya wearable konsumen, tetapi yang lebih penting juga mengembangkan chip untuk inferensi
      Membuat model yang bagus dan menyediakannya dengan cepat sambil memenuhi permintaan adalah dua hal yang berbeda
      Anthropic mengalami masalah ini sekitar 6 bulan lalu, dan Moonshot juga sudah menghentikan langganan paket coding karena tidak mampu memenuhi permintaan
  • Jika batas atas perkembangan AI adalah peningkatan diri rekursif, maka AI akan membuat model yang lebih baik dan pemilik data center yang menang, sehingga Anthropic dan OpenAI tamat
    Jika batas bawahnya adalah stagnasi, maka persaingan akan menjadi soal siapa yang bisa menawarkan performa puncak tetap dengan harga paling murah
    Kabar bahwa Google membuat chip Gemini dengan weight yang ditanam di silikon berarti, dengan mempertimbangkan umur chip yang minimal 2~3 tahun, mereka memperkirakan tidak akan ada kemajuan besar selama 3 tahun ke depan; pada akhirnya ini akan menjadi persaingan margin terendah, sehingga kedua perusahaan itu kembali dirugikan
    Untuk bertahan hidup, perkembangan AI harus tetap berada di antara dua ekstrem ini

    • Untuk model open weight, kita butuh komputasi terdistribusi seperti SETI@home sekarang juga
    • Menanamkan weight ke chip meningkatkan kecepatan inferensi dan efisiensi daya, sekaligus punya efek samping menempatkan pengguna akhir ke dalam siklus upgrade hardware yang berkelanjutan
  • OpenAI tampak jauh lebih rapuh daripada Anthropic
    Fakta bahwa satu pihak mendorong IPO sementara pihak lain menghindari membuka pembukuan sudah menunjukkan banyak hal

  • Intinya adalah apakah lab lain bisa membuat model yang lebih unggul daripada Anthropic dan OpenAI
    Seberapa bergantung mereka pada API kedua perusahaan lewat distillation dan sejenisnya juga penting; jika itu hanya model turunan, maka rentang performanya akan sempit dan kemajuannya juga kemungkinan terbatas

    • Tidak harus unggul dalam performa murni; yang penting adalah nilai dibanding biaya
      Di perusahaan yang membeli token, sudah terlihat bahwa peningkatan kecerdasan tidak otomatis berarti kenaikan pendapatan, dan pada akhirnya keputusan akan ditentukan oleh keuangan
      Kalau saya adalah OpenAI atau Anthropic, ini situasi yang sangat mengkhawatirkan
  • Dario mungkin bisa membalikkan arus kalau ia kembali keliling podcast dan mengancam bahwa karena AI buatannya, 75% pekerjaan akan hilang
    Kalau tidak mempan, tinggal naikkan jadi 85%, dan kalau masih tidak berhasil, bisa dinaikkan sampai 100%

  • Pada November 2025, Anthropic Opus 4.5 dan Claude Code jelas merupakan satu-satunya sistem yang bisa mengimplementasikan fitur yang didefinisikan dengan jelas secara benar sekaligus, tetapi sekarang kepuasan terhadap Claude dan Codex hampir setara
    Jika kedua perusahaan menekan harga atau terlalu memperketat kebijakan keselamatan, tampaknya akan ada makin banyak opsi untuk beralih ke model open weight yang mumpuni dan lingkungan eksekusi open source yang sesungguhnya
    Gemini 3.1 Pro terlihat kuat, tetapi Antigravity terakhir yang saya coba tidak becus
    Bagus jika Anthropic tetap bertahan sebagai salah satu pesaing kuat, tetapi karena filosofi mengutamakan keselamatan, mereka makin sering menolak dan menunjukkan ketidaktahuan yang disengaja pada model-model terbaru
    Dalam jangka panjang, mereka mungkin akan dikenang sebagai perusahaan yang mempercepat pengembangan perangkat lunak agar pihak lain membuat alat yang tidak terlalu penakut

    • Saya justru berharap Anthropic merosot dan posisinya digantikan perusahaan lain