xAI makin mirip bisnis penyewaan pusat data (REIT) ketimbang laboratorium frontier

• Dalam beberapa pekan terakhir, xAI menandatangani serangkaian kontrak untuk menyewakan kapasitas GPU dalam skala besar kepada Anthropic dan Google, sehingga mulai tampak lebih mirip perusahaan penyewaan infrastruktur daripada pengembang model
• Pada Februari, xAI bergabung dengan SpaceX, sehingga pendapatan sewa ini langsung mengalir ke entitas yang kemungkinan akan melantai di bursa
• Untuk Anthropic, skalanya mencapai $1.25bn per bulan/300MW (sekitar 220 ribu GPU), dan untuk Google $920mn per bulan/110 ribu GPU; jika berlangsung 18 bulan, seluruh biaya pembangunan sekitar $40bn bisa dipulihkan
• Kelangkaan pasokan GPU yang sangat parah serta kemampuan SpaceX/xAI membangun pusat data dengan cepat menjadi keunggulan kompetitif nyata di balik kontrak ini
• Karena kapasitas yang semula untuk model internal Grok justru disewakan ke pesaing langsung, kemungkinan mundurnya xAI dari persaingan laboratorium frontier kini terkait dengan nasib IPO terbesar dalam sejarah Amerika Utara

---

Struktur kontrak dan latar belakang merger dengan SpaceX

• xAI baru-baru ini meneken kemitraan pasokan kapasitas GPU skala besar dengan Anthropic dan Google
• Pada Februari, xAI bergabung dengan SpaceX, sehingga pendapatan dari kontrak ini langsung masuk ke entitas yang bersiap IPO
• Ada pembahasan soal kemungkinan financial engineering menjelang IPO SpaceX, tetapi ada aspek lain di luar sekadar teknik akuntansi

Masalah kekurangan kapasitas di Anthropic

• Pada produk Claude, terjadi kekurangan kapasitas yang sangat serius terutama pada sore awal di Eropa dan pagi hari di AS
  • Ini adalah jam ketika pengguna di Eropa dan Amerika sama-sama bekerja sehingga persaingan kapasitas paling ketat
• Anthropic menerapkan batasan jam sibuk pada paket berlangganan
  • Penggunaan pada pukul 05.00–11.00 PT / 13.00–19.00 GMT menghabiskan kuota lebih besar
  • Tujuannya meratakan permintaan antara jam sibuk dan non-sibuk
• Karena permintaan tumbuh cepat, pergeseran permintaan saja ada batasnya, sehingga pembatasan penggunaan tambahan menjadi sulit dihindari
  • Ini situasi yang tidak ideal ketika Google dan OpenAI menekan dalam perebutan pelanggan

Kontrak pasokan kapasitas xAI

• Pada awal Mei, xAI mengumumkan pemberian akses kepada Anthropic ke pusat data lama Colossus 1 di Memphis
  • Melalui ini, Anthropic mencabut pembatasan penggunaan langganan; stabilitas layanan masih belum memadai, tetapi kekurangan pada jam sibuk untuk sementara mereda
• Skala kontrak Anthropic naik menjadi 300MW kapasitas dengan nilai hingga $1.25bn per bulan, setara sekitar 220 ribu GPU
• Pekan lalu, Google juga mengumumkan kemitraan serupa, yaitu 110 ribu GPU dengan nilai $920mn per bulan
• Kedua kontrak sama-sama memuat klausul pembatalan
  • Setelah periode lock-in awal, kedua pihak dapat membatalkan dengan pemberitahuan 90 hari sebelumnya

Analisis profitabilitas

• Jika dilihat secara nominal, ini tampak sebagai kontrak yang sangat menguntungkan bagi xAI
  • Jika bertahan 18 bulan, sekitar $40bn belanja modal (capex) pembangunan bisa pulih seluruhnya, sementara xAI tetap berpotensi masih memegang GPU ratusan MW
  • Namun, opex dan depresiasi belum diperhitungkan
• Dalam jangka menengah, kekurangan komputasi kemungkinan besar tetap berlanjut, sehingga bahkan H100 generasi lama pun kemungkinan masih sangat berguna setelah 18 bulan

• Estimasi biaya listrik (opex)

  • Pada beban penuh 300MW, konsumsi tahunan sekitar 2,6 miliar kWh
  • Dengan listrik industri murah di Tennessee (sekitar 6 sen/kWh), pembelian dari grid akan menelan sekitar $160mn per tahun
  • Colossus terutama beroperasi dengan turbin gas di lokasi; dengan efisiensi panas siklus sederhana ~10.000 Btu/kWh dan gas Henry Hub sekitar ~$3.50/MMBtu, biaya bahan bakar sekitar $90mn per tahun, jadi lebih murah
  • Dibandingkan dengan pembayaran Anthropic sekitar $15bn per tahun untuk 300MW, biaya listrik hanya sekitar 1% dari pendapatan

Sanggahan terhadap kontrak ini (red flags)

• Elon Musk dan OpenAI sedang terlibat sengketa hukum yang sengit, sehingga kontrak dengan Anthropic mungkin bertujuan menekan OpenAI lebih daripada murni kepentingan komersial
• Google adalah pemegang saham utama SpaceX, sehingga ada insentif untuk mengerek valuasi IPO
• Namun, yang penting adalah GPU memang sedang mengalami kekurangan pasokan dalam skala besar
  • Di balik ledakan capex pusat data, ada fakta bahwa semua operator tertinggal jauh dari jadwal
  • Bahkan pusat data andalan OpenAI Stargate UAE kini terancam langsung oleh konflik Iran saat ini, dan drone Iran sudah menyerang pusat data lain di UEA

Keunggulan konstruksi SpaceX/xAI

• SpaceX/xAI sangat unggul dalam kemampuan membangun pusat data tepat waktu
  • Colossus 1 awal dibangun hanya dalam 122 hari
• Kelompok usaha Musk punya kekuatan besar dalam merencanakan, membangun, dan mengeksekusi proyek infrastruktur skala besar dengan cepat
• Hyperscaler juga berpengalaman, tetapi selama ini membangun dalam lingkungan yang tidak terlalu mendesak, dan proyek biasa sering memakan waktu bertahun-tahun
  • Belanja modal baru benar-benar dipacu dalam beberapa tahun terakhir, sehingga banyak proyek baru akan selesai beberapa tahun lagi
• Ini adalah keunggulan kompetitif penting xAI yang tidak bisa dianggap sepele

Posisi Grok

• Sebagian besar kapasitas pusat data yang semula dialokasikan untuk pelatihan dan inferensi Grok kini disewakan kepada pesaing langsung, membuat posisi Grok menjadi serba tidak jelas
• Ada indikasi bahwa ini tampak seperti kemunduran yang jelas dalam persaingan laboratorium kelas frontier
  • Namun, bisa juga xAI terlalu melebihkan kebutuhan kapasitas pusat datanya, atau permintaan inferensi model Grok jauh di bawah proyeksi sehingga kapasitas berlebih dipilih untuk dimonetisasi
  • Kontrak antara xAI dan Cursor membuat situasi ini makin rumit
• Financial engineering, kekurangan komputasi yang masif, dan keunggulan kompetitif dalam pembangunan pusat data ketiganya sampai taraf tertentu sama-sama nyata
  • Besar kecilnya masing-masing faktor akan menentukan sukses atau gagalnya IPO terbesar dalam sejarah Amerika Utara
• Secara keseluruhan, xAI tampak bukan seperti laboratorium frontier dengan bisnis pusat data menempel di sampingnya, melainkan lebih seperti REIT pusat data yang ditempeli laboratorium frontier

[GN⁺]

Komentar Hacker News

• Google memiliki 5~6% saham SpaceX. Jika SpaceX menargetkan valuasi 1,77 triliun dolar, maka saham Google bernilai 88,5~106,2 miliar dolar
  Saya tidak skeptis terhadap AI/LLM itu sendiri, tetapi transaksi melingkar seperti ini sangat mencurigakan, dan saya khawatir apa yang akan terjadi saat musik berhenti

  • Ada kemungkinan lain. Saat ini ada kekurangan komputasi, dan xAI mungkin memiliki sumber daya komputasi serta mampu mengoperasikannya dengan baik
    Tidak ada GPU yang menganggur, dan di lab AI terdepan, komputasi langsung berubah menjadi uang. Memang ada beberapa transaksi melingkar yang mencurigakan, tetapi menurut saya kasus ini bukan salah satunya
  • Jika transaksi seperti ini ditopang oleh pelaku spekulatif, memang ada risiko musik berhenti, tetapi AI punya nilai dan pendapatan nyata
    Ini bukan barang spekulatif untuk membeli lalu menjual kembali token; token justru dikonsumsi pada saat inferensi
  • Terdengar seperti Anda mengatakan bahwa dengan transaksi ini saham Google di SpaceX menjadi 88 miliar dolar, dan tanpanya menjadi tak bernilai
    Sulit mengetahui seberapa besar transaksi ini benar-benar menaikkan kapitalisasi pasar SpaceX, dan kecuali Google segera melepas saham SpaceX-nya, menyebutnya transaksi melingkar juga tidak terlalu masuk akal
  • Bukankah ini hanya seseorang diselamatkan lalu siklus dimulai lagi? Rasanya memang begitulah cara semuanya berjalan
  • Google juga baru saja mengumumkan penggalangan ekuitas baru sebesar 80 miliar dolar
    Saya tidak tahu apakah memilih ekuitas alih-alih utang bertujuan meredam sebagian euforia pasar IPO Anthropic dan OpenAI, tetapi menarik melihat bagaimana pasar akan menerima saham baru yang dilepas ini. Seseorang pasti tidak akan mencapai target penggalangan dan pihak yang IPO belakangan bisa jadi menanggung bebannya

• Sampai belum lama ini bukankah orang-orang bilang valuasi SpaceX didasarkan pada sebagian laba Starlink dan spekulasi besar-besaran?
  Lalu ketika diketahui ada pendapatan baru 2,2 miliar dolar per bulan, 26 miliar dolar per tahun dari Google dan Anthropic, pembahasannya tidak beralih ke sana, melainkan ke arah seperti “teknologi xAI kurang bagus” dan “struktur Google/SpaceX merugikan ekonomi”
  Ini adalah penalaran yang tersinkronisasi. Saat informasi baru masuk, kesimpulan lama seharusnya diperbarui, tetapi orang malah mencari jalur lain untuk tetap bereaksi negatif. Orang-orang yang membenci Elon/SpaceX benar-benar mencemari narasinya

  • Menurut saya intinya adalah bahwa xAI memang memonetisasi GPU/pusat data, tetapi memonetisasinya dengan kelipatan bisnis REIT/sewa, bukan dengan kelipatan lab terdepan
    xAI tampaknya menilai bahwa ini adalah cara terbaik untuk mengekstrak nilai dari aset mereka. Google dan Anthropic juga jelas melihat bahwa mereka bisa memanfaatkan aset itu untuk nilai yang lebih besar daripada sekadar membayar sewa ke SpaceX
  • Dua hal bisa sama-sama benar. Awalnya modal itu harus dipakai untuk membenarkan harga yang spekulatif, tetapi sekarang justru dipakai untuk mendapatkan tingkat pengembalian investasi yang moderat
    Jadi ini memang membatalkan logika spekulatifnya, sekaligus menunjukkan adanya masalah pada sisi teknologi yang tadinya menjadi inti spekulasi itu
  • Kekhawatiran-kekhawatiran itu cukup berbeda satu sama lain, jadi cukup masuk akal jika diajukan oleh orang yang berbeda-beda
    Jika mencoba Grok dan model pesaing, sulit membantah poin dasar bahwa Grok tidak sebagus model pesaing. Ini bisa penting atau tidak dari sudut pandang bisnis
  • Saya sangat tidak setuju. Yang mencemari narasi adalah sikap pro dan kontra terhadap Elon secara umum, dan hal yang sama juga berlaku pada valuasi Tesla yang tidak masuk akal
    Namun dalam kasus ini, model bisnis yang bergeser secara fundamental mengubah proposisi nilainya. Saya tidak paham mengapa narasi “perusahaan antariksa yang menghasilkan uang dari bisnis antariksa kini berpura-pura menjadi penjual ulang komputasi dan itu bagus” dianggap lebih diinginkan
    Dan saya juga kurang suka ketika sebuah “narasi” tidak dibantah secara langsung, melainkan hanya disindir secara tidak langsung. Tidak jelas siapa “kita” di sini, dan rasanya seperti membuat seolah-olah ada konsensus padahal sebenarnya tidak ada

• Sekarang kita sudah tahu berapa harga sewa GPU ini. Yang benar-benar ingin saya tahu sekarang adalah biaya input untuk produksi listrik
  Apakah dalam transaksi-transaksi ini xAI benar-benar masih menyisakan margin yang cukup untuk menutup biaya depresiasi
  Dari catatan kaki, Colossus tampaknya sebagian besar berjalan dengan turbin gas di lokasi sendiri, dan dengan efisiensi termal simple cycle sekitar 10.000 Btu/kWh serta harga gas Henry Hub $3,50/MMBtu, biaya bahan bakarnya sekitar 90 juta dolar per tahun
  Ini sangat murah sampai terasa tidak masuk akal. Saya juga jadi ingin tahu bagaimana caranya masuk ke bisnis menyewakan GPU ke hyperscaler

  • Bagian sulitnya adalah mendapatkan GPU. Pertama, memang sulit untuk mendapatkannya, lalu setelah itu sulit lagi mendapatkannya dengan harga yang masuk akal

• Ini bukan REIT pusat data. REIT pusat data tidak menjual komputasi, melainkan menjual ruang, daya, dan pendinginan untuk menampung komputasi
  Saya paham maksud penulisnya. Intinya mungkin bahwa aset paling berharga SpaceX adalah kapasitas komputasinya, tetapi analoginya tidak tepat
  Saat ini SpaceX pada dasarnya lebih mirip perusahaan induk yang menampung hampir semua hal milik Elon selain Tesla. Jika bertaruh pada SpaceX, berarti bertaruh pada sebuah konglomerat

• Karena mereka mengembangkan LLM, memang bisa disebut lab AI, tetapi kalau melihat kualitas modelnya, belum pantas disebut garis depan

  • Saya memakai ChatGPT, Claude, Gemini, dan Grok semuanya dengan akun berbayar
    Masing-masing punya kelebihan dan kekurangan, dan secara pribadi menurut saya ChatGPT masih yang terbaik, lalu Gemini/Claude, lalu Grok
    Dalam penggunaan umum, Grok sering terasa tertinggal 1–2 generasi dibanding model pesaing, tetapi ada tiga hal yang saya sukai. Pertama, pemahaman atas peristiwa terbaru tampaknya yang terbaik. Saya tidak tahu apakah itu karena integrasi X atau karena optimasi pemanggilan tool backend, tetapi kalau ditanya soal hal yang sedang berlangsung sekarang, model lain sering informasinya sudah usang atau jawabannya kurang bagus
    Kedua, untuk masalah pribadi, biasanya Grok paling tidak menjilat. Anthropic juga bergerak ke arah ini, dan ChatGPT serta Gemini juga sedang membaik, tetapi model-model lama hampir tidak pernah mengatakan hal negatif tentang apa yang saya lakukan. Saat saya butuh saran karier atau saran pribadi, saya suka nada respons Grok
    Ketiga, dalam pekerjaan ada topik yang ditolak untuk ditangani model lain. Di perusahaan saya sebelumnya ada sangat banyak pengguna hukum, dan ketika harus merangkum topik tertentu dari transkrip kesaksian, sebagian besar model menolak, tetapi Grok tidak menolak. Saya paham perlunya keamanan dan tidak menyalahkan penyedia lain, tetapi memang ada pekerjaan profesional tertentu yang sangat membutuhkan model yang bisa menangani topik sensitif
  • Benchmark tampaknya mengatakan hal yang berbeda, tetapi ketika mencari informasi spesifik yang tidak mudah ditemukan lewat pencarian web, saya memakai ChatGPT, Gemini, dan Grok semuanya
    Untuk kasus seperti “tolong carikan repositori GitHub yang melakukan $vague_thing pada 2017”, Grok lebih sering menemukan informasi yang saya inginkan
  • Bisa jadi model itu adalah biaya pemasaran untuk mengkapitalisasi model data center
    Bukan berarti itu disengaja, tetapi secara hasil memang bekerja seperti itu
  • Kalau percaya pada ucapan Elon, xAI juga berencana membangun ulang LLM dari nol
    Untuk itu, yang dibutuhkan bukan data center untuk inferensi, melainkan data center pelatihan yang sangat besar
  • Grok memang bukan yang paling depan di garis depan, tetapi jelas masih berada di area itu

• Bagi yang belum familiar, REIT adalah real estate investment trust, yaitu dana investasi real estat

• Apakah tulisan ini dibuat dari komentar pengguna HN runako dua hari lalu[1]
  Sangat mungkin juga beberapa orang memikirkan ide yang sama secara bersamaan, tetapi kalau ini memang tulisan yang diunggah langsung oleh penulisnya, tidak menyebutkannya terasa agak tidak sopan
  [1] https://news.ycombinator.com/threads?id=runako#48426082

• Ide yang sama juga muncul di komentar di sini dua hari lalu: https://news.ycombinator.com/item?id=48426082

  • Sebagai tambahan, saya juga mengatakan bahwa xAI tampaknya sedang keluar dari persaingan AGI: https://news.ycombinator.com/item?id=48214042
    Sekarang sangat sulit untuk mengejar OpenAI dan Anthropic. Siklus baik berupa menghasilkan pendapatan, membeli lebih banyak komputasi dengan pendapatan itu, lalu melatih model yang lebih pintar dengan lebih banyak komputasi telah membuat persaingan menjadi sulit
    Jika mereka tidak bisa lagi bersaing di LLM mutakhir, dari sudut pandang SpaceXAI, lebih masuk akal untuk berada di sisi pemasok komputasi

• Elon unggul dalam hardware, tetapi di xAI ia melakukan PHK besar-besaran ala PayPal Mafia, lalu seperti saat akuisisi Twitter ia segera mencoba merekrut lagi, tetapi gagal mengumpulkan software engineer dalam jumlah besar
  Kesepakatan data center muncul setelah itu. Namun orang yang menjanjikan akan melindungi kebebasan berbicara dan sistem AI yang “pro-human” kepada dunia kini menjual ke pesaing, sambil mengurangi batas pemakaian harian aplikasi Grok miliknya sendiri hingga beberapa kali lipat satu digit
  Jika Anda berbisnis dengan orang terkaya di dunia, Anda bisa memperkirakan bahwa pada akhirnya uang akan didahulukan daripada pertimbangan lain, terlepas dari retorika apa pun. Tetap saja, ini strategi yang menarik
  Secara adil, dalam wawancara tahun lalu mereka mengatakan bahwa hardware adalah “bottleneck”. Tetapi saya sangat yakin mereka meremehkan masalah software. Aplikasinya dulu bermasalah dan sampai sekarang juga masih banyak masalah

  • Saya tidak yakin apa tepatnya maksud dari “Elon unggul dalam hardware”

• xAI adalah perusahaan yang terintegrasi secara vertikal, dan di sisi komputasi mereka bekerja sangat baik. Model teratas mereka bergerak antara kelas teratas dan tertinggal 1–2 generasi dari yang terbaik, dan di atas kertas bahkan sempat sekali menjadi yang teratas
  Jika besok mereka kembali menjadi yang teratas, mereka punya know-how untuk melakukan scale-up. Jika Google atau Anthropic setuju, mereka juga bisa membeli kembali sumber daya yang mereka pinjamkan