2 poin oleh GN⁺ 2 jam lalu | 1 komentar | Bagikan ke WhatsApp
  • Jika xAI gagal bayar, sindikat kreditur dapat mengambil alih Colossus yang terdiri dari 200.000 GPU dan menyewakannya, tetapi nilai nyatanya sangat bergantung pada kondisi operasional dan pengetahuan tacit tim ketimbang perangkat keras itu sendiri
  • Di sekitar xAI dan CoreWeave, pembiayaan dengan agunan GPU telah meluas, tetapi karena infrastruktur penetapan harga masih kurang, risiko yang sulit diukur tercermin dalam suku bunga pinjaman yang sekitar 8,5 poin persentase lebih tinggi daripada suku bunga acuan
  • Tarif sewa H100 turun dari sekitar $8 per jam pada awal 2024 menjadi $1,70 pada Oktober 2025, lalu naik lagi ke $2,35 pada Maret 2026, sehingga nilai residu dan pendapatan sewa masa depan sulit diprediksi
  • Bahkan umur manfaat GPU yang sama pun ditetapkan berbeda: CoreWeave memakai 6 tahun, Nebius 4 tahun, sementara siklus produk NVIDIA dipersingkat dari 2 tahun menjadi 1 tahun, sehingga kesenjangan antara nilai buku dan nilai pemulihan dapat membesar
  • Dalam agunan GPU terdapat nilai yang berbeda-beda: nilai nominal di pembukuan, harga jual darurat, dan nilai operasi normal; jika serah-terima operasional gagal, klaster yang diambil alih secara kontraktual akan sulit dipertahankan sebagai aset yang menghasilkan pendapatan

Nilai agunan berubah ketika tim operasi pergi

  • Tidak seperti gedung, nilai klaster GPU berubah tergantung pada apakah tim operasi tetap tinggal, karena merekalah yang memahami cara provisioning, kinerja saat ini, dan karakteristik perangkat
  • Laporan teknis Llama 3 dari Meta mencatat 419 gangguan tak terduga selama pelatihan 54 hari dengan 16.384 H100
    • Termasuk 148 kegagalan GPU dan 72 kegagalan memori HBM3, sehingga tingkat kegagalan tahunan GPU pusat data modern dihitung sekitar 9%
    • Pada skala 200.000 GPU, sekitar 50 unit rusak setiap hari, dan pada target 1 juta GPU yang diincar xAI, Epoch AI memperkirakan satu kegagalan setiap sekitar 3 menit
  • Dalam risiko kredit, yang penting bukan hanya kerusakan yang jelas terlihat
    • Silent data corruption (SDC) dapat membuat GPU menghasilkan hasil yang salah tanpa berhenti, sehingga bobot model bisa rusak meski pelatihan selama beberapa hari tampak selesai normal
    • Kegagalan berantai di mana satu GPU menghentikan pekerjaan pelatihan yang berjalan di ribuan perangkat dapat menghilangkan komputasi selama berhari-hari
    • Thermal throttling, error memori ECC, ketidakstabilan NVLink, dan masalah GPU menghilang dari bus juga terus terjadi
  • NVIDIA NVSentinel menangani keterbatasan pemantauan lama yang dapat mendeteksi masalah tetapi tidak bisa menyelesaikannya, dan Crusoe AutoClusters mengurangi waktu antre, variabel terkendali terbesar dalam throughput efektif klaster
    • Tanpa alat seperti ini, pemulihan bisa memakan waktu dari beberapa jam hingga beberapa hari
  • Tim operasi tahu rak mana yang overheat saat musim panas, sirkuit pendingin mana yang menjadi tidak stabil setelah pembaruan firmware, dan pekerjaan mana yang harus dialihkan dari node yang performanya menurun sebelum benar-benar gagal
    • Pengetahuan ini tersimpan sebagai pengetahuan tacit di dalam tim alih-alih di dokumen, sehingga tidak masuk ke neraca atau cakupan akses sindikat kreditur

Struktur pembiayaan di mana GPU itu sendiri menjadi agunan

  • Dalam 18 bulan terakhir, pembiayaan infrastruktur AI bergeser dari utang berbasis kredit perusahaan ke utang dengan GPU itu sendiri sebagai agunan
  • SPV Colossus 2 milik xAI terdiri dari sekitar $7,5 miliar ekuitas dan $12,5 miliar utang
    • NVIDIA menyuntikkan hingga $2 miliar dari porsi ekuitas, dan Valor Equity Partners memimpin investasi ekuitas
    • Apollo dan Diameter berpartisipasi dalam tranche utang
    • SPV membeli GPU NVIDIA lalu menyewakannya ke xAI selama 5 tahun, dan utangnya dijaminkan oleh GPU, bukan oleh seluruh neraca xAI
  • Perjanjian pinjaman xAI senilai $5 miliar yang diatur Morgan Stanley pada Juni 2025 memberi sindikat kreditur hak, jika terjadi gagal bayar, untuk mengambil alih klaster Colossus berisi 200.000 GPU di pinggiran Memphis, menyewakannya ke perusahaan AI lain, dan memulihkan pinjaman
  • Suku bunga pendanaan $5 miliar xAI mencapai maksimum 12,5%, dan transaksi beragunan GPU milik CoreWeave dihargai sekitar 8,5 poin persentase di atas suku bunga acuan sebelum syaratnya membaik
  • CoreWeave memiliki utang beragunan GPU sebesar $18,8 miliar melalui beberapa SPV
  • Kesepakatan $50 miliar antara FluidStack dan Anthropic memakai struktur lain di mana Google menjamin pembayaran sewa, tetapi logikanya sama: mengfinansialisasi aset infrastruktur AI dan arus kas sewa
  • Sebagian besar neocloud dan lab AI besar membiayai diri mereka dengan cara ini

Tidak adanya price discovery dan sarana lindung nilai

  • Pesawat, kapal, mobil, real estat komersial, dan minyak memiliki infrastruktur price discovery yang dibangun selama puluhan tahun
    • Pesawat memiliki appraiser bersertifikat ISTAT, registri global, catatan perawatan terstandarisasi, pilot ferry, dan pasar barang bekas yang terbentuk sejak 1970-an
    • Kapal memiliki BICA, mobil memiliki NADA, dan kantor kelas A memiliki data cap rate standar serta perbandingan tingkat kekosongan
    • Minyak memiliki kurva harga berjangka sejak awal 1980-an
  • Di pasar GPU, yang ada praktis hanya Silicon Data H100 Rental Index yang diluncurkan di terminal Bloomberg pada 2024 dan Ornn AI, yang menggalang $5,7 juta pada Oktober 2025 untuk membangun bursa teregulasi pertama bagi derivatif komputasi GPU
  • Tarif sewa H100 per jam turun dari sekitar $8 pada awal 2024 ke $1,70 pada Oktober 2025, lalu rebound 40% ke $2,35 pada Maret 2026 karena permintaan inferensi yang tak terduga
  • Dalam pinjaman pesawat atau kapal, sulit menerima utang 5 tahun yang dijamin aset dengan pergerakan harga seperti ini tanpa sarana lindung nilai
  • Pinjaman beragunan GPU milik CoreWeave berada sekitar 8,5 poin persentase di atas suku bunga acuan, sedangkan pinjaman pesawat biasa hanya 1–2 poin persentase dan hipotek komersial umumnya lebih rendah lagi
    • Tambahan sekitar 6–7 poin persentase itu adalah harga risiko yang ditanggung sindikat kreditur ketika tidak ada pasar futures GPU, kurva nilai residu standar, atau sarana mengunci tarif sewa di masa depan
  • Jika pasar matang dan terbentuk produk lindung nilai, kurva nilai residu standar, serta pasar GPU bekas, spread suku bunga dan biaya modal infrastruktur AI bisa turun
    • Pada saat itu, perusahaan yang diuntungkan bukanlah yang kini memperoleh GPU paling murah, melainkan yang bisa mengakses utang berbiaya rendah setelah infrastruktur finansial matang

Ketidakpastian seputar umur manfaat GPU

  • CoreWeave menyusutkan GPU selama 6 tahun, tetapi Nebius, yang memakai model bisnis dan perangkat keras yang sama, menerapkan 4 tahun
  • AWS, Microsoft, dan Google memperpanjang umur manfaat server dari 3–4 tahun menjadi 6 tahun pada 2023
    • Berdasarkan belanja modal gabungan sebesar $300 miliar, biaya depresiasi tahunan yang dilaporkan turun sekitar $18 miliar
  • CoreWeave juga menerapkan perubahan akuntansi yang sama pada Januari 2023, sebelum IPO, sehingga menurunkan biaya yang dilaporkan tahunan hingga ratusan juta dolar
  • NVIDIA mengumumkan pada 2025 bahwa siklus peluncuran produknya dipersingkat dari 2 tahun menjadi 1 tahun, sehingga GPU yang menjadi jaminan utang menjadi generasi lama dua kali lebih cepat
  • Michael Burry menilai hyperscaler akan kurang mencatat biaya depresiasi kumulatif sekitar $176 miliar pada 2026–2028
    • Ia menghitung bahwa hingga 2028, laba Oracle akan dilebih-lebihkan sekitar 27% dan laba Meta sekitar 21%
  • Jika umur manfaat nyata GPU pelatihan terdepan lebih dekat ke 2–4 tahun tetapi dicatat 6 tahun di pembukuan, akan muncul kesenjangan besar antara nilai buku dan nilai pemulihan
  • Permintaan inferensi baru-baru ini mungkin memperpanjang umur produktif H100 melampaui masa pakai untuk pelatihan terdepan, sehingga 6 tahun belum tentu salah
    • Sebaliknya, jika permintaan melemah lagi pada 2026 atau 2027, kerugian penilaian muncul tepat ketika sindikat kreditur membutuhkan nilai agunan itu

Tiga nilai yang ada pada GPU yang sama

  • Nilai nominal (face value) adalah nilai yang diperoleh dari harga beli yang dicatat SPV lalu disusutkan secara garis lurus menurut jadwal yang dipilih peminjam
    • Ini menentukan covenant loan-to-value dan besaran utang yang dapat ditanggung transaksi
  • Nilai likuidasi (liquidation value) adalah harga yang dibayar pembeli dalam situasi distressed
    • Di pasar barang bekas yang normal, GPU yang telah dipakai wajar selama 2–3 tahun diperdagangkan pada 50–70% dari harga produk baru
    • Jika beberapa neocloud mengalami kesulitan pada saat yang sama, pasokan melonjak sementara kumpulan pembeli menyusut, sehingga tingkat pemulihan penjualan darurat bisa turun ke 30–50% dari nilai nominal
  • Nilai going-concern adalah nilai ketika penyewa berikutnya memanfaatkannya sebagai aset yang beroperasi normal, dan ini sepenuhnya bergantung pada keberhasilan serah-terima operasional
  • Ketika sindikat kreditur menjalankan hak intervensi, mereka juga harus menanggung fasilitas colocation milik pihak lain beserta kontrak dan pembatasannya
    • Jika tim operasi peminjam pergi, kredensial dan pengetahuan topologi juga bisa hilang
    • Mereka juga harus menghadapi pasar tanpa lindung nilai, tempat tarif sewa bergerak 60% ke satu arah selama 18 bulan lalu rebound 40% ke arah sebaliknya
    • Selain itu dibutuhkan personel yang tahu rak mana yang terus-menerus tidak stabil dalam lingkungan di mana sekitar 50 GPU gagal setiap hari
  • Selisih antara nilai nominal dan nilai going-concern tetap menjadi risiko inti yang belum terlindungi dalam struktur pembiayaan saat ini

Investor yang menghindari pembiayaan beragunan GPU

  • KKR agresif dalam investasi pusat data, tetapi berfokus pada gedung, listrik, pendinginan, dan lahan ketimbang pembiayaan beragunan GPU
    • Bersama Global Infrastructure Partners, KKR mengakuisisi CyrusOne senilai $15 miliar pada 2022
    • Pada 2026, KKR menginvestasikan $1,5 miliar di Global Technical Realty
    • Pada Februari 2026, KKR memperoleh 75% saham STT GDC senilai $5,1 miliar
  • Infrastruktur digital KKR adalah inti bisnis aset riil senilai $186 miliar, tetapi KKR tidak berpartisipasi dalam konsorsium AIP yang mengakuisisi Aligned Data Centers, maupun di SPV xAI atau fasilitas utang CoreWeave
  • Aset-aset ini adalah lapisan infrastruktur dasar yang mempertahankan nilainya terlepas dari lab AI mana yang menang atau generasi GPU mana yang mendominasi
  • Peter Thiel menjual seluruh saham NVIDIA-nya pada kuartal III 2025 dan berpindah ke Apple dan Microsoft

Fondasi yang dibutuhkan pasar agunan GPU

  • Pesawat menjadi aset yang dapat dibiayai setelah memiliki registri, appraiser, dan catatan perawatan; kapal juga membangun sistem seperti BICA
  • Premi suku bunga yang tinggi pada pinjaman beragunan GPU muncul karena sindikat kreditur tidak bisa menjawab dua pertanyaan dasar
    • Apakah klaster masih beroperasi normal sekarang

      • Apakah akan tetap beroperasi normal tiga tahun lagi
      • Agar pembiayaan GPU matang, dibutuhkan sistem yang dapat mengukur dan memindahkan bukan hanya harga perangkat, tetapi juga kondisi operasional, riwayat perawatan, nilai residu, dan tarif sewa masa depan

1 komentar

 
GN⁺ 2 jam lalu
Opini Hacker News
  • Angka “GPU yang dipakai 2–3 tahun dalam kondisi normal diperdagangkan pada 50–70% dari harga baru” mengacu pada Nvidia H100 dalam kondisi baik, dan juga mencerminkan kelangkaan pasokan saat ini.
    Itu harga setelah dibongkar, dibersihkan, diperiksa, dan direkondisi, jadi nilai perangkat yang langsung dicopot dari lokasi perusahaan yang bangkrut kemungkinan lebih rendah. Di eBay, beberapa penjual memakai foto produk baru dalam kemasan yang sama persis, atau bahkan mengunggah foto dengan logo pesaing, yang tampak seperti sinyal bahaya.
    https://introl.com/blog/secondary-gpu-markets-buying-selling...
    https://www.ebay.com/shop/nvidia-h100-gpu?_nkw=nvidia+h100+g...

    • Di daratan AS, jumlah vendor tepercaya yang menjual peralatan server data center bekas atau rekondisi dalam jumlah besar lewat eBay mungkin paling banyak sekitar 30–40. Membeli beberapa GPU bekas dari penjual tak dikenal yang hanya punya 14 ulasan sangat berisiko.
      Kalau vendornya menjual server seperti Dell R840 dengan RAM 768GB, punya ribuan ulasan, dan rating di atas 98,5%, risikonya tampak jauh lebih rendah.
    • Saya heran siapa yang mau membeli perangkat yang kemungkinan besar rusak dengan harga 70% dari harga baru. Kalau itu perangkat dari lab kecil yang cepat tutup, mungkin masih oke, tetapi rasanya klaster yang selama bertahun-tahun berjalan mendekati batas termal tidak akan bisa mendapatkan harga bekas seperti itu.
  • Nvidia mungkin akan membuat perjanjian pembelian kembali ala Ferrari dengan pelanggan besar agar stok upgrade tidak sekaligus membanjiri pasar dan membuat harga jatuh, sekaligus menjaga kelangkaan.
    Kalau tidak, saya berharap beberapa tahun lagi H100 bisa didapat di pasar terbuka.

    • Saya pernah bekerja di organisasi yang punya data center GPU internal berskala besar, dan kontrak untuk beralih dengan diskon besar mencakup syarat menyerahkan semua hardware lama dan menghentikan pembelian tambahan.
    • Jika A100 dan H100 menjadi benar-benar usang untuk menjalankan model mutakhir secara efisien dan harganya anjlok, beberapa tahun ke depan bisa menjadi masa keemasan komputasi GPU serbaguna.
      Itu akan ideal untuk engine kueri berakselerasi GPU, machine learning tradisional, dan berbagai pekerjaan CPU yang bisa dipindahkan ke GPU.
    • Data center kemungkinan baru akan melepas H100 saat efisiensi daya chip baru jauh lebih baik sampai ekonomi operasionalnya hilang.
      Pada saat itu, H100 akan seperti V100 bekas saat ini: efisiensi dayanya buruk, tidak punya format data dan engine komputasi terbaru, bisa meleleh tanpa adaptor aneh dan kipas server yang meraung-raung, dan dukungan CUDA-nya sudah lama berakhir. Kemungkinan besar hampir tidak berguna kecuali benar-benar tidak ada alternatif lain.
    • Kontrak seperti itu seharusnya ilegal, dan terdengar seperti praktik bisnis yang sangat menipu.
    • Kalau muncul pasar penghobi H100, itu akan cukup aneh. Bisnis membeli perangkat bekas lalu memindahkannya ke sasis baru juga tampak mungkin.
  • Jika Huawei meluncurkan akselerator murah ke pasar, perusahaan AI AS juga akan segera tahu nilai riil aset mereka; saya memperkirakan waktunya tersisa sekitar 6–9 bulan.

  • Informasi seperti rak yang memanas di musim panas, loop pendingin yang menjadi tidak stabil setelah update firmware, atau pekerjaan yang harus dialihkan dari node yang hampir gagal, semuanya seharusnya ada di sistem monitoring.
    Kalau begitu, model mutakhir mana pun bisa memahami situasinya dalam waktu singkat, jadi penulis tampaknya belum sepenuhnya memahami perubahan yang dibawa oleh sistem yang ia tangani.

    • Jika kalimat itu dibuat oleh AI generatif, berarti bukan penulis yang menulisnya sendiri, jadi tingkat pemahaman penulis sejak awal tidak berpengaruh.
  • Saya tidak mengerti mengapa masalah ini khusus untuk klaster GPU. Secara umum, petugas penilaian kredit atau underwriter tidak punya kemampuan untuk mengoperasikan dan merawat aset yang dijadikan agunan, sehingga rumah, mobil, dan peralatan terjual di lelang jauh di bawah nilai sebenarnya, dan lembaga pemberi pinjaman membeli asuransi.

    • Ini bukan masalah khusus klaster GPU. Lebih mirip tulisan panjang dari seseorang yang merasa telah menemukan wawasan mendalam dan menentukan.
      Saya pernah melihat sebuah sawmill besar disita bank karena gagal membayar pinjaman besar. Bank tidak ingin menanggung bisnis itu, tetapi ketika pendirinya berhenti, mereka tidak punya pilihan. Bahkan kayu jadi di kiln saja mereka tidak tahu cara menanganinya, apalagi seluruh infrastruktur sawmill. Setelah gagal menemukan pembeli, mereka mempekerjakan pendirinya sebagai konsultan untuk melikuidasi aset. Data center yang disita juga akan mengalami proses serupa.
    • Lelang bisa menjadi cara yang buruk untuk membeli aset mahal dan berisiko. Karena tidak bisa diverifikasi secukupnya seperti transaksi biasa, harga lelang mencerminkan risiko itu.
  • Nilai GPU turun relatif perlahan karena akibat keterbatasan pasokan. Jika untuk inferensi FP4 orang bisa bebas memilih antara Hopper dan Rubin, maka sekalipun hardwarenya diberi gratis dan hanya perlu membayar listrik, Hopper tidak menarik karena performa per watt-nya.
    Saat ini orang membayar untuk H100 karena bahkan Blackwell pun sulit didapat, apalagi Rubin, tetapi ini bukan fenomena yang akan bertahan jika kapasitas produksi fab meningkat.

    • Karena batas fisik litografi, laju kemajuan teknologi juga melambat tajam, sehingga lompatan antargenerasi seperti dulu sulit terulang.
      Yang lebih aneh adalah ada backlog pesanan hardware yang sangat besar, dan peralatan yang sudah dialokasikan serta siap beroperasi pun menganggur menunggu fasilitas selesai dibangun. Pembangunan fasilitas sudah tertunda bertahun-tahun dan terjalin dengan berbagai kredit serta swap utang antarperusahaan terkait, jadi ini bukan gelembung sederhana, melainkan lebih mirip menara kartu yang dibangun di atas balon.
    • Kapasitas produksi fab tidak bisa ditingkatkan begitu saja. Semuanya bergantung pada ASML, yang hanya memproduksi puluhan mesin EUV per tahun.
    • Saya juga ragu fab benar-benar akan menambah kapasitas produksi. Dari sisi bisnis, bisa jadi lebih menguntungkan mempertahankan harga tinggi tanpa ekspansi.
    • Saya penasaran apa yang terjadi pada harga sekop setelah gold rush mereda. Para pandai besi pasti kebanjiran besi tua sebanyak yang mereka mau.
  • Dari yang saya pelajari di pasar kripto, alasan utama masa pakai GPU berakhir bukan hanya kerusakan. Dalam kondisi pasar baru, muncul alternatif yang membuat efisiensi daya perangkat lama tidak lagi ekonomis.

    • Namun, untuk kartu SXM tidak ada pasar bekas yang layak.
  • Mac Studio 512GB dijual di eBay dengan harga dua kali lipat dari harga baru awal tahun.

    • Sulit memahami alasannya, padahal itu bukan HBM dan juga bukan GPU sungguhan. Model mungkin nyaris bisa masuk ke memori, dan bagi orang yang hanya pernah memakai MacBook, itu bisa terasa seperti server yang bisa dinyalakan terus, tetapi menjalankan agen coding yang mumpuni dengan kecepatan praktis tampaknya masih sulit.
      Kalau mau menghabiskan uang setara mobil baru yang bagus, lebih baik membuat workstation yang layak. Komputer seukuran Apple TV tidak mungkin cocok untuk performa terbaik per harga, dan saya bertanya-tanya apakah ini dipanaskan oleh sesama calon pendiri vibe yang kebanyakan uang.
    • Di https://news.ycombinator.com/item?id=49005798, tertulis “ingin menjual M3 Ultra Mac Studio dengan memori 512GB” dan harganya lebih dari 20 ribu dolar.
    • Di negara tempat saya tinggal, produk mirip DGX Spark juga dijual hampir dua kali lipat harga belinya. Dunia ini memang lucu.
    • Apa pun yang berisi RAM menjadi aset yang nilainya naik.
  • Tulisan itu menggambarkan klaster GPU seperti ilmu roket, tetapi jika diganti menjadi pembangkit listrik, pertanyaannya sama sekali tidak berubah. Keduanya kompleks, punya banyak variabel, dan membutuhkan output saat ini, pemeliharaan berkala, serta tenaga ahli.
    Pada akhirnya orang akan menyelesaikannya sendiri atau membuat kontrak dengan perusahaan yang bisa menyelesaikannya, dan memang akan ada banyak perusahaan yang ingin menyewakan klaster seperti ini untuk AI.

  • Ada cukup banyak tanda bahwa dalam waktu dekat GPU hasil penyitaan akan membanjiri pasar. Untuk sementara akan kacau, tetapi jika GPU bekas mudah didapat, banyak kemungkinan akan terbuka.

    • Terdengar mirip pasar senjata setelah runtuhnya Uni Soviet. Mungkin tidak ada masa yang lebih baik untuk mendapatkan tank yang masih berfungsi atau komponen senjata nuklir.
    • Saya penasaran apa yang akan dilakukan dengan GPU sebanyak itu. Bisa saja semua orang akhirnya punya PC gaming yang hebat.
      Secara realistis, mining kripto mungkin kembali melonjak dan menurunkan harga kripto, tetapi saya penasaran perubahan lain apa yang bisa dimungkinkan oleh pasokan massal GPU murah.