1 poin oleh GN⁺ 8 hari lalu | 1 komentar | Bagikan ke WhatsApp
  • Dengan investasi tambahan dari Amazon, Anthropic sepakat untuk membelanjakan lebih dari $100 miliar di AWS selama 10 tahun ke depan, dalam struktur transaksi yang menggabungkan infrastruktur cloud dan pendanaan
  • Sebagai imbalannya, Anthropic mengamankan kapasitas komputasi baru hingga 5GW untuk pelatihan dan operasional Claude, sehingga hak penggunaan infrastruktur nyata menjadi elemen inti di luar sekadar investasi tunai
  • Total investasi Amazon meningkat menjadi $13 miliar, dan struktur kali ini serupa dengan transaksi investasi OpenAI yang ditandatangani dua bulan lalu
  • Inti transaksi mencakup chip kustom Amazon, dengan cakupan dari keluarga Graviton dan Trainium, termasuk dari Trainium2 hingga Trainium4
  • Anthropic juga mengamankan opsi pembelian kapasitas untuk chip yang akan dirilis di masa depan, dan pengumuman ini memicu laporan tentang kemungkinan pendanaan tambahan Anthropic serta valuasi perusahaan di atas $80 miliar

Gambaran transaksi

  • Amazon menyepakati investasi tambahan sebesar $5 miliar, sehingga total investasi Amazon di Anthropic meningkat menjadi $13 miliar
  • Termasuk komitmen belanja AWS dari Anthropic, dengan kesepakatan untuk menggunakan lebih dari $100 miliar di AWS selama 10 tahun ke depan
    • Sebagai imbalannya, Anthropic mengamankan kapasitas komputasi baru hingga 5GW untuk pelatihan dan operasional Claude
  • Transaksi ini memiliki bentuk yang mirip dengan struktur investasi AI lain yang baru-baru ini disepakati Amazon
    • Bukan hanya investasi tunai semata, tetapi layanan infrastruktur cloud juga termasuk sebagai bagian dari struktur transaksi

Perbandingan dengan transaksi OpenAI

  • Ada kemiripan struktural dengan transaksi yang dibuat Amazon bersama OpenAI dua bulan lalu
    • Amazon berpartisipasi dalam putaran pendanaan senilai $110 miliar
    • Dari jumlah itu, Amazon menyuntikkan $50 miliar
    • Dalam putaran tersebut, valuasi pra-uang pengembang ChatGPT tercatat sebesar $730 miliar
  • Transaksi OpenAI juga sebagian mencakup penyediaan infrastruktur selain uang tunai langsung

Infrastruktur dan chip utama

  • Pusat dari transaksi ini mencakup chip kustom Amazon
    • Graviton adalah CPU hemat daya
    • Trainium adalah chip akselerator AI yang bersaing dengan Nvidia
  • Cakupan transaksi Anthropic mencakup Trainium2 hingga Trainium4
    • Trainium4 saat ini belum tersedia
    • Chip terbaru, Trainium3, akan dirilis pada bulan Desember
  • Anthropic juga mengamankan opsi pembelian kapasitas untuk chip Amazon yang akan dirilis di masa depan
    • Jika chip baru tersedia, Anthropic akan memiliki pilihan untuk membeli kapasitas tersebut

Kemungkinan pendanaan tambahan

  • Disebutkan bahwa pengumuman ini bisa menjadi pertanda putaran pendanaan baru untuk Anthropic
  • Ada laporan bahwa perusahaan modal ventura telah mengusulkan penyuntikan modal ke Anthropic
    • Laporan tersebut menyebut valuasi perusahaan berdasarkan transaksi itu bisa melebihi $80 miliar

1 komentar

 
GN⁺ 8 hari lalu
Komentar Hacker News
  • Melihat situasi saat ini, rasanya ilusi profitabilitas ini hampir berakhir. Saya ragu apakah pendapatan yang dihasilkan benar-benar sesuai ekspektasi investor, dan dorongan IPO Anthropic dan OpenAI juga tampak seperti pilihan untuk membeli waktu. Biaya token yang sesungguhnya mulai terlihat, dan bottleneck compute juga parah. Melihat tarif token Opus 4.7 yang 7,5 kali lebih mahal, beban terasa makin besar, sementara model terbuka jauh lebih murah, jadi makin sensitif perusahaan terhadap biaya, makin rentan pula dua pemain besar ini. Saya penasaran apakah data center dan pasokan listrik bisa bertambah cukup cepat, atau ini justru all-in besar-besaran demi mencapai AGI lebih dulu. Yang paling terasa, performa model tampaknya mulai mandek, dan untuk pekerjaan yang kompleks saya malah merasa produktivitas menurun
    • Saya melihat banyak perusahaan sebenarnya sejak awal tidak perlu berada di pasar saham publik. Budaya PHK massal berulang hanya untuk memberi sinyal bahwa mereka akan menghentikan pendarahan saat hasil kuartalan buruk terasa sangat merusak dan juga konyol. Perusahaan-perusahaan tempat saya pernah bekerja juga berada di masa keemasannya saat masih privat, lalu akhirnya menemui batas ekonomi dan dijual ke perusahaan publik yang lebih besar. Rasanya akan lebih sehat kalau ada pasar alternatif yang hanya memungkinkan investasi jangka panjang dan dana tidak bisa ditarik selama beberapa tahun
    • Dari sudut pandang pengembangan perangkat lunak, saya merasa model-model saat ini sudah cukup membenarkan biaya per token. Langkah ini tampaknya bukan sinyal yang berlebihan, melainkan keputusan untuk mengamankan pasokan lebih awal sambil memperkirakan permintaan. Saya memahaminya mirip maskapai yang membeli bahan bakar masa depan lebih dulu atau Apple yang mengamankan pasokan DRAM di depan
    • Saya tidak yakin seberapa dekat pesimisme ini dengan kenyataan. Perusahaan-perusahaan Fortune 500 sudah melampaui tahap bereksperimen dengan perusahaan seperti Anthropic, dan sekarang justru sedang tergesa-gesa merapikan bagaimana menerapkannya ke seluruh organisasi beserta governance-nya. Memang sempat ada overheating, tetapi proposisi nilainya terasa makin konkret. Bisa jadi sebagian perusahaan AI menjanjikan belanja berlebihan, tetapi menurut saya Anthropic relatif sedang bergerak cukup cepat ke arah profitabilitas
    • Saya tidak sepenuhnya berseberangan, tetapi ada beberapa sanggahan. Pertama, ada argumen yang cukup meyakinkan bahwa penyedia model sebenarnya sudah profitabel jika hanya melihat biaya layanan token inferensi. Kerugian tampaknya berasal dari pelatihan model generasi berikutnya. Model terbuka masih tertinggal cukup jauh dalam performa, jadi karena token masih relatif murah dan biaya halusinasi mahal, saya belum merasa adopsi model terbuka untuk coding agent meningkat tajam. Untuk ekonomi AI secara keseluruhan saya juga tidak yakin, tetapi valuasi perusahaan seperti Meta dan Microsoft sudah turun sebagian, dan investor juga tampak mulai lebih waspada terhadap overvaluasi. Tanda peringatannya belum terlalu jelas, tetapi laba korporasi masih terlihat sehat. Saya merujuk ke analisis biaya token Anthropic dan artikel Economist tentang laba korporasi
    • Saya juga merasa arah analisis ini benar. Secara nyata saya merasa layanan-layanan mulai mengetatkan batas pemakaian. Saya memakai Gemini Pro berkat paket Google 5TB, dan untuk IDE saya juga memakai Github Copilot Pro, tetapi belakangan Gemini jauh lebih cepat menyentuh batas sehingga saya mendapat pesan bahwa token Pro saya habis selama beberapa jam. Dulu saya bisa memakainya hampir sepanjang hari, sekarang bahkan pagi hari pun sudah bisa mentok. Karena itu saya serius mempertimbangkan membeli PC dengan GPU besar tahun ini dan beralih ke menjalankan secara lokal. Dengan arus saat ini, tampaknya biaya lebih mungkin naik besar daripada turun
  • Jika situasinya sampai harus membelanjakan 100 miliar dolar, saya ragu apakah tetap memakai cloud pihak ketiga masih masuk akal. Sehebat apa pun syarat yang ditawarkan Amazon, pada skala seperti itu rasanya pada akhirnya mereka akan ingin memiliki stack sendiri. Terutama di bidang yang kompetisinya seketat ini, margin pasti segera jadi penting. Saat ini hyperscaler terasa terlalu berusaha menarik sebanyak mungkin modal dengan prospek yang kelewat cerah, dan saya rasa puncak siklus ini sudah dekat atau bahkan mungkin sudah lewat
    • Masalahnya, alternatif itu pada akhirnya berarti membangun data center sendiri. Mungkin perlu 2 di AS, 2 di Eropa, 2 di Asia, 1 di Afrika, dan 1 di LATAM, dan lebih dari separuhnya harus siap tepat waktu. Tetapi frasa “tepat waktu” itu sendiri sudah sulit. Izin pemerintah daerah, negosiasi dengan perusahaan listrik, variabel politik, kontrak militer, semua itu bisa membuat izin batal. Belum lagi pengadaan CPU, GPU, memori, dan peralatan jaringan juga semuanya dibutuhkan, serta lead time trafo daya industri yang lebih dari 5 tahun. Fasilitas pengolahan air pun tidak bisa berjalan tanpa izin. Di tengah semua ini, AWS atau Google juga tidak akan memberi perlakuan istimewa kepada pelanggan yang mereka tahu sedang bersiap pergi. AI dan LLM itu sendiri sudah merupakan lingkungan persaingan yang kompleks dan rapuh, jadi menjalankan pembangunan data center secara paralel rasanya bukan diversifikasi, melainkan vonis mati
    • Bagi perusahaan yang sama sekali tidak punya pengalaman membangun data center, langsung melompat menjadi perusahaan yang mengoperasikan compute skala 100 miliar tampak seperti target berisiko tinggi untuk beberapa dekade
    • Saya melihat komitmen seperti ini sebagai struktur yang memindahkan sebagian risiko ke penyedia infrastruktur seperti Amazon atau Oracle. Bahkan kalau Anthropic atau OpenAI tidak mencapai proyeksi, penyedia infrastruktur masih bisa menjual aset itu ke pelanggan lain atau memakainya sendiri. Sebaliknya, kalau permintaan lebih besar dari perkiraan, dana VC bisa terus masuk untuk menyingkirkan pesaing meski dengan biaya lebih mahal. Kalau membangun sendiri lalu salah memprediksi permintaan, kesalahannya akan jauh lebih mahal, jadi pada akhirnya ini saya pahami sebagai pembagian risiko
    • Menurut saya jawabannya sudah ada di artikelnya. Kontrak Anthropic mencakup Trainium4 yang bahkan belum dirilis, dan juga mengamankan opsi untuk membeli kapasitas dari generasi chip Amazon berikutnya saat tersedia. Jadi ini terbaca bukan hanya untuk kebutuhan sekarang, melainkan seperti mengunci hak pasokan lebih awal untuk seluruh roadmap chip masa depan
    • Dulu saya pernah melihat grafik di Facebook tentang uang yang berputar di antara beberapa perusahaan di kalangan perusahaan AI papan atas, dan itu benar-benar mengejutkan. Hampir terlihat seperti saling memutar uang, sampai memberi kesan mendekati penipuan
  • Saya penasaran ekspektasi yang tepat terhadap lab AI ini sebenarnya apa. Di mata saya saat ini, produk-produk mereka hampir sudah terkomoditisasi, dan pesaing open-source yang kuat juga banyak. Pada akhirnya akan makin sulit membenarkan premium yang menempel pada model-model seperti ini
    • Saya merasa situasi yang disebut Mythos, entah itu nyata atau dilebih-lebihkan, pada akhirnya menunjukkan endgame-nya. Jika muncul model yang cukup kuat untuk memberi dampak besar pada dunia, kita tidak lagi memikirkan cara menjual model itu ke konsumen, melainkan khawatir itu dipakai untuk menguasai ekonomi sendiri atau dinasionalisasi oleh negara. Kalau ada mesin yang bisa mengotomatisasi semuanya, mengapa menjual akses ke sana?
    • Saya melihat kemungkinan besar model open-source akan sepenuhnya menyamai dalam 1–2 tahun. Produknya komoditas, modelnya juga komoditas. Saat ini bottleneck-nya hanya karena sulit mengamankan core GPU untuk inferensi skala besar. Pada akhirnya yang dibutuhkan adalah platform yang bisa mengunci pengguna, dan saya tidak paham mengapa itu harus bukan berbasis model open-source
    • Saya rasa di sebagian besar perusahaan teknologi utama saat ini, coding agent sedang digelar secara luas. Ada tempat yang nyaris tidak memberi batas token; selama hasilnya bisa dijelaskan, orang dibebaskan memakainya. Perusahaan-perusahaan mulai menyerap alat seperti ini ke dalam workflow mereka, dan proses internal pun mulai didokumentasikan dengan pusat pada tool tertentu. Begitu mulai berjalan, itu cepat direplikasi ke seluruh organisasi. Jika Anthropic sudah mencapai pendapatan 30 miliar dolar, dan ini pun baru tahap awal saat coding mulai dideploy secara besar-besaran, rasanya sulit mengabaikan angka itu
    • Menurut saya model-model ini adalah komoditas sekaligus senjata siber. Negara-negara yang bersaing secara militer akan ingin memiliki kemampuan siber dan intelijen yang lebih kuat melalui AI yang lebih baik, sehingga mereka kemungkinan tidak akan memilih hanya satu lab, melainkan mendorong beberapa kontraktor pertahanan AI untuk bersaing. Seperti AS dulu menjual senjata ke banyak negara, ke depannya Tiongkok, AS, Prancis, dan lainnya bisa jadi menjual kapabilitas siber AI. Setiap negara juga mungkin tidak akan sepenuhnya mempercayai cloud milik pihak lain demi alasan keamanan, jadi mereka mungkin membutuhkan data center sendiri untuk menjalankan klaster vendor pilihan mereka
    • Saya tidak melihat ada perusahaan yang punya moat. Saya merasa OpenAI sudah kehilangan posisi terdepan, dan sekarang tidak ada yang benar-benar menang dengan jelas. Pada akhirnya ini tampak seperti permainan chicken dengan membakar GPU yang bahkan tidak akan bertahan lama. Sebagai referensi, saya melihat gambar perbandingan terkait
  • Rasanya penarikan dana makin cepat sebelum model lokal kelas konsumen menjadi cukup bagus dalam beberapa tahun ke depan. Saat ini permintaan melonjak, tetapi begitu inferensi on-device mapan, permintaan bisa anjlok tiba-tiba, sehingga semuanya terlihat seperti house of cards
    • Saya merasa sudah sedikit hidup di masa depan itu. Jika ada framework eksekusi yang lumayan, manajemen konteks, memori berbasis unix, serta mekanisme pencarian dan akses web, model lokal pada dasarnya bisa dipakai di tingkat yang nyaris setara dengan model terdepan. Kadang kecepatannya malah lebih tinggi. Selama perusahaan AI masih memimpin sambil menawarkan harga yang lebih bersifat subsidi daripada kenyataan, saya akan tetap membayar, tetapi pada akhirnya kita bisa memanfaatkan layanan mereka untuk membangun kejatuhan mereka sendiri. Saya memang sejak lama mendukung menjalankan perangkat lunak saya sendiri di komputer saya sendiri
    • Saya juga menunggu titik itu. Mungkin kombinasi engine coding LLM perangkat keras kustom berkinerja tinggi seperti taalas dan coding agent open-source bisa menjadi jawaban. Kalau harganya setingkat kartu grafis kelas atas, seiring waktu rasanya cukup bisa balik modal. Gambarnya terasa seperti peralihan lama dari mainframe IBM ke PC yang terulang kembali
    • Model untuk konsumen sebenarnya sudah cukup bagus, dan bottleneck sebenarnya untuk inferensi lokal menurut saya adalah perangkat keras. Model kecil bisa dijalankan di hampir perangkat apa pun, tetapi begitu ingin lebih banyak pengetahuan dan konteks yang lebih besar, kebutuhannya melonjak tajam
  • Saya sempat bertanya-tanya apakah ini pada akhirnya mirip struktur yang terlihat antara Nvidia dan OpenAI, semacam sirkulasi uang dan utang
    • Dalam kasus Nvidia dan OpenAI, yang benar-benar berpindah tangan memang kartu grafis, dan vendor financing sendiri adalah cara yang lazim, mirip dealer mobil yang menjual mobil sambil menyertakan pinjaman
    • Kalau tidak salah Oracle juga sempat masuk ke sini lalu belakangan terkena dampak
    • Untuk pengembangan chip, jika ingin berada di garis depan pada akhirnya memang perlu skala ekonomi. Karena itu menopang permintaan dengan pembiayaan agar skala terbentuk tampak lebih seperti struktur yang rasional ketimbang skema ponzi. Anthropic mendapat akses ke sumber daya compute yang langka, dan Amazon mendapatkan permintaan serta umpan balik lapangan yang dapat membenarkan perluasan R&D dan capex mereka
  • Saya bukan ahli ekonomi, tetapi saya penasaran bagaimana struktur ketika Amazon memberi 5 miliar dolar lalu nanti menerima kembali uang itu 20 kali lipat bisa masuk akal
    • 5 miliar dolar itu bukan sekadar diberikan, melainkan investasi ekuitas, sekaligus disertai komitmen belanja. Jika ini adalah komitmen penggunaan 100 miliar dolar selama 10 tahun, maka 5 miliar itu bisa habis dalam waktu kurang dari 3 tahun, mungkin bahkan lebih cepat. Dalam pembacaan saya, Amazon pada dasarnya memberi kredit pemakaian dan menerima ekuitas; jika Anthropic berhasil, ini menjadi kesepakatan yang bagus bagi Amazon. Jika gagal pun, Amazon mungkin rugi di sisi investasi, tetapi tetap mengamankan sekitar 5 miliar dolar pendapatan secara operasional dan juga alasan untuk ekspansi. Dari sisi Anthropic, strukturnya memberi waktu lebih lama untuk bertahan meski belum harus langsung memenuhi angka. Pada akhirnya, memperbesar kapasitas Amazon dengan uang Amazon mungkin dinilai lebih cepat daripada membangun kapasitas sendiri dengan uang orang lain
    • Intinya adalah mereka membutuhkan compute skala besar sekarang juga. Amazon mengatakan mereka berinvestasi 5 miliar dolar hari ini dan kemudian bisa menambah hingga 20 miliar dolar lagi, sementara sudah ada investasi sebelumnya sebesar 8 miliar dolar. Dengan kontrak ini, dalam 3 bulan kapasitas akan bertambah secara berarti dan sebelum akhir tahun totalnya akan mendekati 1GW. Rinciannya bisa dilihat di pengumuman Anthropic
    • Pada akhirnya lebih mudah memahaminya sebagai menerima 5 miliar dolar sekarang, lalu tetap membelanjakan sekitar 10 miliar dolar per tahun untuk biaya compute yang memang harus dikeluarkan
    • Ini bukan 100 miliar dolar keuntungan murni, melainkan pertukaran layanan yang juga punya biaya operasional di pihak Amazon. Bagi Anthropic pun itu uang yang memang harus dibelanjakan untuk menjalankan bisnis, jadi ini tampak bukan seperti diskon membayar lebih sedikit nanti, melainkan semacam diskon dibayar di muka: menerima kas sekarang lalu membayar harga normal nanti
    • Saya juga memahaminya secara mirip. Karena biaya infrastruktur itu memang akan dikeluarkan juga, saya melihat ini lebih sebagai kontrak yang mengikat pengeluaran itu ke AWS dengan syarat Amazon memberi 5 miliar dolar
  • Saya jadi teringat lelucon bahwa pada akhirnya Anthropic hanya mendapat cashback 5 persen ala kartu Prime Visa versi korporat. Rasanya perusahaan AI ternyata tidak jauh berbeda dari kita semua
  • Dengan situasi geopolitik sekarang, saya memperkirakan kapasitas produksi chip memori serta berbagai CPU dan GPU bisa berkurang. Berita-berita tentang Jepang, Korea, dan Singapura yang saya baca membuat kekhawatiran itu makin besar. Jika perkiraan ini benar, biaya membangun data center baru bisa naik tajam, dan itu terasa mengkhawatirkan
  • Saya khawatir saat kegilaan ini berakhir, para pembayar pajak pada akhirnya harus menyelamatkan perusahaan-perusahaan seperti ini
    • Itu hanya mungkin kalau kita membiarkannya terjadi. Pada akhirnya saya rasa jawabannya adalah memilih di pemilu