Pertanyaan AI senilai $600B (830 triliun won)

 (sequoiacap.com)
10 poin oleh GN⁺ 2024-07-04 | 1 komentar | Bagikan ke WhatsApp
  • Gelembung AI sedang mencapai titik belok. Yang penting adalah bagaimana merespons perubahan ke depan
  • Pada September 2023, saya menerbitkan tulisan berjudul "Pertanyaan AI senilai $200B". Tujuan tulisan itu adalah mengajukan pertanyaan, "Di mana pendapatannya?"
    • Saat itu, saya menemukan ada kesenjangan besar antara ekspektasi pendapatan yang tersirat dalam pembangunan infrastruktur AI dan pertumbuhan pendapatan nyata dalam ekosistem AI. Saya menyebutnya sebagai "lubang sebesar $125 miliar yang harus diisi setiap tahun untuk CapEx pada tingkat saat ini"
    • Baru-baru ini Nvidia menjadi perusahaan paling bernilai di dunia. Menjelang itu, banyak orang menanyakan hasil analisis saya. Mereka penasaran apakah masalah AI senilai $200 miliar sudah terpecahkan, atau justru memburuk
  • Jika analisis ini dijalankan lagi hari ini, hasilnya adalah sebagai berikut:
    • Masalah AI senilai $200B (260 triliun won) kini telah menjadi masalah $600B (830 triliun won)
    • Ambil proyeksi pendapatan tahunan Nvidia lalu kalikan 2 untuk mencerminkan total biaya pusat data AI (GPU mencakup setengah dari total cost of ownership. Setengah sisanya mencakup energi, bangunan, generator cadangan, dan lainnya).
    • Lalu kalikan lagi 2 untuk mencerminkan gross margin 50% dari pengguna akhir GPU (misalnya, startup atau perusahaan yang membeli komputasi AI di Azure, AWS, atau GCP juga harus menghasilkan keuntungan)

Hal-hal yang berubah

  1. Kelangkaan pasokan teratasi

    • Pada akhir 2023, kelangkaan pasokan GPU mencapai puncaknya
    • Sekarang GPU mudah diperoleh

  2. Peningkatan inventaris GPU

    • Setengah dari pendapatan data center Nvidia berasal dari penyedia cloud besar
    • Microsoft menyumbang sekitar 22% dari pendapatan Q4 Nvidia
    • CapEx hyperscaler telah mencapai level historis

  3. Pangsa pendapatan OpenAI

    • Pendapatan OpenAI meningkat dari $1,6 miliar pada akhir 2023 menjadi $3,4 miliar saat ini
    • Selain ChatGPT, tidak banyak produk AI yang benar-benar digunakan konsumen

  4. Lubang $125 miliar menjadi lubang $500 miliar

    • Diasumsikan bahwa Google, Microsoft, Apple, dan Meta masing-masing akan menciptakan pendapatan baru terkait AI sebesar $10 miliar per tahun
    • Diasumsikan bahwa Oracle, ByteDance, Alibaba, Tencent, X, dan Tesla masing-masing akan menciptakan pendapatan AI baru sebesar $5 miliar
    • Bahkan jika asumsi ini benar, lubang $125 miliar kini melebar menjadi $500 miliar

  5. Kemunculan B100

    • Nvidia mengumumkan chip B100
    • B100 menawarkan performa 2,5 kali lebih baik daripada H100, sementara biayanya hanya naik 25%
    • Permintaan terhadap B100 diperkirakan akan melonjak

Sanggahan utama (perbedaannya dibanding pembangunan infrastruktur di masa lalu)

  1. Kurangnya pricing power

    • Tidak seperti infrastruktur fisik, pusat data GPU memiliki pricing power yang lebih kecil
    • Komputasi GPU makin lama makin menjadi komoditas dan ditagihkan per jam

  2. Pembakaran investasi

    • Seperti infrastruktur fisik semacam rel kereta, demam investasi spekulatif memiliki tingkat pembakaran modal yang tinggi
    • Menurut Engines That Move Markets, banyak pihak yang berfokus pada rel kereta kehilangan banyak uang selama gelombang teknologi spekulatif

  3. Depresiasi

    • Kinerja semikonduktor meningkat seiring waktu
    • Nvidia akan terus memproduksi chip generasi berikutnya yang lebih baik
    • Ini akan menyebabkan depresiasi yang lebih cepat pada chip generasi sebelumnya

  4. Pemenang dan pecundang

    • AI sangat mungkin menjadi gelombang teknologi transformatif berikutnya
    • Penurunan harga komputasi GPU dalam jangka panjang baik untuk inovasi dan startup

Kesimpulan

  • AI akan menciptakan nilai ekonomi yang sangat besar
  • Nvidia layak mendapat pengakuan besar atas perannya dalam memungkinkan transisi ini
  • Demam spekulatif adalah bagian dari teknologi, dan tidak perlu ditakuti
  • Kita tidak boleh terjebak dalam delusi bahwa AGI akan segera datang
  • Jalan ke depan akan panjang dan penuh naik turun, tetapi hampir pasti layak dijalani

Pendapat GN⁺

  • AI akan menciptakan nilai ekonomi yang sangat besar. Para pendiri perusahaan yang berfokus pada pemberian nilai kepada pengguna akhir akan menerima imbalan besar
  • Demam spekulatif adalah bagian dari teknologi, jadi tidak perlu ditakuti. Orang-orang yang melewati momen ini dengan kepala dingin akan memiliki peluang untuk membangun perusahaan yang sangat penting
  • Namun, kita perlu berhati-hati agar tidak mempercayai delusi yang telah menyebar dari Silicon Valley ke seluruh negeri, bahkan ke seluruh dunia.
    • "Delusi" itu mengatakan bahwa kita semua akan cepat kaya, karena AGI akan datang besok dan kita semua harus menimbun GPU, satu-satunya sumber daya yang bernilai
    • Kita tidak boleh terjebak dalam delusi bahwa AGI akan segera datang
  • Kenyataannya, jalan ke depan akan panjang. Akan ada naik turun, tetapi hampir pasti sepadan

Bacaan terkait

1 komentar

 
GN⁺ 2024-07-04
Opini Hacker News

  • Menurut Jensen, untuk melatih model sekelas GPT-4 dibutuhkan 8.000 GPU H100 selama 90 hari

    • Meta memiliki 350.000 GPU, sehingga bisa melatih 200 model GPT-4 setiap tahun
    • Ini berpotensi membuat margin keuntungan nyata perusahaan yang berfokus pada AI mendekati nol
    • Buruk bagi investor, tetapi baik bagi pengembang
    • Faktor terpenting dalam kualitas output model adalah data eksklusif yang digunakan untuk pelatihan

  • Perusahaan teknologi besar sedang berinvestasi besar-besaran pada hardware

    • Ini mirip dengan berinvestasi pada Sun Microsystems dan Netscape di akhir tahun 90-an
    • Kita tahu internet akan mengubah dunia, tetapi tidak tahu bagaimana uang akan mengalir

  • Pendapatan dari AI bukan bersifat langsung, melainkan datang dari pengurangan biaya dan peningkatan produktivitas

    • AI membantu di setiap aspek startup

  • Fokusnya terlalu besar pada peningkatan produktivitas

    • Ada potensi yang lebih besar pada nilai hiburan
    • Saat ini aplikasi-aplikasi yang canggung justru menghasilkan uang
    • Kita masih belum tahu produk hit yang sebenarnya akan seperti apa

  • Kemungkinan investasi pada AI akan berhasil cukup tinggi

    • Jika melihat kasus internet dan mobile, banyak perusahaan yang sukses setelah hype mereda

  • Ada prediksi bahwa AI akan menciptakan nilai ekonomi yang besar

    • Namun ini adalah spekulasi kuat tanpa bukti
    • Ada keyakinan bahwa AI akan mengubah segalanya

  • Perkembangan AI akan panjang dan penuh tantangan

    • Namun itu akan sepadan
    • Kasus FTX mungkin sudah menjadi pelajaran

  • LLM unggul dalam tugas-tugas dasar, tetapi punya keterbatasan dalam pekerjaan yang kompleks

    • Orang cenderung menyalahkan orang lain
    • Kemungkinan akan lebih banyak digunakan di bidang hiburan dan aplikasi tak terduga daripada peran yang berhadapan langsung dengan pelanggan

  • Asumsi bahwa semua GPU di data center digunakan untuk AI adalah keliru

    • Model bisnis AI bukan hanya biaya penggunaan API
    • AI sudah memainkan peran besar dalam bisnis pencarian dan iklan Google

  • Jika mempertimbangkan populasi dan PDB negara-negara OECD, investasi pada AI bisa sangat meningkatkan produktivitas

    • Namun masih diragukan apakah investasi saat ini bisa cepat balik modal