Kekalahan DeepSeek Senilai US$589 Miliar bagi Nvidia

• Saham Nvidia Corp. anjlok tajam karena kekhawatiran investor terhadap startup kecerdasan buatan asal Tiongkok, DeepSeek.
  • Pada hari Senin, sahamnya turun 17%, menghapus US$589 miliar dari nilai pasar perusahaan.
  • Ini menjadi penurunan terbesar dalam sejarah pasar saham Amerika Serikat.
• Dampak pada pasar
  • Penurunan Nvidia berdampak besar pada indeks-indeks utama.
  • Indeks S&P 500 turun 1,5%, sementara indeks Nasdaq 100 turun hampir 3%.
• DeepSeek dan model AI berbiaya rendah
  • Model AI terbaru DeepSeek dinilai mampu bersaing dengan model milik OpenAI dan Meta Platforms Inc.
  • Model ini menempati peringkat teratas di App Store milik Apple Inc.
  • Analis Jefferies menyebut model ini dapat menjadi tantangan bagi model bisnis AI saat ini.
• Investasi dan respons AI di Amerika Serikat
  • Meta mengumumkan rencana untuk menaikkan belanja modal proyek AI hingga US$65 miliar.
  • OpenAI, SoftBank Group Corp., dan Oracle Corp. mengumumkan Stargate, investasi patungan senilai US$100 miliar untuk membangun pusat data dan proyek infrastruktur AI di seluruh Amerika Serikat.
  • Amerika Serikat melarang ekspor teknologi semikonduktor canggih untuk menghambat perkembangan AI Tiongkok.
• Respons Nvidia
  • Nvidia menilai model DeepSeek sebagai "kemajuan AI yang luar biasa" dan menyatakan tidak melanggar pembatasan Amerika Serikat.
  • Nvidia menambahkan bahwa menjalankan model AI membutuhkan banyak GPU Nvidia dan jaringan berkinerja tinggi.

[xguru]

Judul aslinya memakai kata Rout, dan ternyata kata itu punya nuansa makna seperti kalah dalam pertempuran lalu melarikan diri.

[GN⁺]

Komentar Hacker News

• Meskipun perusahaan seperti OpenAI telah mencapai pelatihan dan inferensi yang 40 kali lebih efisien lewat peningkatan ala DeepSeek, jika mereka memiliki sumber daya komputasi yang sama, kita akan segera tahu apakah komputasi 40 kali lipat memberikan performa atau kualitas keluaran 40 kali lebih baik, atau apakah kualitas keluaran sebenarnya tidak dibatasi oleh komputasi

• Banyak komentar menunjukkan bahwa pengetahuan tentang teknologi tidak menjamin cara berpikir yang benar tentang pasar dan valuasi saham

• NVIDIA adalah perusahaan yang menjual sekop saat terjadi demam emas; seorang penambang menemukan cara menggunakan sekop dengan lebih baik dan membagikan rahasianya. Entah demam emas itu nyata atau gelembung, demamnya masih ada, dan NVIDIA akan tetap menjual semua sekop yang bisa diproduksinya

• Perusahaan Fortune 100 akan menginginkan gudang alat terbesar untuk menciptakan paradigma baru atau menjadi yang pertama mencapai AGI

• Dengan dampak DeepSeek yang meningkatkan efisiensi penggunaan GPU, biaya sewa GPU bisa turun tajam, dan ini adalah faktor penting dalam mengukur nilai investasi Blackwell

  • Harga H100 per jam turun dari $8.42 menjadi sekitar $1.80
  • H100 mengonsumsi 700W, dan bisa diasumsikan biaya listrik $0.10 per kWh
  • Harga H100 sekitar $30000
  • Berkat DeepSeek, lebih banyak GPU bisa tersedia sehingga harga dapat turun lebih jauh

• Karena LLM pada dasarnya telah menjadi komoditas, kini ada batas bawah harga, dan ini merupakan nilai baru yang mendahului profitabilitas kartu

• Blackwell baru berharga $70000, dan muncul pertanyaan apakah ada cukup banyak aplikasi agar pelanggan bisa memperoleh ROI dari kartu baru itu

• Saat biaya GPU per jam turun, nilainya sebagai investasi bisa lebih rendah daripada sebelumnya, terutama jika potensinya masih bisa dimaksimalkan di platform yang lebih lama

• Laju pertumbuhan belakangan ini memang tidak mungkin berlangsung selamanya, dan ini hanya kembali ke posisi 4 bulan lalu. Sahamnya masih naik 100% dibanding waktu yang sama tahun lalu

• Penyebutan paradoks Jevon mengabaikan tiga hal

  • Tidak ada model yang baik untuk memprediksi pergeseran permintaan total akibat peningkatan efisiensi
  • Permintaan total tidak sama dengan pangsa pasar NVIDIA, dan pangsanya bisa turun jika paradigma alternatif mulai mendapat perhatian
  • Rentang waktu prediksi penting untuk perhitungan discounted cash flow/valuasi, dan tidak ada dasar yang kuat untuk itu

• NVIDIA sudah beberapa kali beruntung. GPU sangat cocok untuk game PC, ledakan kripto adalah kemenangan tak terduga, dan ledakan AI juga merupakan hasil dari tersingkirnya kompetisi

• Tidak seperti kripto, AI bersifat fundamental bagi seluruh software stack dan perusahaan. Ketergantungan pada NVIDIA akan berkurang

• Dalam grafik Bloomberg, 8 dari 10 penurunan saham tunggal terbesar dalam sejarah adalah NVDA

• DeepSeek tidak membuktikan bahwa komputasi yang lebih banyak tidak menghasilkan kemampuan yang lebih tinggi. Mereka melakukan hal luar biasa dengan anggaran terbatas, sementara kita juga belum tahu bagaimana cara mengintegrasikan kemampuan AI yang lebih besar ke dalam ekonomi

• Seperti penggunaan bola lampu meningkat ketika efisiensinya naik, pelatihan LLM yang lebih efisien juga bisa meningkatkan penggunaan chip