- Penulis telah bekerja selama 10 tahun sebagai analis investasi di berbagai hedge fund, dan memiliki perspektif unik tentang perkembangan teknologi AI serta valuasi saham di pasar modal
- Dalam beberapa tahun terakhir, sambil bekerja sebagai developer, ia juga mengerjakan beberapa proyek open source yang terkait dengan model dan layanan AI.
# Nvidia : The Bull Case
Latar belakang kenaikan harga saham Nvidia
- Pertumbuhan AI dan teknologi deep learning: Deep learning dan AI dinilai sebagai teknologi paling revolusioner sejak internet, dan Nvidia telah mengamankan posisi yang nyaris monopolistik di bidang GPU sehingga mendorong investasi besar-besaran dan belanja infrastruktur dari perusahaan-perusahaan utama
- Margin tinggi: Mencatat margin keuntungan di atas 90% pada produk kelas atas untuk data center
- Pasar yang dapat diskalakan: Seiring pertumbuhan teknologi AI, permintaan baru terus tercipta di berbagai bidang aplikasi seperti data center, robotika, dan penggantian pekerjaan manusia
- "Scaling law": Kinerja model terus membaik seiring perluasan data dan sumber daya komputasi, dan Nvidia memanfaatkannya semaksimal mungkin
Posisi Nvidia saat ini dan keunggulan kompetitifnya
- Platform CUDA: Ekosistem software Nvidia yang telah menjadi standar de facto untuk pemrograman GPU
- Akuisisi Mellanox: Menyediakan keunggulan dibanding pesaing di data center melalui teknologi interkoneksi antargpu berkinerja tinggi
- Software proprietary dan kualitas driver: Stabilitas driver dan software yang lebih unggul dibanding AMD
- Strategi mempertahankan kepemimpinan: Menginvestasikan kembali keuntungan besar ke riset dan pengembangan (R&D) untuk terus menjaga keunggulan teknologi
# Ancaman utama terhadap Nvidia
Persaingan hardware
- Cerebras: Menawarkan pendekatan baru dengan chip AI seukuran wafer yang menghindari masalah pemrosesan paralel dan interkoneksi GPU Nvidia
- Groq: Memaksimalkan kinerja inferensi AI dengan teknologi berbasis "deterministic computing"
- Pengembangan chip internal oleh pelanggan utama:
- Amazon: Mengadopsi chip internal seperti Trainium2 dan Inferentia2
- Google: Mengembangkan sendiri chip TPU generasi ke-6
- Microsoft dan OpenAI: Mengumumkan rencana pengembangan chip AI internal
- Apple: Berpotensi menerapkan teknologi yang dibangun dari chip berfokus konsumen ke chip AI
Persaingan software
- Framework abstraksi tingkat tinggi:
- Platform seperti MLX, Triton, dan JAX menurunkan pentingnya CUDA serta memperluas kemungkinan penggantinya
- Teknologi konversi kode: Teknologi yang menggunakan LLM untuk mengonversi kode CUDA agar sesuai dengan hardware lain sedang dikembangkan
- Peningkatan driver AMD: Para developer open source sedang mengerjakan driver baru untuk mengoptimalkan kinerja GPU AMD
Inovasi efisiensi model AI
- Kemunculan DeepSeek:
- DeepSeek mencapai performa model pesaing dengan biaya 1/45 dibanding Nvidia melalui pelatihan mixed precision FP8 dan teknologi inferensi ber-efisiensi tinggi
- Mengimplementasikan model skala besar secara efisien dalam memori dengan memanfaatkan arsitektur Mixture-of-Experts(MOE)
- Secara drastis mengurangi penggunaan VRAM dengan teknologi seperti "Multi-head Latent Attention"
- Biaya pemanggilan API 95% lebih murah dibanding OpenAI dan Anthropic
Perubahan struktur industri
- Peran TSMC: Karena Nvidia tidak memproduksi chipnya sendiri, TSMC dapat membuat chip pesaing lain dengan proses yang sama
- Upaya internalisasi oleh semua pelanggan: Untuk mengurangi ketergantungan pada produk bermargin tinggi Nvidia, pelanggan utama berinvestasi dalam desain chip internal
Prospek pasar dan tantangan Nvidia
- Harga saham Nvidia saat ini bergantung pada skenario pertumbuhan yang sangat optimistis dengan asumsi 20 kali pendapatan 2025 dan margin keuntungan di atas 75%
- Ada kemungkinan perlambatan laju pertumbuhan dan penurunan margin akibat inovasi efisiensi serta persaingan hardware dan software yang makin ketat
- Bahkan jika Nvidia terus mempertahankan keunggulan di bidang teknologi AI, tantangan berkelanjutan dari para pesaing kemungkinan besar akan memengaruhi pangsa pasar dan prospek pertumbuhan jangka panjangnya
# Kesimpulan
- Nvidia saat ini memang berada di posisi yang tak tertandingi sebagai pemimpin inovasi AI, tetapi mungkin akan sulit mempertahankan valuasi tinggi saat ini karena ancaman persaingan yang beragam dan perubahan industri yang sangat cepat
- Investor perlu menilai secara positif keunggulan teknologi Nvidia dan potensi pertumbuhan pasar AI, sambil tetap mengamati dengan cermat risiko dari inovasi teknologi pesaing dan perubahan struktur pasar
1 komentar
Komentar Hacker News
Penjelasan DeepSeek mengingatkan pada pengalaman jaringan di era 80-90an. Saat itu video on-demand adalah pasar besar, dan potensi algoritma pengodean video canggih diabaikan. Video internet menjadi mungkin bukan karena internet yang lebih cepat, melainkan karena algoritma yang lebih cerdas.
Jika DeepSeek dapat melakukan lebih banyak hal dengan sumber daya yang lebih sedikit, Jevons Paradox akan berlaku. Penjualan GPU akan meningkat karena bahkan perusahaan kecil pun bisa bersaing. DeepSeek mengklaim dapat melatih model pesaing dengan biaya 20x lebih rendah daripada perusahaan besar hanya dengan sekitar 200 karyawan.
Menyoroti kerugian menjadi penggerak pertama dalam pengembangan model AI. Jika sebuah model dapat ditiru dengan biaya 5%, ada dua keputusan rasional:
Perusahaan seperti OpenAI harus beralih menjadi platform yang menikmati efek jaringan langsung.
Sebagian besar komputasi AI berfokus pada inferensi. R1 (680B) dapat dijalankan secara terdistribusi di 3 komputer konsumen. Keunggulan NVIDIA adalah menghubungkan ribuan GPU secara efisien, tetapi itu kemungkinan hanya penting untuk sebagian kecil komputasi AI.
Berbagai keunggulan NVIDIA sedang diserang. Namun, karena para pesaing hanya menyerang masing-masing satu keunggulan, NVIDIA kemungkinan tetap menjadi satu-satunya perusahaan yang masih memiliki semuanya.
Ujian sesungguhnya untuk AI robot humanoid adalah melipat cucian. Dengan teknologi saat ini, itu masih merupakan masalah yang sulit. Penasaran apakah ada kemajuan terbaru dalam AI robot.
Efisiensi deployment model 687B MoE pada hardware umum dinilai terlalu tinggi. Di hardware Apple itu tidak mungkin, dan di komputer desktop pun nyaris tidak memungkinkan. Karena masalah bandwidth PCIe, pekerjaan pemrograman memerlukan waktu 12 menit.
Mungkin ada strategi ilegal: menunggu harga NVDA rebound, lalu menciptakan pesaing OpenAI untuk mengambil keuntungan.
Hanya sedikit orang yang melihat dampak DeepSeek dengan benar. Jika 10x lebih efisien, hasilnya bukan memakai 1/10 sumber daya, melainkan memakai 10x lebih banyak. Produk teknologi selalu bergerak ke arah ini.
Bahkan jika tidak tertarik pada strategi shorting pasar saham, ada banyak konten teknis luar biasa dalam makalah DeepSeek v3 dan R1 yang merangkum ide-ide menarik dengan sangat jelas.