NVIDIA mengumumkan DIGITS, superkomputer AI pribadi dengan RAM 128GB berbasis LPDDR5X

NVIDIA mengumumkan DIGITS, superkomputer AI pribadi dengan RAM 128GB berbasis LPDDR5X

• NVIDIA mengumumkan DIGITS, superkomputer AI pribadi dengan RAM 128GB, di CES yang digelar di Las Vegas pada 7 Januari 2025 (waktu setempat)
• DIGITS ditenagai superchip baru NVIDIA GB10 Grace Blackwell
• Tujuan NVIDIA adalah menempatkan superkomputer AI di meja setiap data scientist, peneliti AI, dan mahasiswa agar mereka dapat berpartisipasi dalam era AI

Performa superchip baru NVIDIA, GB10

• Superchip GB10 adalah 'system on chip' (SoC) berbasis arsitektur NVIDIA Grace Blackwell yang menawarkan kemampuan komputasi hingga 1 petaflop (PetaFlop, 10¹⁵/s, 1.000 triliun operasi per detik) pada presisi FP4
• GB10 dibekali GPU NVIDIA Blackwell dengan CUDA® core generasi terbaru dan Tensor Core generasi ke-5
• Terhubung melalui interkoneksi chip-to-chip NVLink®-C2C dengan CPU berbasis arsitektur Arm yang memiliki 20 core
• MediaTek, pemimpin pasar di bidang desain SoC berbasis Arm, turut bekerja sama dalam desain GB10

Perkiraan spesifikasi superkomputer AI pribadi DIGITS

• DIGITS dibekali memori terpadu dan koheren (unified, coherent memory) sebesar 128GB serta penyimpanan NVMe hingga 4TB
• Memori terpadu dan koheren di sini merupakan konsep yang berbeda dari VRAM pada GPU, dan DIGITS menyusun memori 128GB ini dengan menggunakan chip LPDDR5X
• Dapat menjalankan LLM hingga 200B (200 miliar) parameter
• Dua unit superkomputer AI DIGITS juga dapat dihubungkan melalui NVIDIA ConnectX® networking untuk menjalankan LLM hingga 405B parameter

Jadwal rilis dan harga

• DIGITS akan tersedia mulai Mei tahun ini melalui mitra utama NVIDIA dengan harga mulai dari $3000 (sekitar 4,37 juta won berdasarkan kurs 2025-01-08)

Estimasi bandwidth memori (kecepatan) DIGITS

• Bandwidth memori adalah salah satu indikator utama yang digunakan untuk memperkirakan kecepatan GPU
• Spesifikasi rinci DIGITS, termasuk bandwidth memorinya, belum diungkap
• Menurut sebuah artikel, berdasarkan gambar yang dirilis NVIDIA, DIGITS tampaknya dilengkapi 6 modul LPDDR5X, dan dari sana bandwidth memorinya diperkirakan mencapai 825GB/s.
• Ini 2,3 kali lebih cepat dibanding 360GB/s pada RTX 3060, dan 0,8 kali lebih lambat dibanding 1008GB/s pada RTX 4090, sehingga tergolong performa yang cukup baik jika mempertimbangkan bahwa perangkat ini memiliki RAM 128GB
• Namun ini tetap hanya perkiraan pribadi yang belum jelas sepenuhnya, dan performa terperinci baru bisa diketahui setelah spesifikasi lengkapnya diumumkan

[mintfrape]

Wkwk, memori sistem biasa 128GB dibilang superkomputer..?
Shih Tzu di rumahku saja sampai ketawa, Pak Huang.
Kalau kena patch harga Korea, kayaknya bakal tembus 600 juga…

[nuthatch]

Kalau begitu, OS apa yang akan dipakai?

[reagea0]

Linux, ya? Ubuntu

[hided62]

Dengan kata lain... dibandingkan dengan model yang punya grafis terintegrasi AMD berperforma tinggi (seperti 8840HS)..

• Karena ini milik NVIDIA, jadi bisa pakai CUDA,
• dan bukan x86 melainkan ARM.
  Begitu ya?

[scari]

Posisinya terasa mirip dengan M4 Mac mini, tetapi yang ini bukan untuk penggunaan umum, dan kesan saya nilai dibanding harganya lebih bagus.

[jujumilk3]

Agak di luar topik, tapi apakah ini juga bisa menjalankan game dengan baik?

[jhj0517]

Karena ini berbeda dari GPU biasa, misalnya dengan memori terpadu dan konsisten sebesar 128GB, jadi saya belum yakin akan seperti apa!
Ada juga pembahasan di tulisan lain bahwa ini mungkin tidak cocok untuk gaming: https://dirox.com/post/nvidia-project-digits