Project Digits Nvidia, "Komputer AI Pribadi"

 (techcrunch.com)
3 poin oleh GN⁺ 2025-01-08 | 2 komentar | Bagikan ke WhatsApp

  • Pengenalan Project Digits Nvidia

    • Pada CES 2025, Nvidia memperkenalkan Project Digits sebagai "komputer AI pribadi"
    • Menyediakan platform perangkat keras Grace Blackwell dalam bentuk factor kecil
    • Merupakan platform komputasi awan yang dapat menjalankan seluruh stack perangkat lunak AI Nvidia

  • Fitur teknis Project Digits

    • Dibuat untuk peneliti AI, ilmuwan data, dan mahasiswa
    • Menggunakan GB10 Grace Blackwell Superchip untuk menyediakan daya komputasi hingga 1 petaflops
    • Dapat menjalankan model dengan hingga 200 miliar parameter
    • Terdiri dari Nvidia Blackwell GPU yang dikembangkan bersama MediaTek dan CPU Nvidia Grace 40-core
    • Menyediakan 128GB memori dan hingga 4TB penyimpanan flash

  • Skalabilitas dan harga

    • Dengan menghubungkan dua Project Digits, dapat menjalankan model dengan hingga 4,05 miliar parameter
    • Dapat memberikan pengalaman mandiri, atau dapat dihubungkan ke PC Windows atau Mac
    • Harga mulai dari $3.000, dan akan tersedia untuk dibeli melalui "mitra utama" mulai Mei

  • Pasar dan visi

    • CEO Nvidia, Jensen Huang, menyebutkan bahwa Project Digits akan menyediakan superkomputer AI bagi jutaan pengembang
    • Bertujuan mendukung ilmuwan data, peneliti AI, dan mahasiswa agar dapat berkontribusi dalam membentuk era AI

  • Informasi tambahan

    • Akan ada pembaruan tambahan terkait pengumuman Nvidia di CES 2025
    • Artikel ini ditulis oleh Kyle Wiggers dari TechCrunch

Bacaan terkait

2 komentar

 
berry 2025-01-16

Semoga performanya juga bagus sesuai klaimnya dan pemeliharaannya pun memuaskan.
 
GN⁺ 2025-01-08
Komentar Hacker News

  • Nvidia Jetson Nano menjadi usang karena dukungannya dihentikan empat tahun setelah peluncuran. Diperkenalkan berbasis Ubuntu 18.04, tetapi karena tidak ada pembaruan setelahnya, tumpukan Machine Learning-nya menjadi tidak berguna. Saya tidak akan membeli SBC Nvidia bila tidak ada dukungan perangkat lunak yang terintegrasi ke kernel Linux.

  • Dengan meningkatnya minat terhadap AI dan LLM, Nvidia mungkin akan mengambil alih sebagian pasar pengembang AI milik Apple. Saya ingin memegang saham Nvidia.

  • DGX OS 6 berbasis Ubuntu 22.04 dan mencakup pembaruan hardware dan keamanan terbaru. Mendukung GPU Direct Storage dan memungkinkan akses ke semua versi driver GPU Nvidia dan toolkit CUDA.

  • Nilai Nvidia tidak bisa dibandingkan dengan solusi cloud, terutama saat menangani data pribadi atau rahasia perusahaan, di mana penting agar data tidak keluar dari sistem.

  • Nvidia telah meluncurkan superkomputer desktop Linux yang lebih unggul dalam nilai harga-kinerja dibanding Wintel; tumpukan perangkat lunak baru hanya berjalan di WSL2.

  • IBM Roadrunner adalah superkomputer pertama yang mencapai 1 petaflop, dan Nvidia Project Digits menyediakan 1 petaflop untuk menjalankan model AI.

  • Di pasar bioinformatika, Illumina menggunakan chip perangkat keras DRAGEN untuk mempercepat analisis genom, sementara Oxford Nanopore menggunakan GPU tetapi kinerjanya terbatas karena hambatan bentuk dan daya.

  • Nvidia merilis perangkat inferensi lokal berkapasitas 128GB yang murah, melakukan apa yang seharusnya dilakukan Intel/AMD, dan berpotensi mengancam ekosistem CUDA.

  • Gambar ini tampaknya dihasilkan oleh AI.

  • Produk baru Nvidia bukan sekadar perangkat tambahan, tetapi komputer penuh yang menjalankan Linux. Pada masa depan, mungkin setiap orang akan memiliki perangkat seperti ini.