Nvtop - Monitor tugas Linux untuk GPU Nvidia/AMD/Intel

• NVTop = "Neat Videocard TOP"
• Monitor tugas untuk GPU dan akselerator
• Menangani informasi untuk beberapa GPU dan menampilkan informasi dengan cara yang mirip htop
• Vendor yang saat ini didukung: AMD (driver Linux amdgpu), Apple (dukungan terbatas untuk M1 & M2), Huawei (Ascend), Intel (driver Linux i915), NVIDIA (driver khusus Linux), Qualcomm Adreno (driver Linux MSM)

Opsi dan perintah interaktif NVTOP

• Jendela pengaturan interaktif: Menyediakan utilitas pengaturan yang dapat dibuka dengan menekan F2 untuk menyesuaikan antarmuka sesuai kebutuhan pengguna.
• Menyimpan konfigurasi: Jika konfigurasi yang diatur di jendela pengaturan disimpan dengan menekan F12, konfigurasi tersebut akan dimuat saat nvtop dijalankan berikutnya.
• Manual NVTOP dan opsi perintah: Menyediakan halaman manual (man nvtop), dan bantuan perintah dapat dilihat dengan nvtop -h atau nvtop --help.

Dukungan GPU

• AMD: Mendukung GPU AMD melalui driver amdgpu. Pada kernel 5.14 atau lebih baru, proses yang menggunakan GPU dapat dilihat.
• Intel: Mendukung GPU Intel melalui driver Linux i915. Pada kernel 5.19 atau lebih baru, proses yang menggunakan GPU dapat dilihat.
• NVIDIA: Didukung melalui pustaka NVML. GPU sebelum mikroarsitektur Kepler tidak mendukung beberapa kueri.
• Adreno: Mendukung GPU Adreno melalui driver Linux msm. Pada kernel 6.0 atau lebih baru, proses yang menggunakan GPU dapat dilihat.
• Apple: Termasuk dukungan awal untuk Apple menggunakan Metal. Hanya didukung saat build Apple.
• Ascend: Mendukung Ascend melalui API DCMI (versi 6.0.0). Saat ini DCMI hanya mendukung API yang terbatas.

Build

• Pustaka yang dibutuhkan: ncurses (antarmuka pengguna), NVIDIA (NVML), AMD (libdrm), Intel (i915), dan lainnya.
• Proses build: Kloning source code dengan git clone, build dengan cmake, lalu instal ke sistem dengan make install.

Proses instalasi per distribusi

• Ubuntu / Debian: Mendukung instalasi melalui snap atau apt. Versi terbaru nvtop dapat diinstal melalui PPA.
• Fedora / Red Hat / CentOS: Mendukung instalasi melalui AppImage atau dnf.
• OpenSUSE: Mendukung instalasi melalui zypper.
• Arch Linux: Instal nvtop melalui pacman.
• Gentoo: Instal nvtop melalui layman dan emerge.
• AppImage: Disediakan sebagai aplikasi mandiri. Jalankan setelah memberi izin eksekusi.
• Snap: Setelah instalasi dengan snap install, perlu memberikan izin untuk kontrol proses dan pemeriksaan informasi GPU.
• Docker: Membutuhkan driver NVIDIA dan nvidia-docker. Jalankan dengan docker build dan docker run.

Pendapat GN⁺

• NVTOP mendukung berbagai vendor GPU dan merupakan alat yang kuat untuk pemantauan GPU di sistem berbasis Linux.
• Alat ini memberikan cara yang efektif bagi administrator sistem dan pengembang untuk memantau penggunaan GPU secara real-time.
• Pemantauan GPU sangat penting terutama saat menjalankan pekerjaan yang bergantung pada GPU, seperti machine learning, analisis data, dan pengembangan game.
• Proyek open source lain yang menyediakan fungsi serupa dengan NVTOP adalah gpustat, dan pengguna dapat memilih alat yang sesuai dengan kebutuhannya.
• Karena ini adalah proyek open source, perbaikan berkelanjutan dan penambahan fitur baru dapat dilakukan melalui kontribusi komunitas.

[GN⁺]

Komentar Hacker News

• Menemukan bahwa nvtop atau nvidia-smi memberikan gambaran umum yang baik tentang penggunaan GPU, tetapi kurang cocok untuk mencerminkan kecepatan kerja yang sebenarnya. Jika Anda tertarik pada performa AI, mereka merekomendasikan Nsight Compute CLI untuk memprofilkan kernel individual, dan Nsight Systems untuk tampilan makro. Jika menggunakan PyTorch, disarankan memakai profiler PyTorch.
• Mengeluhkan masalah apt install yang tidak berfungsi. Mereka menunjukkan bahwa masalah instalasi terkait NVIDIA sering terjadi, sehingga banyak waktu terbuang saat harus memasang ulang Linux. Mereka mengkritik bahwa banyaknya lapisan seperti driver, CUDA, CUDA toolkit, cuDNN, serta konflik versi menimbulkan kebingungan.
• Memperkenalkan utilitas lain bernama Nvitop yang mereka sukai.
• Menyebut nvtop dan bottom sebagai monitor sumber daya favorit di Linux, serta berbagi bahwa mereka baru mengetahui nvtop bekerja bukan hanya pada perangkat NVIDIA tetapi juga perangkat non-NVIDIA.
• Mengatakan lebih menyukai btop, yang pada versi terbaru tidak hanya memantau proses umum tetapi juga GPU.
• Mengatakan senang karena utilitas kartu grafis Linux kini mendukung banyak platform, dan menilai positif pergeseran dari pendekatan lama yang bergantung pada masing-masing driver.
• Memperkenalkan utilitas favorit bernama gpustat, dan menjelaskan bahwa itu memberi informasi minimum yang cukup untuk mengetahui apakah pelatihan berjalan baik atau ada masalah.
• Memperkenalkan proyek mereka sendiri bernama Zenith, yang menggabungkan pemantauan GPU NVIDIA dengan fitur seperti disk, CPU, dan Top.
• Mengungkapkan bahwa setelah mulai menggunakan Home Assistant, mereka ingin mengintegrasikan semua sumber data. Mereka mengatakan data bisa dirender sesuai keinginan, dan menyebut telah menemukan proyek bernama sensors2mqtt yang ingin mereka gunakan.
• Mengungkapkan harapan agar driver Nouveau didukung.