Bagaimana AMD Bisa Menyeberangi Parit CUDA

• Nvidia memiliki keunggulan di bidang GenAI berkat alat perangkat lunak seperti CUDA dan cuDNN serta library yang dioptimalkan
  • Mereka membangun "parit pertahanan (moat)" perangkat lunak yang kuat di sekitar hardware, sehingga perusahaan lain sulit bersaing di pasar HPC dan GenAI
• Seiring meningkatnya permintaan terhadap sumber daya komputasi GenAI, kebutuhan akan GPU juga ikut naik. Hal ini menciptakan kesenjangan antara pasokan dan permintaan, yang coba diisi oleh perusahaan seperti AMD
• Untuk bersaing dengan Nvidia, GPU dan akselerator dari produsen lain harus mendukung CUDA. AMD memungkinkan hal ini melalui alat konversi HIP CUDA
• Library machine learning open source PyTorch semakin populer sebagai alternatif TensorFlow untuk membangun aplikasi AI yang memanfaatkan GPU
• PyTorch mengisolasi pengguna dari arsitektur GPU dasar, sehingga memudahkan GPU AMD untuk menyeberangi parit CUDA
• Superchip Grace-Hopper berbasis ARM 72-core milik Nvidia yang akan datang sangat dinantikan karena potensi performanya di HPC dan GenAI
• AMD berencana bersaing dengan superchip Grace-Hopper milik Nvidia melalui prosesor Instinct MI300A yang akan datang, dan prosesor ini akan menjalankan El Capitan yang akan datang di Lawrence Livermore National Laboratory
• CEO AMD Lisa Su menyatakan ambisinya untuk menjadi pemimpin industri dalam solusi inferensi berkat pilihan arsitektur mereka
• Bagi AMD dan vendor hardware lainnya, PyTorch telah menyediakan jembatan angkat (drawbridge) untuk melintasi parit CUDA
• Pertarungan hardware di pasar GenAI akan ditentukan oleh performance, portability, dan availability

[slemma999]

Saya selalu menikmati artikel-artikel bagus Anda, terima kasih. Namun, jika boleh memberi satu pendapat pribadi, ini bukan benar-benar pelokalan ke bahasa Korea, melainkan seperti diubah ke istilah berbasis aksara Tionghoa sehingga terdengar canggung dan sulit. Untuk kata-kata seperti drawbridge atau moat, akan lebih baik jika tetap memakai bahasa Inggris atau dijelaskan dengan bahasa Korea yang lebih mudah.

[monovision]

"Moat" adalah istilah yang sering dipakai, dan meski "drawbridge" bukan istilah yang umum digunakan, jika melihat kamus dan semacamnya, tampaknya itu adalah terjemahan yang paling tepat.
https://ko.wikipedia.org/wiki/%EA%B0%80%EB%8F%99%EA%B5%90

[slemma999]

Saya tahu istilah itu juga dipakai di bidang ekonomi, dan saya paham istilah itu digunakan seiring teknologi AI menjadi makin kompleks, tetapi menurut saya di sini pemakaiannya keliru. Misalnya, kalimat bahwa dengan mengisolasi dari arsitektur CPU dasar, GPU AMD jadi lebih mudah melampaui moat CUDA, ditulis seolah-olah itu bisa diselesaikan dengan sederhana secara teknis. Dalam bahasa Korea, ungkapan seperti memiliki kemampuan teknis untuk melampaui moat akan terdengar lebih tepat, tetapi kalimat ini terasa sangat janggal karena ditulis seakan-akan satu library bisa menyelesaikan sesuatu. Sampai-sampai saya jadi bertanya-tanya apakah memang kata moat itu dipakai seperti itu.

[newtype]

"Moat" memang kata yang sangat pas karena nyaris tidak bisa digantikan dan juga tidak perlu repot-repot diganti... Mungkin Anda baru pertama kali menemukannya lewat kamus sehingga terasa asing, tetapi tidak semua pembaca lain punya tingkat kosakata yang mirip dengan Anda. Jangan menjadikan ketidaktahuan sebagai senjata.

[botplaysdice]

Agak menohok, ya. Namun, saya harap ini tidak menjadi komunitas yang membuat ketidaktahuan menjadi sesuatu yang memalukan.

[fortune]

Benar, saya juga kadang merasa ada bagian yang terdengar janggal dalam terjemahan otomatis.

Namun, dalam kasus seperti ini, ‘moat’ juga merupakan ungkapan yang cukup umum digunakan di Korea. Jika Anda mencari kata ‘moat’ di berita, Anda bisa menemukan banyak hasil.

[cosine20]

Setahu saya, yang pernah diusung AMD sebagai penantang CUDA adalah OpenCL. Karena tidak disebutkan di sini, sepertinya selama ini memang tidak banyak keterkaitan dengan library di ranah kecerdasan buatan.

[GN⁺]

Komentar Hacker News

• Seorang pengguna melihat peningkatan performa 200 kali lipat dibanding CPU saat menggunakan ROCm bersama Pytorch.
• Karena kerumitan konfigurasi AMD, pengguna merekomendasikan penggunaan image Docker dasar ROCm Pytorch resmi.
• Pengguna mengatakan satu-satunya alasan mereka memiliki kartu Nvidia adalah CUDA, tetapi mereka akan senang jika lebih banyak proyek beralih ke lingkungan yang netral.
• Pengguna merasa menjalankan Nvidia di Linux tidak menyenangkan, sebanding dengan crash kernel di Windows Vista.
• Pengguna menyambut persaingan dari AMD dan pesaing lain, serta tertarik pada Apple Silicon SoC dengan RAM internal besar.
• Pytorch memungkinkan penggunaan perangkat keras lain, dan pengguna ingin melihat benchmark nyata untuk daya komputasi.
• Bukti empiris bahwa AMD memperkecil kesenjangan dengan Nvidia dalam perangkat lunak ilmiah atau ML masih terbatas.
• CUDA adalah hasil dari upaya Nvidia dalam mendukung ekosistem, dan saat membeli Nvidia, kita juga membeli upaya yang mereka investasikan ke ekosistem tersebut.
• AMD memiliki perangkat kerasnya, tetapi dukungan untuk HPC di luar bliss dan AOCL masih kurang.
• Pengguna mempertanyakan apakah AMD memiliki solusi untuk kompatibilitas perangkat ke depan seperti PTX milik Nvidia.
• Keunggulan Nvidia adalah hasil kerja selama bertahun-tahun dari komunitas open source, perusahaan besar, dan lembaga riset.
• Pengguna mempertanyakan apakah jika AMD berhasil mengejar, harga untuk hobi atau startup bootstrap akan turun, atau AMD juga akan menaikkan harga seperti Nvidia.
• Solusi perangkat lunak AMD dirancang agar dapat berjalan di perangkat keras apa pun, dan karena hip kompatibel baris demi baris dengan cuda, porting menjadi sangat mudah.