CEO Intel: "Seluruh industri punya motivasi untuk menghapus pasar CUDA"

CEO Intel menyerang teknologi CUDA milik Nvidia di bidang AI

• CEO Intel Pat Gelsinger mengumumkan Intel Core Ultra dan chip data center Xeon generasi ke-5 dalam sebuah acara di New York City, sambil menyatakan bahwa teknologi inferensi AI akan menjadi lebih penting daripada pelatihan.
• Gelsinger menyebut bahwa CUDA milik Nvidia memang dominan di bidang pelatihan, tetapi tidak akan bertahan selamanya, dan menjelaskan bahwa MLIR, Google, OpenAI, dan lainnya sedang beralih ke 'lapisan pemrograman bergaya Python' untuk membuat pelatihan AI lebih terbuka.
• Intel menekankan bahwa mereka kompetitif bukan hanya di bidang pelatihan, tetapi juga inferensi, dan bahwa yang terpenting adalah seberapa baik sebuah model dapat dijalankan.

Strategi AI Intel dan standar OpenVINO

• Gelsinger mendorong upaya AI Intel melalui standar OpenVINO, sambil memprediksi masa depan komputasi campuran yang terjadi di cloud dan PC.
• Sandra Rivera, wakil presiden grup data center dan AI Intel, menambahkan bahwa Intel bisa berada pada posisi yang menguntungkan dalam pemilihan mitra berkat skala mereka dari data center hingga PC.
• Gelsinger mengatakan bahwa Intel akan bersaing untuk 100% pasar AI data center dengan CPU kepemimpinan, akselerator, dan foundry, serta menyebut bahwa mereka juga akan mengejar peluang komersial dengan Nvidia, AMD, dan lainnya.

Opini GN⁺

• Pernyataan CEO Intel Pat Gelsinger menunjukkan upaya baru untuk menantang dominasi teknologi CUDA milik Nvidia di bidang AI. Ini dapat dilihat sebagai bagian dari pergerakan di industri teknologi menuju pendekatan yang lebih terbuka dan terstandarisasi.
• Strategi Intel yang berfokus pada teknologi inferensi AI menandakan lanskap persaingan baru di pasar AI. Ini menunjukkan perubahan ke arah yang memberi nilai lebih besar pada eksekusi dan pemanfaatan model AI secara efisien.
• Ini memberikan wawasan tentang bagaimana Intel berupaya memperkuat posisinya di bidang AI melalui standar seperti OpenVINO. Hal ini dapat berkontribusi pada percepatan demokratisasi teknologi dan inovasi.

[GN⁺]

Komentar Hacker News

• Diskusi tentang pentingnya CUDA

  • CUDA bukan sekadar soal kecepatan produksi chip, melainkan soal perangkat lunak dan ekosistem. Para pesaing harus bersaing dengan ekosistemnya.
  • Mi100 bekas di eBay menawarkan performa yang hampir setara dengan A100 dengan harga 5 kali lebih murah, tetapi karena ketidakcocokan perangkat lunak, butuh jauh lebih banyak waktu untuk menjalankannya dibanding GPU Nvidia.
  • Google menyediakan kompatibilitas dengan PyTorch melalui antarmuka XLA, dan Intel juga berada dalam situasi yang mirip.
  • Para pesaing perlu menguji semua model dan membangun test suite skala besar untuk menemukan serta memperbaiki masalah.
  • Intel cenderung mengumumkan inisiatif secara terbuka lalu hanya memberi dukungan minimal, dan OpenVino kemungkinan besar tidak akan berhasil. Sebaliknya, Triton dari OpenAI tampak lebih populer.

• Strategi rekayasa perangkat lunak NVIDIA

  • Lebih dari separuh engineer NVIDIA adalah software engineer. Jensen membangun software stack yang kuat selama beberapa dekade.
  • Sampai Intel menemukan CEO yang teknis sekaligus strategis, akan sulit bagi mereka untuk mengorganisasi respons yang sukses terhadap CUDA.

• Harapan dan realitas terhadap alternatif CUDA

  • Jika ada alat, ekosistem, dan pengalaman pemrograman yang lebih baik daripada CUDA, semua orang akan diuntungkan.
  • Namun saat ini, klaim seperti itu terasa agak menggelikan jika melihat upaya-upaya sebelumnya seperti kegagalan OpenCL.
  • Intel dan AMD telah mengerahkan upaya yang jauh lebih kecil dibanding investasi pada CUDA, dan hasilnya mengecewakan.

• Pertanyaan tentang keunggulan sejati CUDA

  • Keunggulan CUDA terletak pada ekosistem perangkat lunaknya, bukan pada hardwarenya.
  • Bagi sebagian besar pengguna, biaya migrasinya mungkin tidak terlalu besar, tetapi bagi peneliti dan mereka yang mendorong batas kemampuan, belum tentu demikian.

• Kritik terhadap upaya berbasis OpenCL

  • Intel dan AMD telah memiliki waktu bertahun-tahun untuk menyediakan fitur serupa berbasis OpenCL, tetapi tetap gagal.

• Kurangnya motivasi untuk meninggalkan CUDA

  • Sebagian besar model dan tool masih menggunakan CUDA, dan penggunaan middleware NN dari AMD hampir tidak terlihat.

• Kegagalan strategi perangkat lunak Intel dan AMD

  • Intel tidak melakukan apa-apa selama 10 tahun terakhir dan membuang miliaran dolar untuk GPU yang nyaris tidak berfungsi.
  • Nvidia berhasil berinvestasi untuk membantu kemajuan AI.

• Kritik terhadap strategi perangkat lunak Intel dan AMD

  • Pat Gelsinger dan Lisa Su kurang memahami perangkat lunak, dan berharap komunitas menangani software untuk hardware yang kompleks.
  • Nvidia mengembangkan hardware dan software secara bersamaan, dan model pemrograman CUDA sudah lama menjadi taruhan besar.
  • Jika Intel dan AMD tidak melakukan perubahan mendasar, mereka akan kalah dari ARM dan Nvidia.

• Harapan terhadap GPU Intel

  • Jika ada GPU Intel dengan performa lebih baik pada biaya yang sama dengan GPU Nvidia dan bisa menjalankan PyTorch dengan baik, ada keinginan untuk membelinya.

• Kritik terhadap monopoli CUDA

  • Bisa dipahami bahwa NVIDIA termotivasi untuk mempertahankan monopoli CUDA, tetapi AMD/Intel/perusahaan lain juga memang telah menyia-nyiakan peluang.
  • Konsumen dirugikan ketika hambatan teknis/kapabilitas mempertahankan monopoli de facto untuk use case tertentu.