Insinyur AI Klaim Algoritme Baru Kurangi Konsumsi Daya AI hingga 95%

• Insinyur AI mengklaim telah mengurangi konsumsi daya AI sebesar 95% dengan algoritme baru

  • Insinyur di BitEnergy AI mengembangkan cara untuk mengganti perkalian floating-point dengan penjumlahan bilangan bulat.
  • Metode ini disebut Linear-Complexity Multiplication (L-Mul), dan tetap mempertahankan akurasi serta presisi tinggi sambil menghasilkan nilai yang mendekati hasil perkalian floating-point.
  • Metode ini dinilai sebagai kemajuan penting karena dapat memangkas konsumsi daya sistem AI hingga 95%.

• Masalah kompatibilitas dengan perangkat keras saat ini

  • Perangkat keras yang saat ini ada di pasar, seperti GPU Blackwell dari Nvidia, tidak dirancang untuk memproses algoritme ini.
  • Jika produsen chip AI mengembangkan ASIC yang dapat memanfaatkan algoritme ini, kemungkinan besar perusahaan teknologi besar akan mengadopsi teknologi tersebut.

• Masalah konsumsi daya AI

  • Kendala utama dalam pengembangan AI adalah daya, dan GPU di pusat data mengonsumsi listrik dalam jumlah besar.
  • Google telah menunda target iklimnya karena kebutuhan daya AI, dan emisi gas rumah kaca meningkat.
  • Jika pemrosesan AI menjadi lebih hemat daya, teknologi AI canggih bisa diperoleh tanpa mengorbankan lingkungan.

Ringkasan GN⁺

• Artikel ini membahas algoritme baru yang dapat secara signifikan meningkatkan efisiensi daya AI. Ini dapat memainkan peran penting dalam meningkatkan keberlanjutan teknologi AI.
• Algoritme L-Mul menggantikan perkalian floating-point untuk mengurangi konsumsi daya sambil tetap mempertahankan akurasi dan presisi tinggi.
• Meskipun ada masalah kompatibilitas dengan perangkat keras saat ini, hal itu berpotensi diatasi melalui pengembangan ASIC.
• Teknologi ini dapat membantu menyelesaikan masalah konsumsi daya AI dan memberi dampak positif bagi lingkungan.

[GN⁺]

Opini Hacker News

• Algoritme L-Mul dapat sangat mengurangi biaya energi dengan mendekati perkalian floating point sebagai penjumlahan bilangan bulat

  • Ada keraguan terhadap klaim kemungkinan penghematan energi sebesar 95%
  • Karena banyak pakar telah lama meneliti bidang ini, klaim seperti ini memerlukan bukti yang luar biasa

• Metode ini menggunakan representasi floating point IEEE754 untuk menyederhanakan perkalian melalui operasi logaritmik

• Muncul pertanyaan apakah paradoks Jevons dapat berlaku dalam kasus ini

• Meski diklaim metode baru ini dapat menghemat energi, ada skeptisisme karena kurangnya hasil benchmark yang nyata

• Lemurian Labs sedang mengembangkan teknik serupa dengan menggunakan logarithmic number system (LNS)

• Riset ini dapat dianalogikan dengan klaim berlebihan seperti penemuan superkonduktor suhu ruang

• Makalah ini telah dipastikan sebagai postingan duplikat