Hodu - Framework ML Rust

Baru-baru ini, seorang kenalan dekat saya membuat framework ML bernama Hodu menggunakan Rust.
Saya juga pernah mengerjakan proyek serupa, jadi saya pikir ini akan menjadi referensi yang bagus untuk dibagikan kepada mereka yang tertarik pada framework ML.

Fitur utama

• Dukungan no_std: struktur ringan yang dapat berjalan bahkan di mikrokontroler
• Kompilasi grafik statis: grafik yang sudah dikompilasi sekali dapat disimpan di perangkat embedded untuk inferensi dengan mudah
• Mode eksekusi ganda:
  • Prototyping: eksperimen berbasis grafik dinamis
  • Deploy produksi: eksekusi stabil berbasis grafik statis
• Backend berperforma tinggi
  • Backend XLA: performa terbaik melalui optimasi grafik dan kompilasi JIT
  • Backend native HODU: implementasi Rust murni yang berjalan tanpa batasan platform
• API intuitif: gaya PyTorch/TensorFlow
• Jaminan keamanan memori: sistem ownership Rust sepenuhnya mencegah kebocoran memori dan data race
• Dukungan multi-perangkat: CPU, CUDA(NVIDIA GPU), Metal(Apple GPU)

Kabarnya, Hodu sampai ke tahap sekarang bermula dari maidnx, sebuah proyek yang dimulai kenalan tersebut untuk belajar ML dengan Rust.

Fitur XLA saat build membutuhkan LLVM/Clang + RAM 8GB+ + disk 20GB+, dan waktu build-nya juga cukup lama.
Dukungan GPU CUDA masih belum sepenuhnya diimplementasikan, dan optimasi SIMD juga direncanakan.
Saat ini penggunaan di lingkungan produksi belum direkomendasikan, dan karena masih dikembangkan secara aktif, ada fitur-fitur yang bersifat eksperimental atau belum lengkap.