- Library tensor berperforma tinggi dan framework deep learning berbasis Rust untuk komputasi numerik, inferensi model, dan pelatihan
- Menjaga performa optimasi setingkat framework grafik statis sekaligus menghadirkan fleksibilitas dinamis
- Dukungan multi-backend GPU/CPU
- GPU: CUDA, ROCm, Metal, Vulkan, WebGPU, LibTorch, Candle, dll.
- CPU: berbasis CubeCL, NdArray, Candle, LibTorch
- Dapat berjalan juga di lingkungan Wasm dan no_std
- Dirancang dengan fokus pada Backend trait, sehingga memiliki arsitektur backend yang dapat dipertukarkan di beragam perangkat keras dan lingkungan runtime
- Dekorator backend Autodiff: menambahkan fitur diferensiasi otomatis ke semua backend
- Dekorator backend Fusion: fitur fusi kernel
- Backend Router: mendukung distribusi komputasi antar berbagai perangkat keras seperti CPU dan GPU
- Backend Remote: memungkinkan komputasi terdistribusi dan eksekusi jarak jauh melalui jaringan
- Dukungan terintegrasi untuk seluruh proses pelatihan dan inferensi
- Pemantauan pelatihan secara real-time dengan dashboard terminal berbasis Ratatui
- Dapat dideploy dengan kode yang sama mulai dari perangkat embedded hingga klaster GPU berskala besar
- Mendukung pemanfaatan ulang model yang sudah ada melalui impor model PyTorch, Safetensors, dan ONNX
- Inferensi di browser berbasis WebAssembly dan WebGPU
- Mendukung lingkungan no_std sehingga dapat berjalan bahkan pada perangkat embedded tanpa sistem operasi
- Didistribusikan dengan lisensi ganda MIT/Apache 2.0
Belum ada komentar.