- API open source untuk semua framework
- Model dikemas menjadi satu file Zip bersama metadata, lalu file tersebut dimuat
- Kode inferensi dapat berjalan tanpa bergantung pada framework. Saat memanggil API Carton, Carton akan memanggil bagian internal framework
- Diimplementasikan dalam Rust dan menyediakan binding untuk tiap bahasa
- Mendukung x86_64 Linux dan macOS, aarch64 Linux dan macOS, serta WebAssembly
- Berbeda dengan ONNX yang mengonversi model, Carton tidak melakukan konversi dan hanya membungkusnya
Belum ada komentar.