LLaMA-rs - LLaMA yang diimplementasikan dengan Rust

• Proyek yang mem-porting llama.cpp ke Rust
• Mendukung model versi f16 atau 4-bit quantized
• Sama seperti versi asli, tetap menggunakan library tensor ggml sehingga performanya setara dengan versi original

[xguru]

Implementasi Rust untuk LLaMA juga ada, yaitu RLLaMA - Rust+OpenCL+AVX2.

llama.cpp - Inferensi model LLaMA Facebook dengan C/C++ murni