Gunakan beberapa backend LLM dalam satu crate, konfigurasi sederhana berbasis builder, dan prompt bawaan
(github.com/graniet)RLLM adalah library Rust yang memungkinkan Anda menggunakan beberapa backend LLM dalam satu proyek: OpenAI, Anthropic (Claude), Ollama, DeepSeek, xAI, Phind, dan Google. Dengan API terpadu dan gaya builder — mirip pengalaman Stripe — Anda dapat dengan mudah membuat permintaan chat atau text completion tanpa melipatgandakan struktur dan crate.
Belum ada komentar.