Tanuki - Mengembangkan aplikasi berbasis LLM dengan mudah
(github.com/Tanuki)- Di Python, Anda dapat dengan mudah memanggil LLM alih-alih fungsi, sambil tetap menyediakan parameter dan output yang sama seperti yang diharapkan dari fungsi yang diimplementasikan secara manual
- Fungsi berbasis LLM bersifat well-typed, andal, dan stateless, sehingga bisa langsung ditambahkan ke aplikasi produksi
- Semakin sering fungsi digunakan, semakin murah biayanya melalui distilasi model otomatis (distillation), hingga 9~10 kali lebih hemat
- Mendukung RAG dan output align
Belum ada komentar.