- Fungsi LLM adalah templat prompt dengan beberapa variabel input yang telah ditentukan dan tipe output tertentu seperti kelas, enum, union, serta string opsional
- BAML membantu menulis fungsi LLM ini dengan lebih baik/lebih rapi
- Menulis templat prompt yang berantakan sebagai fungsi bertipe yang mudah dijalankan dan diuji (tanpa regex, loop try-catch, atau error tipe)
- Mendukung Python dan TypeScript
- Mendukung berbagai model: Ollama, OpenAI, Anthropic
- Pratinjau prompt real-time: dapat melihat seluruh prompt bahkan saat ada loop/kondisional
- Bisa diuji di playground dengan satu klik
- Resilience & Fallback: menambahkan fitur retry dan redundansi pada pemanggilan LLM
- Type Validation membuatnya lebih tangguh terhadap kesalahan umum LLM dibanding Pydantic/Zod
- Observability Platform: mendukung visualisasi fungsi dan replay request dengan Boundary Studio
Belum ada komentar.