Token Cost - Menghitung biaya per token untuk 400+ LLM
(github.com/AgentOps-AI)- Menghitung biaya penggunaan API LLM utama dengan memperkirakan biaya prompt dan jawaban yang dihasilkan
- Melacak model dan harga terbaru dari masing-masing penyedia LLM
- Mengukur jumlah token sebelum prompt dikirim dan jumlah token pada jawaban yang dihasilkan, lalu menghitung total biaya berdasarkan biaya per token tiap LLM
- Dapat digunakan dengan menempelkannya ke sistem integrasi LLM Anda hanya dengan 1 fungsi
Belum ada komentar.