- Alat CLI lintas platform untuk memperkirakan jumlah token dan biaya API dengan cepat dan presisi untuk berbagai penyedia/model LLM seperti OpenAI, Claude, Gemini, dan OpenRouter
- Mendukung perhitungan token per model dan secara otomatis menghitung biaya panggilan API berdasarkan harga token masing-masing model
- Menyediakan fitur yang sesuai untuk workflow nyata, seperti bukan hanya prompt tunggal tetapi juga format chat JSON, breakdown token per peran (system/user/assistant), perbandingan token dan biaya antar beberapa model, Markdown minify, mode diff, dan mode watch
- Saat fitur
load-test diaktifkan, alat ini berfungsi sebagai runner load test yang mengukur konkurensi, latensi, tingkat error, token, dan biaya sekaligus untuk OpenAI, Anthropic, OpenRouter, dan endpoint kustom
- Dengan mode dry-run, biaya dapat diprediksi tanpa melakukan panggilan nyata
- Mendukung beragam format input/output
- Input: dapat memproses teks biasa maupun format chat JSON, serta menyediakan input file, standar input, dan fitur perbandingan prompt (diff)
- Output: mendukung berbagai format keluaran seperti text/json/csv/Prometheus/markdown
- Melalui file harga kustom (TOML), alat ini dapat menjaga akurasi estimasi biaya sambil menyesuaikan perubahan harga tiap model
- Dengan struktur modular untuk tokenizer, definisi model, parser, output, HTTP/provider, dan simulator, alat ini dirancang cocok untuk menambahkan model baru, provider baru, atau integrasi ke pipeline CI/otomatisasi
Belum ada komentar.