Portkey AI Gateway - Gunakan 100+ LLM dengan 1 API

• Sebagai antarmuka antara aplikasi dan LLM, memungkinkan pemanggilan semua LLM melalui API terpadu
  • OpenAI, Anthropic, Mistral, LLama2, Anyscale, Google Gemini, dan lainnya
• Sangat cepat (9.9x) dan memiliki footprint kecil (~45kb)
• Mendukung load balancing di antara berbagai model/penyedia/kunci
• Membantu aplikasi tetap berjalan stabil melalui fallback dan retry otomatis

[ragingwind]

Kalau berjalan dengan baik, ini sepertinya akan berguna.

[vrv18]

Saya adalah salah satu maintainer-nya — menantikan masukan dari komunitas!