Whisper Jax: Implementasi API Whisper tercepat
(github.com/sanchit-gandhi)- Implementasi yang dioptimalkan untuk model pengenalan suara Whisper dari OpenAI agar berjalan lebih cepat
- Berjalan dengan JAX di TPU v4-8. Hingga 70 kali lebih cepat dibandingkan menjalankannya dengan PyTorch di GPU A100
- Dapat dijalankan di CPU/GPU/TPU, baik secara mandiri maupun sebagai endpoint inferensi
Belum ada komentar.