TurboPilot - Klon Copilot yang Bisa Di-self-host
(github.com/ravenscroftj)- Menjalankan model Salesforce Codegen 6B parameter pada RAM 4GiB menggunakan llama.cpp
- Menyediakan model yang sudah dikonversi sebelumnya (2B/6B) atau dapat dikonversi sendiri oleh pengguna (pra-pelatihan untuk C/C++/Go/Java/JavaScript/Python)
- Menjalankan server TurboPilot sebagai biner atau dengan Docker
- Dapat menentukan berapa banyak CPU yang akan digunakan dari multicore
- Menggunakan plugin FauxPilot untuk VSCode
Belum ada komentar.