Jan - Framework lintas platform untuk alternatif ChatGPT open source

 (github.com/janhq)
18 poin oleh xguru 2024-01-13 | 1 komentar | Bagikan ke WhatsApp
  • 100% lokal, berjalan di semua perangkat keras: dari GPU NVidia, Apple Silicon hingga klaster multi-GPU
  • Tujuan akhirnya adalah mendukung siapa pun agar dapat dengan mudah membenamkan AI
    • Jan Framework, Jan Desktop Client + Server, Nitro
  • Nitro: mesin inferensi berperforma tinggi yang ditulis dalam C++ (3MB)
    • Llama.cpp + TensorRT + Whisper.cpp + StableDiffusion

Bacaan terkait

1 komentar

 
riskatcher 2024-01-14

Saya penasaran bagaimana performanya untuk bahasa Korea.