- Alat UI grafis yang dirancang agar LLM dapat dijalankan dengan mudah di perangkat keras pribadi
- Mengotomatiskan proses rumit seperti pengelolaan backend, pengunduhan model, dan pengaturan akselerasi perangkat keras
- Berjalan berdasarkan KoboldCpp, fork dari llama.cpp, serta mendukung pembuatan teks dan gambar
- Mendukung eksekusi native di Windows, macOS, dan Linux (terutama termasuk Wayland)
- Dapat berjalan di sistem khusus CPU, serta mendukung akselerasi GPU berbasis CUDA, ROCm, Vulkan, CLBlast, Metal
- Fitur pembuatan gambar bawaan: menyediakan preset alur kerja utama seperti Flux, Chroma, Qwen Image, Z-Image
- Dengan fitur pencarian terintegrasi HuggingFace, pengguna dapat menjelajahi model, memeriksa kartu model, dan mengunduh file GGUF secara langsung di dalam aplikasi
- Dapat dijalankan lewat terminal dengan opsi
--cli, menggunakan backend yang sama tanpa GUI, serta meminimalkan penggunaan sumber daya
- Lisensi AGPL-3.0
1 komentar
Apa keunggulannya dibandingkan ollama?