Dalai - Cara termudah menjalankan LLaMA di komputer Anda
(cocktailpeanut.github.io)- Model LLaMA 7B dapat dijalankan secara lokal hanya dengan 2 kalimat
npx dalai llama
npx dalai serve - llama.cpp + llama-dl CDN
- Aplikasi web bawaan yang bisa diutak-atik (termasuk JavaScript API dan Socket.io API)
- Akses melalui localhost:3000
2 komentar
Begitu satu muncul, yang lain ikut bermunculan beruntun seperti sulur ubi.
Dalai Lama ya.. selera penamaannya..
llama.cpp - Menjalankan inferensi model LLaMA milik Facebook dalam C/C++ murni