Secret Llama - Implementasi chatbot Llama 3 di browser yang ditenagai WebGPU

• Chatbot LLM yang sepenuhnya berjalan di browser dengan privasi terjamin
• Mendukung model open source seperti Llama 3 dan Mistral
• Data percakapan sama sekali tidak pernah keluar dari komputer, sehingga privasi sepenuhnya terjaga
• Karena berjalan di browser, tidak memerlukan server atau instalasi, dan juga dapat berjalan secara offline
• Menyediakan antarmuka yang mudah digunakan setara ChatGPT, tetapi untuk LLM open source
• Model yang saat ini didukung
  • TinyLlama-1.1B-Chat-v0.4-q4f32_1-1k 600MB
  • Llama-3-8B-Instruct-q4f16_1 4.3GB
  • Phi1.5-q4f16_1-1k 1.2GB
  • Mistral-7B-Instruct-v0.2-q4f16_1 4GB

[bizring]

Apakah bisa percakapan dalam bahasa Korea?