Show HN: Khoj - Mengobrol secara offline dengan otak kedua menggunakan Llama 2

• Khoj: asisten pribadi AI untuk mencari dan mengobrol dengan catatan, dokumen, dan gambar.
• Aplikasi yang mengutamakan penggunaan offline tanpa koneksi internet.
• Khoj: alat open source yang dapat diakses dari Emacs, Obsidian, atau browser web.
• Mendukung berbagai jenis file: jpeg, markdown, notion, org-mode, file pdf, dan repositori github.
• Temukan dokumen yang relevan dan dapatkan jawaban menggunakan bahasa alami dengan Khoj.
• Dapat dikonfigurasi untuk penggunaan offline, alat praktis tanpa internet.

[GN⁺]

Komentar Hacker News

• Landing page situs web tidak menyebutkan kasus penggunaan Llama secara offline, dan hanya menyebutkan penggunaan online melalui OpenAI.
• Ukuran model dan fine-tuning Llama 2 sangat banyak menggunakan RAM pada perangkat konsumen.
• Umpan balik untuk landing page: gunakan container dengan tinggi tetap untuk prompt contoh agar terhindar dari masalah scroll.
• Llama 2 menimbulkan masalah performa pada Macbook Air M2 kecil.
• Proyek ini memiliki potensi untuk merangkum riwayat web dan berkembang menjadi AI pribadi.
• Akan bagus jika Llama bisa mengindeks PDF dan melakukan OCR untuk pengindeksan dokumen.
• Ada cara yang didukung untuk mengganti model yang digunakan untuk inferensi lokal di Llama.
• Llama 2 memiliki kasus penggunaan yang cukup berguna sehingga tidak kalah layak secara ekonomis dibanding ChatGPT.
• Pesan Khoj telah membaik dibanding sebelumnya di Hacker News.
• Bagi orang yang menggunakan Obsidian dan bereksperimen dengan AI chat, Llama berguna.
• Fitur pencarian bertahap dan detail implementasinya diminta.
• Antarmuka data connector yang mudah diperluas untuk terhubung ke sumber data kustom akan bermanfaat.