Kotaemon - alat open source berbasis RAG yang memungkinkan Anda berdialog dengan dokumen Anda

• UI yang ramah pengguna untuk QA berbasis RAG (gabungan retrieval-generation)
• Dirancang untuk pengguna umum yang ingin melakukan QA terhadap dokumen dan pengembang yang ingin membangun pipeline RAG mereka sendiri
• Mendukung berbagai LLM: penyedia API LLM seperti OpenAI, AzureOpenAI, Cohere, serta LLM lokal (ollama, llama-cpp-python)
• Instalasi sederhana: menyediakan skrip untuk memulai dengan cepat
• Dapat menguji pipeline RAG Anda sendiri melalui UI yang dibuat dengan Gradio (tema tersedia)

Fitur utama

• Hosting web UI QA dokumen:
  • Mendukung login multi-pengguna
  • Mengatur dokumen ke dalam koleksi pribadi/umum
  • Riwayat chat dapat dibagikan dan digunakan untuk kolaborasi
• Manajemen model LLM dan embedding:
  • Mendukung LLM lokal serta penyedia API populer seperti OpenAI, Azure, Ollama, Groq, dan lainnya
• Pipeline RAG hibrida:
  • Secara default menggabungkan retriever hibrida (teks penuh dan vektor) dengan reranking untuk memastikan kualitas pencarian terbaik
• Mendukung QA multimodal:
  • Dapat menjawab pertanyaan atas beberapa dokumen yang berisi diagram dan tabel
  • Opsi parsing dokumen multimodal dapat dipilih di UI
• Kutipan lanjutan dan pratinjau dokumen:
  • Menyediakan informasi kutipan terperinci untuk memastikan akurasi
  • Dapat melihat kutipan dan skor relevansi terkait dengan highlight di penampil PDF dalam browser
  • Menampilkan peringatan jika dokumen dengan relevansi rendah dikembalikan
• Mendukung metode penalaran kompleks:
  • Dapat menjawab pertanyaan kompleks/bertahap melalui dekomposisi pertanyaan
  • Mendukung penalaran berbasis agen menggunakan ReAct, ReWOO, dan agen lainnya
• UI pengaturan dapat dikonfigurasi:
  • Elemen utama proses pencarian dan generasi dapat disesuaikan langsung dari UI (misalnya pengaturan prompt)
• Dapat diperluas:
  • Dibangun di atas Gradio sehingga elemen UI dapat dikustomisasi secara bebas
  • Direncanakan mendukung berbagai strategi pengindeksan dan pencarian dokumen. Menyediakan pipeline pengindeksan GraphRAG sebagai contoh

[riskatcher]

Framework QA RAG itu banyak banget, tapi apa kelebihan yang ini?

[savvykang]

Dalam bidang temu balik informasi dan QA dalam penjelasan tersebut, yang dimaksud bukan quality assurance melainkan question answering.

[sftblw]

Namanya lucu ya. Kalau menebak hanya dari namanya, sepertinya itu gabungan dari jawaban (kotae) + Doraemon (mon), jadi mungkin Kotaemon.