Reor - aplikasi catatan AI yang menjalankan model secara lokal

• Aplikasi catatan desktop berbasis AI. Secara otomatis menghubungkan ide-ide yang terkait, menjawab pertanyaan tentang catatan, dan menyediakan pencarian semantik
• Semua data disimpan secara lokal, dan catatan dapat diedit dengan editor Markdown yang mirip Obsidian
• Hipotesis proyek ini adalah bahwa alat berpikir AI pada dasarnya harus menjalankan model secara lokal
• Reor berbasis Llama.cpp dan Transformers.js, sehingga memungkinkan menjalankan LLM dan model embedding secara lokal
• Juga mendukung koneksi ke API yang kompatibel dengan OpenAI (misalnya Oobabooga)

Bagaimana cara "self-organizing"?

• Semua catatan yang ditulis akan dipecah menjadi chunk dan di-embedding ke basis data vektor internal
• Catatan yang terkait akan terhubung secara otomatis melalui kemiripan vektor
• Q&A berbasis LLM melakukan RAG terhadap korpus catatan
• Semuanya dapat dicari secara semantik

Memulai

• Dapat diunduh dari reorproject.org atau releases, dan mendukung Mac, Linux, serta Windows
• Instal seperti aplikasi biasa

Menjalankan model lokal

• Reor berinteraksi langsung dengan library Llama.cpp, jadi tidak perlu mengunduh Ollama
• Saat ini model belum diunduh secara otomatis, sehingga pengguna harus mengunduh model secara manual sendiri
• Model paling populer dapat diunduh dari HuggingFace, dan disarankan memulai dengan model 7B 4-bit
• Model dapat dihubungkan di pengaturan Reor pada bagian "Tambahkan model lokal baru"
• Juga dapat terhubung ke API yang kompatibel dengan OpenAI seperti Oobabooga, Ollama, atau OpenAI

Mengimpor catatan dari aplikasi lain

• Reor bekerja pada satu direktori tunggal di dalam file system
• Saat pertama kali dijalankan, Anda harus memilih direktori, dan untuk mengimpor catatan/file dari aplikasi lain, direktori tersebut harus diisi secara manual dengan file Markdown yang sesuai
• Integrasi dengan aplikasi lain akan segera hadir

Opini GN⁺

• Reor adalah aplikasi catatan berbasis AI yang berjalan secara lokal, sebuah alat inovatif yang dapat membantu memperluas dan menata pemikiran pengguna
• Fitur yang secara otomatis menghubungkan catatan pengguna dan menjawab pertanyaan tampaknya akan sangat membantu untuk manajemen informasi dan pembelajaran
• Karena memiliki potensi untuk terus berkembang melalui kontribusi komunitas open source, ini bisa menjadi proyek yang menarik bagi developer dan peneliti

[GN⁺]

Opini Hacker News

• Pengingat yang bagus tentang kegunaan catatan Obsidian yang disimpan sebagai file Markdown individual:
  • Dibanding menyimpan catatan di database dan memakai Markdown hanya sebagai format ekspor, kemampuan memanipulasi file secara langsung memungkinkan berbagai aplikasi melakukan pekerjaan yang berguna di atas file yang sama.
• Ungkapan apresiasi bahwa AI seharusnya sebisa mungkin bersifat pribadi dan berjalan secara lokal:
  • Menyampaikan terima kasih atas sudut pandang ini dan upaya berkelanjutannya.
• Berbagi pengalaman pribadi dengan alat manajemen pengetahuan:
  • Dengan menggunakan model Hermes, fitur "catatan terkait" sering memberikan koneksi yang tidak bermakna sehingga nilainya kecil.
  • Mode Q&A berguna untuk mengkueri catatan dan memberikan gambaran umum, tetapi tidak membantu untuk pertanyaan spesifik atau memberikan jawaban yang salah.
• Dukungan kuat terhadap pengembangan alat manajemen pengetahuan yang mengutamakan privasi dan interoperabilitas:
  • Pengguna harus bisa dengan mudah mengekspor dan memindahkan catatan ke layanan baru sesuai kebutuhan.
  • Lebih menyukai solusi yang sepenuhnya lokal dengan kemampuan seperti Obsidian, di mana pengguna dapat membawa model mereka sendiri atau menggabungkan plugin.
• Berbagi informasi tentang Smart Connections v2 untuk Obsidian:
  • Mendukung embedding lokal dan menampilkan catatan terkait berdasarkan kemiripan semantik.
  • Di repositori multibahasa masih belum sempurna, tetapi terus membaik dan mungkin segera mendukung model multibahasa.
• Saran untuk Reor:
  • Membuat beberapa "vault" yang independen.
  • Menambahkan tautan ke catatan terkait untuk merepresentasikan koneksi AI sebagai graf.
  • Meminimalkan UI menjadi jendela chat.
  • Membaca format lain, terutama PDF.
  • Integrasi dengan riwayat/bookmark browser (menyediakan skrip impor manual ke Markdown).
• Pandangan skeptis tentang masa depan manajemen pengetahuan dengan AI:
  • Terlalu bergantung pada AI untuk melakukan semua pekerjaan pengorganisasian berpotensi menurunkan kemampuan berpikir.
  • Belum ada data karena penyebaran alat seperti ini masih tahap awal, tetapi membuat pembelajaran, berpikir, dan "manajemen pengetahuan" menjadi lebih pasif tidak meningkatkan hasil.
• Ungkapan ketertarikan pada Obsidian dan koneksi berbasis graf:
  • Menyadari kemiripan antara struktur catatan Obsidian dan konsep "otak kedua" untuk manajemen pengetahuan pribadi.
  • Implementasi pencarian catatan untuk referensi yang cerdas tampak seperti langkah alami berikutnya.
• Ketertarikan pada proyek ini dan fokusnya:
  • Bertanya-tanya apakah ada investigasi terhadap Cozodb atau database lain yang menggabungkan vektor dengan graf/triple.
  • Mungkin pendekatan neuro-symbolic adalah cara terbaik.
• Berbagi pengalaman pribadi tentang proyek serupa untuk Obsidian:
  • Senang melihat sesuatu yang sudah lebih maju.
  • Sedang mengerjakan proyek penulisan besar menggunakan Obsidian, dan tujuan akhirnya adalah bisa berdialog dengan apa yang telah ditulis, mematangkan ide, serta bereksperimen dengan cara baru menjelajahi konten.
  • Belum yakin apakah LLM lokal sudah cukup kuat untuk memberikan hasil yang bermakna/dapat diandalkan, tetapi sangat antusias dengan masa depan teknologi ini.
• Berbagi pengalaman dalam mencari cara yang lebih baik untuk membuat catatan:
  • Sedang mengunduh dan menguji alat baru, dan tampak sangat menjanjikan.
  • Penting untuk bisa memisahkan catatan dengan konteks yang benar-benar berbeda.
  • Harus menghindari LLM membawa hal-hal yang terdengar mirip tetapi konteksnya berbeda.
  • Mengira "direktori baru" melakukan itu, tetapi tampaknya tidak.
  • Membutuhkan informasi apakah ada rencana menerapkan pengalih database, dan bagaimana cara mengubah lokasi saat ini.
  • Senang melihat bahwa hal itu sudah ada di PR.