Maek, Workspace AI Memory Local-first yang Dibuat oleh Tim Kontributor Lucene Search Core

Halo. Kami adalah cognica, tim yang mengembangkan search dan AI Memory Infrastructure.

Sebagai perkenalan singkat, pekerjaan probabilistic hybrid search berbasis BB25 (Bayesian BM25) yang diajukan oleh cognica baru-baru ini resmi dimasukkan ke dalam core Apache Lucene 10.5.0 (BayesianScoreQuery, LogOddsFusionQuery).

Kami sedang memindahkan teknologi search dan memory infrastructure ini ke dalam produk yang dapat dirasakan langsung oleh pengguna, dan ingin memperkenalkan Maek, aplikasi AI untuk macOS sebagai hasil pertama kami, sekaligus menerima feedback.

Unduhan dan situs web: https://maek.cognica.io/?utm_source=geeknews&utm_medium=community&…

1. Masalah yang ingin diselesaikan: "Apakah cukup hanya memperbesar context window?"

Saat menggunakan AI chat, ada kerepotan karena harus menjelaskan konteks yang sama berulang kali di setiap percakapan, seperti latar belakang proyek, keputusan-keputusan sebelumnya, dan dokumen yang sering dirujuk.

Untuk mengatasi hal ini, pendekatan sederhana berupa "memasukkan seluruh teks percakapan sebelumnya ke dalam prompt" memiliki batasan yang jelas.

• Pemborosan Context Window dan peningkatan biaya

• Meningkatnya Hate/Noise karena tercampurnya konten lama yang tidak relevan

• Hilangnya konteks masa lalu yang justru penting

Maek berfokus pada pertanyaan: setiap kali ada pertanyaan masuk, "bagaimana cara menyusun kembali (Reconstruct) memori yang dibutuhkan untuk pertanyaan saat ini dalam bentuk yang paling optimal?"

2. Arsitektur inti: Data yang dipisahkan dan Retrieval berbasis Evidence

Maek menyimpan percakapan dan dokumen di penyimpanan lokal, lalu setiap kali ada pertanyaan baru, Maek merekonstruksi konteks dengan menggabungkan sinyal-sinyal berikut.

• Messages : Riwayat chat umum sekaligus target pencarian keyword/vector.

• Document Chunks : Bukan prompt sekali pakai yang membaca file sekali lalu membuangnya, melainkan disimpan secara lokal dalam chunk kecil, lalu dicari dan dikutip (Citation) sebagai dasar jawaban kapan pun dibutuhkan.

• Graph : Mengekstrak orang, organisasi, peristiwa, keputusan, janji, dan lainnya dari percakapan, lalu merapikannya dalam bentuk relasi (Connection). Bahkan jika pengguna tidak mengingat keyword yang tepat, konteks yang terhubung dapat ditemukan.

• Conversation State : Semacam papan situasi yang merangkum situasi saat ini, thread terbuka, profil tokoh, dan sebagainya. (Namun, jika bertentangan dengan pesan terbaru pengguna, pesan pengguna diprioritaskan; perannya adalah sebagai 'Memory Hint'.)

• Kombinasi hybrid berbasis Evidence: BM25, Vector Similarity, Graph, dan Recency memiliki skala yang berbeda, sehingga jika skor sekadar dijumlahkan, salah satu sinyal akan mendominasi secara berlebihan. Berdasarkan know-how yang kami kumpulkan saat mengontribusikan BB25 ke core Lucene, kami memandang sinyal-sinyal ini sebagai 'bukti (Evidence)' yang diperlukan untuk pertanyaan kali ini, lalu menggabungkannya secara cermat.

3. Fitur utama: Inspectability dan Local-First

• Memvisualisasikan dasar jawaban: Melampaui klaim AI bahwa ia "mengingat lalu menjawab", pengguna dapat memeriksa sendiri pesan mana, document chunk mana, Graph Hit mana, dan informasi State mana yang disertakan dalam konteks saat jawaban tersebut dibuat (informasi Reconstruction). Ini karena agar AI dapat dipercaya dan dikoreksi, debugging seperti "mengapa ini diingat" dan "mengapa ini tidak ditemukan" harus dimungkinkan.

• Perbedaan dengan ChatGPT Memory: Jika ChatGPT Memory adalah fitur memori personalisasi yang bergantung pada layanan, Maek adalah tool independen yang menumpuk aset pengguna (percakapan, dokumen, graph, state) di workspace lokal (Workspace) dan merekonstruksi konteks di setiap turn.

• Transparansi alur data: Saat menggunakan model lokal, semuanya tetap sepenuhnya offline hingga inference. Namun jika menghubungkan model cloud seperti OpenAI/Claude, input saat ini dan konteks lokal yang ditemukan akan dikirim ke API tersebut. Alur data ini dibedakan dengan jelas di UI dan dokumentasi agar Anda dapat menggunakannya dengan tenang.

Saat ini Maek masih versi awal, dan kami melakukan pengujian terutama di lingkungan Apple Silicon Mac. Masukan dari sudut pandang berikut akan sangat membantu.

• Pemahaman konsep: Apakah Maek tersampaikan bukan sebagai UI chat sederhana, melainkan sebagai pendekatan 'AI Memory Workspace'

• Kelayakan pendekatan: Apakah cara merekonstruksi konteks secara dinamis di setiap turn terasa masuk akal secara teknis

• Diferensiasi dari ChatGPT Memory: Apakah perbedaannya terasa jelas dibanding fitur memori dari layanan yang sudah ada

• Transparansi: Apakah penjelasan terkait alur data dan keamanan saat menggunakan model lokal-cloud sudah jelas

• UX/kesan pertama: Apakah pengalaman instalasi dan peluncuran pertama sebagai aplikasi macOS terasa natural

Link: https://maek.cognica.io/?utm_source=geeknews&utm_medium=community&…

Kami menantikan feedback yang tajam. Terima kasih.