3 poin oleh GN⁺ 2023-12-13 | 2 komentar | Bagikan ke WhatsApp
  • Proyek pengembangan eksperimental untuk mengubah lingkungan desktop lokal menjadi agen AI on-device
  • Memperkuat model on-device dengan file lokal yang disimpan di browser untuk memberikan pengalaman yang lebih personal dan disesuaikan
  • Saat ini, MemoryCache adalah kumpulan skrip dan alat sederhana untuk memperkaya salinan lokal privateGPT
    • Ekstensi Firefox: berperan sebagai 'printer' sederhana yang menyimpan halaman ke subdirektori di folder /Downloads/, serta menyertakan kemampuan untuk dengan cepat menyimpan catatan dan informasi dari browser ke komputer lokal
    • Skrip shell: mendeteksi perubahan pada direktori /Downloads/MemoryCache/ dan menjalankan skrip ingest.py milik privateGPT
    • Kode API Firefox SaveAsPDF yang dimodifikasi agar halaman web dapat disimpan otomatis sebagai PDF supaya lebih mudah dibaca manusia

2 komentar

 
ndrgrd 2023-12-14

Semuanya bagus, tapi saya harap jangan terus-terusan mencoba mengubah browser menjadi semacam toko loak serba ada.
Pasti ada pelajaran yang didapat dari internet suite di masa lalu.

Browser ya browser. AI ya AI. Kalau perlu, jalankan saja secara terpisah.

 
GN⁺ 2023-12-13
Opini Hacker News
  • Pernah dibahas di Reddit. Alih-alih mengirim data ke model, model harus datang ke lokal tempat data kita disimpan dan tetap berada di lokal. Banyak perangkat lunak open source memuat data pribadi, tetapi tidak bisa memproses gambar atau video. Di masa depan, semua orang mungkin akan punya model masing-masing, tetapi saat ini meskipun teknologinya sudah ada, masih kurang produk/perangkat lunak open source yang memungkinkan semua orang punya QLORA, RAG, atau peringkas sendiri. Keunikan pribadi bukan hanya berasal dari pesan/dokumen, tetapi juga dari apa yang kita baca, tulis, dan pikirkan. Riwayat penjelajahan kita banyak menceritakan tentang apa yang kita baca, tetapi hampir tidak ada yang memanfaatkannya selain Google untuk iklan. Hampir semua orang punya kebiasaan membaca situs berita tertentu, jejaring sosial, video YouTube, dan sebagainya. Buatkan ringkasan hari ini dari tiga sumber itu.*

    • Pendapat bahwa bukan data yang harus dikirim ke model, melainkan model yang harus mengakses data lokal pengguna.
    • Saat ini ada banyak perangkat lunak open source, tetapi dukungan untuk pemrosesan gambar dan video masih kurang.
    • Keunikan pribadi juga tercermin dalam apa yang dibaca, ditulis, dan dipikirkan, dan masih sedikit contoh pemanfaatan riwayat penjelajahan.
  • Mozilla banyak dikritik karena Firefox dan khotbah politiknya, tetapi saya yakin mereka masih punya kemampuan dalam mengembangkan teknologi yang ramah pengguna dan menjaga privasi. Saya sering memakai penerjemah offline bawaan FF, dan fakta bahwa itu bisa berjalan secara lokal tanpa server farm terasa seperti sihir. Semoga eksperimen ini berhasil.*

    • Pendapat positif bahwa Mozilla masih mampu mengembangkan teknologi yang ramah pengguna dan menjaga privasi.
    • Kekaguman terhadap kemampuan penerjemah offline bawaan Firefox yang berjalan secara lokal.
  • Untuk penggunaan penjelajahan, ini tidak cocok untuk saya. Saya tidak ingin "berbicara" dengan riwayat penjelajahan saya. Saya ingin browser mengindeks isi sebenarnya dari bookmark agar bisa dicari oleh OS. Saya berasumsi loop umpan balik yang didapat dari chatGPT akan selalu lebih baik daripada padanan GPT lokal. Namun, ada baiknya menandai halaman yang berisi informasi penting dan kembali lagi beberapa kali. Untuk itu saya mulai membuat solusi. Saya merayapi bookmark di penyimpanan browser lokal, mengunduh halaman terkait, lalu menambahkannya ke indeks pencarian OS. Ini sudah menjadi perhatian saya selama beberapa tahun.*

    • Pendapat pengguna yang menginginkan browser mengindeks isi bookmark di OS.
    • Sedang mengembangkan solusi agar halaman berisi informasi penting bisa ditandai dan dicari dengan mudah.
  • Saya benar-benar ingin cara untuk bisa "berbicara" dengan riwayat penjelajahan dan isi halaman. Apakah ada cara untuk menyimpan otomatis halaman yang dikunjungi agar bisa diproses nanti? Saya pernah mencarinya lebih dari 10 tahun lalu, tetapi tidak menemukan solusi yang bagus.*

    • Ketertarikan pada cara untuk memproses riwayat penjelajahan dan isi halaman di lain waktu.
  • Mungkin ada sesuatu di sini. Kurangi bolak-balik ke perusahaan raksasa dan memperkaya mereka lewat setiap prompt, lalu gunakan model lokal kecil yang jauh lebih menghormati privasi. Saya bersedia berkontribusi open source atau bahkan mendanai model operasi seperti ini. Meski saya bukan penggemar besar organisasi Mozilla, saya suka mendukung pihak yang tidak diunggulkan.*

    • Dukungan untuk penggunaan model lokal kecil yang menghormati privasi.
    • Bersedia berkontribusi atau mendanai model operasi tersebut.
  • Bookmark yang ada gagal karena cara pengorganisasiannya bergantung pada ingatan dan tidak skalabel. Antarmuka seperti ini skalabel dan, jika dilakukan dengan benar, bisa menggantikannya secara menyeluruh. Kalau dipikir-pikir, ini juga bisa dipakai untuk semua file lokal, dan bisa berfungsi sebagai versi yang lebih baik dari konsep sistem file-database. Atau juga untuk basis pengetahuan tertentu (misalnya Zotero berbasis LLM).*

    • Pendapat tentang masalah skalabilitas bookmark dan potensi antarmuka baru sebagai pengganti.
    • Antarmuka ini juga bisa diterapkan pada file lokal atau basis pengetahuan tertentu.
  • Tautan repositori PrivateGPT untuk yang tertarik: https://github.com/imartinez/privateGPT. Sepertinya tidak ditautkan dari situs resminya.*

    • Berbagi informasi tentang repositori PrivateGPT.
  • Sebagai mantan intern yang mengalami era Firefox OS, ini memberi saya kesan kemungkinan Mozilla masuk kembali ke OS yang mereka tawarkan di masa depan. Internet lahir untuk menghubungkan orang, tetapi mengintegrasikan semua fitur keren ke dalam browser bukanlah cara terbaik. Firefox OS pada dasarnya adalah kernel Linux kecil dengan Gecko dan rendering HTML5. Seperti iOS dan iPadOS, Mozilla bisa menawarkan OS serupa untuk perangkat/platform. Karena mereka telah berinvestasi di AR dan VR selama 5 tahun terakhir, saya tidak akan terkejut jika pada akhirnya mereka bertaruh pada Firefox OS versi lain.*

    • Spekulasi tentang kemungkinan Mozilla kembali menawarkan OS sendiri di masa depan.
  • Apakah Anda bermaksud menautkan ke repositori fork? Tautan https://memorycache.ai/developer-blog/2023/11/30/we-have-a-website.html mengarah ke https://github.com/misslivirose/Memory-Cache, tetapi apakah yang dimaksud adalah https://github.com/Mozilla-Ocho/Memory-Cache?*

    • Pertanyaan tentang tautan repositori GitHub tertentu.
  • Saya sudah lama melakukan ini. Solusi FF hanya lebih otomatis.

    • Berbagi pengalaman pribadi tentang solusi Firefox.