RecurseChat - Aplikasi percakapan AI lokal untuk penggunaan sehari-hari

 (recurse.chat)
11 poin oleh GN⁺ 2024-02-29 | 1 komentar | Bagikan ke WhatsApp
  • Mengutamakan lokal, bisa offline: Dapat mengobrol dengan AI secara offline tanpa pengaturan yang rumit.
  • Pencarian spesialis: Menyediakan fitur pencarian cepat untuk ribuan pesan.
  • Impor riwayat ChatGPT: Dapat melanjutkan percakapan dengan AI lokal.
  • Percakapan multi-model: Dapat berbicara dengan beberapa model dalam satu sesi chat.
  • Input multimodal: Dapat mengobrol dengan gambar menggunakan model LLaVA.
  • Keamanan dan privasi: Dilindungi oleh sandbox aplikasi macOS, sehingga percakapan dapat dilakukan secara privat.
  • Tampilan dan karakter AI yang dapat dikustomisasi: Dapat menyesuaikan kepribadian dan tampilan AI dengan menggunakan model GGUF milik sendiri.

Fitur sederhana namun kuat

  • Mengobrol dengan AI secara offline: Dapat berbicara dengan LLM lokal tanpa memerlukan pengetahuan teknis.
  • Chat multimodal dengan gambar: Mendukung berbagai bentuk percakapan, termasuk gambar.
  • Impor dan lanjutkan riwayat ChatGPT: Dapat meneruskan percakapan sebelumnya dengan AI lokal.
  • Pencarian spesialis yang cepat: Dapat dengan mudah menemukan isi percakapan yang diinginkan melalui pencarian teks.
  • Kustomisasi inti: Dapat dengan bebas mengubah kepribadian dan tampilan AI.

Opini GN⁺

  • RecurseChat adalah aplikasi yang menekankan privasi pengguna dan memungkinkan percakapan dengan AI bahkan saat offline. Ini bisa sangat berguna bagi pengguna dengan koneksi internet yang tidak stabil atau yang sangat peduli pada privasi.
  • Keamanan melalui sandbox aplikasi macOS dapat memberi kepercayaan tambahan kepada pengguna, tetapi belum pasti apakah fitur ini akan tersedia pada tingkat yang sama di sistem operasi lain.
  • Fitur percakapan multimodal dengan gambar dapat memberikan pengalaman percakapan yang lebih kaya, tetapi mungkin ada tantangan teknis terkait akurasi pengenalan gambar.
  • Fakta bahwa pengguna dapat menyesuaikan kepribadian dan tampilan AI menggunakan model GGUF mereka sendiri bisa menjadi keunggulan besar dalam menghadirkan pengalaman yang dipersonalisasi. Namun, untuk memanfaatkan fitur lanjutan ini dengan tepat, pengguna mungkin memerlukan tingkat pemahaman teknis tertentu.
  • Penting untuk mempertimbangkan tingkat kemampuan teknis pengguna dan kebutuhan mereka terhadap privasi, serta memastikan kompatibilitas dan aksesibilitas di berbagai lingkungan pengguna.

Bacaan terkait

1 komentar

 
GN⁺ 2024-02-29

Komentar Hacker News

  • Ini dimungkinkan berkat pekerjaan luar biasa @ggerganov pada llama.cpp. Jika ada fitur yang Anda inginkan dari aplikasi AI lokal yang ideal, saya ingin mendengarnya.

  • Full Text Search. Pencarian super cepat di ribuan pesan.

    • Pemrosesan bahasa alami akhirnya berkembang sepenuhnya dan menemukan ulang Ctrl+F.
    • Tentang fitur pencarian cepat di ribuan pesan, ada pendapat bahwa ini adalah fungsi pencarian era 90-an yang ditafsirkan ulang secara modern.
      • Penjelasan tentang fitur pencarian teks lengkap, yaitu penilaian bahwa teknologi pemrosesan bahasa alami telah berkembang sehingga secara inovatif meningkatkan fungsi pencarian teks yang sudah ada.

  • Saya bersedia membayar jika ada fitur yang bisa menemukan jawaban dari dokumen lokal, bookmark, riwayat browser, dan sebagainya.

  • Bagus sekali! Beberapa hal:

    • Alasan UI ChatGPT berguna adalah karena Anda bisa mengubah bagian mana pun dari percakapan, menghasilkan ulang percakapan dari titik itu, dan menghapus percakapan setelahnya.
    • Tombol umpan balik tidak melakukan apa pun selain memindahkan fokus ke Chrome.
    • Model LLaVA adalah model AI berbasis teks, jadi katanya tidak bisa menghasilkan gambar.

  • Bagus, tetapi saya tidak melihat alasan menggunakan ini alih-alih ChatbotUI+Ollama.

    • Selain keunggulannya sebagai aplikasi native MacOS serta fitur impor dan pencarian yang cepat, sulit menemukan pembeda lainnya.
    • ChatbotUI punya kelebihan seperti lintas platform, dapat dikustomisasi, privasi, dapat di-debug, dan sebagainya.

  • Beberapa pertanyaan:

    • Apa yang Anda gunakan untuk pembuatan gambar? Apakah ini juga bisa dilakukan secara lokal (misalnya stable diffusion)? Apakah ada pembuatan prompt yang terintegrasi?
    • Anda bilang riwayat ChatGPT bisa diimpor, apakah dokumen lain juga bisa diimpor?
    • Apakah ada beberapa fitur bergaya "agent"? Bisakah mencari web? Bisakah menggunakan API lain? Bisakah membuat prompt sendiri?
    • Apakah ada framework plugin? Anda bilang "dapat dikustomisasi", tetapi itu bisa berarti hampir apa saja.
    • Apa lisensinya? Bagaimana Anda menjamin bahwa penggunaan pengguna bersifat pribadi? Kita semua tahu banyak aplikasi "lokal" mengirimkan data dalam jumlah besar ke luar.

  • Beberapa saran

    • Tolong tambahkan font sistem (San Francisco) sebagai opsi UI. SF Mono juga sepertinya bagus.
    • Perlu bantuan tentang penggunaan model untuk pemula. Akan bagus jika ada layar pengantar yang menjelaskan cara memulai.
    • Seperti kebanyakan aplikasi Mac, akan bagus jika Command-comma membuka pengaturan.
    • Akan bagus jika mengklik tautan web membuka Safari (atau browser pilihan).

  • Menambahkan opsi untuk menggunakan OpenAI API di antarmuka yang sama juga tampaknya akan bagus.

    • Saat ini saya menggunakan jan.ai.

  • Apakah ada rencana menambahkan model online ke aplikasi? Model lokal masih belum sebanding dengan model online.

    • Akan bagus jika bisa beralih antara GPT/Claude/model lokal dalam antarmuka chat yang konsisten.

  • Daripada mengatakan "berbicara dengan AI lokal", akan lebih menjual jika Anda memberi tahu apa yang bisa kita capai dengan berbicara dengan AI lokal.

    • Yang dibutuhkan bukan percakapan, melainkan melakukan tugas tertentu. Tugas apa yang bisa dilakukan? (Jangan jawab kepada saya, masukkan itu ke landing page dan daftar app store)