HN Tayang: Membangun antarmuka pengguna non-linear untuk ChatGPT

 (grafychat.com)
1 poin oleh GN⁺ 2024-05-09 | 1 komentar | Bagikan ke WhatsApp

Memperkenalkan Grafychat

  • Grafychat adalah notebook visual berbasis kanvas yang ramah privasi untuk ChatGPT dan AI percakapan lainnya
  • Bekerja dengan OpenAI, Google AI, dan model Ollama lokal
  • Anda dapat membawa kunci API sendiri lalu mulai mengobrol

Fitur utama Grafychat

Kanvas tanpa batas

  • Dapat menyusun chat secara visual
  • Dapat menghubungkan titik-titik untuk mengelola percakapan
  • Dapat membuat kanvas sebanyak yang dibutuhkan

Ramah privasi

  • Semuanya disimpan di perangkat pengguna
  • Data hanya keluar dari perangkat untuk permintaan LLM non-lokal
  • Tidak memerlukan pendaftaran atau akun

Kontrol hasil

  • Dapat dengan mudah menerapkan instruksi kustom
  • Dapat mengganti model secara real-time
  • Dapat menyesuaikan parameter model

Pencarian yang kuat

  • Mendukung pencarian teks penuh di seluruh data
  • Dapat memfilter dengan presisi
  • Dapat dengan mudah menavigasi hasil

Dukungan OpenAI kelas atas

  • Mendukung semua model ChatGPT termasuk GPT-4
  • Mendukung input suara/dikte
  • Mendukung pembuatan suara/narasi
  • Mendukung pembuatan gambar
  • Tidak memerlukan langganan aktif ChatGPT
  • Dapat menggunakan kunci API OpenAI sendiri

Model lokal gratis untuk digunakan

  • Mendukung Ollama (Mac, Windows, Linux)
  • Katalog model open source yang terus bertambah
  • Termasuk model kuat seperti Llama 3
  • Sepenuhnya gratis digunakan
  • Cukup jalankan dan siapkan aplikasi Ollama di perangkat

Pustaka prompt yang dapat dikustomisasi

  • Dapat digunakan di seluruh aplikasi
  • Mudah menyimpan, mengedit, dan menggunakan ulang prompt

Setiap chat adalah editor Markdown

  • Semua chat dapat diedit
  • Menjaga data tetap rapi
  • Dapat diekspor ke Markdown melalui Inspector

Tampilan chat klasik dengan Inspector

  • Dapat memulai atau melanjutkan chat dari Inspector
  • Dapat memilih dan memeriksa percakapan saat ini
  • Dapat diekspor ke Markdown

Tampilan dan nuansa yang dapat dikustomisasi

  • Dapat menambahkan warna ke Flow
  • Dapat menampilkan/menyembunyikan bagian tertentu
  • Dapat memberi label pada bagian percakapan

Mendukung banyak penyedia AI

  • OpenAI
  • Google AI
  • Ollama melalui LLama 3
  • Dan daftarnya terus bertambah

BYOAK - Bawa kunci API Anda sendiri

  • Impor/ekspor data dalam file JSON
  • Pintasan keyboard
  • Dukungan penyorotan kode
  • Menyematkan chat, memberi tag warna
  • Latar belakang kustom
  • Mode gelap
  • Dan lain-lain

Informasi harga dan lisensi

  • Lisensi dimiliki lewat pembelian satu kali
  • Setiap lisensi mencakup 5 aktivasi dan tidak memiliki tanggal kedaluwarsa
  • Standard ($39): semua batasan dibuka, semua fitur dibuka
  • Extended ($59): semua fitur Standard + paket self-hosting, aplikasi desktop akan hadir
  • Premium ($79): semua fitur Extended + dukungan premium, aplikasi desktop akan hadir

Ringkasan FAQ

  • Grafychat adalah notebook visual berbasis kanvas yang ramah privasi untuk ChatGPT dan AI percakapan lainnya
  • Ini bukan aplikasi berbasis langganan, dan lisensi dapat dimiliki lewat satu kali pembelian
  • 5 aktivasi berarti kunci lisensi dapat digunakan di 5 perangkat berbeda
  • Mendukung berbagai penyedia chatbot seperti OpenAI, Google AI, dan model Ollama lokal
  • Tidak memerlukan pendaftaran atau langganan OpenAI
  • Aplikasi desktop belum dirilis, tetapi sedang dalam pengembangan
  • Grafychat.com tidak menyimpan data pengguna
  • Untuk kebijakan pengembalian dana, perlu menghubungi secara terpisah

Opini GN⁺

  • Grafychat tampak seperti alat untuk mengelola secara visual berbagai model AI percakapan seperti ChatGPT dan GPT-4. Khususnya, karena isi percakapan dapat disusun dan dihubungkan dalam bentuk kanvas, ini terlihat berguna untuk merapikan percakapan secara sistematis.
  • Keunggulan lainnya adalah penekanan pada privasi, seperti menyimpan data pengguna di perangkat dan meminta pengguna memasukkan sendiri kunci API. Namun, perlu diperhatikan bahwa untuk permintaan LLM non-lokal, data akan dikirim ke luar.
  • Dukungan untuk Ollama sebagai model open source yang bisa digunakan gratis, serta fitur pustaka prompt untuk menyimpan dan menggunakan ulang prompt yang sering dipakai, menunjukkan adanya beragam fitur yang meningkatkan kegunaan.
  • Di sisi lain, karena menggunakan model lisensi, bukan langganan, harganya bisa terasa cukup membebani. Bahkan paket Standard seharga $39 bukan jumlah yang kecil. Meski fiturnya banyak dan perhatian pada privasi cukup besar, daya saing harganya masih bisa dipertanyakan mengingat model open source dapat digunakan secara gratis.
  • Belum adanya aplikasi desktop dan layanan yang masih berbasis web saja, serta statusnya sebagai layanan baru sehingga stabilitas dan keberlanjutan jangka panjangnya belum pasti, juga merupakan hal yang patut dipertimbangkan saat mengadopsinya.

Bacaan terkait

1 komentar

 
GN⁺ 2024-05-09
Komentar Hacker News

  • Satu baris CSS di situs ini membuat laptop saya sangat tersendat
    Penyebabnya adalah backdrop-filter: blur(0.1875rem) yang dipakai untuk modal, misalnya popup video YouTube

    • Saya developer frontend, dan karena alasan ini saya sama sekali tidak pernah memakai efek tersebut
      Bahkan di laptop berperforma tinggi pun, konsumsi daya terlalu besar dan kipas langsung berputar kencang
    • Saya penasaran kenapa efek blur selalu menghabiskan daya sebesar itu
      Saya tidak tahu apakah tidak ada cara memanfaatkan GPU, atau memang masalahnya benar-benar berbeda

  • Dulu saya pernah memikirkan antarmuka serupa yang tidak punya fitur drag, hanya visualisasi pohon
    Biasanya saya membahas topik sampingan dalam percakapan yang sama, lalu nanti mengedit pesan sebelumnya saat cabang topik itu dimulai agar AI tidak bingung
    Namun OpenAI membuang pohon cabang itu, jadi akan bagus kalau ia menampilkan pohon topik sampingan yang sudah dijelajahi tanpa perlu saya susun manual

    • Bukankah ChatGPT menyimpan seluruh pohon? Terakhir kali saya lihat, kita bisa berpindah maju-mundur dari node tertentu

  • Pendekatannya menarik. Ini tampaknya menangani alur kerja tahap menengah yang khas
    Walaupun hasil akhirnya mungkin lebih enak dalam bentuk linear, pekerjaan nyatanya sering dilakukan dengan menyelesaikan struktur hierarkis terlebih dahulu
    Saya sudah bertahun-tahun memakai Gingko https://gingkowriter.com/, dan karena ia memungkinkan perluasan tahapan tanpa batas sambil tetap mudah dilipat jadi struktur linear, beban menata struktur masalah jadi berkurang
    Dalam kasus ini, saya penasaran apakah mereka mempertahankan N konteks sebanyak jumlah daun pada pohon, apakah chat-nya saling terpisah, dan bagaimana transisinya dari kanvas tak terstruktur tanpa batas ke keluaran akhir yang rapi

    • Pertanyaan yang bagus
      Pada akhirnya konteks hanyalah salah satu cara pengelompokan, jadi apakah konteks dipertahankan sebanyak jumlah daun tergantung situasinya
      Soal perpindahan dari kanvas tak terstruktur ke keluaran yang rapi, saya melihatnya sebagai RAG yang digabungkan dengan perintah di dalam aplikasi, dan saya sedang mengerjakan solusi RAG lokal
      Masih tahap awal, tapi menjanjikan, dan pada dasarnya ini adalah cara untuk berbicara dengan semua data lalu menerapkan berbagai perintah di atasnya
    • Saya tidak paham kenapa harus beralih ke keluaran akhir yang rapi
      Dari sudut pandang calon pengguna sekaligus seseorang yang pernah berpikir membuat alat serupa sendiri, pohon atau lebih tepatnya graf berarah itu sendiri adalah hasil akhir yang saya inginkan
    • Sedikit di luar topik, tapi sepertinya dulu ada perangkat lunak mandiri mirip Gingko untuk Mac
      Setelah saya cari, tampaknya itu versi lama aplikasi desktop Gingko, dan masih bisa diunduh di https://github.com/gingko/client/releases
    • Sulit bagi saya menerima langganan berbayar untuk perangkat lunak yang seharusnya seluruhnya tetap ada di komputer saya

  • Dengan Obsidian dan plugin seperti https://github.com/AndreBaltazar8/obsidian-canvas-conversati..., Anda bisa cukup mudah membuat hal seperti ini sendiri

    • Mirip ketika saya mengganti Dropbox dengan beberapa skrip dan sftp
    • Di komentar bawah, ada lebih banyak plugin gratis untuk Obsidian Canvas yang disebutkan: https://news.ycombinator.com/item?id=40301465
    • “Mudah” itu hanya berlaku untuk orang teknis, bukan untuk pengguna biasa

  • Setelah melihat demonya, ini tampak menarik, tapi saya rasa saya akan cepat lelah harus menyeret node ke sana-sini untuk menemukan node yang saya minati
    Saya penasaran apakah ada fitur pencarian
    Akan lebih menarik kalau AI bisa membuat tampilan graf seperti agen, atau setidaknya menyarankan dan menyorot pertanyaan lanjutan lalu mengaturnya otomatis di dalam graf

    • Pencarian adalah salah satu fitur favorit saya di sini. Coba pintasan /
    • Secara pribadi, saya merasa ada nilai dalam meluangkan waktu untuk menyusun dan menyeret semuanya
      Mungkin karena saya cenderung berpikir secara visual

  • Satu-satunya masukan saya adalah saya mungkin tidak akan membeli produk AI closed-source karena terasa meragukan
    Meski begitu, saya senang dan menghargai bahwa mereka menghindari arus model langganan
    Kalau ini di-open-source sehingga jelas tidak ada telemetri yang dikirim, lalu biaya diambil dari dukungan, saya bisa saja mau membayar
    Tapi mungkin saya termasuk kubu yang tidak umum, jadi silakan saring seperlunya
    Idenya sangat bagus, dan kalau fokus penuh selama satu atau dua hari akhir pekan, rasanya MVP-nya bisa dibuat
    Tentu saja, fitur-fitur mewah yang secara pribadi tidak saya pedulikan mungkin akan memakan waktu lebih lama untuk diimplementasikan

    • Apakah opsi self-hosting bisa menjadi solusi yang praktis?
      https://www.grafychat.com/d/docs/selfhost
      Meski begitu, tampaknya tetap perlu asumsi bahwa kodenya tidak diobfuscate
    • Akan bagus jika ada metodologi seperti open-build untuk proyek yang tidak ingin membuka source code tetapi bersedia menjalani audit yang diperlukan atas proses build-nya

  • Akan bagus kalau OpenAI atau UI Anthropic juga menyediakan fungsi seperti ini
    Sebenarnya cukup ada “create a new chat from here” saja
    Produknya keren dan dibuat dengan baik, tapi secara pribadi harganya menjadi hambatan

    • Saya jadi menilai keputusan membeli software dengan membandingkannya dengan harga menu drive-thru McDonald's di sekitar saya
    • Klien pihak ketiga mendukung ini
      Misalnya saya suka fitur “Fork from this message” di MindMac
    • Mengedit pertanyaan sebelumnya cukup efektif untuk mencapai tujuan ini
      UI yang ada juga menyimpan semua edit sebelumnya sebagai pohon revisi

  • Landing page-nya bagus dan menjelaskan produknya dengan cukup baik
    Saya pernah menginginkan sesuatu yang mirip dulu, jadi saya juga suka konsep ini

  • Dalam demo yang dibagikan, terlihat mereka membuat chat anak dari chat induk yang asli
    Saya penasaran apakah mereka juga mencoba cara menghubungkan atau menggabungkan dua chat anak untuk membuat chat anak berikutnya, atau membuat chat anak lagi dari chat anak sebelumnya

    • Akan bagus kalau ada node yang bisa memuat folder berisi file JSON, TXT, CSV, lalu mengalirkannya satu per satu dan mengumpulkan hasilnya ke folder lain
      Bentuknya seperti pipeline LLM atau editor prompt

  • Sebagai fitur tambahan yang bagus untuk diintegrasikan ke sebagian frontend, saya pernah membuat penyimpanan key-value cari-ganti yang membantu mencegah informasi sensitif bocor
    Kalau saya bisa mengganti IP, domain, dan subdomain internal dengan domain dummy seperti something.contoso.com alih-alih domain internal sebelum mengirimkannya ke ChatGPT, itu fitur yang layak saya bayar
    Saya memang sudah membuatnya dengan Python, tetapi itu fitur tambahan yang ditempelkan ke frontend terpisah sehingga terasa cukup kasar