Arsitektur memori Claude adalah kebalikan total dari ChatGPT

• Sistem memori Claude hanya aktif ketika dipanggil langsung oleh pengguna, dan mengembalikan informasi dengan menelusuri riwayat percakapan yang sebenarnya secara real-time
• Sebaliknya, ChatGPT secara otomatis memuat profil pengguna dan histori di setiap percakapan, sehingga langsung memberikan pengalaman yang dipersonalisasi
• Dua pendekatan ini mencerminkan perbedaan target kelompok pengguna dan filosofi pengembangan produk
• Pengguna Claude berfokus pada developer dan profesional, serta mengutamakan transparansi, kontrol langsung, dan privasi
• Baru-baru ini, Claude juga mulai menghadirkan fitur memori otomatis mirip ChatGPT untuk akun tim dan enterprise, menunjukkan bahwa ranah desain memori AI berkembang dengan cepat

---

Cara kerja sistem memori Claude

Sistem memori Claude memiliki dua karakteristik inti

• Setiap percakapan dimulai dari keadaan kosong, tanpa memuat profil pengguna atau riwayat percakapan sebelumnya terlebih dahulu
• Fitur memori hanya aktif ketika pengguna memakai frasa pemanggilan yang jelas, seperti "beri tahu apa yang kita bicarakan sebelumnya" atau "lanjutkan dari yang terakhir"

Claude tidak menggunakan ringkasan buatan AI atau profil terkompresi, melainkan hanya menelusuri riwayat percakapan asli dari masa lalu secara real-time untuk memanfaatkan informasi tersebut
Setelah pencarian selesai, Claude menggabungkan hasil pencarian untuk menjawab permintaan pengguna atau melanjutkan diskusi

Alat Conversation Search

• Alat conversation_search menelusuri seluruh riwayat percakapan berdasarkan kata kunci atau topik
• Misalnya, saat diminta "ingat apa yang pernah kita bicarakan tentang Chandni Chowk?", Claude akan mencari beberapa percakapan terkait topik itu lalu menggabungkannya menjadi ringkasan
• Jika ditanya beberapa topik sekaligus (misalnya Michelangelo, Chainflip, Solana), Claude akan menelusurinya satu per satu secara berurutan dan mengembalikan isinya beserta tautan
• Parameter conversation_search mencakup jumlah maksimum hasil pencarian, kueri pencarian, dan lainnya
  • Contoh: max_results (1~10), query (kata kunci pencarian)

Alat Temporal Chat Retrieval

• Alat recent_chats mengakses riwayat percakapan berdasarkan waktu
• Jika diminta seperti "beri tahu isi 10 percakapan terakhir", Claude akan menemukan percakapan terbaru secara berurutan lalu memberikan ringkasannya
• Pencarian juga bisa dilakukan berdasarkan titik waktu tertentu, misalnya "apa yang kita bicarakan pada minggu terakhir November 2024?"
• Parameter recent_chats mencakup after/before (waktu mulai·akhir), n (jumlah percakapan, 1~20), dan sort_order (urutan naik/turun)

Perbandingan ChatGPT dan Claude

Hingga tahun lalu, fitur utama yang ditawarkan ChatGPT dan Claude masih mirip, tetapi sekarang arah produknya telah berubah jauh

• ChatGPT berkembang sebagai produk konsumen untuk pasar massal, digunakan oleh siswa, orang tua, penghobi, dan pengguna dengan berbagai latar belakang
  • Komponen memori dimuat otomatis di semua percakapan, sehingga memberikan pengalaman personalisasi yang instan dan mudah
  • Berdasarkan profil pengguna yang rinci, fitur ini dapat dimanfaatkan untuk rekomendasi fitur ke depan, fitur yang disesuaikan, dan monetisasi
• Claude dikembangkan dengan target pengguna developer, engineer, dan profesional
  • Pengguna memahami cara kerja algoritme dan secara jelas memilih kapan memanggil memori
  • Dibanding pemrofilan atau otomatisasi, mereka lebih menghargai fungsionalitas sebagai alat, prediktabilitas, dan privasi

Dengan demikian, sistem memori kedua layanan ini secara langsung mencerminkan perbedaan basis pengguna dan filosofi pengembangannya

Keberagaman desain memori AI

Sistem memori yang saling berlawanan antara ChatGPT dan Claude menunjukkan bahwa ranah desain memori AI sangat beragam

• Tidak ada jawaban tunggal atau solusi universal untuk pendekatan memori, dan sangat penting untuk merancangnya dari kebutuhan serta tujuan pengguna yang nyata
• Karena sejarah penggunaan alat AI belum genap tiga tahun, masih belum ada best practice yang mapan untuk hal-hal seperti pengelolaan data yang terakumulasi atau privasi saat menggunakan asisten AI yang sama dalam jangka panjang
• Saat ini berbagai aplikasi AI sedang bereksperimen dengan pendekatan memori yang unik masing-masing, sementara model dasarnya juga makin kuat dari minggu ke minggu
• Dalam proses ini tidak ada satu jawaban final, dan beragam upaya serta eksperimen terus berlanjut

Pembaruan terbaru: Claude memperkenalkan fitur memori otomatis

Pada hari artikel ini dipublikasikan, Anthropic mengumumkan fitur memori otomatis Claude untuk akun tim/enterprise

• Fitur ini, mirip dengan pendekatan ChatGPT, secara otomatis membangun ringkasan memori berdasarkan konteks kerja, pola kerja, dan informasi per proyek
• Memori terpisah dibuat untuk setiap proyek Claude, dan pengguna dapat langsung melihat serta mengedit apa yang diingat Claude
• Fitur tersebut belum tersedia pada langganan Pro Max pribadi penulis, sehingga belum dievaluasi
• Ulasan tambahan tentang perbandingannya dengan memori berbasis pencarian yang ada dan perbedaannya dengan ChatGPT akan menyusul

[GN⁺]

Opini Hacker News

• Perbedaan implementasi pada akhirnya berasal dari tujuan bisnis
  ChatGPT jelas menargetkan monetisasi melalui iklan dan tautan afiliasi, dan implementasi memorinya juga berfokus pada pembuatan profil pengguna
  Sebaliknya, implementasi memori Claude lebih dekat dengan tujuan jangka panjang berupa interaksi masa lalu dan akses abstraksi
  Dirancang agar bisa menelusuri percakapan mirip dengan cara kerja memori manusia, dan ke depannya melalui reinforcement learning mungkin bisa mengingat kesalahan yang ditunjukkan pengguna, atau menarik abstraksi dari percakapan lama untuk menangani tugas secara proaktif
  Pada akhirnya, ChatGPT berusaha mengingat penggunanya sendiri, sementara Claude berfokus pada riwayat interaksi individual

  • Jika AGI tercapai, mungkin bisa menghasilkan uang tanpa iklan, tetapi perusahaan baru seperti Google tetap membutuhkan iklan
    Terasa ada bagian di mana ucapan dan tindakan nyata tidak selaras
  • Saya juga tidak percaya Anthropic tidak akan menawarkan iklan yang dipersonalisasi
  • Jika diasumsikan pengguna sering memakai LLM untuk topik a, b, c dan lebih jarang untuk d, e, f
    untuk beberapa topik seperti b, c, f, OpenAI bisa menghasilkan uang lewat iklan interupsi (layar penuh, lebih dari 30 detik)
    Ini bisa dilakukan hanya dengan menganalisis topiknya
    Jika OpenAI bisa menganalisis sekitar 1000 sesi chat dan coding untuk memaksimalkan pendapatan dengan mendorong pengguna bekerja di perusahaan tertentu atau membeli mobil dari perusahaan lain, maka dalam proses itu mereka bisa menyesuaikan bukan hanya iklan interupsi tetapi juga kualitas atau isi jawabannya
    Ini situasi yang cukup realistis sekaligus distopis
    Sebaliknya, jika DeepSeek beroperasi tanpa iklan, maka standar yang harus dicapai LLM closed-source untuk merebut pangsa pasar akan jauh lebih tinggi
    Pada akhirnya, seperti semua produk, pengguna akan membayar LLM sesuai kualitasnya, dan mereka akan menginginkan tingkat kualitas yang berbeda-beda
    Karena iklan bisa merusak keandalan jawaban AI, saya pikir iklan layar penuh adalah konsekuensi yang paling realistis
  • Saya penasaran kenapa Anda melihat arah yang begitu jelas menuju iklan
    ChatGPT bukan media sosial, jadi tidak perlu dimonetisasi dengan cara yang sama
    Mereka sudah menghasilkan cukup banyak uang dari langganan, enterprise, bisnis, API, dan lainnya

• Menunjukkan bahwa tautan ke tulisan analisis tentang implementasi memori ChatGPT salah, lalu membagikan tautan yang benar
  Saya memang penasaran dengan cara kerja implementasi memori ChatGPT, dan sangat menarik melihat pendekatannya yang benar-benar berbeda dari Claude
  Pendekatan Claude tampak lebih cocok untuk menyelesaikan tantangan teknis, sementara ChatGPT terlihat lebih unggul untuk percakapan sehari-hari dan integrasi iklan
  Suatu saat nanti pendekatan memori berbasis bahasa seperti ini akan terasa usang, dan seseorang akan menemukan cara penyimpanan/pengambilan memori terenkode yang melampaui ekspresi linguistik
  Ini mungkin menjadi terobosan terakhir menuju AGI

  • Saya tidak setuju dengan klaim bahwa ini adalah terobosan terakhir untuk AGI
    LLM saat ini tidak memahami konsep, tidak benar-benar memiliki fungsi bernama ‘pemahaman’, dan pada dasarnya hanyalah rantai Markov yang sangat canggih
    Saya rasa kecerdasan yang sesungguhnya adalah prasyarat bagi AGI
  • Saya rasa daftar percakapan terbaru mirip dengan Claude karena disimpan sebagai bentuk kompresi percakapan, bukan memori nyata, dan hanya diakses saat diperlukan
    Sepertinya memori ChatGPT hanya memungkinkan Memory yang benar-benar berupa ringkasan per entitas untuk dimasukkan ke konteks
  • ChatGPT mencoba mencakup semuanya, dari percakapan sehari-hari hingga tugas teknis, jadi strategi ini bekerja dengan baik
    Dan ada juga pendapat bahwa ringkasan percakapan lama atau metode embedding juga bisa dianggap sebagai penyimpanan memori berbasis encoding
  • Saya tidak menginginkan AGI
    Itu memunculkan pertanyaan tentang bagaimana kita bisa membuat AGI tetap patuh pada perintah

• Menyatakan puas dengan implementasi memori Claude, tetapi memori ChatGPT dimatikan
  Karena saya memakai ChatGPT untuk terlalu banyak hal berbeda, terasa janggal ketika ia mencoba menghubungkan hal-hal yang sebenarnya tidak berkaitan

  • Memori ChatGPT adalah fitur yang paling praktis, dan itulah yang membuat saya terus memakainya
    Saya menginginkan personalisasi dan rujukan ke informasi yang diperlukan
    Misalnya, jika informasi tentang satu proyek dibuat untuk diingat, setelah itu saya tidak perlu lagi menjelaskan konteks setiap kali, jadi kualitas hidup meningkat besar
    Namun, saya kurang suka cara memori percakapan latar belakang dibuat ketika saya tidak punya kendali langsung atasnya
  • Sebaliknya, saya justru merasa jauh lebih nyaman dengan fitur ChatGPT yang otomatis mengambil informasi dari memori
  • Saya mematikan fitur memori karena sebelumnya ia menyimpan informasi palsu, lalu terus memanggilnya berulang-ulang
  • Saya pikir nilai utamanya adalah bisa mengontrol kapan isi percakapan sebelumnya akan dipanggil
    Pada ChatGPT, isi percakapan lama yang tidak diinginkan sering bercampur tanpa perlu sehingga tidak berguna
  • Aneh sekali bahwa ChatGPT bahkan tidak bisa mengingat hal-hal dasar
    Saya pernah mencoba berbagai tutor AI untuk belajar bahasa dan ChatGPT adalah yang terbaik
    Tetapi saya harus terus-menerus meminta “tolong bicara lebih pelan”, dan meskipun sudah diminta menerapkan aturan itu ke seluruh percakapan, hal itu tidak bisa dilakukan
    Selain itu juga ada bagian lain di mana memorinya tidak bekerja dengan benar

• Tidak lama lagi cara kerja memori ChatGPT akan berubah
  Tautan rujukan: X.com - kabar perubahan memori, pengumuman resmi Anthropic

  • Jika sistem memorinya berubah, rasanya akan disayangkan

• Membagikan pengalaman menulis sendiri tentang memori ChatGPT dan riwayat chat
  Termasuk prompt untuk melakukan dump informasi secara langsung
  Tautan terkait

• Karena selalu menginginkan kontrol input yang akurat, saya cenderung mematikan memori sepenuhnya
  Saya ingin menghapus semua system prompt, training, dan semacamnya, lalu hanya memakai prompt yang saya tulis sendiri

• Muncul pertanyaan apakah informasi yang didapat dengan bertanya langsung ke ChatGPT itu dapat dipercaya, atau hanya halusinasi generatif
  Saya rasa tidak ada alasan bagi LLM untuk tahu bagaimana dirinya bekerja, dan sepertinya mereka juga tidak mungkin diberi materi pelatihan semacam itu

  • Bertanya kepada LLM tentang bagaimana ia bekerja memang tidak terlalu membantu, tetapi bertanya tentang signature fungsi/alat yang bisa digunakannya justru cukup akurat
    Karena informasi tool seperti ini tertulis sangat rinci dalam system prompt

• Claude dikatakan hanya merujuk pada riwayat percakapan asli untuk memanggil memori
  Tidak ada ringkasan buatan AI atau profil terkompresi; hanya pencarian real-time atas percakapan lama yang sebenarnya
  Tidak adanya ringkasan, profil, knowledge graph, dan sebagainya bukan berarti ini fitur tingkat lanjut, tetapi berarti sistemnya tidak bekerja dengan baik
  Misalnya, ia mungkin bisa mengingat hal spesifik seperti "Chandni Chowk", tetapi tidak bisa menemukan ungkapan ambigu seperti "rekan kerja saya yang pernah bermasalah" dengan baik

• Menanyakan apa hambatan saat memakai penyimpanan memori eksternal melalui tool calling atau MCP
  Ia juga penasaran apakah pola penggunaan memori sedang diperkuat dengan RL
  Dari sudut pandang privasi data, saat inferensi LLM pada akhirnya tetap akan mengetahui informasinya, tetapi saya tetap tidak ingin memasukkannya secara langsung
  Contoh: "Minat: MacOS, bondage, discipline, Baseball"

  • Ia bercerita pernah membuat tool MCP untuk menyimpan memori dengan SQLite db sebagai eksperimen iseng di musim semi
    Saat itu Claude, meski terus didorong lewat prompt, tetap tidak mau memanfaatkan memori secara sukarela
    Harus secara eksplisit diperintahkan setiap kali untuk memeriksa atau menyimpan memori, sehingga kegunaannya rendah
    Repositori terkait

• Saya merasa bingung setelah membaca tulisan ini
  Tidak jelas apakah penulis mengira prompt tetap disisipkan meskipun memori dimatikan
  Dalam kasus saya, ketika memori dimatikan, tidak ada metadata sama sekali yang menyisipkan percakapan terbaru atau informasi preferensi, dan semuanya tetap menjadi percakapan yang sepenuhnya terpisah
  Saya tidak tahu apakah kebingungan itu muncul karena selama eksperimen ia bolak-balik menyalakan dan mematikan memori, atau karena saya yang tidak membaca tulisannya dengan benar

[roxie]

Tiba-tiba semua titik hilang.