Asisten AI yang Bisa Diutak-atik dengan Satu Tabel SQLite dan Segelintir Tugas Cron

• Stevens adalah asisten AI sederhana yang dibangun menggunakan tabel SQLite dan tugas cron
• Stevens setiap pagi memberi pengguna informasi seperti jadwal, cuaca, dan surat
• Arsitektur Stevens di-host di platform Val.town serta mendukung penyimpanan SQLite, penanganan permintaan HTTP, dan pengiriman/penerimaan email
• Stevens mengumpulkan informasi melalui berbagai sumber data, lalu menggunakannya untuk memberi informasi yang dipersonalisasi kepada pengguna
• Stevens adalah proyek pribadi, dan pengguna dapat mem-fork kodenya untuk membuat alat AI mereka sendiri

---

Stevens: Asisten AI yang Bisa Diutak-atik

• Stevens adalah asisten AI yang namanya diambil dari kepala pelayan dalam novel Ishiguro "Remains of the Day"
• Setiap pagi, Stevens memberi pengguna informasi seperti jadwal, cuaca, dan surat melalui Telegram
• Pengguna dapat berkomunikasi dengan Stevens lewat chat Telegram

Struktur Stevens

• Stevens di-host di platform Val.town dan menggunakan tabel SQLite serta tugas cron
• "Notebook" Stevens berupa tabel SQLite yang menyimpan jadwal dan informasi latar belakang
• Melalui tugas cron, Stevens memanggil Claude API untuk menulis ringkasan pagi dan mengirimkannya ke Telegram

Cara Mengumpulkan Data

• Mengumpulkan data jadwal melalui Google Calendar API
• Memeriksa prakiraan cuaca lokal melalui API cuaca
• Memproses informasi surat dengan OCR melalui USPS Informed Delivery
• Menambahkan entri log melalui pesan Telegram dan email
• Menambahkan "fakta menarik" setiap minggu untuk memberi sentuhan berbeda pada pembaruan harian

Refleksi tentang Proyek

• Untuk alat AI pribadi, akses ke beragam sumber informasi itu penting
• "Memori" bisa dimulai secara sederhana dan diperluas sesuai kebutuhan
• Stevens disetel untuk berbicara seperti kepala pelayan yang formal agar terasa menyenangkan bagi pengguna

Coba Sendiri

• Stevens bukan produk komersial, melainkan proyek pribadi
• Pengguna dapat mem-fork kodenya untuk membuat alat mereka sendiri yang bermanfaat
• Dapat disinkronkan dengan sistem file lokal menggunakan Val Town CLI

[GN⁺]

Komentar Hacker News

• Tidak yakin apakah ini karena kegunaan fitur ini, atau karena ungkapan seperti "pelayan pria Inggris"

  • Bertanya-tanya mengapa ini dibaca di blog seorang insinyur, bukan sebagai peluncuran produk dari Apple atau Google
  • Mengecewakan bahwa kedua perusahaan ini tidak menerapkan teknologi AI pada area 'masalah yang sudah terpecahkan' seperti ringkasan atau tanya-jawab
  • Jika ada peluang terkait AI, itu bisa menjadi ancaman bagi dua perusahaan yang dominan ini

• Terpikir bagaimana jika program utilitas saya bisa mengakses mailbox

  • Saya punya program utilitas kecil yang bisa memeriksa cuaca atau menjalankan perintah sistem
  • Jika ada mailbox, informasi bisa dikirim ke sana lalu AI menganalisisnya dan mengirim email atau membuat pesan baru
  • Ini bisa berguna dengan menganalisis email, menambahkannya ke penyimpanan internal, lalu menghapus pesannya

• Sedang memikirkan ide untuk proyek open source yang mirip

  • Saya ingin backend-nya dibangun dengan LLM yang bisa diakses pengguna
  • Bertanya-tanya apakah ini bisa dihubungkan ke layar sentuh dan dipakai sebagai perangkat seperti Alexa
  • Saya ingin membuat integrasi dengan kalender, cuaca, Homebridge, Spotify, dan lainnya bisa diperluas
  • Saat ini saya tidak bisa mencurahkan banyak waktu ke proyek, tetapi ingin bergabung dengan orang-orang yang bergerak ke arah ini

• Ingin melihat peretasan AI yang praktis

  • Saya lebih suka integrasi praktis dengan sumber data yang sudah ada tanpa struktur rumit atau vector DB

• Sedang bereksperimen dengan cara untuk menyelesaikan "sweet spot token konteks"

  • LLM bekerja dengan basis data untuk menyimpan dan merangkum informasi
  • Dokumen ringkasan bisa dibuat agar konteks tetap terjaga, sementara basis data melengkapi detail penting

• Saya sempat berpikir sqlite DB digunakan untuk prediksi token berikutnya

  • Orang lain memakai Claude

• Saya membangun sesuatu yang mirip menggunakan mcp.run dan task

  • Saya memodifikasi prompt agar memeriksa apakah percakapan sudah ada dan menyimpan hasilnya
  • Fitur bot bisa diperluas dengan menambahkan servlet ke registry

• Stevens awalnya berbicara dengan nada datar seperti produk Apple atau Google, tetapi berbicara seperti kepala pelayan formal ternyata lebih menyenangkan

  • Salah satu keluhan terbesar saya di dunia asisten pribadi adalah LLM terlalu banyak bicara
  • Sampai saya jadi kaya dan punya waktu untuk berteman dengan asisten suara, saya butuh LCARS, bukan J.A.R.V.I.S.

• Alat seperti ini akan menjadi ladang subur bagi para hacker dalam beberapa tahun ke depan

  • Banyak bagian dari stack sudah dikomoditisasi sebagai plumbing OSS, dan hosting inferensi sudah murah dan mudah
  • Ada masalah keamanan saat menghubungkan agen ke email dan kalender, tetapi banyak orang akan lebih suka mengendalikan seluruh stack daripada menyerahkan kendali ke Apple atau Google

• Bertanya-tanya apakah pernah memikirkan pruning memori atau ringkasan

  • Alih-alih menghapus item lama, bisa dipertimbangkan penggunaan LRU atau merangkum respons lalu menyimpannya di tabel yang sama
  • Data mentah memang hilang, tetapi versi terkompresinya tetap ada sehingga memori tetap ringan sambil mempertahankan konteks