Tim Tiger Data membangun AI agent Slack bernama 'Eon' dalam 6 minggu, yang kini digunakan setiap hari oleh 50% karyawan perusahaan, dan membuka seluruh prosesnya sebagai open source. Fokus utamanya bukan demo, melainkan stabilitas produksi nyata, dengan penekanan pada penyelesaian masalah lapangan seperti menjaga konteks, API yang down, dan permintaan serentak, bukan sekadar pemanggilan LLM.
1. Memori yang Memahami Waktu (Time-Based Memory)
- Slack hanya mengirim satu pesan per kali, sehingga tidak memiliki konteks percakapan sebelumnya. Sulit menangani pertanyaan seperti "Bagaimana kelanjutannya?"
- Solusi: semua pesan Slack disimpan secara real-time ke TimescaleDB bersama timestamp. Konteks dipahami lewat query SQL → cepat dan stabil tanpa batasan API.
2. Menghindari Jebakan Server MCP Serba Guna (Custom MCP Servers)
- MCP(Model Context Protocol): standar bagi agent untuk mengakses alat eksternal seperti GitHub dan Linear.
- Masalah: server resmi memiliki terlalu banyak alat yang tidak perlu sehingga memboroskan token, dan pemanggilan API menjadi rumit karena sering perlu dilakukan beberapa kali.
- Solusi: membuat server MCP yang dioptimalkan sendiri (mis.,
tiger-linear-mcp-server). Semua informasi diambil sekaligus dengan satu alat → efisiensi lewat context engineering.
3. Produksi Dirancang dengan Mengasumsikan Kegagalan (Failure-Resilient Design)
- Wajib siap menghadapi crash, API down, dan lonjakan trafik.
- Solusi: mengembangkan framework
tiger-agents-for-work.- Event dicatat terlebih dahulu ke PostgreSQL → mencegah kehilangan.
- Retry otomatis (maksimal 3 kali, interval 10 menit).
- Fixed worker pool → membatasi konkurensi dan menangani antrean.
- Signaling asinkron → respons dalam hitungan milidetik.
Open Source dan Panduan Memulai
- Seluruh kode dibuka sebagai
tiger-eon. Agen Slack dapat dideploy dengan skrip instalasi dalam 10 menit. - Modular: memori Slack, server MCP, dan framework dapat digunakan secara terpisah (mis., pencarian dokumen dengan
tiger-docs-mcp-server). - Pesan intinya: AI agent bisa dibangun di atas PostgreSQL dengan pemrosesan event yang tangguh, memori terstruktur, dan alat yang terfokus, tanpa infrastruktur khusus.
Belum ada komentar.