Mengapa framework AI agent begitu kompleks? Dibutuhkan framework revolusioner seperti Rails

Masalah utama framework AI agent saat ini

• Jendela konteks cepat habis
  • Saat menangani tugas kompleks, model melupakan tujuan awal
  • Muncul halusinasi dan loop tak berujung
• Framework hanya berperan sebagai wrapper tipis
  • Pemilihan model, penyedia embedding, struktur alat, dan lainnya dibebankan ke developer
  • Melanggar prinsip "jangan paksa pengguna untuk berpikir"
• Terlalu banyak alat menimbulkan kebingungan
  • Evaluasi opsi yang tidak perlu membuang konteks

Solusi yang diusulkan: arsitektur berpusat pada sub-agent

• Menjadikan sub-agent sebagai warga kelas satu
  • Delegasi berlangsung alami seperti pemanggilan fungsi
  • Memiliki konteks independen → menjaga fokus agent induk
  • Contoh: sub-agent pencarian codebase → hanya mengembalikan path file yang relevan
• Dampak
  • Agent tunggal: menghabiskan 90% konteks
  • Menggunakan sub-agent: hanya memakai 25% konteks induk

Menerapkan pelajaran dari Rails: Convention over Configuration

• Mengutamakan konvensi bawaan
  • Pemilihan model otomatis berdasarkan kompleksitas tugas
  • Anggaran konteks diwariskan antara induk dan anak
  • Checkpoint otomatis dibuat untuk tugas berisiko
• Memperkenalkan archetype
  • Searcher: hanya alat pencarian
  • Writer: hanya alat penulisan
  • Researcher: hanya akses web → mencegah terlalu banyak alat

Prinsip desain yang praktis

• Desain berpusat pada tugas
  • Alih-alih "model apa yang harus dipakai?", dahulukan tugas nyata, misalnya validasi formulir pendaftaran
• Konteks sub-agent bersifat sementara
  • Hanya ringkasan pekerjaan antara yang dikembalikan ke agent induk
• Membedakan alat vs sub-agent
  • Alat: tanpa status, seperti pemformatan tanggal atau parsing JSON
  • Sub-agent: membutuhkan pengulangan dan penilaian, seperti pencarian atau analisis

Pilihan teknologi: TypeScript

• Memperkuat keamanan tipe (Branded types, discriminated unions)
• Kompatibel dengan ekosistem alat developer seperti VS Code
• Dapat dikompilasi menjadi executable mandiri dengan Bun

Tantangan yang belum terselesaikan

• Berbagi konteks antar sub-agent, misalnya knowledge base proyek
• Kolaborasi agent sejawat melalui pengiriman pesan
• Evaluasi agent, termasuk penangkapan/pemutaran ulang skenario serta kriteria keberhasilan, konsistensi, dan preferensi

Kesimpulan

• Framework seharusnya bukan menambah kompleksitas, melainkan menyediakan "kompleksitas yang tepat"
• Seperti Rails, framework yang revolusioner dapat mendorong inovasi dalam pengembangan agent
• Meminimalkan pekerjaan plumbing → fokus pada masalah inti

[ahwjdekf]

Framework agen ...namanya terdengar megah, tapi pada akhirnya cuma alat untuk diserahkan ke LLM. Cangkang kosong.

[click]

Rails memang nyaman karena memaksakan convention dan melakukan banyak "sulap" di balik lapisan abstraksi, meski ada trade-off berupa performa yang menurun, tetapi setidaknya itu bukan biaya yang langsung keluar saat ini.
Sebaliknya, kalau framework bebas memilih model sesukanya lalu tagihan penggunaan token meledak, siapa yang akan bertanggung jawab...?

[nomak]

Apakah pada 2026 akan muncul alat baru? Mungkin tidak seperti Rails, tetapi lebih terabstraksi.. Saya menantikannya.