Semakin Banyak Alat, Semakin Bodoh AI: Strategi Context Engineering dari Tim Dropbox Dash

Tim Dash, asisten AI milik Dropbox, menemukan fenomena 'analysis paralysis' ketika semakin banyak alat (pencarian, pengeditan dokumen, dll.) ditambahkan ke agen AI: pengambilan keputusan menjadi lebih lambat dan akurasi menurun. Masalah ini muncul karena deskripsi alat terlalu banyak menghabiskan context window, dan menjadi makin serius ketika AI berevolusi dari RAG menjadi AI yang dapat bertindak.

Tiga strategi penyelesaian

1. Integrasi alat: Menggabungkan beberapa API (Confluence, Google Docs, dll.) menjadi satu alat pencarian universal untuk mengurangi beban pilihan pada AI. Di server MCP juga memperkuat kompatibilitas melalui antarmuka tunggal.

2. Pemfilteran konteks: Memanfaatkan knowledge graph untuk mengintegrasikan dan mengindeks data dari berbagai sumber, lalu memberi peringkat berdasarkan relevansi terhadap pengguna/kueri. Hanya informasi yang berguna bagi AI yang diteruskan, sehingga efisiensi penalaran meningkat.

3. Pemisahan agen spesialis: Alat yang kompleks (misalnya penyusunan kueri pencarian) didelegasikan dari AI utama ke agen independen. AI utama fokus pada perencanaan, sementara agen spesialis menangani pemrosesan detail.

Kesimpulannya, bukan 'lebih banyak konteks' melainkan 'konteks yang lebih baik' yang membuat AI lebih cerdas, dan pendekatan ini kini juga diterapkan lebih luas pada profil pengguna maupun area memori. Masa depan AI bergantung pada kemampuan untuk tetap fokus.