Pelajaran Pahit dari Ekspansi LLM

(sawyerhood.com)

23 poin oleh GN⁺ 2025-11-28 | Belum ada komentar. | Bagikan ke WhatsApp

Dalam 3 tahun terakhir, evolusi cara memperluas LLM berkembang dalam berbagai bentuk seperti plugin, instruksi pengguna, memori, protokol, dan skill
ChatGPT Plugins pada awalnya mencoba penggunaan alat serbaguna melalui pemanggilan API, tetapi gagal karena keterbatasan model dan UX yang kompleks
Setelah itu, Custom Instructions dan Custom GPTs muncul, menghadirkan personalisasi sederhana berbasis prompt dan struktur model kustom yang dapat dibagikan
Model Context Protocol (MCP) dan Claude Code memungkinkan integrasi alat yang kompleks namun kuat, dan belakangan Agent Skills bangkit kembali dalam bentuk yang lebih sederhana
Pada akhirnya, arsitektur agen yang menyelesaikan tugas hanya dengan alat tujuan umum dan instruksi bahasa alami akan menjadi arah utama ekspansi LLM

Sejarah dan Perubahan Ekspansi LLM

Cara penggunaan LLM telah berkembang dari input teks sederhana menjadi agen pengendali codebase dan browser
- Cara mendukung kustomisasi pengguna muncul sebagai tantangan utama
- Berbagai pendekatan dicoba, dari system prompt sederhana hingga protokol client-server yang kompleks

OpenAI mengumumkan ChatGPT Plugins, dirancang agar LLM memanggil endpoint REST melalui spesifikasi OpenAPI
- Menargetkan penggunaan alat serbaguna pada tingkat AGI
Namun, karena keterbatasan GPT-3.5 dan GPT-4 awal, eksplorasi spesifikasi API berskala besar memicu error dan hilangnya konteks
- UX yang tidak nyaman seperti aktivasi plugin secara manual juga menjadi masalah
Meski demikian, plugin Code Interpreter (kemudian menjadi Advanced Data Analysis) menunjukkan potensi lingkungan eksekusi sandbox yang kuat

Fitur prompt kustom sederhana yang mengurangi kompleksitas plugin
- Ditambahkan otomatis ke semua percakapan, sehingga menyelesaikan masalah pengaturan konteks berulang
Setelah itu, fitur ini berperan sebagai cikal bakal file aturan di lingkungan pengembangan seperti .cursorrules dan CLAUDE.md

OpenAI memproduktisasi prompt engineering melalui Custom GPTs
- Menggabungkan persona, file, dan action untuk membuat tautan GPT kustom yang dapat dibagikan
Dari pendekatan plugin yang terbuka, ini merupakan kemunduran ke bentuk aplikasi satu tujuan

Kasus pertama peralihan ke fitur personalisasi otomatis
- Mengingat informasi yang disebutkan selama percakapan dan otomatis mencerminkannya pada konteks berikutnya
- Ini menjadi awal dari arsitektur agen persisten yang mempertahankan status jangka panjang tanpa perlu diatur langsung oleh pengguna

Cursor IDE memperkenalkan pengelolaan instruksi tingkat repositori melalui file .cursorrules
- Contoh: “gunakan tab”, “tanpa titik koma”, “gunakan TypeScript”, dan sebagainya
Setelah itu, struktur ini diperluas ke folder .cursor/rules, sehingga aturan per file dan per direktori bisa diterapkan
Kemampuan agar LLM menentukan sendiri kapan aturan diterapkan juga ditambahkan

MCP yang diperkenalkan oleh Anthropic menyediakan struktur agar model dapat menggunakan alat nyata secara andal
- Menjaga koneksi client-server sambil bertukar definisi alat, resource, dan prompt
Bukan sekadar menambahkan konteks, melainkan memberikan kapabilitas nyata
- Contoh: membaca repositori, query DB, deployment Vercel
Meski kompleks dan membebani konfigurasi, MCP digunakan sebagai lapisan dasar ChatGPT Apps (diumumkan Oktober 2025)

Claude Code adalah agen yang menyatukan berbagai metode ekspansi
- Mengelola instruksi repositori dengan CLAUDE.md
- Integrasi alat dengan MCP
- Mendukung Slash Commands, Hooks, Sub-agents, Output Styles (akan dihentikan), dan lainnya
Beberapa fitur belum jelas apakah akan dipertahankan, tetapi ini dinilai sebagai model integrasi eksperimental untuk ekspansi agen

Sebagai bentuk kelahiran kembali ChatGPT Plugins, ini menggunakan struktur skill berbasis folder tanpa protokol yang rumit
- Terdiri dari SKILL.md, skrip, dan file contoh di dalam direktori skills/
- Hanya membaca seluruh isi saat diperlukan, sehingga mengatasi masalah context bloat
Contoh: skill pengujian web app berbasis Playwright
- SKILL.md berisi metadata dan panduan penggunaan
- Skrip dijalankan langsung, dan LLM tidak perlu memuat isi kode ke konteks jika tidak diperlukan
Berasumsi adanya hak akses komputer tujuan umum, dengan inti pendekatan berupa kepercayaan pada alat serbaguna alih-alih alat khusus

Agent Skills mewujudkan idealisme plugin awal
- Model kini cukup cerdas sehingga mampu menyelesaikan tugas hanya dengan alat umum dan instruksi
Agen didefinisikan ulang bukan sebagai loop LLM sederhana, tetapi sebagai entitas eksekusi yang terhubung dengan komputer
- Contoh: Claude Code, Zo Computer, dan lainnya adalah bentuk integrasi LLM dengan komputer
Setelah 2026, aplikasi LLM diperkirakan akan meluas dalam bentuk arsitektur agen dengan komputer tertanam
Kesimpulannya, ada kemungkinan ekspansi berbasis bahasa alami kembali menjadi pusat, alih-alih protokol kompleks seperti MCP