- Agen LLM adalah struktur teknologi yang lebih mudah dipahami cara kerjanya jika langsung diimplementasikan, bukan sekadar dipahami sebagai konsep
- Hanya dengan beberapa puluh baris kode Python, Anda bisa membuat agen percakapan menggunakan OpenAI Responses API, dan dengan menambahkan fitur pemanggilan alat (tool call), agen dapat bertindak secara otonom
- Inti dari agen adalah loop pemanggilan berulang ke LLM yang stateless, dan percakapan multi-putaran diwujudkan dengan mengelola konteks percakapan secara langsung
- Context Engineering adalah persoalan nyata setingkat tugas pemrograman, yang membutuhkan perancangan untuk mengoptimalkan input, output, dan deskripsi alat dalam batas token
- Saat ini, desain agen adalah ruang masalah rekayasa perangkat lunak yang terbuka, sehingga pengembang individu pun bisa mencoba pendekatan baru lewat eksperimen
Kesederhanaan dalam Menulis Agen
- Agen LLM dapat diimplementasikan hanya dengan OpenAI Responses API tanpa konfigurasi yang rumit
- Dalam kode contoh, daftar
context digunakan untuk menyimpan percakapan antara pengguna dan model, lalu dipanggil berulang untuk menghasilkan respons percakapan seperti ChatGPT
- Dengan membuat dua konteks yang memiliki “kepribadian baik” dan “kepribadian buruk”, Anda bisa mensimulasikan percakapan multi-kepribadian
- LLM tidak memiliki state, dan kesinambungan percakapan dipertahankan melalui array string (
context) yang dikelola pengguna
- Bahkan dengan struktur sesederhana ini, percakapan multi-putaran tetap bisa diwujudkan, sambil memberi pengalaman langsung tentang cara kerja LLM
Integrasi Alat dan Operasi Otonom
- Tambahkan fungsi ping sebagai alat pada agen untuk memeriksa status koneksi jaringan
- OpenAI API meminta definisi alat dalam format JSON, dan ketika LLM meminta pemanggilan alat sesuai kebutuhan, kode Python akan menjalankannya lalu mengirimkan kembali hasilnya
- Bahkan tanpa instruksi eksplisit, LLM secara otomatis melakukan ping ke beberapa host (
google.com, www.google.com, 8.8.8.8)
- Ini menunjukkan bahwa hanya dengan “izin menggunakan alat”, LLM sudah dapat melakukan penilaian otonom
- Seluruh loop pada dasarnya hanyalah struktur “permintaan pemanggilan alat → eksekusi → pengembalian hasil”, sehingga operasi agen otonom dapat diwujudkan tanpa logika kontrol yang rumit
Aplikasi Nyata dan Kritik terhadap MCP
- Meski kode contohnya sederhana, ia dapat diperluas secara praktis dengan menggabungkan alat tambahan (seperti traceroute) atau penyimpanan konteks berbasis SQLite
- MCP (Multi-Context Protocol) hanyalah antarmuka plugin untuk Claude Code atau Cursor, bukan teknologi yang wajib
- Jika langsung menangani API, fungsi yang sama dapat dibuat tanpa MCP
- MCP hanya berguna di lingkungan yang tidak memberi kendali atas kode, dan bahkan bisa membatasi fleksibilitas arsitektur agen
- Keamanan LLM memang kompleks, tetapi struktur yang aman tetap bisa dirancang lewat konteks yang dipisahkan dan pembatasan alat
Pentingnya Context Engineering
- “Prompt engineering” adalah konsep yang dibesar-besarkan, tetapi context engineering adalah masalah pemrograman yang nyata
- Jumlah token dalam context window terbatas, dan input, output, serta deskripsi alat semuanya memakan ruang
- Jika batas ini terlampaui, kualitas respons model menjadi tidak stabil
- Sebagai solusi, Anda dapat membuat sub-agent dengan konteks dan alat yang berbeda-beda, lalu merancang agar mereka saling merangkum dan bertukar informasi
- Struktur seperti ini bisa dikembangkan menjadi berbagai eksperimen seperti jaringan agen berbentuk pohon atau kompresi berbasis ringkasan real-time
- Bahkan ide yang kompleks pun memiliki kesederhanaan yang memungkinkan implementasi dalam 30 menit
Masalah Rekayasa yang Terbuka dan Nilai Eksperimen
- Saat ini banyak startup sedang mengembangkan agen untuk deteksi kerentanan, dan pengembang individu juga bisa melakukan eksperimen yang sama
- Desain agen mencakup tugas rekayasa yang belum terselesaikan seperti berikut
- Keseimbangan antara nondeterminisme dan pemrograman terstruktur
- Verifikasi terhadap dunia nyata (ground truth) dan pencegahan penghentian loop terlalu dini
- Format pertukaran data antar agen multi-tahap (JSON, SQL, Markdown, dan lain-lain)
- Alokasi token dan pengendalian biaya
- Masalah-masalah ini bukan hanya untuk riset berskala besar, melainkan bidang yang bisa dieksplorasi lewat eksperimen individu, dan setiap iterasi bisa dicoba dalam hitungan puluhan menit
- Pada akhirnya, pengalaman membuat agen secara langsung adalah titik awal untuk memahami teknologi LLM
Belum ada komentar.