Apa itu agen?
- Definisi agen beragam, tetapi dapat dibagi menjadi dua kategori:
- Workflows: LLM dan alat dikoordinasikan melalui jalur kode yang telah ditentukan sebelumnya
- Agents: LLM secara dinamis mengendalikan pelaksanaan tugas dan penggunaan alat
- Di Anthropic, keduanya diklasifikasikan sebagai sistem agentic (Agentic Systems), dengan perbedaan penting dalam fleksibilitas dan otonomi
Kapan sebaiknya menggunakan agen?
- Jika solusi sederhana memungkinkan, penting untuk meminimalkan kompleksitas
- Workflows: berguna saat menangani tugas yang dapat diprediksi, serta memberikan konsistensi dan stabilitas
- Agents: cocok ketika dibutuhkan fleksibilitas dan pengambilan keputusan yang berpusat pada model dalam skala besar
- Dalam kebanyakan kasus, cukup dengan mengoptimalkan pemanggilan LLM atau memanfaatkan contoh konteks
Panduan penggunaan framework
- Framework utama:
- Kelebihan framework:
- Menyederhanakan pemanggilan LLM, definisi alat, dan rantai pemanggilan
- Kekurangan:
- Dapat menambah kompleksitas atau mempersulit debugging
- Rekomendasi: mulai langsung dengan API LLM, dan meskipun menggunakan framework, Anda tetap harus memahami kode dasarnya
Komponen sistem agen
Augmented LLM
- Karakteristik: memiliki kemampuan tambahan seperti pencarian, penggunaan alat, dan memori
- Cara implementasi:
- Dapat diintegrasikan dengan alat pihak ketiga menggunakan Model Context Protocol
- Menyediakan antarmuka yang sederhana dan terdokumentasi
Pola workflow utama
- Prompt Chaining
- Membagi tugas ke dalam sublangkah tetap dan memprosesnya secara berurutan
- Use case:
- Membuat copy pemasaran lalu menerjemahkannya
- Menyusun draf dokumen lalu meninjaunya
- Routing
- Mengklasifikasikan data masukan lalu meneruskannya ke tugas yang sesuai
- Use case:
- Klasifikasi pertanyaan dukungan pelanggan (pertanyaan umum, permintaan refund, dukungan teknis)
- Pertanyaan sederhana diarahkan ke model kecil, pertanyaan kompleks ke model yang lebih kuat
- Parallelization
- Memisahkan tugas atau menjalankan tugas yang sama beberapa kali
- Use case:
- Menggunakan beberapa prompt saat meninjau kerentanan kode
- Memisahkan input pengguna untuk difilter dan direspons
- Orchestrator-Workers
- LLM pusat menguraikan tugas, menugaskannya ke worker LLM, lalu menggabungkan hasilnya
- Use case:
- Memodifikasi file dalam tugas coding yang kompleks
- Tugas pencarian informasi multi-sumber
- Evaluator-Optimizer
- Mengevaluasi respons LLM dan memberikan umpan balik untuk peningkatan berulang
- Use case:
- Meningkatkan kualitas terjemahan dalam terjemahan sastra
- Tugas pencarian dan analisis multi-tahap
Agen
- Agen merencanakan pekerjaan dan mengeksekusinya secara mandiri, serta berinteraksi dengan manusia bila diperlukan
- Karakteristik:
- Menggunakan alat untuk memperoleh "kebenaran" dari lingkungan dan mengevaluasi kemajuan
- Dapat menetapkan pemeriksaan dan kondisi penghentian selama pekerjaan berlangsung
- Use case:
- Agen coding yang kompleks
- Implementasi Claude yang menjalankan pekerjaan di komputer
Menggabungkan pola dan kustomisasi
- Pola-pola di atas dapat disesuaikan dan digabungkan untuk situasi tertentu
- Kompleksitas hanya boleh ditambahkan jika terbukti meningkatkan hasil
Ringkasan
- Keberhasilan di bidang LLM tidak bergantung pada membangun sistem yang paling kompleks, melainkan pada membuat sistem yang tepat sesuai kebutuhan
- Mulailah dengan prompt sederhana, optimalkan melalui evaluasi, dan pertimbangkan penambahan sistem agen multi-tahap hanya ketika solusi sederhana tidak lagi memadai
- Prinsip inti saat mengimplementasikan agen
- Jaga kesederhanaan: pertahankan desain agen tetap sederhana
- Utamakan transparansi: tampilkan tahap perencanaan agen dengan jelas
- Tingkatkan kualitas Agent-Computer Interface (ACI): dokumentasikan dan uji alat secara menyeluruh
- Pemanfaatan framework dan strategi implementasi
- Framework berguna untuk implementasi awal, tetapi perlu juga mempertimbangkan membangun sistem dengan mengurangi lapisan abstraksi dan menggunakan komponen dasar
- Dengan mengikuti prinsip-prinsip di atas, Anda dapat membuat agen yang kuat, andal, dan mudah dipelihara
Contoh pelanggan: pemanfaatan agen di dunia kerja
- A. Dukungan pelanggan
- Memberikan solusi yang efektif melalui alur percakapan alami dan integrasi data eksternal
- Kelebihan:
- Dapat diukur berdasarkan tingkat penyelesaian yang berhasil
- Dapat menerapkan model harga berbasis penggunaan
- B. Agen coding
- Solusi kode dapat diverifikasi melalui pengujian otomatis
- Kelebihan:
- Hasil pengujian dapat digunakan sebagai umpan balik
- Ruang masalah jelas dan terstruktur
- C. Desain dan optimasi alat
- Dirancang dengan mempertimbangkan cara LLM menggunakan alat
- Metode yang direkomendasikan:
- Gunakan nama parameter yang intuitif dan ringkas
- Lakukan pengujian dan perbaikan berulang
- Sertakan contoh dan edge case dalam definisi alat
2 komentar
Sepertinya low-code diterapkan dengan cara yang tidak lazim, tetapi tanpa skema data dan kontrol versi, pelacakan perubahan tidak akan bisa dilakukan.
Dengan pengalaman yang masih dangkal, sekilas rasanya seperti menggabungkan fungsi-fungsi dalam pemrograman fungsional, tetapi dengan kekacauan pemrograman karena tidak tahu apa yang akan menjadi I/O fungsi (parameter, tipe nilai kembalian)? Begitulah rasanya..
Sambil melakukannya, pikiran yang terus muncul adalah apakah ini memang perlu dilakukan..? Perlukah sampai didukung sejauh ini..
Sampai sekarang saya masih belum benar-benar merasakan bidang apa yang benar-benar membutuhkan sistem agentic