> # TL;DR
>
> - Membangun agen LLM/AI
> - selalu menempatkan kesederhanaan sebagai prinsip dasar, dan menambahkan kompleksitas hanya saat diperlukan
> - "memahami framework secara mendalam sebelum mengadopsinya", serta "menggabungkan dan menguji workflow·pola agen (chaining, routing, paralelisasi, evaluator-optimizer, dan lain-lain) sesuai lingkungan nyata dan tujuan, sambil merancang tool (API), dokumentasi, dan pengujian dengan cermat".
1. Prinsip desain agen LLM yang sukses
- Fokus pada kesederhanaan: Implementasi yang sukses cenderung memanfaatkan pola yang sederhana dan dapat dirangkai (compoundable), alih-alih bergantung pada framework yang kompleks.
- Tambahkan kompleksitas hanya saat diperlukan: Struktur dasar sebaiknya dirancang sesederhana mungkin, lalu kompleksitas diperkenalkan hanya jika benar-benar dibutuhkan.
- (Teks asli: "Implementasi yang paling sukses tidak bergantung pada library khusus atau framework yang rumit... melainkan dibangun di atas pola yang sederhana namun dapat digabungkan secara modular.")
2. Pembedaan konsep workflow VS agent
- Workflow: LLM dan tool memproses tugas mengikuti rute yang telah ditentukan sebelumnya (jalur kode).
- Agent: LLM secara mandiri mengelola tugas dan penggunaan tool secara dinamis (LLM menjadi pengambil keputusan).
- (Teks asli: "Workflow mengoordinasikan LLM dan tool mengikuti jalur kode yang telah ditentukan... agent membuat LLM secara dinamis mengarahkan prosesnya sendiri dan cara menggunakan tool")
3. Kriteria untuk memutuskan kapan memakai agent
- Metode sederhana dulu → kompleksitas bertahap bila perlu: Mulailah dari pemanggilan LLM sederhana, pencarian, dan sejenisnya; jika belum cukup, baru secara bertahap memperkenalkan Workflow/Agent.
- Prediktabilitas/konsistensi itu penting → cocok menggunakan workflow
- Fleksibilitas skala besar·pengambilan keputusan yang digerakkan model diperlukan → agent lebih cocok
4. Prinsip adopsi framework
- Ada berbagai tool/framework seperti LangGraph, Bedrock, Rivet, Vellum,
- tetapi disarankan memulai dari penggunaan langsung API LLM dan hanya mengadopsi framework saat diperlukan.
- Saat memakai framework, pemahaman mendalam tentang cara kerjanya di dalam sangat penting (abstraksi bisa membuat pemecahan masalah menjadi lebih sulit)
- (Teks asli: "Kami menyarankan para pengembang untuk terlebih dahulu memulai dari cara menggunakan API LLM secara langsung")
5. Workflow dan contoh berdasarkan pola di praktik nyata
- Augmented LLM: Menambahkan kemampuan bawaan yang diperluas seperti pencarian, koneksi tool, memori, dan sebagainya (desain antarmuka yang spesifik dan dokumentasi itu penting)
- Prompt Chaining: Membagi satu tugas menjadi beberapa pemanggilan LLM (tahap) untuk memastikan kejelasan dan akurasi.
- Contoh: membuat copy pemasaran → menerjemahkan, draf dokumen → meninjau → menulis
- Routing: Mengklasifikasikan input lalu mencabangkannya ke pemrosesan·tool yang sesuai
- Contoh: routing pertanyaan pelanggan berdasarkan tipe, hanya meneruskan pertanyaan sulit ke model berperforma tinggi
- Parallelization:
- Sectioning: Memecah pekerjaan menjadi beberapa subtugas untuk diproses secara bersamaan
- Voting: Mencoba tugas yang sama beberapa kali untuk menentukan hasil terbaik
- Contoh: peninjauan kerentanan kode, otomatisasi evaluasi LLM
- Orchestrator-Workers: Agen master mendistribusikan dan menggabungkan subtugas.
- Contoh: pada tugas coding yang kompleks, hanya bagian yang diperlukan didistribusikan secara real-time, pengumpulan/integrasi berbagai data
- Evaluator-Optimizer: Satu LLM membuat jawaban, LLM lain mengevaluasi·memberi umpan balik atas jawaban tersebut, lalu perbaikan diulang
- Contoh: peningkatan berulang hasil terjemahan, pengumpulan informasi yang kompleks
6. Contoh penerapan nyata di industri
- Dukungan pelanggan: Integrasi chatbot+tool, otomatisasi pekerjaan terkait data pelanggan/pesanan/pengembalian dana, dengan keberhasilan yang jelas diukur berdasarkan "penyelesaian masalah". Ada juga referensi perusahaan seperti penerapan tarif berbasis usage dalam praktik nyata.
- Coding agent: Iterasi·perbaikan berbasis umpan balik dari pengujian otomatis, telah dibuktikan di SWE-bench dan sejenisnya. Domain masalah dan kualitas hasil dapat diukur dengan jelas. Namun, peninjauan akhir oleh manusia tetap selalu diperlukan.
7. Tips tool prompt engineering (Lampiran 2)
- Disarankan memakai format yang nyaman digunakan LLM dan alokasi token yang cukup
- Deskripsi tool (usage, contoh, edge case, batasan, dan sebagainya) harus jelas
- Uji pola penggunaan model yang sebenarnya → lalu perbaiki (misalnya dengan workbench)
- Rancang dengan pendekatan poka-yoke agar kesalahan kecil pun bisa dicegah
- (Teks asli: "Definisi tool yang baik sebaiknya mencakup contoh penggunaan, edge case, persyaratan format input, dan batas yang jelas dengan tool lain.")
8. Prinsip inti
- Pertahankan kesederhanaan (Keep it simple)
- Transparansi proses perencanaan agent (Planning) itu wajib
- Dokumentasi dan pengujian yang jelas untuk tool·antarmuka
- Framework bagus untuk kecepatan awal, tetapi abstraksi harus diminimalkan dan kontrol langsung tetap disarankan
Belum ada komentar.