Saat tim kecil menghubungkan dan mengoperasikan beberapa agen AI di layanan produksi,
ada masalah yang terus kami hadapi.
Ketika agen membuat keputusan yang salah — men-deploy kode yang keliru,
memberikan jawaban yang salah, atau mengubah file yang salah —
bagaimana Anda melacak dan mengelola tanggung jawabnya?
Kami sedang mencoba cara dengan menetapkan peran, izin, dan batasan untuk tiap agen, lalu menempelkan badge
"siapa yang membuat dan siapa yang menyetujui" pada semua pekerjaan.
Tapi kami belum tahu apakah ini jawaban yang tepat.
Saya ingin bertanya kepada Anda yang sudah menghubungkan agen AI ke layanan produksi.
1. Apakah Anda punya cara untuk melacak kesalahan setelah terjadi?
Log? Badge? Audit Trail? Atau pada akhirnya manusia yang memeriksa semuanya?
2. Apakah Anda benar-benar menerapkan prinsip "AI mengusulkan, manusia mengambil keputusan akhir"?
Bukankah ada kalanya keputusan AI dibiarkan lolos begitu saja demi kecepatan?
Saya penasaran di mana Anda menemukan titik komprominya.
3. Saat beberapa agen bekerja sama, bagaimana Anda membagi tanggung jawab atas hasil antara?
Jika urutannya Agent A → Agent B → deployment, ketika bug muncul, di mana batas tanggung jawabnya harus diputus?
Saya tidak mencari jawaban benar, melainkan ingin mendengar bagaimana masing-masing dari Anda menyelesaikannya di lapangan.
Kami sendiri juga masih bereksperimen.
Belum ada komentar.