Geas - Membuat AI Agent mematuhi protokol kerja yang ketat agar tidak melakukan kesalahan

Halo, saya adalah peneliti keamanan junior yang sangat sering menggunakan Claude code dalam pekerjaan.

Latar belakang

Suatu hari saya sedang bekerja dengan Claude code seperti biasa.

Karena saya harus mengerjakan tugas yang besar dan penting, saya benar-benar mencurahkan banyak usaha untuk membuatnya memahami pekerjaan dan menyusun rencana.

Setelah berdiskusi dengan giat, saya memintanya membuat file plan dan melakukan self-review, dan ternyata ia menemukan sangat banyak critical issue.
Karena saya sudah banyak berinvestasi dalam persiapan pekerjaan, saya jadi keras kepala dengan pikiran, "Sempurna... aku butuh rencana yang sempurna..." lalu memintanya terus melakukan self-review sampai tidak ada issue lagi, dan dimulailah self-review tanpa akhir.

Namun, bahkan setelah 17 kali self-review, issue itu tidak juga hilang, dan situasinya sampai pada titik ia mulai menciptakan hal-hal baru yang melampaui scope awal yang telah ditentukan, termasuk revisi yang tidak perlu.

Saat kepala saya mulai berdenyut, berbagai pengetahuan AI yang pernah saya lihat di geeknews, aneka newsletter, dan lain-lain mulai terlintas. "Cenderung melebih-lebihkan diri sendiri", "kalau pekerjaan makin panjang jadi malas", "middle in the lost", dan sebagainya... Begitulah, saya mulai memandang Claude sebagai satu kepribadian, dan kesimpulan yang saya ambil adalah, "Claude adalah jenius yang malas."

Dengan pola pikir, "Bagaimana caranya agar jenius malas ini bisa terus dipaksa bekerja 100%?", "Kalau saya mau malas, mereka harus rajin," proyek ini pun dimulai.

---

Saat ini proyek terdiri dari dua bagian.

• Protokol
• Plugin Claude code yang memaksanya mematuhi protokol di atas

Saya penasaran dengan pendapat orang-orang yang pernah punya kekhawatiran serupa.