Mirror Stack, framework open-source untuk memverifikasi pasca-fakta kecurangan (tipu daya) agen AI.

Halo. Dalam beberapa hari terakhir, melihat Autonomous Loop Agent yang berjalan mandiri selama berhari-hari naik daun dengan cepat, saya mulai memikirkan, “Jika AI diam-diam memanipulasi data uji atau melaporkan hasil dengan mengakali batasan (gaming), bagaimana kita bisa menangkapnya?” Dari pertanyaan itulah saya membuat proyek open-source Mirror Stack.

Jika keamanan agen selama ini berfokus pada “mencegahnya berbuat buruk dengan guardrail,” Mirror Stack mengusulkan paradigma “bukti, bukan janji (Provable, not Promised).” Struktur ini tidak berangkat dari keyakinan bahwa AI akan bertindak baik; sebaliknya, hanya perilaku jujur yang dipaksa meninggalkan catatan pasca-fakta yang tidak dapat dipalsukan, yaitu ledger yang disegel rantai (chain-sealed ledger).

🛠️ Komponen inti dan arsitektur

Terdiri dari 4 alat dan 5 protokol yang bekerja ringan secara local-first tanpa server pusat.

measure-mirror: Menjalankan 23 probe statistik/anti-gaming untuk memeriksa klaim AI.action-mirror: Melacak riwayat tindakan agen yang terhubung dalam struktur rantai untuk menjamin integritas.provenance-mirror: Membuktikan secara mekanis keaslian asal-usul konten yang dihasilkan.mirror-witness: Menggunakan GitHub Actions dan lingkungan CI sebagai saksi silang (witness) untuk memperoleh keandalan tanpa biaya infrastruktur tambahan.

🔌 Dukungan resmi untuk ekosistem AI terbaru (MCP)

Secara resmi mendukung server Model Context Protocol (MCP), mirror-stack-mcp, yang belakangan distandardisasi terutama oleh Anthropic. Di lingkungan Python, cukup dengan pip install, alat ini bisa langsung dihubungkan ke tool agen terbaru seperti Claude, Cursor, dan Windsurf lalu diterapkan ke workflow kerja nyata.

💡 Kasus nyata yang cukup menarik

Selama pengujian, ada arc yang menarik: bahkan sebelum memulai eksperimen, satu agen mendeteksi sendiri kontradiksi dalam desain pada tahap power check yang telah didaftarkan sebelumnya, lalu menarik eksperimennya sendiri (retracted) tanpa menghabiskan biaya token sedikit pun, sekaligus meninggalkan ledger rantai terkait—menunjukkan proses koreksi diri yang bersifat adversarial.

Di era ketika mesin yang diotomatisasi terus bertambah, saya merasa kita membutuhkan lapisan audit terdistribusi yang “dipaksa oleh mesin dan dapat diverifikasi oleh mesin” sambil meminimalkan campur tangan manusia.

Saat ini proyeknya baru melewati tahap prototipe dan verifikasi awal, lalu bergerak ke fase memperluas ekosistem. Saya sangat mengharapkan banyak masukan dari mereka yang tertarik pada arsitektur atau AI alignment/keamanan, juga star serta partisipasi dalam reproduksi independen!