Cara Membungkus Genius yang Tak Terduga

• Untuk mengurangi kesalahan berulang pada produk AI yang hasilnya bisa berbeda meski permintaannya sama, kontrol harus dilakukan bukan dengan menambah instruksi, melainkan dengan kode deterministik yang tidak bisa dilawan model
• Struktur kontrol terbagi menjadi empat lapisan: model, harness, dokumen, dan hook; hanya hook yang bekerja secara independen dalam kondisi tertentu yang dapat menegakkan aturan
• Tugas yang akurasinya dapat dinilai dengan kode bisa dijamin, tetapi tugas yang membutuhkan penilaian seperti kesalahan analisis yang halus kembali bergantung pada model, sehingga meski model berkembang, celah verifikasi tidak hilang
• Produk AI membutuhkan harness engineering yang membedakan bagian mana yang diserahkan pada penilaian model dan bagian mana yang dijamin oleh kode; jika kontrol kurang, produk akan memberi jawaban salah, jika berlebihan, ia menjadi perangkat lunak umum yang mahal
• Jika semua orang bisa menyewa model yang sama, lapisan pembungkus (wrapper) yang mengakumulasi standar, kode, data, dan lingkungan integrasi per produk menjadi keunggulan kompetitif yang dapat dipertahankan, dan pertumbuhan Cursor menunjukkan hal ini

---

Memindahkan Aturan dalam Dokumen ke Kode

• Meski tindakan tertentu dilarang dalam file yang dibaca Claude Code di setiap sesi, kadang ia memahami dan menyetujuinya lalu tetap mengulangi tindakan yang sama
• Ketika aturan dipindahkan ke kode yang langsung memblokir perintah begitu kondisi terpenuhi, tindakan terlarang berhenti terlepas dari penilaian model
• Biaya meninjau output AI yang dibahas dalam The Verification Tax dapat dikurangi lewat engineering di tahap hulu, alih-alih menambah peninjauan setelahnya
• Struktur kontrol minimal yang dibuat oleh satu orang dengan alat pribadi pun memiliki bentuk masalah yang sama dengan yang harus dipecahkan produk AI berskala besar
• Panduan praktis yang menghubungkan tipe kegagalan dengan jenis hook dan merangkum cakupan yang dapat diukur per lapisan dapat dilihat di postingan X terpisah

Empat Lapisan yang Membentuk Kontrol

• Daya kontrol tersusun dari empat lapisan yang semakin kuat dari bawah ke atas
  • Model: Meski seunggul Claude Opus 4.8 atau GPT-5.5, model dapat memberi jawaban berbeda untuk permintaan yang sama, dan tidak ada instruksi yang dapat sepenuhnya menghilangkan sifat ini
  • Harness: Claude Code, Codex, dan OpenClaw menjalankan model serta menentukan apa yang dilihat model, tetapi hanya dapat mengarahkan secara garis besar
  • Dokumen: CLAUDE.md dan AGENTS.md memuat preferensi, konteks proyek, aturan, dan akumulasi perbaikan, tetapi model menilainya bersama informasi lain sehingga bisa saja tidak mengikutinya
  • Hook: Kode yang memantau situasi tertentu lalu bekerja secara independen, memblokir perintah terlarang tanpa bergantung pada persetujuan model
• Dari empat lapisan itu, hanya hook di lapisan paling atas yang tidak bernegosiasi
  • Aturan yang dipindahkan ke hook tidak bisa diakali oleh model, sehingga kesalahan berulang hilang dan cakupan yang harus ditinjau manusia juga berkurang

Wilayah Penilaian yang Tidak Bisa Dijamin dengan Kode

• Permukaan yang perlu dikontrol bisa dipersempit, tetapi tidak bisa ditutup sepenuhnya
  • Kondisi “jangan jalankan perintah ini” bisa diperiksa dengan kode
  • Kondisi “jangan biarkan analisis bergeser secara halus ke arah yang salah” membutuhkan penilaian, dan model lain yang menilainya pun kembali memiliki ketakterdugaan
• Sistem yang benar-benar dapat membuktikan output membandingkan kriteria dan hasil yang ditulis manusia sebelumnya dengan kode, dan hanya bekerja di wilayah yang jawaban benarnya dapat didefinisikan secara tepat
• Meski model di-upgrade, masalah penilaian tidak hilang, sehingga lapisan kontrol yang membungkus model tetap diperlukan

• Jaminan Berbasis Spesifikasi Formal

  • SEVerA dapat menjamin output agen memenuhi kontrak formal, tetapi kontraknya harus ditulis terlebih dahulu dalam logika formal, dan ini hanya berlaku pada wilayah yang memungkinkan pemeriksaan semacam itu
  • VeriGuard menambahkan keamanan terverifikasi pada agen LLM, tetapi verifikasi manual oleh pengguna tetap diperlukan
  • Tahap ketika LLM menerjemahkan niat pengguna menjadi aturan formal itu sendiri tidak dapat diprediksi
  • Jaminan praktis pada akhirnya bergantung pada pemeriksaan tetap terhadap spesifikasi yang ditulis manusia
  • “Agen yang memperbaiki diri” mengevaluasi hasil yang terjadi untuk meningkatkan perilaku berikutnya, tetapi itu berbeda dari cara membuktikan bahwa satu output tertentu benar

Membungkus Mesin Probabilistik dengan Perangkat Lunak Deterministik

• Pengujian perangkat lunak tradisional berkembang dengan menetapkan output yang diinginkan dan satu jawaban benar, lalu memeriksa kode yang dapat diprediksi
• Produk AI-native menempatkan mesin probabilistik yang dapat menghasilkan hasil berbeda untuk prompt yang sama di pusatnya, sehingga asumsi pengujian lama runtuh
• Seperti dicatat Hamel Husain, disiplin pengujian perangkat lunak yang dibangun selama puluhan tahun mengandaikan satu jawaban benar, tetapi dalam AI justru jawaban benar itu menghilang
• Banyak pengembang berkumpul pada pendekatan mempertahankan mesin yang tidak dapat diprediksi, tetapi membungkusnya dengan kode deterministik yang bekerja sama persis setiap kali
  • 12-factor agents dari Dex Horthy mendefinisikan agen yang baik sebagai sistem yang “sebagian besar tersusun dari perangkat lunak”
  • building effective agents dari Anthropic menyarankan agar pekerjaan dijalankan lewat “jalur kode yang telah ditentukan sebelumnya” dan menambahkan “pemeriksaan terprogram”
• Di Claude Code, Anda dapat memilih cara memeriksa kondisi
  • Jika kode secara independen menentukan lulus atau gagal, Anda memperoleh jaminan
  • Jika model menentukan apakah kondisi terpenuhi, Anda hanya memperoleh hasil penilaian

• Skills dan /goal di Claude Code

  • Skills adalah prosedur terstruktur yang dapat dipanggil agen, tetapi karena model memilih apakah akan menjalankannya dan bisa menyimpang di tengah jalan, ia termasuk lapisan dokumen
  • /goal membuat pekerjaan terus berjalan hingga kondisi yang dinyatakan terpenuhi, sehingga lebih dekat ke lapisan pemaksaan
  • Namun setelah setiap giliran, model kecil dan cepat menilai apakah kondisi terpenuhi, sehingga bisa salah menilai seperti model lain
  • /goal adalah fitur yang membungkus Stop hook, dan dalam Stop hook yang ditulis langsung, skrip dapat menentukan lulus atau gagal secara independen alih-alih model
  • Dokumentasi Claude Code membedakan dua cara: menggunakan skrip untuk pemeriksaan deterministik, dan model untuk pemeriksaan yang membutuhkan penilaian

Ketika Pengaturan Pribadi Diperluas ke Skala Organisasi

• Di lingkungan pribadi, jika agen mengabaikan satu aturan, dampaknya biasanya hanya membuang beberapa menit, dan kasus penting dapat dicegah dengan hook pribadi
• Di perusahaan beranggotakan 200 orang yang menggunakan agen yang sama, tidak semua anggota memiliki hook pribadi, dan aturan bisa berada dalam satu file bersama
• Jika aturan bersama sekali saja diabaikan, masalah yang sama dapat muncul di semua tempat tempat file itu dijalankan, dan tingkat perlindungan organisasi ditentukan oleh aturan yang ditulis paling longgar
• Struktur kontrolnya sama seperti pengaturan pribadi, tetapi ketika skala membesar, biaya kesalahan berubah

Apa yang Akan Dijamin dan Apa yang Dibiarkan Terbuka

• Panduan arsitektur agent-native dari Every mendefinisikan fitur bukan sebagai kode yang ditulis, melainkan “hasil yang dideskripsikan, yang dicapai oleh agen yang bekerja dalam loop”
• Pendekatan ini membiarkan model bergerak secara improvisasional dan merancang produk berpusat pada hasil, tetapi pada titik yang membutuhkan kontrol, ia kembali lagi ke kode
  • Hot path, yaitu jalur yang sering dipakai atau penting, disarankan untuk dipindahkan ke kode
  • Diakui bahwa beberapa pekerjaan membutuhkan verifikasi yang tidak boleh diserahkan pada penilaian agen
• Desain produk yang berpusat pada model dan engineering yang berpusat pada kontrol tampak berlawanan, tetapi keduanya menangani arsitektur yang sama dari dua ujung
• Dalam desain nyata, perlu diputuskan titik mana dalam produk yang harus dikunci dengan kode dan sampai sejauh apa
  • Jika terlalu sedikit dikunci, bahkan pada pekerjaan yang membutuhkan jaminan, model dapat menilai secara improvisasional dan menyampaikan jawaban salah dengan penuh keyakinan kepada pelanggan
  • Jika terlalu banyak dikunci, semua jalur menjadi perangkat lunak umum yang ditulis dengan kode, dan model melakukan pekerjaan yang sudah dilakukan kode lama dengan lebih lambat dan lebih mahal
• Harness engineering, istilah yang digunakan tim OpenAI, adalah pekerjaan membagi secara sengaja proporsi bagian produk yang membutuhkan penilaian model dan bagian yang membutuhkan jaminan kode di setiap titik produk

Lapisan Pembungkus yang Terakumulasi Lebih Lama daripada Model

• Model adalah lapisan yang paling sulit dipertahankan karena siapa pun bisa menyewa model yang sama, dan model membaik untuk semua pengguna sekaligus mengikuti jadwal lab model
• Bahkan jika pesaing membaca seluruh repositori kode, mereka tidak otomatis memperoleh akumulasi penilaian tentang apa yang harus dijamin dan apa yang harus dibiarkan terbuka dalam pekerjaan tertentu
• Penilaian semacam ini diimplementasikan sebagai lapisan yang tidak bisa dilawan model, dan terus terakumulasi bersama struktur kontrol tiap produk
• Gabungan kode, standar, data, dan lingkungan integrasi kerja yang mengelilingi model membentuk keunggulan kompetitif jangka panjang

Lapisan Kontrol yang Diakumulasi Cursor

• Cursor, alat coding AI, tidak membuat model serbaguna sendiri, melainkan merutekan permintaan di antara Claude, GPT, Gemini, dan Grok, serta memperlakukan model sebagai komoditas yang dapat disewa
• Meski Claude Code dari Anthropic mendapat akses lebih awal ke model unggul, ia tidak dapat menggantikan Cursor
• Pendapatan Cursor meningkat dari sekitar 1 miliar dolar AS pada November tahun lalu menjadi sekitar 4 miliar dolar AS pada Juni
• SpaceX menggunakan opsi yang diperolehnya pada April pada pekan lalu dan sepakat mengakuisisi Cursor senilai 60 miliar dolar AS, menjadikannya akuisisi startup yang didukung modal ventura terbesar sepanjang sejarah
• Yang diakumulasi Cursor bukanlah model serbaguna yang lebih baik, melainkan lapisan yang membungkus produk
  • Indeks codebase yang menyinkronkan seluruh repositori dan menjaganya tetap dapat dicari
  • Model autocomplete internal yang belajar dari ratusan juta edit per hari tentang saran mana yang diterima atau ditolak pengembang
  • Lingkungan integrasi enterprise yang sudah tertanam di sebagian besar perusahaan Fortune 500
• Meski perusahaan model memiliki model yang lebih baik, mereka tidak memiliki editor, indeks, dan kebiasaan penggunaan pengembang

Pertanyaan yang Menentukan Keberlanjutan Produk AI-Native

• Kasus seperti Cursor yang membangun lapisan kontrol masih jarang, dan banyak pihak yang menggunakan AI untuk pekerjaan belum membangun lapisan pembungkus seperti ini atau bahkan tidak menyadari keberadaannya
• Pada skala perusahaan, cara membangun lapisan ini membedakan produk AI-native yang tahan penggunaan nyata dari demo mengesankan di atas model yang bisa disewa siapa saja
• Bahkan jika model dasar menjadi gratis, pertanyaan tentang apa yang tersisa akan menentukan aset berkelanjutan sebuah produk