- Sebagai perubahan inti di era AI, lima ide—peningkatan komponen otonom, rekayasa berbasis intensi, peralihan ke transparansi, kesadaran akan scaffolding, dan difusi keahlian—saling memperkuat dan sedang membentuk ulang secara mendasar cara seluruh organisasi beroperasi
- Terinspirasi dari proyek Autoresearch milik Karpathy, siklus yang mendefinisikan keadaan tujuan lalu mengevaluasi dan memperbaikinya secara otomatis dapat meluas melampaui riset ML ke semua bidang seperti keamanan, konsultasi, dan rekrutmen
- Bukan coding atau prompting, melainkan kemampuan mengekspresikan hasil yang diinginkan secara jelas dalam kriteria yang dapat diverifikasi yang muncul sebagai skill engineering inti yang baru
- Saat AI membuat biaya, kualitas, dan proses nyata di dalam organisasi menjadi terlihat, terungkap bahwa 75~99% pekerjaan pengetahuan adalah scaffolding (pekerjaan sampingan)
- Ketika pengetahuan yang sebelumnya hanya ada di kepala para ahli diekstrak menjadi skill, SOP, dan file konteks, muncul efek ratchet yang tak dapat dibalik di mana semua instance AI belajar secara bersamaan
1. Optimisasi Komponen Otonom (Autonomous Component Optimization)
- Proyek Autoresearch milik Karpathy adalah contoh representatif yang mewujudkan konsep ini; ketika ide dimasukkan ke file
PROGRAM.md, sistem secara otomatis menangani pekerjaan merepotkan seperti tuning parameter model dan pengaturan environment, lalu menghasilkan hasil yang lebih baik daripada sebelumnya melalui optimisasi ML
- Autoresearch sedang meluas melampaui satu proyek menjadi paradigma "Autoresearch for X", dan orang-orang di berbagai bidang mengeksplorasi kemungkinan menerapkan pendekatan yang sama ke proyek mereka sendiri
- Dikombinasikan dengan konsep general verifiability atau generalized hill-climbing, semua output dipecah berdasarkan kriteria keadaan ideal (ideal state criteria) lalu diperbaiki secara otomatis
- Konsep Evals for everything terhubung ke sini, dan intinya bukan hanya semua aktivitas dapat diukur, tetapi juga dapat ditingkatkan
- Fondasi yang memungkinkan ini adalah transparansi (transparency)
Siklus Peningkatan Universal (Universal Improvement Cycle)
- Siklus yang akan menjadi model operasi standar bagi semua perusahaan, organisasi, pemerintah, dan individu:
- Menstrukturkan tujuan menjadi misi, sasaran, workflow, dan SOP
- Agen menjalankan workflow
- Output, percakapan, hasil, dan kualitas dicatat secara luas
- Error, kegagalan, dan isu kualitas masuk ke titik pengumpulan masalah organisasi tersebut
- Algoritme self-improvement mengambil data dari titik pengumpulan masalah dan melakukan penyelesaian masalah, eksperimen, verifikasi, dan optimisasi ala autoresearch
- Setelah perubahan dikonfirmasi, SOP diperbarui dan siklus diulangi
- Inti siklus ini: pemetaan tujuan → eksekusi agen → logging menyeluruh → pengumpulan kegagalan → peningkatan otonom → pembaruan SOP → pengulangan, dengan kecepatan yang makin akseleratif di setiap iterasi
2. Peralihan ke Rekayasa Berbasis Intensi (Intent-Based Engineering)
- Kekuatan sejati AI adalah berpindah dari keadaan saat ini ke keadaan ideal, tetapi sebelum itu harus ada kemampuan untuk mengartikulasikan dengan jelas apa yang sebenarnya diinginkan
- Masalah articulation gap sangat serius: jika CEO ditanya seperti apa program keamanan yang ideal, ia hanya memberi gestur; jika team leader ditanya arti "selesai", muncullah paragraf yang ditafsirkan tiga orang dengan tiga cara berbeda
- Kesenjangan ini ada bukan hanya antara ahli dan AI, tetapi juga antara pemimpin dan organisasinya sendiri
- Sebagai metodologi konkret, semua permintaan diurai balik menjadi kriteria keadaan ideal yang diskret dan dapat diuji dalam 8~12 kata, lalu diterapkan evaluasi biner (pass/fail)
- Jika kriteria ini tersedia, hill-climbing, evaluasi, dan peningkatan otomatis semuanya menjadi mungkin
- Skill engineering inti yang baru bukan coding atau prompting, melainkan kemampuan mengekspresikan intensi secara jelas hingga level yang dapat diverifikasi
3. Peralihan dari Opasitas ke Transparansi (Opacity to Transparency)
- Selama ini perusahaan tidak benar-benar memahami apa yang sebenarnya terjadi di dalam: biaya nyata proses, waktu yang dibutuhkan, kualitas output, dan pembedaan antara pelaksana kerja nyata dan pelaksana pekerjaan sampingan
- Sebagian besar organisasi selama ini dijalankan dengan "vibes dan spreadsheet", tetapi AI mengubah pekerjaan, biaya, dan kualitas nyata menjadi sesuatu yang dapat diukur dengan cara yang sebelumnya mustahil
- Begitu transparansi terwujud, peningkatan menjadi mungkin, dan ini berlaku untuk semua organisasi seperti perusahaan, pemerintah, dan tim kecil
- Fakta pertama yang diungkap transparansi: sebagian besar pekerjaan ternyata bukan pekerjaan inti
4. Sebagian Besar Pekerjaan adalah Scaffolding (Most Work is Scaffolding)
- Fakta yang diungkap AI: 75~99% pekerjaan pengetahuan adalah overhead scaffolding
- Dalam security testing, pengembangan, konsultasi, dan lain-lain, sebagian besar waktu dihabiskan untuk pemeliharaan tool, workflow, template, dan knowledge base
- Hard thinking yang sesungguhnya dilakukan oleh sangat sedikit orang dalam sangat sedikit waktu
- AI sangat unggul dalam menangani bagian scaffolding: jika konteks, metodologi, dan tool dikemas sebagai skill melalui Agent Skills, AI dapat mengeksekusi sebagian besar pekerjaan di atas level ahli
- Bukan pekerjaannya sendiri yang sulit, melainkan memelihara scaffolding-lah yang sulit
5. Difusi Keahlian (Expertise Diffusion)
- Articulation gap: ada jurang besar antara apa yang diketahui ahli dan apa yang terdokumentasi
- Contoh: jika karyawan berusia 62 tahun bernama "Cliff", yang tahu segalanya tetapi tidak mendokumentasikan apa pun, pensiun, maka pengetahuan itu ikut hilang
- Saat ini keahlian sedang disimpan secara terdistribusi dalam bentuk skill, SOP, file konteks, dan proyek open source, dan begitu pengetahuan diekstrak, pengetahuan itu tak bisa dihapus kembali
- Diibaratkan seperti "kencing di kolam renang": skill yang dipublikasikan, proses yang didokumentasikan, dan debriefing ahli masuk secara permanen ke knowledge base kolektif
- Efek one-way ratchet yang tak dapat dibalik: manusia membutuhkan 20~30 tahun untuk membangun keahlian mendalam di satu bidang lalu bisa lupa dan pensiun, tetapi AI segera menyerap keahlian yang telah ditangkap, tidak pernah lupa, dan dapat direplikasi tanpa batas
- Kesenjangan antara kecepatan akumulasi keahlian manusia dan AI semakin melebar setiap hari
Implikasi (Implications)
Peningkatan Otonom Mengubah Kecepatan di Semua Bidang
- Begitu keadaan ideal bisa didefinisikan, diukur, dan diiterasi secara otomatis, tuning manual selama berbulan-bulan dapat selesai dalam semalam
- Ini berlaku bukan hanya untuk riset ML, tetapi juga program keamanan, deliverable konsultasi, pipeline konten, proses rekrutmen, dan segala hal yang memiliki keadaan ideal yang dapat didefinisikan
- Semua organisasi akan menjalankan siklus yang sama (pemetaan tujuan → eksekusi agen → logging → pengumpulan kegagalan → peningkatan otonom → pembaruan SOP), dan organisasi yang lebih dulu mengadopsi akan membentuk jurang kompetitif yang tak terkejar berkat efek compounding
Intensi Menjadi Bottleneck
- Skill langka yang baru bukan coding atau prompting, melainkan kemampuan mengatakan dengan jelas apa yang diinginkan
- Kualitas ide selalu yang paling penting, dan yang kedua terpenting adalah kemampuan untuk mengekspresikan, mendefinisikan, dan menyelaraskan organisasi terhadap ide tersebut
- Sebagian besar pemimpin dan perusahaan belum mampu melakukan ini, dan organisasi yang lebih dulu memecahkannya dapat memfokuskan semua tool optimisasi pada tujuan yang sesungguhnya
Segalanya Menjadi Transparan
- Terjadi peralihan dari vibes yang opak ke komponen yang transparan dan dapat dioptimalkan, sehingga penipu dan gatekeeper makin sedikit tempat untuk bersembunyi
- Bahkan dalam persaingan produk dan layanan, agen tidak lagi meminta copy marketing atau rekomendasi pelanggan, melainkan data performa nyata yang dapat diverifikasi; tanpa itu, pemain akan tersingkir dari persaingan
Komoditisasi Scaffolding (Commoditization)
- Hal yang dianggap sebagai keahlian di bidang tertentu ternyata sebagian besar hanyalah scaffolding yang sebelumnya tidak dipahami kebanyakan orang
- Contoh: setup dan pemeliharaan environment pengembangan tertentu, maupun pekerjaan sampingan dalam profesi berpenghasilan tinggi seperti hukum dan konsultasi
Pengetahuan Ahli Menjadi Infrastruktur Publik
- Pengetahuan yang sebelumnya hanya dimiliki para ahli akan segera dimiliki semua orang, terutama AI
- Di bidang tertentu, keunggulan dari 50 tahun pengalaman tidak akan bertahan lama; pengetahuan tersebut akan diekstrak oleh dirinya sendiri atau oleh rekan-rekannya di seluruh dunia
Ringkasan Inti dan Kesimpulan
- Kelima ide ini semuanya berinteraksi dan saling memperkuat
- Bukan hanya berbagai komponen yang bisa ditingkatkan, tetapi kecepatan peningkatannya sendiri juga meningkat
- Semua perusahaan, pemerintah, dan organisasi akan berkumpul pada siklus yang sama (pendefinisian tujuan → eksekusi agen → logging menyeluruh → pengumpulan kegagalan → peningkatan sistem itu sendiri), dan organisasi yang lebih dulu mencapainya akan membentuk jurang yang tidak bisa dikejar pihak lain berkat efek compounding
4 komentar
Rangkumannya rapi, tapi pada akhirnya pekerjaannya tetap sama dan tidak ada yang benar-benar berubah; ujung-ujungnya bermuara pada ayo berbagi pengetahuan supaya aku juga bisa bekerja dengan AI.
Yang harus tersisa adalah niat masalah apa yang ingin diselesaikan saat menulis kode itu.
Setelah waktu berlalu, yang tersisa hanya pertanyaan, kenapa ini ditulis seperti ini?..
Kalau dicoba, kita akan tahu: hanya data yang tidak bisa diakses itulah moat.
Mungkin pemahaman saya kurang, tetapi sejujurnya saya tidak begitu mengerti apa yang sebenarnya ingin disampaikan.