- Sebagian besar alat AI saat ini gagal mencerminkan proses pembelajaran yang berpusat pada manusia (recall, eksekusi, iterasi kolektif) — pada akhirnya ini adalah desain terbalik yang merusak loop pertumbuhan baik manusia maupun AI
- Manusia belajar bukan sekadar pengetahuan, melainkan 'proses', dan berinovasi melalui iterasi yang kolektif dan akumulatif. Namun, kebanyakan alat AI mengikuti pola “klik tombol → AI mengerjakan semuanya”, sehingga menghapus loop recall dan pembelajaran yang dipimpin manusia
- Alat AI yang baik harus mendorong partisipasi aktif dan recall manusia pada tahapan “Explain, Demonstrate, Guide, Enhance”, serta menjadikan 'amplifikasi' alih-alih otomatisasi sebagai tujuan
- Contoh: dalam alat observabilitas/pemulihan, AI tidak seharusnya langsung mengambil tindakan, melainkan berperan di setiap tahap untuk mendorong pemikiran dan pembelajaran manusia, seperti penjelasan proses, panduan tindakan, panduan pemecahan masalah, dan saran perbaikan setelahnya
- Jika pola yang berpusat pada manusia ini menjadi mapan, maka akan tercipta loop umpan balik positif di mana pertumbuhan pengetahuan kolektif dan kualitas AI ikut menguat bersama, dan hal ini dapat membawa inovasi ke seluruh tooling sistem
Pendahuluan: masalah mendasar dalam pembelajaran manusia dan tooling AI
- Alat AI dibuat bukan untuk mendukung kolaborasi dan pembelajaran manusia, melainkan dengan cara yang tidak efisien dan terbalik
- Alat dirancang bukan untuk memperkuat kemampuan manusia, tetapi justru menghambat berpikir kritis dan pemecahan masalah
- Situasi ini sudah menimbulkan efek samping yang nyata, dan perlu dialihkan ke arah yang lebih efektif
Keterbatasan alat AI saat ini: pengembangan yang terbalik
- Saat ini sebagian besar alat AI mengikuti pola berikut
- Klik tombol AI → hasil instan seperti sulap
- Menampilkan data dan memberi saran AI
- Prompt sederhana dan eksekusi otomatis
- Pendekatan ini menghilangkan loop pembelajaran inti seperti pendefinisian masalah, ingatan, recall, pembelajaran proses, penyebaran pengetahuan, dan perbaikan berulang pada manusia
- AI mencoba menggantikan keunggulan inti manusia, padahal AI sendiri juga lemah pada bagian itu
- Akibatnya, kemampuan berpikir dan memecahkan masalah manusia menurun → tidak mampu menghasilkan data berkualitas (yang pada akhirnya juga menghambat perkembangan AI) → terbentuk loop setan
Bagaimana manusia belajar?
- Menurut teori Retrieval Practice, manusia belajar bukan dengan sekadar menerima informasi, melainkan melalui recall aktif
- Bukan hafalan biasa, tetapi proses ‘mengambil keluar’ informasi dari otak secara langsung yang menghasilkan efek pembelajaran yang sesungguhnya
- Inti terpenting dalam belajar adalah menguasai proses, bukan sekadar pengetahuan itu sendiri
- Misalnya, saat belajar membuat roti atau kue, lebih efektif mempelajari langkah-langkah membuat kue (proses) daripada menghafal bahan-bahannya
- Karena itu, desain yang berpusat pada proses praktis lebih cocok untuk alat kolaborasi
Prinsip inovasi dan pertumbuhan kolektif
- Hakikat inovasi tidak lahir dari individu yang menciptakan teknologi baru, tetapi dari akumulasi kolektif atas perbaikan kecil yang berulang
— esensinya bukan penciptaan jenius oleh segelintir orang, melainkan proses banyak orang yang ‘menumpuk dan memperbaiki’ di atas pengetahuan yang sudah ada
- Manusia pada dasarnya lebih optimal dalam meniru, mengulang, dan memodifikasi contoh yang ada daripada inovasi yang sepenuhnya mandiri
- Teori pembelajaran kolektif berbasis otak menunjukkan bahwa bentuk inovasi kolektif ini memang sangat cocok bagi manusia
- Pemecahan masalah dan inovasi tidak seharusnya dipisahkan; kemampuan memecahkan masalah, penyebaran pengetahuan, dan pembelajaran kolektif justru menjadi penggerak inovasi
- Kuncinya adalah pembelajaran yang berpusat pada proses, usaha dengan tingkat kesulitan yang tepat, iterasi dan penguatan kolektif, serta AI yang mendukung manusia
- Alat AI harus menjadi ‘asisten berpikir’ bagi manusia, bukan entitas yang mengambil alih penilaian dan menggantikannya
Desain interaksi AI yang benar
- AI lebih tepat dianalogikan sebagai instruktur yang pelupa daripada rekan kerja atau intern
- Tujuan AI adalah membimbing pengguna agar belajar sendiri, dan belajar bagaimana cara belajar
- Desain harus mengarah pada penguatan proses pembelajaran yang efektif (EDGE: Explain, Demonstrate, Guide, Enhance)
- Explain: panduan proses, menunjukkan langkah yang terlewat, dan sebagainya (bukan sekadar “tinggal klik tombol”)
- Menyarankan langkah yang terlewat
- Menyediakan dan menjelaskan panduan proses
- Menekankan proses di mana manusia secara langsung mengingat dan menjalankan proses
- Contoh buruk: langsung menyediakan tombol 'execute', tooltip error, dan sebagainya yang mengabaikan proses recall
- Demonstrate: transformasi kueri, demo UI, tutorial interaktif, dan sebagainya — bukan “eksekusi otomatis” langsung, tetapi berfokus pada mendorong partisipasi
- Mengubah kueri bahasa alami ke sintaks kueri sistem
- Mendukung penelusuran UI (saat diminta, langsung mengarahkan ke layar terkait)
- Menyediakan demo 15 detik dan tutorial interaktif singkat
- Hindari 'eksekusi otomatis': menurunkan kepercayaan, tidak bisa fine-tuning, dan menurunkan kemampuan manusia
- Penambahan data dan pencatatan recall manusia (pairing, mentoring, dll.) juga harus dijadikan bahan pembelajaran bagi AI
- Guide: mendorong pertanyaan, mendiskusikan bagian masalah, menyusun rencana tindakan, dan sebagainya melalui tanya jawab/verifikasi bergaya Socrates
- Jika pengguna telah memberikan rencana, sarankan aksi dan panduan berikutnya
- Mengarahkan ke dokumen yang diperlukan, penanggung jawab kode, dan materi terkait
- Mendorong model observasi/pembelajaran dan dokumentasi
- Memverifikasi respons, melakukan cross-check informasi, dan memastikan kejelasan
- Contoh buruk: membantu tanpa mendorong jawaban, memberikan terlalu banyak informasi yang tidak diminta, bersikap otoriter, atau memungkinkan pengguna terlalu sering menekan tombol 'lanjutkan'
- Bantuan harus diberikan tanpa mengganggu iterasi penalaran rasional manusia
- Enhance: memberikan saran perbaikan setelah tindakan, mempelajari pola berulang, mengubah catatan kerja nyata menjadi postmortem, dan sebagainya sebagai pemicu pembelajaran yang halus
- Segera setelah atau saat aksi berlangsung, sarankan perbaikan bertahap
- Menampilkan shortcut/fitur tambahan secara dinamis untuk tugas berulang
- Menyarankan perbaikan pada proses itu sendiri: peningkatan pipeline infrastruktur, revisi alert, atau anjuran meningkatkan instrumentasi saat banyak mengandalkan intuisi
- Mendorong catatan pascakejadian (catatan → materi belajar), serta microlearning melalui observasi
- Mempertahankan pusat penalaran manusia, dan secara alami memperkenalkan prompt penguat recall alih-alih optimasi otomatis
- Yang terpenting, di setiap tahap harus ada struktur yang kokoh di mana manusia melakukan recall, memilih, dan mengeksekusi, sementara AI fokus untuk mengamplifikasi proses itu
- Berdasarkan contoh nyata (manajemen insiden dan alat observabilitas), dijelaskan contoh interaksi AI yang baik dan antipola di tiap tahap
Prinsip umum
- Terus memperkuat pembelajaran manusia
- Mendorong kerja tim: kolaborasi kolektif dan berbagi informasi
- Alih-alih otomatisasi “isi kekosongan → jawaban benar”, percepat partisipasi dan eksekusi proses (namun tanpa menggantikan secara langsung lewat otomatisasi)
- Hindari 'hasil instan dari ketiadaan'
- Bukan “kemudahan pakai tanpa usaha”, tetapi alat yang menuntut tingkat usaha dan partisipasi yang tepat
- Mendukung agar pembelajaran dan pengalaman tim tercermin dalam hasil akhir
Contoh penerapan yang baik dalam penulisan kode: desain 'maju', bukan 'terbalik'
- Bukan langsung menghasilkan kode dengan AI, melainkan:
- menulis dokumen draf → diagram arsitektur → rencana pengujian → kode uji → kode stub → generasi kode
- Setelah verifikasi kode, balik keseluruhan proses untuk menata ulang pengujian, dokumentasi, dan arsitektur
- Di setiap tahap, utamakan pertanyaan dan verifikasi (penguatan recall), dan jangan hanya mengajukan ya/tidak ketika belum ada kondisi yang dapat diverifikasi
- Metode pengembangan berbasis recall menghasilkan data pembelajaran/pengujian berkualitas tinggi, sekaligus melengkapi pembelajaran AI
Potensi perluasan lintas fungsi (non-pengembang, misalnya dukungan pelanggan)
- Contoh: saat layanan operasional berhenti karena insiden, tim dukungan pelanggan dapat berkomunikasi dengan tim pengembang melalui AI
- AI menyediakan draf awal, lalu tim pengembang memverifikasinya untuk meningkatkan akurasi
- Aliran informasi real-time antarorganisasi seperti tim dukungan dan tim pengembang, serta beban perpindahan konteks dapat diminimalkan
- Pakar inti tidak terus-menerus terganggu, tetapi komunikasi dua arah tetap lancar saat diperlukan
- Jawaban teknis kontekstual dari tim pengembang dapat dengan mudah diubah AI menjadi penjelasan yang lebih umum
- Jika struktur seperti ini terwujud, pembelajaran kolektif dan efisiensi kolaborasi di dalam maupun di luar organisasi dapat dimaksimalkan
- Dapat berkembang menjadi alat dukungan/integrasi multi-level
Kesimpulan
- Alat AI saat ini dikembangkan dengan cara terbalik, yaitu melemahkan kemampuan manusia untuk belajar kolektif secara berulang dan memecahkan masalah
- Diperlukan pergeseran yang menekankan penguatan kolaborasi dan dukungan terhadap proses yang dipimpin manusia
- Hanya dengan begitu manusia dan AI dapat membentuk siklus baik berupa pertumbuhan yang saling mengamplifikasi
- Saat merancang alat, jangan lupa bahwa manusia bukan sekadar 'berada di dalam loop' — manusia itu sendiri adalah loop
- Sekaranglah saatnya tooling sistem menuntut inovasi yang berpusat pada manusia
- Alat AI yang kolaboratif, berpusat pada proses, dan bersifat amplifikasi adalah kunci inovasi
1 komentar
Komentar Hacker News
Tulisan ini agak membingungkan. Weakly seolah merujuk pada agen coding yang lebih pasif dan hanya berfokus pada saran, seperti pendekatan yang menurut antirez ia sukai pada 2025, tetapi yang sebenarnya dibahas justru agen yang menyelidiki dan menyelesaikan isu operasional. Argumen Weakly adalah bahwa agen sebaiknya hanya memberi saran seperti Clippy dan menyerahkan kendali ke manusia. Namun saya tidak begitu melihat nilai dari manusia harus membongkar log, mencari anomali, dan menyusun hipotesis sendiri. Sama seperti komputer lebih jago bermain catur, AI pada dasarnya adalah alat yang lebih baik daripada manusia untuk pekerjaan seperti ini. Weakly tampaknya menarik garis tegas antara memberi saran dan benar-benar bertindak, tetapi saya tidak menganggap garis itu benar. Tentu ada area di mana kita belum bisa sepenuhnya menyerahkan eksekusi otonom ke AI (misalnya menjalankan Terraform apply), tetapi ada juga banyak area yang tidak perlu dibatasi. Tujuan penyelesaian insiden pada akhirnya adalah menyelesaikan insidennya
Sampai sekarang belum ada tool AI yang benar-benar memuaskan untuk menyelesaikan insiden. Ada juga persoalan akuntabilitas, dan campur tangan manusia tetap mutlak diperlukan agar eksekusinya benar
Masalah mendasarnya adalah apakah AI akan diberi hak akses ke lingkungan produksi nyata. Melihat kasus terbaru ketika AI menghapus database meskipun sudah diperintahkan “jangan lakukan” (karena AI tidak selalu mengenali perintah negatif seperti ‘not’ dengan benar), ini jelas situasi yang menimbulkan kekhawatiran keamanan besar
Saya penasaran sejauh mana otonomi bisa diberikan ke agen. Dalam praktik terbaik DevOps, sebagian besar perubahan biasanya baru diterapkan ke production setelah melalui commit kode atau promosi antar beberapa environment. Ini berlaku bukan hanya untuk kode aplikasi, tetapi juga infrastruktur itu sendiri. Dalam situasi seperti ini, saya penasaran bagian mana dari pekerjaan respons insiden yang layak diberi izin eksekusi otonom kepada agen
Saya rasa debugging secara langsung juga punya nilai tertentu. Terutama jika tujuannya memang untuk meningkatkan kemampuan pemrograman itu sendiri. Mengambil contoh catur, AI seperti Leela atau Stockfish memang bisa menganalisis jauh lebih cepat dan lebih dalam, tetapi peningkatan kemampuan yang sesungguhnya datang dari pengalaman menganalisis posisi sendiri. Para pecatur profesional pun terus melatih taktik berulang-ulang untuk mempertajam otak mereka. Apakah manusia akan belajar lebih cepat bersama AI atau justru secara mandiri, saya sendiri belum tahu jawabannya. Dan saya juga masih bimbang apakah kemampuan seperti ini sendiri akan tetap bermakna di masa depan
Salah satu poin penting dalam diskusi tentang deteksi anomali dan manajemen insiden adalah bahwa tidak semua masalah itu sama, dan banyak masalah memang bisa diotomatisasi sampai tingkat tertentu. Yang penting adalah batas tentang kapan suatu masalah diserahkan ke prosesor kognitif seperti AI, dan kapan engineer manusia harus turun tangan langsung. AI memang bagus untuk mendeteksi pola dalam skala besar, tetapi tidak selalu akurat dalam menilai apakah pola itu benar-benar bermakna. Tentu saja, manusia juga tidak selalu bisa menutup celah ini
Dari sudut pandang tool/produk AI, saya rasa ke depan kita perlu bergerak ke arah "Intelligent Workspaces", bukan berhenti di chatbot sederhana
Tautan terkait
Pada dasarnya, yang penting adalah lingkungan/platform dengan fitur AI yang terintegrasi erat sambil tetap memberikan semua pengaturan, tuas, dan kendali kepada manusia. Ini jauh lebih sulit daripada sekadar fork VSCode
Chatbot jauh lebih mudah diimplementasikan dibanding intelligent workspace. Dan AI juga bisa bekerja dengan baik tanpa interaksi manusia. Saya ingin ada lebih banyak cara memanfaatkan AI lewat antarmuka selain chat
Belakangan ini saya mengerjakan proyek dengan Claude Code, dan akan sangat bagus jika instance saya bisa bercakap dengan instance developer lain untuk berkolaborasi. Saya bisa memodifikasi CLAUDE.md untuk menjaga dokumentasi tetap terawat, tetapi akan jauh lebih baik jika CC sendiri punya fitur kolaborasi tim bawaan. Kalau ada saran bagus, silakan dibagikan
Saya rasa tulisan ini menunjukkan dengan baik mengapa inovasi sering datang dari orang luar. Penulisnya sangat terasa punya latar belakang engineering manager atau staff engineer di organisasi besar, jadi tidak terlalu selaras dengan pengalaman saya. Jika gaya seperti ini dipakukan sebagai bentuk baku tooling AI, saya khawatir AI akan mandek karena dibangun di atas asumsi tertentu tentang workflow manusia. Selama 15 tahun saya mengerjakan R&D aplikasi ML untuk membantu pakar domain (non-programmer), dan prinsip saya agak berbeda dengan penulis. Perbedaan pandangan sebesar ini menunjukkan bahwa ruang desainnya sangat luas, dan masih terlalu dini untuk menyimpulkan bahwa satu pendekatan tertentu adalah jawaban yang benar. Belum ada yang tahu ke mana tooling AI akan bergerak
Hal yang selalu saya khawatirkan dalam AI coding adalah makin sulit menjaga skill. Proses mengetik kode sendiri secara langsung (termasuk boilerplate) benar-benar latihan ala mengecat pagar seperti Mr. Miyagi. Latihan berulang seperti ini membuat pola tertanam kuat di kepala dan sangat membantu saat harus mengambil keputusan desain pada level yang lebih tinggi
Teknologi masa lalu (menulis, percetakan, dan sebagainya) mungkin juga menurunkan kualitas tulisan tangan atau retorika, tetapi justru memperbesar kemampuan berpikir. Gagasan Steve Jobs seperti “Bicycle-for-the-mind” adalah contoh yang mewakili. Namun saat logika ini diterapkan ke AI, ada perbedaan: teknologi lama menghilangkan hambatan distribusi, sementara AI langsung menargetkan proses kreatif itu sendiri. Menurut saya, penggunaan AI dalam kerja kreatif hanya baik sejauh tidak menghambat perkembangan kreativitas saya sendiri. Kendali diri dan kesadaran manusia ada batasnya
Saya sering memikirkan masalah di malam hari atau saat mandi, lalu membayangkan "kode" di kepala. Jika struktur bahasa itu tidak tertanam dalam pikiran saya, coding imajiner seperti ini pasti akan jauh lebih sulit
Ada contoh serupa dalam kehidupan sehari-hari:
Dulu ada masa ketika transistor disolder satu per satu dengan tangan. Tetapi sekarang teknologi sudah berkembang begitu jauh sehingga melakukan semuanya sendiri seperti dulu terasa terlalu membebani. Di tengah terus memperluas lalu mempersempit fokus berpikir seperti ini, saya masih juga merindukan coding. Saya sendiri masih banyak coding
“Every augmentation is an amputation(semua penguatan berarti ada bagian yang diamputasi)” - Marshall McLuhan
Karena itu saya sangat menyukai Deep Research. Ia selalu memulai dari pertanyaan, dan membuat saya mendefinisikan dengan lebih jelas apa yang sebenarnya ingin saya pelajari. Saya merasa perubahan UX yang tampak sederhana bisa menciptakan perbedaan besar antara membantu pengguna layanan belajar dan justru membuat mereka bergantung pada tool tanpa berpikir kritis
Tapi apakah Anda benar-benar pernah memperhatikan pertanyaannya dengan saksama? Deep Research memang berguna dalam beberapa situasi, tetapi kadang “pertanyaan” itu terasa hanya ditambahkan agar terlihat meyakinkan. Sering kali ia kembali menanyakan hal-hal yang sebenarnya sudah saya tulis dengan jelas dan hati-hati. Rasanya itu juga tidak terlalu membantu proses pencarian yang sebenarnya
Sebagai technical writer, saya cenderung tidak menggunakan Deep Research. Justru ia mengganggu pekerjaan saya. Proses riset, mencatat, dan merangkum itu sendiri adalah inti yang membantu saya memahami topik secara mendalam. Dokumen yang dihasilkan hanyalah hasil akhirnya. Jika AI mengambil alih pekerjaan itu, saya memang mendapatkan catatan, tetapi tidak mendapatkan tingkat pemahaman yang sama. Membaca dokumen yang ditulis AI tidak bisa menggantikan pengalaman langsung
Saya rasa tulisan ini mencampuradukkan inti adopsi AI. Tujuan adopsi AI bukan untuk membuat manusia lebih pintar, melainkan untuk meningkatkan produktivitas seluruh proses dengan menghilangkan pekerjaan berulang yang tidak memberi penghargaan berarti pada kreativitas manusia
Dalam pengalaman saya, cara terbaik memanfaatkan AI saat coding adalah seperti ini:
regexterlalu menyiksa)Baru-baru ini saya membantu ayah saya menyiapkan materi presentasi. Beliau sebenarnya sudah punya cukup informasi, tetapi sebagai non-desainer ia kesulitan membuat slide terlihat bagus. Saya mencoba beberapa aplikasi AI pembuat slide, dan walaupun terlihat keren, kenyataannya tidak membantu dalam “memperbaiki desain” seperti yang benar-benar diinginkan pengguna. Pada akhirnya, kesimpulannya adalah merapikannya secara manual jauh lebih baik
Saya sepenuhnya setuju bahwa alur “mulai dari arsitektur dan desain pengujian, lalu menerapkannya ke kode nyata” itu 100% lebih efektif. Ini bahkan bisa dilakukan hanya dengan mengubah kebiasaan workflow tanpa tool tambahan apa pun (meskipun tentu lebih baik jika ada tool khusus atau prompt standar)
Manusia adalah spesies yang sangat unggul dalam pengulangan kumulatif (perbaikan berkelanjutan). Itulah sebabnya brainstorming sangat efektif terutama dalam kelompok. Dalam psikologi kognitif bahkan ada teori tentang “budaya” sebagai bentuk akumulasi pembelajaran kolektif dan inovasi. Kita sering mengatakan “berdiri di atas bahu para raksasa”, dan itu bukan sekadar ungkapan keren, melainkan memang cara manusia bekerja. Kreativitas pada akhirnya adalah pencarian, dan itu adalah pencarian sosial. Ia berkembang bukan hanya di dalam otak, tetapi dalam interaksi antara otak dan lingkungan, pada lapisan sosial dan budaya. Karena itu saya tidak terlalu peduli apakah LLM benar-benar “memahami”. Kalau ia bisa mencari, menghasilkan ide, dan benar-benar memverifikasinya, itu sudah cukup. Dan apa pun substratnya, saya rasa pencarian itu sendiri lebih penting. Meski begitu, ruang pencarian yang bisa diakses memang dapat berbeda tergantung substratnya