Di era AI yang membanjiri kode, saat air surut akan terlihat siapa yang berenang tanpa busana
(evan-moon.github.io)Ringkasan inti
- Dalam 3 tahun sejak kemunculan ChatGPT, hari kerja developer bergeser dari "menulis kode" ke "memeriksa output AI"
- Peran developer bukan hilang, melainkan titik beratnya bergeser dari penulis kode menjadi pihak yang meninjau dan menyetujui
- AI bukan subjek hukum sehingga tidak bisa dimintai pertanggungjawaban, dan regulasi seperti EU AI Act juga makin menguat ke arah tanggung jawab yang dilekatkan pada manusia
- Di era AI, kemampuan inti yang dibutuhkan bukan teknik prompt, melainkan prediksi biaya perubahan jangka panjang, penilaian abstraksi, dan mengungkap tacit knowledge ke dalam bahasa; pada dasarnya sama dengan hal-hal yang sejak dulu dibutuhkan dari developer yang baik
- Jika dijelaskan dengan konsep accidental complexity vs essential complexity dari Fred Brooks, yang bisa diselesaikan AI hanyalah accidental complexity, sementara essential complexity dalam domain tetap memerlukan penilaian manusia
- Masa berlaku kemahiran alat (seperti prompt engineering) terikat pada siklus pergantian alat, tetapi kemampuan penilaian desain dan mengungkap tacit knowledge tetap berlaku selama essential complexity dalam software masih ada
Ringkasan detail
3 tahun setelah ChatGPT
- Saat ChatGPT muncul pada akhir 2022, sulit membayangkan perkembangannya akan secepat ini
- Definisi developer sebelumnya: orang yang melakukan seluruh rangkaian "menganalisis kebutuhan berbahasa alami → merancang → mengimplementasikan sendiri"
- Kini, porsi besar hari kerja diisi oleh "memberi konteks ke AI → membaca kode yang dihasilkan → memperbaiki dan meminta ulang"
- AI coding agent sudah melampaui level asisten sederhana; pada tingkat fungsi dan modul, hasilnya sudah sulit dibedakan dari kode yang ditulis manusia
Dari penulis menjadi pengambil keputusan
- Aktivitas produksi kode sedang bergeser dari "menulis kode secara langsung" ke "membuat penilaian atas kode"
- "Penilaian" di sini bukan sekadar memeriksa apakah output AI sesuai maksud, tetapi memverifikasi apakah niat bisnis telah diterjemahkan dengan benar ke implementasi teknis
- Pertanyaan kuncinya adalah: "Jika bug pembayaran muncul dari kode yang ditulis AI, siapa yang bertanggung jawab?"
- Karena AI bukan subjek hukum, pihak yang bertanggung jawab adalah developer dan organisasi yang meninjau serta menyetujui kode tersebut
- EU AI Act yang berlaku pada 2024 mewajibkan pengawasan manusia untuk sistem AI di area berisiko tinggi seperti medis, keuangan, dan infrastruktur
- Tanggung jawab kecelakaan mobil otonom → produsen dan pengemudi, AI medis yang disetujui FDA → keputusan akhir ada pada dokter, Flash Crash 2010 → pihak yang mengoperasikan algoritme menjadi subjek regulasi
- Semakin tinggi tingkat otomatisasi, struktur tanggung jawab bukan makin kabur, tetapi justru makin jelas melekat ke manusia
Kemampuan yang dituntut dari developer di era AI
① Kemampuan memprediksi biaya perubahan jangka panjang
- AI dioptimalkan untuk menghasilkan "kode yang berjalan" (mereproduksi pola yang paling sering muncul dalam data pelatihan)
- Kode yang bekerja saat ini dan kode yang tetap mudah dipelihara 6 bulan kemudian adalah dua hal yang dinilai dengan kriteria yang sama sekali berbeda
- Biaya dari desain yang buruk muncul bukan saat kode ditulis, melainkan saat perubahan dibutuhkan
- Di LinkedIn, makin banyak tulisan seperti "dibuat dengan AI tapi sulit dipelihara sehingga akhirnya merekrut developer" dan "fiturnya tak bisa dikembangkan lagi lalu proyek dihentikan"
② Kemampuan mengevaluasi kode dari berbagai sudut
- Melampaui ketepatan fungsional (yang bisa diverifikasi dengan test), perlu mempertimbangkan secara bersamaan kualitas struktur, implikasi performa, dan aspek keamanan
- Semakin cepat kecepatan generasi kode AI, semakin mudah keseimbangan antara kecepatan produksi dan kemampuan review runtuh
- Saat manusia menulis langsung, ada batas fisik pada jumlah kode yang bisa diproduksi, tetapi AI dapat menghasilkan ratusan baris dalam hitungan detik
- Jika standar review, sistem review paralel, dan automated gate tidak memadai, technical debt akan menumpuk lebih cepat
- Banyak perusahaan belum merasakan kenaikan produktivitas setelah mengadopsi AI karena produksi kode memang lebih cepat, tetapi proses mereview kode AI justru menjadi bottleneck
③ Kemampuan abstraksi
- AI juga bisa mendefinisikan interface, memisahkan class, dan membagi modul, dan secara formal sering terlihat rapi
- Perbedaan penentunya: abstraksi AI berbasis rata-rata statistik, sedangkan abstraksi developer berpengalaman adalah penilaian trade-off di bawah sumber daya terbatas dan masa depan yang tidak pasti
- Bagian berbahaya dari kode hasil AI adalah tampilannya yang meyakinkan — file tampak terbagi dengan tepat, naming mengikuti konvensi, dan pattern-nya terasa familier
- Masalahnya baru muncul saat perubahan diperlukan: "Ketika hendak menambah satu metode pembayaran, baru sadar bahwa struktur yang 'terlihat rapi' itu mengharuskan perubahan serentak di banyak tempat"
- Contoh frontend: AI bisa saja menumpuk data fetching, state management, dan UI rendering dalam satu komponen raksasa, atau sebaliknya membuat 3 custom hook + context provider hanya untuk satu chart sederhana
④ Kemampuan mengeksplicitkan tacit knowledge
- Agar bisa memberi instruksi yang akurat kepada AI, kita harus mampu mengubah intuisi seperti "ada yang aneh" menjadi bahasa konkret seperti "fungsi ini memiliki dua tanggung jawab"
- Bukan teknik prompt formal seperti few-shot atau chain-of-thought yang utama, melainkan kemampuan mendefinisikan dengan jelas apa yang harus dibuat serta menilai konteks mana yang penting untuk disampaikan
- Umur kemahiran alat: terikat pada siklus pergantian alat (jQuery → React, Webpack → Vite)
- Umur kemampuan penilaian desain dan pengungkapan tacit knowledge: tetap berlaku selama essential complexity dalam software masih ada
Perlunya merancang latihan secara sengaja
- Kita sering berkata "fokuslah pada hal yang tidak bisa dilakukan alat", tetapi justru peluang untuk melatih itu semakin berkurang; inilah paradoksnya
① Dua titik yang sebaiknya tidak diserahkan ke AI: desain dan review
- Desain sebelum penulisan kode: jika batas interface dan tanggung jawab didefinisikan sebelum menulis prompt, kita bisa membandingkan output AI dengan keputusan desain kita sendiri
- Kebiasaan menyerahkan PR review ke AI lalu langsung meng-approve jika tak ada masalah = "seperti keluar ke lapangan saat jam olahraga, lalu hanya duduk di bangku sampai waktunya masuk lagi"
② Waktu untuk sengaja menulis sendiri
- Kepekaan desain lahir ketika kita mengetahui rasa sakit dari implementasi. Rasa sakit yang belum pernah dialami tidak akan tertinggal sebagai insting
- Bagi developer junior, mereview kode hasil AI mirip dengan "menyuruh orang yang masih belajar menyetir untuk menilai keputusan mobil otonom"
- Kemampuan coding di masa depan: bukan lagi sekadar pekerjaan harian, melainkan latihan untuk menjaga daya nilai (proses memperoleh lisensi sebagai reviewer)
③ Latihan mengungkapkan "mengapa" ke dalam bahasa
- Jika berhenti di "ini aneh", itu masih intuisi; jika sampai pada "fungsi ini memiliki dua tanggung jawab", itu sudah menjadi bahasa
- Saat kode buatan AI bekerja, jangan berhenti di situ; biasakan bertanya pada diri sendiri "mengapa struktur ini dipilih?" dan "jika strukturnya berbeda, apa trade-off-nya?"
Pada akhirnya, esensinya tidak berubah
- Fred Brooks (1986): accidental complexity (keterbatasan alat) vs essential complexity (melekat pada masalah itu sendiri)
- Yang diselesaikan AI adalah accidental complexity — boilerplate, pola berulang, dan kesalahan sintaks
- Essential complexity (ambiguitas kebutuhan bisnis, menyeimbangkan tujuan desain yang saling bertentangan, ketidakpastian perubahan di masa depan) tidak hilang meskipun AI terus berkembang
- Selama manusia tetap menjadi subjek penilaian dan tanggung jawab, esensi kemampuan yang dibutuhkan untuk menilai tidak akan berubah
- Semakin otomatis produksi kode, semakin menonjol pula pentingnya daya nilai untuk memeriksa hasil produksinya
14 komentar
Terima kasih atas pendapat-pendapat yang baik!
Alasan saya menyebut 'tanggung jawab' dalam tulisan itu bukan karena manusia lebih sedikit melakukan kesalahan daripada AI dalam segala hal, melainkan karena sistem hukum dan etika masyarakat modern hanya mengandaikan manusia (atau badan hukum) sebagai 'pihak yang bertanggung jawab'.
Seperti yang dikatakan gcback, jika keamanan secara statistik terbukti, mungkin di masa depan kerangka tanggung jawab itu sendiri bisa berubah. Namun setidaknya dalam waktu dekat, saya melihat dilema sosial berupa 'siapa yang akan masuk penjara atau membayar ganti rugi atas kecelakaan yang disebabkan AI' akan sulit mengejar kecepatan perkembangan teknologi..!
Saya sependapat. Tulisan yang bagus.
Apakah airnya benar-benar sedang surut, atau justru sedang naik? Soal "kemampuan yang dibutuhkan dari developer di era AI", entahlah... kalau developer masih akan terus ada, mungkin begitu.
Dari sudut pandang memanfaatkan AI dalam pekerjaan nyata, saya sangat setuju dengan ungkapan bahwa pengembangan dengan AI -> pengawasan atas hasil AI.
Dan AI juga sangat membantu dalam mengurai kompleksitas yang esensial. [pengecekan kontradiksi saat analisis kebutuhan, pengecekan duplikasi, pertanyaan tentang nilai yang esensial]
Harus ada lebih banyak orang yang terlalu percaya pada AI.
Apa alasannya?
Ini juga sepertinya hanya masa transisi.
Karena bahkan di antara pelatih sepak bola terkenal pun, banyak yang bukan mantan pemain.
Mereka memang tidak terpilih, tetapi saya rasa mereka menjadi terkenal karena pemahamannya sangat baik.
Tapi karena bicara soal sepak bola, saya jadi teringat Jeong Mong-gyu.
Itu karena ia memiliki kualifikasi untuk menjadi pelatih sepak bola meski bukan mantan pemain, dan yang melatih adalah orang yang bisa bertanggung jawab atas hasil pertandingan.
Benar juga, ada pelatih yang bukan mantan pemain.
Namun, pelatih seperti itu tampaknya berhasil bukan karena mereka bukan mantan pemain, melainkan karena meskipun bukan mantan pemain, mereka memiliki wawasan yang melampaui para pemain. Di bidang tersebut, rasanya mereka bahkan layak disebut sebagai semacam "manusia super".
Saya juga setuju
Belakangan ini kalau melihat model seperti harness atau loop, sepertinya arahnya adalah manusia hanya memberikan spesifikasi, lalu bahkan review dan QA pun ditangani sendiri oleh AI satu sama lain
Saya setuju.
Pada akhirnya, tingkat peninjauan dan verifikasi juga mau tidak mau akan menjadi lebih tinggi pada AI dibanding manusia, jadi tampaknya biayanya pun tak terhindarkan akan lebih rendah daripada biaya ketika manusia yang bertanggung jawab saat ini.
Baik manusia maupun AI, ini adalah permainan di mana pihak yang secara statistik membuat lebih sedikit kesalahan yang menang.
Demokratisasi posisi sutradara? wkwk. Jadi sutradara itu karena memang punya kapasitas, bukan berarti orang yang tidak punya kapasitas pun bisa jadi sutradara.