- Anthropic merilis studi yang menguji secara eksperimental bagaimana penggunaan asisten coding AI memengaruhi pembelajaran dan kemahiran pengembang
- Hasil uji coba terkontrol acak menunjukkan bahwa kelompok yang menggunakan AI memiliki pemahaman konsep dan kemampuan debugging rata-rata 17% lebih rendah, sementara peningkatan kecepatan tidak signifikan secara statistik
- Namun, peserta yang memanfaatkan AI bukan hanya untuk menghasilkan kode, tetapi juga untuk memahami konsep dan meminta penjelasan mencatat skor yang lebih tinggi
- Studi ini menunjukkan bahwa cara ketergantungan pada AI menentukan hasil belajar, dan otomatisasi sederhana dapat menghambat pertumbuhan keterampilan
- Perusahaan dan pengembang memerlukan strategi adopsi AI yang mempertimbangkan keseimbangan antara peningkatan produktivitas dan akumulasi keterampilan jangka panjang
Gambaran studi
- Studi ini merupakan uji coba terkontrol acak yang dilakukan untuk menganalisis dampak asisten AI terhadap pembelajaran coding dan kemahiran teknis
- Pesertanya adalah 52 pengembang junior yang telah menggunakan Python selama lebih dari 1 tahun dan tidak familiar dengan library Trio
- Eksperimen terdiri dari tiga tahap: pemanasan, tugas coding utama (mengimplementasikan 2 fitur berbasis Trio), dan kuis
- Para peserta bekerja dalam lingkungan coding online yang dilengkapi asisten AI, dan asisten tersebut mendukung akses ke kode serta pembuatan kode jawaban
- Kriteria evaluasi terdiri dari empat area: debugging, membaca kode, menulis kode, dan pemahaman konsep, dengan fokus khusus pada debugging dan pemahaman konsep
Hasil utama
- Kelompok AI memperoleh skor kuis rata-rata 50%, sedangkan kelompok non-AI 67%, menunjukkan selisih sekitar dua tingkat nilai (Cohen’s d=0.738, p=0.01)
- Dari sisi kecepatan, kelompok AI rata-rata 2 menit lebih cepat, tetapi tidak signifikan secara statistik
- Selisih skor terbesar muncul pada soal debugging, yang mengindikasikan kemungkinan bahwa penggunaan AI berkaitan dengan penurunan kemampuan memahami error
- Efek pembelajaran berbeda tergantung cara AI digunakan
- Pembuatan kode sederhana atau pendelegasian debugging berujung pada skor yang lebih rendah
- Sebaliknya, meminta pertanyaan konseptual atau penjelasan kode menghasilkan skor yang lebih tinggi
Analisis menurut jenis interaksi AI
- Pola skor rendah (rata-rata di bawah 40%)
- Tipe delegasi ke AI (n=4) : seluruh kode diserahkan ke AI sehingga selesai paling cepat, tetapi kurang memahami konsep
- Tipe ketergantungan bertahap (n=4) : awalnya mencoba sendiri, tetapi lama-kelamaan sepenuhnya bergantung pada AI, sehingga kurang menguasai konsep pada tugas kedua
- Tipe debugging berulang (n=4) : menyerahkan penyelesaian error ke AI, hasilnya lambat dan skornya rendah
- Pola skor tinggi (rata-rata 65% ke atas)
- Tipe memahami setelah generasi (n=2) : setelah kode dibuat, peserta meminta penjelasan tambahan ke AI, sehingga tingkat pemahaman tinggi
- Tipe campuran kode-penjelasan (n=3) : meminta kode dan penjelasan sekaligus; lebih lambat, tetapi pemahaman meningkat
- Tipe eksplorasi konsep (n=7) : bekerja dengan fokus pada pertanyaan konseptual; error lebih banyak, tetapi penyelesaian mandiri membuat tugas selesai cepat
Interpretasi dan implikasi
- Adopsi AI memunculkan persoalan keseimbangan antara produktivitas dan pembelajaran
- Dalam lingkungan yang menekankan hasil cepat, ada kemungkinan pertumbuhan keterampilan pengembang junior terhambat
- Desain cara penggunaan AI adalah variabel kunci, sehingga diperlukan interaksi yang mendorong pembelajaran, bukan sekadar otomatisasi
- Perusahaan perlu secara sengaja mengelola penempatan alat AI dan desain pembelajaran, serta
memastikan engineer tetap memiliki kemampuan untuk memverifikasi kode yang dihasilkan AI
Kesimpulan dan tugas lanjutan
- Studi ini menunjukkan bahwa AI dapat meningkatkan produktivitas pada keterampilan yang sudah dikuasai, tetapi bisa menjadi penghambat saat mempelajari keterampilan baru
- Karena ukuran sampelnya kecil dan evaluasinya hanya jangka pendek, keterkaitannya dengan pertumbuhan keterampilan jangka panjang masih belum terkonfirmasi
- Agenda penelitian selanjutnya meliputi
- dampak pada area kerja selain coding
- apakah efek pembelajaran jangka panjang bertahan
- perbedaan antara mentoring manusia dan dukungan AI
- Bahkan dalam lingkungan dengan bantuan AI, upaya kognitif dan trial and error tetap penting dalam pembentukan kemahiran, dan
AI perlu dirancang agar dapat mendukung efisiensi sekaligus pembelajaran
1 komentar
Komentar Hacker News
Mengesankan bahwa Anthropic merancang dan merilis penelitian seperti ini sendiri
Saya rasa ini sesuatu yang jarang terlihat di lab lain
Menarik bahwa kelompok dengan bantuan AI memang sedikit lebih cepat, tetapi tidak signifikan secara statistik
Pada akhirnya, AI tampaknya meningkatkan produktivitas, tetapi sebenarnya itu ditukar dengan penurunan kemampuan belajar
Sampai ada verifikasi ulang independen, kita sebaiknya tetap bersikap skeptis terhadap klaim di dalamnya
Menurut saya, ini tidak berbeda dengan ‘riset kesehatan’ dari perusahaan rokok
Ada kekhawatiran bahwa junior ke depan akan tumbuh menjadi developer yang bergantung pada AI dan kehilangan kemampuan menyelesaikan masalah sendiri
Dugaan saya, pengguna AI mungkin tidak banyak berkembang dalam kemampuan coding, tetapi justru meningkat dalam kemampuan menyusun spesifikasi kebutuhan
Peran developer pemula sedang bergeser ke arah fokus pada pendefinisian kebutuhan yang jelas
Kemungkinan besar strategi itu akan berhasil
Kebanyakan orang memilih jalur dengan hambatan paling kecil, tetapi sebagian justru belajar lebih cepat lewat AI
Jadi, ini bukan kesimpulan yang berlaku sama untuk semua pengguna
Saya khawatir apa yang akan terjadi jika alat-alat seperti ini tiba-tiba tidak bisa digunakan
Jika internet terputus atau kredit habis, bisnis dan mata pencaharian bisa lumpuh
Pada akhirnya developer bisa merosot menjadi sekadar penjaga gerbang, dan saat sistem bermasalah mereka tidak bisa berbuat apa-apa
Saya pernah bekerja dari berbagai tempat di dunia, tetapi waktu yang hilang karena masalah koneksi bahkan tidak sampai satu hari
Kalau Anthropic down, bisa diganti Gemini; kalau kredit habis, bisa pakai kredit gratis
Model lokal sekarang juga sudah cukup layak dipakai
Pada akhirnya manusia modern memang bergantung pada layanan online
Jika tidak suka risiko seperti ini, Anda harus membayar untuk alternatif yang kurang efisien tetapi lebih andal
Kalau itu terjadi, menurut saya lebih baik mengikuti prosedur tanggap darurat daripada kembali ke cara lama
Dulu kita build sendiri dan upload lewat ISDN, tetapi sekarang peran itu digantikan CI/CD
Kalau rusak, ya diperbaiki; deployment manual justru bisa menimbulkan masalah yang lebih besar
Efek ini sangat terlihat terutama saat mempelajari library baru
Saya tetap bisa bekerja produktif saat penerbangan jarak jauh tanpa internet
Manusia justru makhluk yang semakin mampu beradaptasi ketika lingkungannya memburuk
Developer senior tetap unggul dalam pemahaman mendasar
Seperti generasi lama memahami assembly dan hardware, generasi sekarang belajar cara menangani AI
Yang pada akhirnya dibutuhkan adalah kemampuan belajar sesuai situasi
Saya juga sudah bekerja lebih dari 20 tahun, dan sebagian besar pengetahuan saya pun sudah lupa, tetapi itu bukan karena AI
Kode buruk dan masalah struktural sudah ada jauh sebelum LLM
Menurut penelitian, penurunan terbesar muncul pada kemampuan memecahkan masalah
Junior saat ini kehilangan kesempatan untuk melakukan debugging sendiri
Saya selama ini bekerja sebagai ‘debugger terakhir’ di tim, dan bahkan pernah menemukan bug compiler
Sekarang saya memakai Claude untuk mendelegasikan pekerjaan berulang, lalu mendalami hanya bagian yang memang perlu dipelajari secara strategis
Hasilnya, efisiensi belajar saya meningkat
Tidak belajar pun mungkin tidak merugikan, tetapi mempelajarinya juga tidak ada salahnya
Pada akhirnya developer manusia dengan pemikiran logis tetap lebih unggul daripada LLM
Tidak harus bisa menulisnya, tetapi harus bisa memahaminya
Model lama yang ‘kurang pintar’ (seperti GPT‑4) dulu hanya membantu sampai 90%, jadi sisanya tetap harus diselesaikan sendiri
Dalam proses itu muncul pengalaman belajar yang mendalam
Model sekarang terlalu matang, sehingga justru mengurangi kesempatan untuk berpikir sendiri
Cara berkolaborasi dengan AI di editor tampaknya lebih baik daripada lewat CLI
Pada akhirnya developer yang sedang belajar menjadi pihak yang paling dirugikan
Budaya ketergantungan pada LLM sedang muncul di semua jenis pekerjaan
Pekerjaan merancang struktur keseluruhan tetap menjadi ranah manusia
Saya memakai LLM sebagai alat belajar, dan untuk visualisasi desain saya meminta contoh serta diagram secara interaktif
Misalnya, grok 4.1 fast 10 kali lebih murah dan sedikit lebih baik
Kalau model bekerja terlalu baik, cara berpikir manusia bisa menjadi tumpul
Namun dalam persaingan, orang yang menguasai teknik paling efisien pada akhirnya akan menang
Hanya saja AI sering hanya menampilkan hasil yang overfit, sehingga berbahaya
Masih belum banyak cara untuk menyelesaikan masalah seperti ini
Pada akhirnya manusia tetap harus memverifikasi sendiri dan membentuk pola belajar
Ini sangat bagus untuk proyek hobi, tetapi ada batasannya di codebase berskala besar
Hakikat seorang programmer adalah belajar terus-menerus
Saya sudah bekerja 25 tahun, tetapi sampai sekarang masih belajar hal baru setiap hari
Masalah menggunakan konsultan adalah yang tersisa hanya kodenya, sementara pengetahuannya tetap berada di luar
Pada akhirnya pemrograman itu sendiri adalah proses belajar
Sering kali pekerjaan itu adalah memodifikasi solusi yang sudah ada untuk menyelesaikan masalah
Kadang belajar terlalu banyak justru menambah kompleksitas
Menurut hasil penelitian, penggunaan AI menyebabkan penurunan pemahaman dan kemampuan debugging, sementara peningkatan efisiensinya minim
Lihat tautan asli
Kelompok AI mencatat rata-rata 50 poin, sedangkan kelompok coding manual 67 poin
Penelitian yang menarik
Ini membuat kita berpikir, jangan-jangan kita sering mengira kenyamanan sebagai keterampilan
Bagus bahwa penelitian seperti ini dilakukan
Seperti belajar bahasa, kalau tidak dipakai langsung, kemampuan tidak akan terjaga
Wajar jika kemampuan perlahan menurun ketika kita berhenti menggunakannya
Saya sangat menghargai transparansi dan pendekatan ilmiah dari Anthropic
Saya juga sedang berkembang lebih cepat dengan mendelegasikan pengembangan nyata dan fokus pada pembelajaran konsep
Judul postingannya bisa menyesatkan
Penelitiannya bukan membahas peningkatan produktivitas developer pemula, melainkan dampak pada proses belajar
Masyarakat berjalan dengan kemahiran fungsional alih-alih pemahaman penuh
Saya juga pernah memelihara library regex yang hanya diverifikasi lewat ratusan test case
Meski tidak memahami implementasinya secara sempurna, saya tetap membangun kepercayaan lewat akurasi berbasis pengujian
AI memang memberi peningkatan produktivitas bagi pemula, tetapi bisa menghambat perolehan keterampilan
Penggunaan yang sepenuhnya bersifat delegatif memberi sedikit efisiensi, tetapi mengurangi pembelajaran
Sebaliknya, jika pola keterlibatan kognitif tetap dipertahankan, efek belajar bisa dijaga
Artinya, produktivitas AI bukan jalan pintas menuju kemahiran
Bahkan setelah bekerja 25 tahun, saya masih belajar setiap hari