AI sedang menjadikan kita sebagai 'lem'

• Alat AI menggantikan sebagian pekerjaan inti developer, sehingga manusia terdorong dari peran ‘pemecah masalah’ menjadi ‘penghubung’
• Masa depan seperti "vibe coding", di mana AI menangani implementasi dan manusia hanya memberi ide, memang dibayangkan, tetapi kenyataannya masih kompleks
• Developer bisa merosot menjadi 'tukang ledeng' yang bertugas menemukan cacat atau mengutak-atik pengaturan dengan menjadi mata dan tangan bagi AI
• Seiring waktu, bahkan peran itu pun bisa diincar AI, sehingga manusia mungkin menyusut menjadi 'perekat' yang menghubungkan dunia fisik dan AI
• Tulisan ini memuat kecemasan dan keraguan tentang masa depan di mana tenaga kerja manusia yang kehilangan kreativitas dan otonomi merosot menjadi sesuatu seperti ‘glue’

---

Mungkin tidak akan seperti itu

Aku sedang berusaha belajar mencintai tanpa mengkhawatirkan AGI, tetapi sejujurnya rasanya agak muram.

Aku bekerja membuat perangkat lunak, dan saat ini, seperti hampir semua orang yang kukenal, aku memakai LLM untuk mempercepat pekerjaan.
Kemarin o3 dirilis, dan itu langsung sangat membantu untuk menyelesaikan bug yang rumit
Masalah yang dulu mungkin menuntut banyak coba-coba kini bisa kuselesaikan dengan jauh lebih sedikit tersesat.
Sekilas ini terdengar bagus. Tapi apa masalahnya?

Masalahnya, aku suka menyelesaikan bug rumit seperti itu!
Rasanya seperti teka-teki, dan ketika mendalaminya, aku jadi belajar bagian-bagian komputer yang biasanya tidak terlihat.
Begitu juga dengan refactoring—saat berjalan baik, itu adalah proses memahami bentuk sistemku lebih dalam lalu memurnikannya menjadi struktur.
Menyelesaikan masalah seperti itu memberi rangsangan menyenangkan yang bikin otak terasa tergelitik.
Aku tidak tahu apakah itu bagian pekerjaanku yang paling bermakna, tetapi jelas itu bagian yang paling kusukai.

Kita memang belum sampai ke titik itu, tetapi arahnya sudah terasa jelas.
Bahkan dengan perkiraan yang sangat konservatif, dalam 10 tahun, komputer akan lebih baik daripadaku dalam sebagian besar pekerjaan yang menuntut 'pemikiran mendalam atas masalah konkret'.

Kalau peran itu dicabut dari pekerjaan ini, yang tersisa adalah dua bongkahan yang nyaris tidak saling bersentuhan.
Orang yang mengemudikan kapal, dan orang yang menyambungkan pipa (maaf kalau metaforanya campur aduk).
Kalau mendengar orang-orang yang menaruh harapan pada AI, tanpa kecuali mereka tampak bersemangat membayangkan diri sebagai yang pertama.
Janji dari konsep “vibe coding”[1] adalah ini—kita hanya perlu memikirkan lapisan paling atas dari pekerjaan, yaitu rasa, ide, desain, filosofi, dan sejenisnya, sementara sisanya akan dibereskan mesin.
Logikanya, dengan begitu manusia bisa fokus pada hal-hal yang hanya bisa dilakukan manusia.

Aku juga punya beberapa ide, dan sejujurnya dunia seperti itu pun terdengar tidak terlalu buruk.[2]
Tapi menurut pengalamanku, cerita itu hanya memuat sekitar setengah dari kenyataan yang kompleks.
Misalnya begini. Bahkan saat aku memakai agen bersama berbagai alat, masalah yang tidak bisa dilihat sistem pada akhirnya tetap dilihat manusia.
Bayangkan aku sedang membuat aplikasi web. Claude Code menulis style sesuai arahanku.
Tetapi yang harus memeriksa bagaimana tampilannya di browser sungguhan tetap aku.
Dan tentu saja, ada yang aneh. Karena memang begitulah CSS.
Lalu karena aku tidak menulis style itu sendiri, semuanya terasa asing, jadi solusi termudah pada akhirnya hanyalah membawanya kembali ke Claude dan memintanya mencoba lagi.
Minta lagi, revisi lagi. Menulis bug report jauh lebih tidak menyenangkan daripada memperbaiki bug,
dan pada akhirnya aku hanya menjadi "mata" yang dibutuhkan Claude untuk melihat-lihat komputerkku.

Tentu saja, seseorang bisa saja membantah: “Peran tukang ledeng siber seperti ini tak lama lagi akan hilang.”
Benar, laboratorium riset terdepan sekarang pun sedang mengembangkan agen yang bisa mengoperasikan seluruh komputer.
Mereka akan bisa membuka tab browser dan memeriksa layar setidaknya sebaik aku.
Tapi untuk saat ini, kemampuan penalaran spasial AI masih buruk sekali, jadi sejujurnya rasanya masih ada sedikit moat[3].
Meski begitu, pekerjaan perpipaan akan tetap ada untuk sementara waktu.
Misalnya, menyusun pipeline log dari satu platform ke platform lain,
atau mengatur kebijakan akses storage bucket agar agen bisa menulis file dengan benar.
Pekerjaan seperti ini memang membantu keamanan pekerjaanku, tetapi sejujurnya aku tidak terlalu menyukainya.
Aku lebih ingin memikirkan ide inti proyek daripada berkeliling mencari kode 2FA untuk layanan cloud ke-n.
Tetapi nanti bahkan waktu seperti ini pun akan makin sulit dibenarkan jika dibandingkan dengan “pekerjaan seperti perekat”.

Kabar baik (...atau memang begitu?) adalah, bahkan peran seperti ini pun sebentar lagi akan diserahkan kepada AI.
Saat titik itu tiba, kurasa aku akan menjadi semacam penghubung antara AI dan dunia nyata[4].
Untuk sementara, jika mengerjakan proyek hardware, menyambungkan jumper wire ke breadboard atau mengutak-atik antena mungkin masih akan menjadi tugasku.
Aku suka kerja tangan seperti ini, tetapi kalau komputer sudah mengetahui keseluruhan rencana permainan... rasanya jadi kurang menyenangkan.
Kalau beruntung, mungkin aku masih bisa menjadi “kapten ide” dari kapal itu.
Tetapi jika itu kapten yang harus bertanya kepada AI ke mana kapal seharusnya pergi, peran itu pun tidak akan bertahan lama.
Dan sejujurnya, aku tidak yakin semua orang bisa menjadi kapten kapalnya masing-masing dan tetap mencari nafkah.

Setelah itu, aku benar-benar tidak tahu apa yang akan terjadi.
Bahkan jika kita menyingkirkan dulu risiko eksistensial, jelas terlihat bahwa banyak pekerjaan akan hilang.
Skenario optimistisnya adalah kita akan menciptakan pekerjaan-pekerjaan baru yang saat ini bahkan belum bisa kita bayangkan,
dan melalui itu orang akan mencapai aktualisasi diri lebih dari sebelumnya.
Tetapi di dunia tempat superinteligensi tersedia seperti komoditas,
aku khawatir pekerjaan-pekerjaan baru itu pada akhirnya juga akan tampak sebagai ‘pekerjaan yang cuma menghubungkan seperti perekat’.

---

1. Sedikit tambahan, istilah "vibe coding" terasa agak mengganggu.
   Tetapi melihat bahkan sudah ada artikel Wikipedia, sepertinya sekarang itu memang sudah menjadi istilah industri.

2. Kelebihan pendekatan ini begitu jelas sampai rasanya tak perlu dijelaskan.
   Saat ini benar-benar banyak orang yang membuat hal-hal yang sebelumnya tak pernah bisa mereka bayangkan.

3. Terus terang, aku tidak pernah menganggap ‘menghubungkan panah’ sebagai keahlian profesionalku.

4. Secara lebih umum, karena laju perkembangan robotika relatif lebih lambat dibanding kecerdasan di dalam layar,
   untuk sementara waktu ‘kebertubuhan’ manusia tampaknya masih akan menjadi keunggulan utama atas mesin.
   Tukang ledeng secara harfiah (ironisnya, pekerjaan mereka mungkin lebih mirip memperbaiki bug daripada ‘perpipaan digital’ yang kusebut di atas)
   kemungkinan masih akan baik-baik saja untuk beberapa waktu, begitu juga para pekerja teknis lainnya.
   Dan beberapa pekerjaan, meski berubah menjadi ‘peran perekat’, belum tentu terasa tanpa makna seperti yang kugambarkan.
   Misalnya, pengacara bisa berubah menjadi pihak yang menyampaikan kepada juri, alih-alih menjadi penulis utama putusan,
   dan dokter mungkin akan dinilai lebih dari sikap atau empati terhadap pasien daripada kemampuan diagnosisnya.
   (Aku tidak akan membahas panjang soal kerja kreatif di sini, tetapi menurutku mungkin inilah bidang yang akan sekaligus menerima manfaat terbesar dan penderitaan terbesar.)

[treestae]

Saya rasa AI saat ini baru mencapai sekitar 10% tingkat kematangan.
Biasanya saya sering melihat bahwa setelah melewati singularitas, dalam sekejap ia mengisi lebih dari 70%, dan jika itu terjadi banyak pekerjaan bisa hilang, tetapi jika melihat biaya pemrosesannya, selama manusia lebih murah tampaknya masih akan ada cukup banyak pekerjaan yang tersisa.

[yinn27]

Sangat sulit ya..

[kandk]

Ada yang mau mengusulkan kita pakai kartu berlubang..

[reagea0]

Sepertinya bukan itu maksudnya, haha

[plumpmath]

Hahahahaha

[GN⁺]

Komentar Hacker News

• Saya sangat menikmati membaca tulisan ini

  • Mengesampingkan risiko eksistensial, saya tidak bisa membayangkan masa depan di mana banyak pekerjaan tidak hilang
  • Secara pribadi saya bertaruh pada efek stagnasi dari LLM
  • Saya rasa akan ada dua jenis stagnasi: stagnasi pada LLM itu sendiri dan stagnasi pada manusia
  • LLM sudah menunjukkan gejala bahwa model yang lebih baru justru lebih buruk (misalnya, Sonnet 3.5 lebih baik untuk coding daripada 3.7)
  • Manusia akan mengalami kemunduran keterampilan karena bergantung pada AI, dan motivasi untuk menciptakan bentuk pemrograman baru atau mendokumentasikannya akan berkurang
  • Dalam jangka pendek mungkin belum begitu, tetapi dalam jangka panjang ini akan menjadi hal yang menakutkan
  • Di masa depan, pekerjaan akan berkisar pada memperbaiki atau mengganti sistem yang rusak secara tak sengaja akibat AI
  • Kita akan menjadi "pemecah masalah AI" atau wirausahawan yang membuat "perangkat lunak buatan tangan"
  • Saya memperkirakan keduanya akan cukup menguntungkan

• Saya tidak tahu kenapa artikel seperti ini selalu bilang "kami memakai LLM agar pekerjaan selesai lebih cepat", lalu menjelaskan bahwa LLM justru menghasilkan hasil yang lebih buruk dengan waktu dan biaya lebih besar

  • Bahkan tanpa LLM, kami sudah cukup mampu menurunkan standar dengan usaha sendiri

• Komentar tentang "lem" ini terutama mencerminkan sudut pandang orang yang bekerja di software

  • Begitulah sejak lini produksi mekanis pertama dibuat
  • Pekerjaan manusia bukan lagi tenaga kerja langsung, melainkan memantau, menyalakan ulang, dan memperbaiki mesin
  • Ruang tenaga mungkin adalah contoh paling awal dari perangkat semacam ini
  • Lini produksi memiliki banyak stasiun, dan akan berhenti jika mata bor patah, lensa kemasukan debu, atau barang habis pakai habis
  • Sulit mengotomatisasi pengecualian, dan desain pabrik berfokus pada meminimalkan pengecualian serta menghindari sel yang macet
  • Untuk melihat bagaimana pengembangan software berubah, memahami cara kerja pabrik itu membantu
  • Istilah "vibe coding" baru muncul dua bulan lalu
  • Saya penasaran seberapa luas istilah itu akan menyebar dalam 2 tahun

• Kemungkinan AI mengambil pekerjaan software engineer itu rendah

  • Tidak seperti mobil, makanan, atau perumahan, software tidak punya batas atas alami dalam jumlah yang bisa dikonsumsi orang
  • Software engineer pada akhirnya adalah orang-orang yang punya "kemauan untuk membuat"
  • Kode dan alat hanyalah sarana

• "Saya suka memperbaiki bug yang rumit"

  • Saya tidak
  • Alat yang bisa membantu menemukan solusi lebih cepat selalu saya sambut
  • AI bagus dalam menangani bagian yang membosankan

• Saya punya pengalaman yang berbeda

  • Terus-menerus meminta Claude memperbaiki bug itu menjengkelkan
  • Jadi saya tetap memperbaiki bug sendiri sambil "memahami satu potongan pada satu waktu"
  • Bahkan saya benar-benar memakai LLM untuk membuat pustaka kecil agar bisa menghindari kebutuhan akan LLM di aplikasi yang berjalan
  • Rasanya seperti versi StackOverflow yang ditingkatkan
  • Saya bukan lem; saya hanya punya alat yang sangat bagus untuk mendapatkan informasi yang dibutuhkan dengan cepat

• Saya masih cukup pesimistis soal semua ini

  • Hari ini saya berharap ada kemenangan yang jelas dari coding assistant LLM
  • Saya sedang menulis fungsi go yang mengubah struct yang sangat panjang menjadi struct lain yang juga sangat panjang
  • Transformasinya hampir sepenuhnya berupa membungkus field dari struct pertama ke dalam wrapper
  • LLM gagal melakukan ini
  • Saya bahkan sudah mengisi field-fieldnya terlebih dahulu lalu menyuruhnya melengkapinya, tetapi ia malah mencoba mengarang field baru, lalu setelah mengerjakan satu atau dua, ia menghapus field yang saya tambahkan dan menambahkan komentar untuk 'mengerjakan sisanya'
  • Saya mencoba berbagai prompt yang berbeda
  • Saya bisa melihat bagaimana beberapa vibe coder dapat membuat sesuatu yang berguna, tetapi sebagian besar percobaan saya hanyalah rangkaian frustrasi

• Ada sebuah cerita dari Stanislaw Lem

  • "Di tempat lain, Tichy bertemu spesies alien yang menginginkan harmoni sempurna sehingga menyerahkan diri mereka kepada mesin, dan mesin itu mengubah mereka menjadi cakram berkilau lalu menyusunnya dalam pola yang menyenangkan di seluruh planet"
  • (Bukan lem, tapi cukup dekat)

• Tidak ada yang menghalangi Anda memperbaiki bug rumit untuk bersenang-senang

  • Komputasi hobi sekarang lebih mudah diakses daripada sebelumnya
  • Jika Anda membuat sesuatu untuk orang lain, AI menghilangkan sebagian besar pengetikan dan debugging
  • Itu memungkinkan Anda berpikir lebih dalam tentang apa yang sedang Anda buat dan bagaimana membuatnya paling berguna
  • Umumnya pekerjaan selesai lebih cepat, sehingga bisa lebih cepat sampai ke pengguna dan jumlah iterasi meningkat
  • Menguntungkan bagi semua orang

• Tulisan yang bagus

  • Saya setuju dengan premis ide dasarnya
  • Saya pikir perubahannya akan jauh lebih dramatis
  • Banyak orang merasa stagnan, dan mengira hal-hal lain di sekitar mereka akan diotomatisasi, tetapi diri mereka sendiri tidak
  • Mereka berpikir, "Saya istimewa", tetapi banyak orang akan menyadari betapa tidak istimewanya mereka

[mhj5730]

Lini produksi memiliki banyak stasiun, dan akan berhenti jika mata bor patah, lensa kemasukan debu, atau bahan habis pakai habis
Sulit untuk mengotomatisasi pengecualian, dan desain pabrik berfokus pada meminimalkan pengecualian serta melewati sel yang tersumbat
Saat melihat bagaimana pengembangan perangkat lunak sedang berubah, memahami cara kerja pabrik membantu
Ungkapan "vibe coding" muncul dua bulan lalu
Saya penasaran seberapa luas ini akan menyebar dalam 2 tahun

<- Bagian analogi ini benar-benar luar biasa. Saya kagum.