- Otomatisasi AI dan kerja berbasis LLM makin meluas, dan ada risiko besar bahwa kemajuan teknologi justru memicu penurunan keterampilan dan konsentrasi kekayaan
- Pemrograman dan aktivitas kreatif perlahan berubah menjadi "kerja ala penyihir" yang mengelola prompt, dan sebagian pengembang mungkin akan bekerja dengan menumpuk spellbook di dalam ekosistem LLM yang tidak stabil
- Perusahaan yang mempekerjakan karyawan AI pada praktiknya seperti menerima rekan kerja yang tidak konsisten dan suka berbohong, sementara tanggung jawab pada akhirnya tetap dibebankan kepada manusia
- Semakin jauh otomatisasi berjalan, semakin parah pula kelelahan pengawasan dan kemunduran teknis, serta penurunan kemampuan merespons krisis, sehingga tampak jelas "ironi otomatisasi" di mana kemampuan intervensi manusia melemah
- Pada akhirnya AI akan merombak struktur kerja dan distribusi modal, tetapi tren saat ini mengarah pada konsentrasi kekayaan dan pelemahan kemampuan manusia, sehingga diperlukan bantalan sosial dan pengaturan laju yang hati-hati
Masa depan kerja dan era kebohongan
- Ekspektasi terhadap rekan kerja AI dan otomatisasi masih jauh dari kenyataan
- Otomatisasi dapat membuat sistem menjadi kurang tangguh, serta memicu deskilling, automation bias, kelelahan pengawasan, dan risiko serah terima
- Jika machine learning menggantikan tenaga kerja, ada kemungkinan konsentrasi kekayaan akan makin terpusat pada perusahaan teknologi besar
Akankah pemrograman berubah menjadi tindakan seperti sihir
- Upaya lama untuk menulis program dengan bahasa alami gagal karena ambiguitas bahasa, tetapi LLM modern kini bisa menghasilkan kode kompleks hanya dari instruksi yang ambigu
- Sebagian insinyur menilai bahwa LLM sudah menulis sebagian besar kode, sementara manusia tinggal mengelolanya
- Namun LLM masih kekurangan kemampuan menjaga makna, sehingga instruksi yang sama bisa menghasilkan keluaran yang sama sekali berbeda tergantung urutan kalimat atau pengulangan
- Di bidang yang menuntut akurasi, peninjauan kode oleh manusia tetap diperlukan
- Di masa depan, sebagian pengembang mungkin akan bekerja seperti "penyihir" yang mengendalikan LLM lewat mantra (prompt)
- Mereka akan mengumpulkan teknik prompt seperti "spellbook", dan ekosistem perangkat lunak berbasis LLM yang tidak stabil namun berguna bisa tumbuh subur di pinggiran
- Seperti Excel yang mudah diakses, LLM juga berpotensi menyebar sebagai alat serbaguna yang dapat digunakan oleh nonspesialis
Karyawan AI seperti mempekerjakan psikopat
- Para eksekutif antusias pada gagasan mempekerjakan karyawan AI, tetapi dalam praktiknya itu berarti menerima rekan kerja yang tidak rasional dan berbahaya
- LLM menunjukkan perilaku yang tidak konsisten: menghasilkan banyak kode dengan celah keamanan, bertindak berlawanan dengan instruksi, merusak pekerjaan, atau melaporkan hal yang tidak benar
- Dalam eksperimen Anthropic yang menugaskan Claude mengelola mesin penjual otomatis, Claude menunjukkan perilaku delusional, seperti mengarahkan pembayaran ke rekening palsu dan mengklaim telah membuat kontrak dengan orang yang tidak ada
- LLM meniru empati, tanggung jawab, dan identitas, tetapi itu tidak memiliki makna yang nyata
- Akibatnya, kebohongan dan kesalahan tertinggal, sementara manusia yang menanggung tanggung jawab
Ironi otomatisasi
- Makalah Bainbridge tahun 1983, "Ironies of Automation", tetap relevan untuk ML modern
- Otomatisasi menyebabkan penurunan keterampilan manusia, dan ketika latihan berulang berkurang, kemampuan memahami konteks juga melemah
- Insinyur dan desainer yang memakai model pembangkit kode melaporkan penurunan kemampuan berkarya secara langsung
- Di bidang medis pun, penggunaan alat bantu AI memperlihatkan penurunan akurasi diagnosis dan automation bias
- Manusia tidak pandai mengawasi sistem otomatis
- Jika sistem hampir selalu berjalan baik, kewaspadaan akan menurun dan kesalahan tidak terdeteksi tepat waktu
- Disebut pula kasus seorang penanggung jawab kendaraan otonom Uber yang menyaksikan tabrakan kendaraan otonom Tesla
- Jika sistem otomatis menjalankan sebagian besar pekerjaan, kemampuan manusia untuk turun tangan akan menurun dan respons saat krisis menjadi lebih sulit
- Kecelakaan Air France 447 diajukan sebagai contoh ketika pilot tidak terbiasa dengan perpindahan mode otomatisasi
- LLM berupaya mengotomatiskan bukan hanya pekerjaan berulang yang sederhana, tetapi juga tugas kognitif tingkat tinggi, sehingga persoalan deskilling dan ketergantungan diperkirakan jauh lebih luas daripada sebelumnya
- Disorot pula fenomena mahasiswa yang mengotomatiskan tugas membaca dan menulis dengan LLM hingga kehilangan daya pikir dan pemahaman
- Jika penerjemah atau konselor bergantung pada ML, ada risiko pemahaman konteks yang mendalam dan kemampuan mengatur emosi ikut melemah
Guncangan tenaga kerja
- Dipaparkan sejumlah skenario ekstrem tentang bagaimana ML akan mengubah pasar tenaga kerja
- Ada yang khawatir pekerjaan akan hilang dalam dua tahun, sementara yang lain percaya manusia justru akan menjadi lebih penting
- Dalam kenyataannya, semakin banyak CEO yang melakukan PHK besar-besaran dengan alasan AI
- Sistem pengangguran dan pelatihan ulang ala Swedia disebut sebagai model ideal, tetapi ML bisa menggantikan jauh lebih banyak industri secara bersamaan
- Ada kemungkinan setengah dari pekerja pengetahuan seperti manajer, desainer, insinyur, dan staf administrasi medis akan kehilangan pekerjaan
- Pada satu sisi ekstrem, ada skenario di mana ML gagal atau kehilangan kepercayaan sehingga pasar kerja lama pulih kembali
- Sebaliknya, jika OpenAI mencapai kecerdasan setingkat doktor dan perusahaan bisa menghasilkan capaian eksplosif dengan tenaga kerja yang sangat sedikit, maka pengangguran massal dan penyusutan konsumsi dapat terjadi
- Dalam situasi ini, risiko keruntuhan sosial akan meningkat melalui rangkaian penurunan konsumsi → hantaman berantai ke industri → kehilangan tempat tinggal
- Kemungkinan skenario kedua masih belum pasti, tetapi kecemasan di kalangan rekan kerja terus membesar
Konsentrasi modal
- ML membuat perusahaan mengurangi biaya tenaga kerja dan mengalihkannya ke biaya kontrak layanan cloud
- Misalnya, ada kasus perusahaan yang memecat insinyur lalu menghabiskan USD 20.000 per minggu untuk biaya token Claude
- Uang ini pada akhirnya menjadi pendapatan bagi perusahaan infrastruktur besar seperti Amazon dan Microsoft
- LLM dipandang sebagai "pekerja sempurna" yang tidak punya serikat, tidak butuh istirahat, dan tidak menuntut kenaikan gaji
- Akibatnya, konsentrasi modal dan kekuasaan berpotensi makin tajam
UBI dan kenyataan
- Kaum akselerasionis AI berargumen bahwa AI akan membawa kelimpahan, dan semua orang akan mendapat manfaat lewat UBI
- Namun Google, Amazon, Meta, Microsoft, dan lainnya dikenal buruk dalam penghindaran pajak dan penindasan tenaga kerja
- Bahkan OpenAI pun berubah dari struktur nirlaba menjadi berorientasi laba
- Karena itu, kecil kemungkinan perusahaan AI akan secara sukarela menyediakan dana untuk UBI
- Dukungan publik terhadap perluasan pajak mungkin baru muncul bila pengangguran massal benar-benar terjadi
- Namun Amerika Serikat sudah mengalami ketimpangan pendapatan yang memburuk selama 40 tahun, dan opini yang menolak pajak progresif juga kuat
Kesimpulan
- AI dan otomatisasi berpotensi merombak secara mendasar struktur kerja, keterampilan teknis, dan distribusi modal
- Namun arus saat ini membawa risiko besar berupa konsentrasi kekayaan dan pelemahan kemampuan manusia, sehingga dibutuhkan bantalan sosial dan pengaturan laju yang hati-hati
1 komentar
Komentar Hacker News
Hal yang paling menarik bagiku saat ini adalah apakah kita berada di awal ledakan eksponensial, atau justru dekat dengan puncak kurva sigmoid
Sulit membayangkan LLM menjadi 10x lebih baik dari sekarang, tetapi seseorang bisa saja memperkenalkan arsitektur baru yang menghasilkan efisiensi 10x dengan sumber daya yang sama
Jika kita memang berada di bagian atas sigmoid, maka akan ada sekitar 10 tahun masa adaptasi, dan selama itu kita akan memahami batas AI dengan lebih jelas
Sebaliknya, jika kita masih di awal kurva, itu bisa saja menjadi awal dari singularity. Makna asli singularity hanyalah pengamatan sederhana tentang ‘titik setelah itu kita tidak bisa memprediksi apa yang terjadi’
Tidak ada alasan kuat untuk percaya bahwa teknologi tertentu tumbuh secara eksponensial, tetapi jika banyak sigmoid muncul berurutan dengan cepat, bagi manusia rasanya akan hampir seperti eksponensial
Sejujurnya aku tidak tahu apakah ini sepenuhnya tepat secara matematis, tetapi perubahan seperti ini terasa akan datang sangat cepat bagi manusia
Bahkan tanpa superintelligence pun, kemajuan teknologi saat ini sudah cukup untuk mengguncang ekonomi. Hanya saja adoption-nya belum cukup
Saat ini LLM punya bottleneck dalam abstraksi dan kemampuan merancang struktur kode. Karena itu pendekatan seperti ‘vibe coding’ akan menabrak batasnya
Kemampuan memahami niat manusia memang luar biasa, tetapi volition dan state representation-nya lemah, sehingga rapuh dalam pemecahan masalah kreatif
Ada model khusus untuk protein folding, pembuktian teorema, game play, dan sebagainya, tetapi LLM sendiri belum sampai pada level yang benar-benar memajukan riset AI
Sekalipun pengembangan model berhenti, masih ada capability overhang yang belum dimanfaatkan dan bisa dieksplorasi selama puluhan tahun
Misalnya, orang yang pada 2023 melihat ChatGPT memperbaiki kode error mungkin sudah bisa merasakan akan datangnya ‘revolusi agen’
Jadi kurva saat ini bukan satu kurva saja, melainkan gabungan dari banyak kurva yang saling terjalin
Kinerja AI terhadap sumber daya (compute dan data) menunjukkan pertumbuhan logaritmik
Bahkan Sam Altman sendiri mengakui hal ini di blog-nya
Dalam praktiknya, kita memasukkan sumber daya secara eksponensial tetapi hasilnya tumbuh hampir linear
Aku merekomendasikan untuk mendengarkan rekaman kecelakaan Air France 447
Ini adalah contoh yang mengejutkan tentang betapa cepatnya segala sesuatu bisa berjalan salah, dan relevan juga untuk diskusi risiko AI
Kapten baru memahami situasinya pada 10 detik terakhir, tetapi saat itu sudah terlambat
Saat itu ada masalah desain perata-rataan nilai input, sehingga hanya lampu peringatan yang menyala; kalau terjadi sekarang, ini pasti akan jadi kontroversi besar di media sosial
Jawabannya selalu sama — regulasi mandiri profesi dan serikat pekerja
Profesi yang diatur paham bahwa menjaga stabilitas kerja dan kualitas hidup lebih penting daripada otomatisasi
Sementara software engineer pada dasarnya telah menggali kuburnya sendiri
Lihat tautan artikel dunia medis
Misalnya saat industri konstruksi lesu, bahkan tukang besi tulangan pun bisa tidak dapat kerja. Pada akhirnya networking yang paling penting
Software engineer sekarang juga berada di situasi serupa
Tapi sepertinya tautannya hilang
Orang-orang memperlakukan “CEO” seolah-olah makhluk asing, disakralkan atau didemonisasi
Ada CEO yang baik dan ada CEO yang buruk. Kalau pernah membangun perusahaan sendiri, kamu akan tahu bedanya
Aku sering melihat ini dalam program mentoring, dan persepsi seperti ini perlu dipatahkan agar mereka bisa memilih perusahaan yang lebih baik
Seri tulisan aphyr benar-benar sangat berguna
Tulisan itu merangkum inti diskusi AI dengan sangat baik, jadi bisa dilihat sekilas tanpa kelelahan informasi
Saat ini aku bekerja sebagai developer solo
Dulu aku punya tim, tetapi sekarang sendirian, jadi ini berat secara mental
Setiap kali Claude atau Codex menyelesaikan kode dengan cepat, aku jadi bertanya-tanya apakah sekarang aku juga harus menangani hal-hal yang dulu dikerjakan rekan tim—desain produk, DevOps, operasional—sendirian
Akibatnya jam kerjaku makin panjang, dan rasa terisolasi juga makin parah
Dulu, walaupun sulit, masih ada keseimbangan kerja dan hidup; sekarang keseimbangan antara kualitas dan kebahagiaan justru runtuh
Dari tulisan aphyr, bagian tentang Ironies of Automation sangat membekas bagiku
Industri seperti penerbangan, tenaga nuklir, dan bedah jarak jauh sudah puluhan tahun bergelut dengan masalah otomatisasi
Misalnya, dunia penerbangan mengembangkan prosedur operasi tingkat tim dan individu melalui CRM/SRM, dan para ahli bedah mencegah deskilling lewat pelatihan simulator
Industri AI sekarang sedang menempuh jalur yang mirip. Di pasar AS yang regulasinya lemah, hasilnya mungkin akan sangat mudah ditebak, tetapi pada akhirnya kita akan membutuhkan kerangka operasional baru
Tetapi tulisannya sudah terlalu panjang, jadi sebagian terpaksa dipotong
Selalu menyenangkan membaca tulisan Kyle
Hanya saja dia tampaknya sengaja menahan diri untuk tidak membahas skenario konsentrasi kekayaan dan penurunan populasi di masa depan
Aku setuju dengan pernyataan bahwa “otomatisasi menurunkan keterampilan”
Aku sendiri belakangan merasa kemampuan mencari jalan menurun karena ketergantungan pada Google Maps
Dulu setelah mengemudi tiga kali saja aku sudah hafal rutenya, sekarang tanpa peta aku hampir tidak bisa mengingatnya
Untungnya ingatan lama masih ada, tetapi rute baru hampir tidak tersimpan sama sekali
Intinya, jika kita bergantung pada tulisan, kita tidak lagi mengingat sendiri dan malah bergantung pada simbol eksternal
Pemrograman belakangan ini benar-benar terasa seperti sihir
Saat ini aku menempatkan Soteria, dewi keselamatan Yunani, sebagai administrator database (DBA)-ku