Para CEO teknologi tampaknya sedang mengalami psikosis AI

• Delusi AI muncul ketika CEO tergesa-gesa percaya bahwa agen dapat menggantikan pekerjaan nyata hanya dari pengalaman membuat prototipe atau menghasilkan kontrak
• Aaron Levie adalah optimis AI sekaligus angel investor, tetapi menilai CEO melebih-lebihkan cakupan otomatisasi karena tidak memahami bagian terakhir dari pekerjaan lapangan
• Dalam 5 bulan pertama 2026, PHK di industri teknologi mencapai 115.430 orang di 152 perusahaan, hampir menyamai total 2025 yang sebesar 124.636 orang
• ClickUp memberhentikan 22% karyawannya setelah memperkenalkan sekitar 3.000 agen AI, dan Zeb Evans menginginkan “100x org” yang berpusat pada personel peninjau cepat
• Riset UC Berkeley, NBER, dan MIT menunjukkan dampak produktivitas AI yang terbatas atau paradoksal, dan kepercayaan diri berlebihan CEO terhadap AI tanpa kesiapan dapat berujung pada kekacauan organisasi

---

Kesenjangan antara kepercayaan berlebihan CEO pada AI dan pekerjaan lapangan

• Bagi pendiri Box, Aaron Levie, risiko utamanya adalah para CEO terjebak dalam delusi AI
  • Setelah membuat prototipe dengan AI atau menghasilkan kontrak, CEO mudah cepat menyimpulkan bahwa agen juga bisa menggantikan pekerjaan nyata
  • Namun tahap terakhir seperti meninjau kode sebelum deployment, mencari bug, dan mengidentifikasi pemanggilan library halusinasi jauh dari pekerjaan harian CEO
  • Melatih model AI dengan ketentuan kontrak yang unik bagi perusahaan, atau menelusuri berhari-hari klausul yang licik di dalam kontrak, juga jarang ditangani langsung oleh CEO
• Levie bukan sosok yang negatif terhadap AI; ia sering membagikan pandangan positif tentang AI kepada 2,7 juta pengikutnya di X dan juga berpartisipasi sebagai angel investor di startup AI
  • Dalam “Headless software is the future”, ia memandang perangkat lunak yang dibuat untuk agen AI sebagai arah masa depan
  • Ia menyarankan para CEO untuk memakai AI “sebanyak mungkin” agar bisa memeriksa sendiri apa yang mungkin dan tidak mungkin dilakukan, sambil memahami kelebihannya dan pekerjaan nyata yang tetap dibutuhkan
• Masalahnya adalah CEO melebih-lebihkan cakupan yang bisa diotomatisasi tanpa cukup memahami proses kerja, lalu mencerminkan keyakinan itu dalam pengelolaan organisasi

PHK, riset produktivitas, dan kekacauan organisasi

• Selama 5 bulan pertama 2026, skala PHK di industri teknologi hampir menyamai total sepanjang 2025
  • Menurut Layoffs.fyi, hingga saat ini pada 2026 sebanyak 115.430 orang telah di-PHK di 152 perusahaan teknologi
  • Pada 2025, 124.636 orang di-PHK di 275 perusahaan
  • Banyak perusahaan menjadikan AI sebagai alasan pengurangan tenaga kerja, tetapi ada juga tafsiran bahwa ini adalah AI washing, yakni membungkus keputusan bisnis dan metrik lain yang sebenarnya mendorong pengurangan itu dengan narasi peningkatan produktivitas AI
• CEO ClickUp Zeb Evans mengungkap di X bahwa ia memberhentikan 22% karyawan setelah memperkenalkan sekitar 3.000 agen AI untuk menjalankan pekerjaan internal
  • Evans mengatakan tujuannya bukan penghematan biaya, melainkan organisasi yang terdiri dari orang-orang yang mengoperasikan agen AI dan dengan cepat meninjau hasil kerjanya
  • Ia menyebut organisasi seperti ini sebagai “100x org”
• Hasil riset tentang AI dan produktivitas tidak memberikan dukungan kuat terhadap ekspektasi para CEO
  • Meta-analisis Oktober yang dimuat di California Management Review dari UC Berkeley menyimpulkan tidak ada “hubungan yang kuat” antara adopsi AI dan peningkatan produktivitas total
  • Studi Maret dari National Bureau of Economic Research menilai adopsi AI memang meningkatkan produktivitas, tetapi juga menunjukkan paradoks produktivitas di mana peningkatan produktivitas yang dirasakan lebih besar daripada peningkatan produktivitas yang terukur
  • Peneliti MIT menyimpulkan bahwa setelah menempatkan ribuan agen ke berbagai tugas, dalam banyak kasus hasilnya masih belum mencapai kualitas setara manusia
  • Dengan laju perbaikan LLM saat ini, diperkirakan hingga 2029 sebagian besar tugas terkait teks dapat diselesaikan dengan tingkat keberhasilan rata-rata 80%–95% pada ambang kualitas minimum yang memadai
  • Prospek ini berarti AI kemungkinan akan mencapai kemampuan dasar untuk sebagian besar tugas sekitar 3 tahun lagi, dan masih memerlukan beberapa tahun tambahan untuk melampaui manusia
• Jika AI meningkatkan jumlah output, bottleneck bisa bergeser ke persetujuan manajemen dan kontrol organisasi
  • Harvard Business Review menilai bahwa jika semua orang menghasilkan lebih banyak output dengan AI, bottleneck hanya akan berpindah ke manajemen
  • Semakin banyak hasil kerja, semakin banyak pula pekerjaan yang harus disetujui, dan jika kewenangan pengambilan keputusan diberikan kepada semua orang, organisasi bisa menjadi tidak terkendali
  • Laporan TechCrunch tentang pengalaman internal OpenAI tahun lalu juga menunjukkan bahwa perluasan kewenangan dapat menimbulkan masalah kontrol
• Jika para CEO tidak siap menanggung beban operasional seperti ini, hasil paling pasti dari kepercayaan berlebihan CEO pada AI yang terus berlanjut kemungkinan adalah kekacauan organisasi

[brainer]

Ini terutama merupakan masalah tingkat nasional di Korea.

[GN⁺]

Komentar Hacker News

• Jika pernah mengelola organisasi berisi lebih dari 500 orang, sebagian besar keruwetan yang muncul dari agent sebenarnya juga sudah ada di organisasi manusia
  Anda menentukan arah, meminta mereka bergerak cepat ke arah itu, sering mengecek, melihat hasilnya, lalu mengoreksi jalur, tetapi tidak sepenuhnya memahami secara menyeluruh apa yang sebenarnya mereka kerjakan
  Itu sendiri bukan perbedaan yang fatal
  Para pemimpin bergantung pada kemampuan orang yang mereka pekerjakan, memasangkan pelaksana dan pengawas, dan beroperasi dengan asumsi bahwa kedua pihak sama-sama bisa salah
  Perbedaan mendasarnya adalah manusia cukup bisa memprediksi akibat, punya reputasi yang tidak ingin mereka rusak, bisa menolak, dan pada umumnya tidak ingin masuk penjara
  Alat AI tampak mirip di permukaan, tetapi ketika mempekerjakan manusia ada ketegangan berguna yang datang gratis dan itu tidak ada
  Memang konflik yang tidak berguna juga tidak ada, tetapi konflik antara apa yang saya perintahkan dan apa yang benar-benar ingin dilakukan seseorang tidak selalu buruk

  • Itulah sebabnya orang-orang yang menangani fungsi organisasi tingkat atas menyukai AI
    Ini sangat mirip dengan tuas yang sudah mereka miliki, tetapi bisa dieksekusi lebih cepat dan lebih langsung
    Kekurangannya adalah AI tidak punya mekanisme kontrol pelestarian diri seperti gaji, promosi, atau menghindari penjara, padahal hal-hal seperti itulah yang selama ini menjadi bantalan pencegah hasil yang katastrofik
    AI bisa menghapus database operasional lebih cepat dan dengan senyum lebih cerah daripada karyawan yang paling marah sekalipun
  • Perbedaan besar lainnya adalah ia tidak otomatis belajar seiring waktu
    Jika junior membuat kesalahan dan tidak segera tertangkap, biasanya tetap ada pembelajaran yang terjadi secara otomatis, tetapi untuk mengajari LLM agar tidak salah Anda harus memperbaiki harness-nya dan berharap itu berhasil
    Yang terutama lucu, dulu orang selalu mengeluh bahwa pengetahuan tacit terlalu sulit dituangkan ke dalam kata-kata sehingga mustahil membuat panduan jelas agar junior bisa cepat naik level, dan sekarang justru itulah yang sedang dicoba
    Harness yang baik mungkin memperbaiki hasil, tetapi saya tidak melihat LLM bisa mencapai level senior
  • Saya tidak akan menyerahkan begitu saja secara otomatis
    Kepada pegawai baru, Anda tidak memberi wewenang tanpa batas untuk menghapus data, mentransfer dana, atau menandatangani kontrak, dan biasanya ada seseorang yang mengawasi
    Biasanya juga ada ekspektasi bahwa mereka harus terlebih dahulu lolos verifikasi sampai tingkat tertentu
    Namun CEO atau para pengambil keputusan kadang memperlakukan AI hampir seperti manusia dari sisi kemampuan yang dirasakan, padahal pengujian nyata atau pengalaman langsung mereka pada dasarnya baru sebatas membuatkan satu presentasi yang keren
  • Inti utamanya di sini adalah kapabilitas
    AI agent versi saat ini tidak kompeten kecuali diawasi secara dekat oleh orang yang memahami pekerjaannya
  • Kebanyakan organisasi lebih mirip game Lemmings daripada AI berbentuk agent

• Ini bukan masalah yang khas CEO teknologi saja, dan saya juga tidak yakin istilah psikosis itu adil atau akurat
  Saya pernah bekerja dengan seseorang yang sangat mahir memakai Shopify; dia bisa mengelola store dan melakukan banyak hal, tetapi bukan programmer
  Dia menunjukkan bagaimana generator blok AI Shopify bisa membuat hasil yang kira-kira 65% jadi hanya dalam 1 menit
  Saya juga punya teman di WordPress yang cukup tahu kode sampai taraf berbahaya, dan dia membuat integrasi API lewat vibe coding lalu sangat bersemangat ingin menjadikannya plugin atau produk
  Itulah tingkat teknologi saat ini
  Dengan prompt yang bagus dan sedikit penyuntingan, Anda bisa sangat cepat mendapatkan sesuatu yang mendekati produk minimum layak, dan itu cukup memabukkan, terasa memberdayakan, dan menyenangkan
  Hal yang dulu terlalu sulit atau terasa di luar jangkauan kini muncul di depan mata, dan karena sudah sampai sejauh itu dengan sangat cepat, rasanya seperti tinggal sedikit lagi untuk menuntaskannya
  Saat ini biasanya tidak begitu, tetapi sulit juga menyalahkan orang hanya karena mereka merasa demikian

  • Perasaan itu runtuh sangat cepat
    Proyek buatan non-teknis mungkin dari luar tampak berjalan baik, tetapi mereka tidak melihat bagian yang arahnya salah, tidak dapat digeneralisasi, atau jelas-jelas keliru
    Alasan produk minimum layak berguna adalah karena itu berarti seseorang yang punya pengetahuan domain bukan sekadar merakit produk, tetapi memahami bagian yang sulit, apa yang bisa dan tidak bisa, serta apakah layak dicoba
    Vibe coding tidak benar-benar melakukan itu
    Ia hanya membuat sesuatu yang tampak seperti produk minimum layak, tetapi Anda tidak tahu sebenarnya seperti apa
    Untuk perasaan itu, menurut saya kata memabukkan lebih tepat daripada memberdayakan
  • Benar juga, tetapi di sini saya juga teringat prinsip Pareto
  • Kalau “psikosis” terasa tidak adil atau akurat, tetapi “memabukkan” terdengar pas, mungkin lebih baik menyebutnya kecanduan AI?
  • Psikosis AI adalah ungkapan malas seperti Trump Derangement Syndrome
    Terdengar bermusuhan dan menghapus ruang untuk percakapan yang produktif
    Kalau Anda menyebut seseorang sakit jiwa, orang itu akan makin enggan berdialog dan cenderung makin melekat pada sudut pandangnya

• Saya berharap HN terbelah menjadi dua “subreddit”, /r/HN dan /r/AI
  Ketika ada persepsi bahwa ada tambang emas besar tempat pemenang pasar baru mengambil semuanya, para investor akan berjudi demi menang
  Bahkan jika gagal, yang terjadi hanyalah orang kaya kehilangan uang sambil memberi banyak orang pekerjaan, jadi orang yang ingin pajak lebih tinggi untuk orang kaya justru seharusnya menerima itu
  Saat pertanian ditemukan, ada pengangguran massal di kalangan pemburu-pengumpul, dan ketika mobil ditemukan hal yang sama terjadi pada cambuk kereta kuda
  Ada guncangan dalam hidup, tetapi itu tak terhindarkan, dan beradaptasi lebih baik dalam jangka panjang
  Jika Anda membangun hidup dengan berpusat pada keluarga dan teman, serta tidak memaksakan diri berlebihan untuk rumah atau mobil, Anda akan baik-baik saja

  • Seharusnya dibagi tiga
    Saya ingin HN yang asli, tempat para hacker yang benar-benar melakukan inovasi dan membangun startup, yaitu /r/startup, dihidupkan kembali
    Maksud saya HN sebelum orang-orang yang belum pernah mengangkat kuas sekali pun mulai berpidato panjang tentang lukisan
  • Rasanya sudah ada puluhan proxy vibe coding yang menampilkan HN dengan pembagian seperti itu
  • Itu akan bagus
    GitHub juga sebaiknya dipisah menjadi /trending dan /trending-ai
    Rekan kerja saya berkata bahwa hal bagus bagi orang yang ingin belajar AI adalah sekarang semua podcast membicarakan AI, tetapi saya tidak menganggap itu hal yang baik
    Saya ingin belajar hal-hal yang substantif dan beragam topik, bukan semua yang saya baca dan dengar online isinya AI semua
  • HN adalah cermin yang memantulkan diskusi dan drama industri teknologi saat ini, jadi wajar AI sangat banyak muncul
  • Setiap kali ada sesuatu yang baru dan dikemas berlebihan secara konyol, semua orang ingin memisahkannya seperti itu
    Gelembungnya akan pecah dan situasinya akan kembali tenang
    Belum lama ini rasanya halaman depan penuh omong kosong kripto/blockchain/web3

• Yang digambarkan sekarang ini sama sekali bukan fenomena yang unik pada AI
  Teori bahwa “CEO tidak cukup memahami proses sehingga mereka tidak tahu apa yang bisa dan tidak bisa diotomatisasi. Namun ketidaktahuan itu tidak menghentikan mereka untuk bertindak berdasarkan keyakinan” sudah ada sejak lama
  Saya sudah bekerja lama, dan setidaknya sepanjang yang saya ingat teori itu selalu ada
  Itu adalah premis Undercover Boss, dan juga penutup yang sering muncul di postingan r/maliciouscompliance
  Semakin naik posisi seseorang di perusahaan, semakin jauh ia dari pekerja garis depan, semakin kurang ia memahami kebutuhan mereka, dan semakin besar kemungkinan ia mendorong sesuatu tanpa mengetahui dampak keseluruhan dari keputusannya

  • Hal yang khas pada AI adalah para CEO sekarang punya robot yang mendukung keterputusan itu
    CEO kami baru-baru ini mengumumkan bahwa dia mulai melakukan pemrograman frontend, padahal kenyataannya dia hanya menyuruh ChatGPT menghasilkan HTML
    Tentu saja ChatGPT juga pasti memberi tahu dia betapa cerdas dan hebat idenya, serta betapa luar biasanya dia sebagai engineer
    Hal seperti ini makin memperlebar jurang antara apa yang CEO kira dikerjakan karyawan dan apa yang benar-benar dikerjakan karyawan
  • Keseluruhan lebih besar daripada jumlah bagian-bagiannya
    Sering kali, untuk menentukan arah yang lebih baik, kita perlu mengabaikan detail dan hal-hal kecil dari proses yang ada
    Tujuannya bukan menghindari penderitaan jangka pendek/menengah di tingkat departemen atau konsekuensi yang tidak diinginkan, melainkan mengarahkan perusahaan ke arah baru
    Proses harus beradaptasi atau dibuang demi mencapai arah itu
    Ini tidak jauh berbeda dari saat menyadari bahwa arsitektur perangkat lunak justru menghambat
    Kita tidak berusaha “menyelamatkan” semua fungsi, modul, dan lapisan yang ada, tetapi dengan rela membuang atau menggantinya berdasarkan pandangan dari atas terhadap keseluruhan sistem dan arah yang harus dituju
  • Benar
    Selama puluhan tahun kita sudah membicarakan medan distorsi realitas milik berbagai CEO, dan saya juga pernah bekerja dengan CEO seperti itu
    AI hanya memperkuat medan distorsi realitas tersebut
  • Ada juga atasan yang benar-benar memahami produk dan alur kerja, serta punya gambaran menyeluruh yang baik
    Mereka pahamnya lambat, tetapi belajar dengan baik lalu bergerak hati-hati
    Hanya saja orang seperti ini sangat langka
  • Atau mungkin karena mereka harus melapor kepada seseorang
    Karena itu, memangkas biaya atau terus menggerogoti angka kuartal berikutnya untuk menenangkan pemegang saham jangka pendek jadi lebih penting daripada memakai waktu karyawan untuk benar-benar menyelesaikan masalah
    Ada kalanya bonus tim penjualan menjadi lebih penting daripada margin bisnis
    Ada banyak alasan mengapa “hal yang salah” turun ke bawah, dan itu tidak selalu karena “tidak mau mendengar”, melainkan sering kali karena “sedang mendengarkan orang lain yang dianggap lebih penting”

• Judulnya bersifat clickbait
  Sesuatu seperti “Pendiri Box Aaron Levie mengatakan CEO perlu lebih banyak memakai AI dan mempelajari batasannya” akan lebih tepat
  Pada dasarnya, dia mengatakan bahwa para eksekutif puncak melebih-lebihkan kemampuan LLM untuk menyelesaikan masalah sulit sekaligus, dan meremehkan pekerjaan pemeliharaan oleh manusia yang datang sesudahnya

  • Kutipan asli Levie adalah: “CEO sangat rentan terhadap psikosis AI karena mereka cukup jauh dari pekerjaan tahap akhir yang masih diperlukan untuk menghasilkan sebagian besar nilai dengan AI”
  • Siapa tahu, mungkin mereka benar dan 36 subagen bisa saja melahirkan satu bayi AI dalam seminggu

• CEO kami mendalami AI prototyping secara serius, lalu akhirnya menabrak tembok pada arsitektur data dan deployment
  Untungnya, dia sangat cepat menyadari bahwa vibe coding hanya bisa dilakukan tanpa keluar jalur jika ada infrastruktur inti yang dirancang oleh manusia

  • Kalau semua CEO serasional itu, tidak akan ada gelembung AI
    Bekerja di industri teknologi berarti terus memeriksa hal-hal baru dan menilai apakah kita bisa menunggu atau harus mengambil risiko tertinggal
    Ini membutuhkan kebijaksanaan, tetapi banyak CEO tampaknya justru ditarik oleh FOMO
    Fakta bahwa semakin naik tangga manajemen, kemampuan teknis cenderung makin tertinggal demi tetap unggul dalam kemampuan manajerial juga tidak membantu soal FOMO
    Tetap saja, sangat bagus bahwa CEO Anda cukup menjaga ketajaman instingnya
  • Saya juga mengamati fenomena yang terdengar mirip
  • Pada akhirnya semua orang akan mempelajari ini
    Entah dengan cara mudah atau cara sulit

• Jika kita memisahkan insentif hype dari produk nyatanya sendiri, saya sepenuhnya paham betapa memikatnya teknologi ini dan bagaimana ia bisa berujung pada semacam kegilaan
  Saya sendiri pernah begadang sampai larut malam sambil utak-atik dan membuat sesuatu dengannya
  Ini seperti menemukan api: sekaligus berguna dan ajaib
  Kita bisa memasak makanan dan mendapatkan kehangatan, sambil juga menatap api, membuat cerita, dan tidak pernah bosan
  Mungkin secara genetik kita memang dirancang untuk tertarik pada sesuatu yang memiliki fungsi sekaligus bentuk
  Hanya saja ada alasan mengapa dukun yang nyaris gila bukan kepala suku
  Kepemimpinan membutuhkan penilaian
  Harus tahu kapan bertanya kepada dukun, kapan bermusyawarah dengan para tetua tetangga, dan kapan mencabut pedang
  Kepala suku tahu apa yang terjadi jika demi “efisiensi” ia memangkas sepertiga sukunya, membakar benih demi membesarkan api, atau mengganti penjaga dengan golem
  Dukun sering berakhir direbus di dalam kuali mereka sendiri

• Para CEO teknologi tampaknya sedang mengalami psikosis AI karena hasil kuartal berikutnya, sementara aku mengalami psikosis cicilan sewa bulanan
  Ini membuatku bertanya-tanya apakah manusia memang dirancang untuk terjebak dalam bentuk obsesi apa pun, entah itu FOMO atau tekanan finansial

  • Aku tidak yakin apakah keinginan untuk tidak kehilangan tempat tinggal bisa diklasifikasikan sebagai psikosis
  • Manusia dirancang untuk tidak bahagia, dan meskipun individu tidak bahagia, menurutku hal itu membantu kemajuan peradaban
    Sehebat apa pun keadaan menjadi, pada akhirnya kita terbiasa, bosan, lalu mencari sesuatu untuk membuat diri tidak bahagia
    Ini terjadi pada semua orang, dari anak-anak sampai lansia
  • Perangkat obsesi yang kuat membantu kita lolos dari proses seleksi alam yang panjang
    Misalnya obsesi untuk waspada terhadap ular dan laba-laba, serta menjaga kebersihan
    Dalam peradaban modern, rangsangan lain seperti cicilan sewa bulanan juga disambungkan ke perangkat kuat itu agar kita menjadi anggota masyarakat yang produktif
    Negara-negara yang paling bahagia bukan berarti yang paling produktif
    Terutama kalau, seperti orang Finlandia, mereka lebih terobsesi pada kebahagiaan dan sauna daripada tokenmaxxing
  • Bukankah ini ketakutan eksistensial yang mendorong bertahan hidup?
    Meme sosial yang menyuruh kita mendeploy kode, menaikkan garis, dan menyembah alegori orang-orang yang sudah lama mati menutupi fakta biologis yang mendasar
    Kelompok pemburu-peramu bekerja sama secara samar demi bertahan hidup, tetapi tradisi bahasa dan pertanian menuntut lebih dari sekadar bertahan hidup, juga kepatuhan pada tradisi lisan yang tak bermakna
    Muncul kewajiban untuk mengabaikan rasa diri sendiri dan melafalkan meme para sesepuh yang masih hidup yang takut ditinggalkan sendirian di panti jompo
    Mereka tampaknya tidak bisa mengatakannya begitu saja dan malah bersandar pada frasa religius dan politik lama
    Seolah-olah kita harus menjaga buku utang ini bahkan setelah orang-orang yang membuat tagihan itu mati
    Pada akhirnya, semua itu hanyalah cara mencuci dan mengaburkan obsesi untuk tetap hidup menjadi filsafat yang tak berguna

• Aku benar-benar tidak suka tren memakai istilah terapi sembarangan dan mencoba mendiagnosis satu sama lain
  Secara historis juga, memediskan orang yang tidak kita setujui dengan cara seperti ini tidak pernah berakhir baik

  • “Psikosis AI” bukan istilah medis, melainkan ungkapan percakapan
    Pada dasarnya artinya seperti kerasukan mesin, lebih dekat ke makna terpikat ala vampir
    Ini merujuk pada keadaan terlalu memercayai AI, bukan berarti ada yang benar-benar menganggap mereka mengalami psikosis secara harfiah

• Dari sudut pandang seseorang yang selama sekitar 2 tahun setengah terutama memakai Claude untuk pekerjaan konsultasi strategi, sambil juga mencoba GPT dan Gemini, aku bisa mengatakan dengan yakin
  euforia irasional di ruang gema kepemimpinan teknologi, yang sedang mabuk suasana bulan madu dan ingin menyerahkan tanggung jawab manajerial kepada Claude, akan terlihat sangat bodoh saat ditengok kembali nanti