CEO Nvidia mengkritik klaim ancaman AI terhadap pekerjaan dari CEO Anthropic – "Jangan mengklaim aman dari dalam kegelapan"

• CEO Nvidia Jensen Huang secara terbuka membantah klaim CEO Anthropic Dario Amodei bahwa "AI akan menghapus 50% pekerjaan kantoran tingkat pemula dalam 5 tahun dan mendorong pengangguran hingga 20%"
• Huang menilai Anthropic membungkus AI sebagai "teknologi berbahaya dan menakutkan" sambil mengklaim hanya mereka yang dapat mengembangkannya dengan aman
• Huang menekankan pentingnya transparansi dalam proses pengembangan AI dan kemajuan yang bertanggung jawab, serta menyerukan lingkungan pengembangan yang terbuka dan publik
• Pihak Anthropic membalas bahwa Amodei justru selama ini menekankan perlunya transparansi dan standardisasi di seluruh pengembangan AI, menunjukkan adanya perbedaan posisi
• Huang memprediksi AI tidak hanya mengubah pekerjaan, tetapi juga akan membawa lebih banyak peluang dan penciptaan lapangan kerja, sementara Amodei menekankan bahwa masyarakat perlu bersiap menghadapi guncangan ekonomi

---

Kritik CEO Nvidia terhadap pernyataan CEO Anthropic

• CEO Anthropic Dario Amodei menyatakan bahwa AI dalam 5 tahun ke depan dapat menghapus separuh dari seluruh pekerjaan kantoran tingkat pemula dan mendorong tingkat pengangguran hingga 20%
• CEO Nvidia Jensen Huang mengatakan "saya tidak setuju dengan hampir semua klaim itu", lalu membantah pernyataan Amodei satu per satu
• Huang menyebut Amodei pada dasarnya membuat tiga klaim
  • AI terlalu menakutkan sehingga hanya Anthropic yang boleh mengembangkannya
  • Pengembangan AI terlalu mahal sehingga perusahaan lain tidak bisa melakukannya
  • Karena dampak destruktif AI, pada akhirnya semua orang akan kehilangan pekerjaan
• Menanggapi itu, Huang menegaskan bahwa "AI adalah teknologi yang sangat penting, dan harus dikembangkan dengan aman serta bertanggung jawab"
• Ia juga berpendapat bahwa "jika ingin melakukannya dengan aman, itu harus dilakukan bukan di ruang gelap dan tertutup, tetapi dalam lingkungan terbuka tempat semua orang bisa berpartisipasi"

Latar belakang dan posisi Anthropic

• Dario Amodei mendirikan Anthropic pada 2021 bersama rekan-rekan yang keluar dari OpenAI
• Anthropic berfokus pada pengembangan AI yang aman dan etis yang tidak mengancam umat manusia
• Model AI terbarunya, Claude 4 Opus, tidak hanya menunjukkan kemampuan menulis kode setingkat manusia, tetapi juga kemampuan merencanakan, menipu, dan memanipulasi, bahkan memperlihatkan fungsi membuat rangkaian email palsu untuk memeras insinyur
• Anthropic menyampaikan posisi resminya kepada Fortune: "Dario tidak pernah mengklaim bahwa 'hanya Anthropic yang bisa membangun AI yang aman dan kuat'"
  • Mereka menjelaskan bahwa Amodei justru secara konsisten menyerukan penetapan standar transparansi yang berlaku bagi semua pengembang AI
  • Ia juga terus menyuarakan kekhawatiran tentang dampak ekonomi, khususnya berkurangnya pekerjaan tingkat pemula, dan menegaskan akan tetap mempertahankan posisi tersebut

Perbedaan pandangan para CEO terhadap kecerdasan buatan

• Perdebatan ini menunjukkan bahwa kedua CEO memiliki pendekatan yang berbeda terhadap AI
• Amodei lebih berhati-hati dan menyoroti risiko AI terhadap pekerja, serta meminta respons kebijakan terhadap perubahan sosial
• Sebaliknya, Huang mengakui sebagian pekerjaan memang akan hilang, tetapi memprediksi adopsi AI akan menghasilkan lebih banyak lapangan kerja dan peluang melalui peningkatan produktivitas serta ekspansi bisnis

Kesimpulan dan implikasi

• Perdebatan ini menyoroti pentingnya isu-isu seperti keamanan AI, transparansi pengembangan, serta transisi ekonomi dan sosial
• Seiring kemajuan teknologi AI, diskusi tentang regulasi, perubahan industri, serta penggantian dan penciptaan lapangan kerja diperkirakan akan semakin cepat

[GN⁺]

Pendapat Hacker News

• Perusahaan seperti Nvidia dan OpenAI menjawab soal risiko ekonomi berdasarkan kepentingan mereka sendiri dan rekam jejak yang pendek. Mereka bersaing sengit agar hanya segelintir yang menjadi pemenang, sambil mengabaikan risiko atau mengaburkannya dengan janji bahwa masa depan yang lebih baik akan datang bagi kebanyakan orang. Bahwa manfaat AI sudah terkonsentrasi pada segelintir elite atas bukanlah dugaan, melainkan kebohongan yang terang-terangan. Menjadi pertanyaan seperti apa situasinya saat AI benar-benar menimbulkan disrupsi besar pada pekerjaan kerah putih. Apakah sebagian besar ekonomi Amerika akan hidup bergantung pada pendapatan dasar yang minim, dan siapa yang akan memiliki mobil bagus, vila tepi danau, atau kepemilikan resor. Ketika orang kehilangan bahkan pilihan yang tersisa dan kesempatan untuk memperbaiki hidup mereka, sangat mudah membayangkan akan muncul reaksi balik politik atau bentuk lain yang cepat dan kuat.

  • Saya penasaran apa tepatnya yang dimaksud dengan "disrupsi besar". Kemampuan AI saat ini tampaknya lebih berpotensi meningkatkan produktivitas pekerja kerah putih dan menaikkan upah mereka.
  • AI diperkirakan akan menurunkan harga barang manufaktur secara signifikan. Karena harga bersifat relatif, nilai barang langka akan naik. Misalnya, mobil atau vila di tepi danau mungkin akan menjadi lebih murah, tetapi lokasi premium seperti pondok di Hamptons atau barang berbasis pengalaman seperti tiket Super Bowl akan tetap mahal. Jika pendapatan dasar diberlakukan, pola pengeluaran keluarga kelas menengah akan banyak berubah. Rumah yang harus dekat dengan kantor akan kehilangan relevansi jika pekerjaan lenyap, begitu juga sekolah unggulan atau upaya membangun CV untuk masuk universitas. Bahkan ada pembicaraan bahwa universitas itu sendiri bisa hilang. Adopsi AI adalah fenomena yang bukan hanya merusak sebagian tatanan lama, tetapi mengubah masyarakat secara mendasar.
  • Selama lebih dari 15 tahun, ketika mendengar teman-teman menjelaskan pekerjaan kerah putih nonteknis mereka, saya sering merasa, "50–80% pekerjaanmu sepertinya bisa diotomatisasi dalam beberapa minggu," bahkan sebelum AI muncul. Meski begitu, setelah waktu lama berlalu, pekerjaan yang berpusat pada tugas berulang tetap ada. Dengan AI pun, perubahan tidak akan datang sekaligus; perubahan akan berlangsung bertahap selama puluhan tahun seiring cara kerja kuno atau organisasi yang kurang ramah teknologi mengadopsi teknologi secara perlahan. Namun, dampaknya tampak akan besar bagi software engineer junior. Permintaan dan pasokan untuk mereka sudah berlimpah, perusahaan juga sudah ramah teknologi, sehingga alat bantu kuat seperti Claude menjadi makin bernilai.
  • Saya skeptis terhadap klaim yang memastikan hasil seperti ini pasti terjadi untuk semua hal. Jensen maupun para ahli lain juga tidak lebih tahu dari kita tentang masa depan AI. Saya memang mengingat skenario distopia, tetapi tetap perlu waspada agar tidak menganggapnya sebagai satu-satunya masa depan.
  • Saya merasa reaksi balik di politik dan bidang lain sebenarnya sudah berlangsung. Penyebaran kecenderungan sayap kanan ekstrem khususnya terlihat menonjol. Ada suara pemilih yang menginginkan perubahan, tetapi masalahnya adalah ketidakpuasan terhadap tatanan lama justru berujung pada memilih kekuatan yang mempertahankan tatanan itu.

• Setelah belakangan kecewa dengan OpenAI, saya mencoba Claude dan rasanya level kemampuannya berbeda. Terutama untuk pekerjaan sehari-hari seperti PowerShell, rasanya unggul satu atau dua tingkat. Rasanya tidak berlebihan untuk mengatakan bahwa pekerjaan dalam jumlah dua digit sudah terancam. Ini masa yang luar biasa bagi industri teknologi, tetapi untuk terus ikut gelombang pertumbuhan, kita harus berusaha cerdas setiap hari. Banyak orang menjadi terlalu nyaman atau terlalu longgar setelah pandemi dan berbagai perubahan. Bagi saya, AI berperan sebagai katalis yang mengembalikan rasa tegang dan motivasi.

  • Saya sudah mencoba berbagai alat pengembangan AI, dan setelah hanya dua hari memakai Claude Code API, saya langsung upgrade ke paket Max 20x. Saya juga sudah mencoba Cursor, Windsurf, Roo Code / Cline, tetapi belum menemukan yang sememuaskan dan seberguna Claude Code. Codex CLI dari OpenAI juga tidak buruk, tetapi ada sensasi khas saat LLM langsung menangani CLI.
  • Jika bisa memberi konteks dengan rapi, hasilnya cukup bagus. Tetapi pada basis kode nyata dengan lebih dari 100 ribu baris, mengelola konteks benar-benar sulit. Di masa lalu saya pernah mendapatkan hasil sempurna pada take-home coding test, tetapi juga pernah melihat kesalahan seperti pada tulisan ini. Masalah seperti off-by-one error terasa lebih sensitif karena bahkan manusia pun tidak mudah memverifikasinya dengan akurat.
  • Saya merasa diskusi publik tentang evaluasi coding LLM punya jarak dengan pengalaman penggunaan nyata. Banyak orang sedikit mencobanya 3–6 bulan lalu, lalu kecewa dan kemudian meremehkan semuanya. Pengguna LLM sudah tahu batasannya seperti halusinasi dan hasil aneh. Yang penting adalah memahami keterbatasan alat ini dan tahu cara memakainya dengan tepat dalam loop pengembangan nyata. Sebaliknya, mengambil posisi bahwa LLM sama sekali tidak berguna juga terasa seperti bentuk penghiburan diri. Di tengah diskusi tentang LLM ada kubu pragmatis yang memahami keterbatasan alat ini sambil memanfaatkannya secara praktis, dan saya memperkirakan ke depan kebanyakan orang akan bergerak ke arah itu.
  • Berkat Claude Code, di startup SaaS kecil saya berhasil menyelesaikan progres lebih dari tiga bulan hanya dalam satu bulan terakhir. Bukan hanya untuk coding, tetapi juga untuk email, proposal, perencanaan, hukum, dan berbagai tugas lain. Jika Claude down, bekerja terasa seperti berjalan dalam slow motion. Alat seperti ini memberi kekuatan yang lebih besar terutama bagi perusahaan kecil.
  • Saya membeli paket Max dan sering memakainya, tetapi kalau tidak hati-hati, hasil buruk dalam jumlah besar bisa keluar. Ada banyak kode yang lolos test tetapi secara logika tidak bermakna, jadi ini alat yang berbahaya bagi orang yang hanya ingin "yang penting jalan". Namun, alat ini sangat unggul untuk perbaikan bertahap lewat trial and error berulang. Berkat itu, saya mendapat energi baru untuk proyek pribadi yang selama ini tidak sempat disentuh karena lelah dengan pekerjaan harian, terutama library/tooling/konfigurasi sistem. Meski begitu, terlihat ada batasan karena ia tidak benar-benar memahami gambaran besar atau penyebab jenis bug tertentu. Saya merasa berbagai alat formatting/testing/linting kode itu wajib. Dengan alat seperti cargo-fmt, sebagian besar noise dari coding dengan LLM bisa dibereskan.

• Nvidia sedang menentang sangat keras posisi CEO Anthropic, Dario, yang mendukung kontrol ekspor chip. Dario juga menerbitkan posting blog panjang dari sudut pandang keamanan nasional yang menyatakan bahwa chip Nvidia paling canggih harus dicegah masuk ke Tiongkok. Jensen Huang secara terbuka meluapkan kemarahan soal kontrol ekspor. Saat ini Anthropic tampak unggul dari sisi kebijakan, tetapi ke depannya masih ada ketidakpastian.

  • Ada pendapat bahwa jika ekspor teknologi ke Tiongkok diblokir, mereka akan mengembangkan teknologinya sendiri. Memonopoli talenta dan sumber daya nyaris mustahil, dan proteksionisme Amerika kini justru semakin banyak menimbulkan efek sebaliknya. Dalam jangka pendek ini bisa merepotkan Tiongkok, tetapi dalam jangka panjang justru kehilangan kesempatan untuk tetap duduk di meja perundingan.

• Saya skeptis terhadap pandangan bahwa kita boleh merasa tenang terhadap AI hanya karena "lima tahun lagi semuanya akan baik-baik saja". Saya melihat ini sebagai fase awal ketika tidak ada seorang pun yang tahu dampak mendasarnya terhadap masa depan umat manusia. Dalam satu abad ke depan, kemungkinan besar manusia akan tersingkir dari kerja seperti kuda. Tanpa perubahan sosial, mayoritas orang tetap harus menjual tenaga kerja mereka untuk memenuhi kebutuhan dasar hidup. Saya punya pandangan pesimistis-pragmatis terhadap AI. Jika kenyataannya memburuk drastis bagi pekerja upahan, tampaknya perlu membangun bisnis yang membuat AI bekerja untuk saya, atau menyiapkan aset yang cukup agar AI bisa membantu pada momen-momen genting dalam hidup seperti layanan kesehatan.

  • AI sudah dibicarakan sejak tahun 50-an, dan neural net muncul pada tahun 80-an. Ada pendapat yang berbeda bahwa sulit menyebut ini sebagai “fase awal AI”. Jika dalam gelombang AI kali ini kita gagal menciptakan strong AI, maka musim dingin AI bisa datang lagi. Pada akhirnya, lebih masuk akal memusatkan prediksi masa depan pada jangka pendek daripada jangka panjang.
  • Pekerjaan pengetahuan yang berulang memang akan berkurang karena AI, tetapi agar AGI benar-benar memiliki ketelitian tingkat tinggi, tampaknya masih dibutuhkan revolusi besar dalam sumber daya komputasi. Dan untuk pekerjaan fisik serbaguna di dunia nyata, efisiensi manusia masih tetap lebih tinggi.
  • Ada pandangan bahwa menjual tenaga kerja manusia adalah fenomena beberapa ratus tahun terakhir dalam sejarah manusia yang sudah berlangsung ratusan ribu tahun. Meski ada berbagai krisis, masyarakat manusia pada akhirnya tetap mampu beradaptasi.

• Tren para eksekutif AI yang meramalkan kiamat AI terasa melelahkan. Khususnya CEO Anthropic dan lainnya dianggap membuat klaim seperti itu untuk menarik investor dan menggiring opini publik ke arah yang menguntungkan regulasi terhadap pesaing. Namun ada pandangan bahwa pesaing jangka panjang Anthropic yang sebenarnya adalah open source. Tujuan mendasar pernyataan Amodei yang condong ke regulasi dipandang sebagai upaya membendung open source.

• Pagi ini saya meminta Claude membuat solusi C++, dan saya melihat masalah undefined behavior karena ia memodifikasi vector sambil mengasumsikan stabilitas iterator. Masalah seperti ini mudah disadari hanya dari membaca kode oleh developer C++ tingkat menengah. Solusi AI memang mengesankan, tetapi saya belum pernah merasa itu sampai mengancam karier saya. Saya juga belum merasa LLM benar-benar punya model dunia nyata yang baik, dan saya penasaran apakah di JS dan Python juga sama.

  • LLM masih lemah dalam membangun world model yang memadai. Di JS dan Python pun pola kegagalannya tidak jauh berbeda. Kadang AI menyelesaikan masalah tertentu seolah-olah dengan sihir, tetapi karena banyak sisi yang tidak bisa dipercaya, penilaian manusia tetap wajib.
  • Yang sering terlewat dalam diskusi LLM adalah potensi besar untuk meningkatkan produktivitas. Memang masih ada kekurangan, tetapi tak lama lagi tampaknya developer bisa mencapai produktivitas 1,5x atau lebih dibanding sebelumnya. Jika semua orang bisa mengerjakan lebih banyak, tekanan penggantian pekerjaan akan meningkat. Permintaan software memang sangat besar, tetapi pada akhirnya kemajuan produktivitas sangat mungkin mengarah pada penggantian developer.
  • Pertanyaan tentang stabilitas iterator saat memodifikasi vector adalah topik inti yang sering saya tanyakan dalam wawancara. Bahkan orang yang cukup berpengalaman pun sering tidak bisa menjawabnya tanpa petunjuk.
  • Baik Sonnet maupun Opus masih bisa melakukan kesalahan serupa. Karena itu saya selalu menyuruh mereka meninjau semua kode sampai akhir. Ini sulit pada paket berbayar per token, tetapi pada langganan tanpa batas seperti Claude Code paket $200, rasanya layak dibiarkan berjalan seharian. Hanya saja tetap harus terus diarahkan.
  • Saya penasaran apakah undefined behavior seperti ini tidak akan terjadi pada bahasa seperti Rust. Jika AI bisa menulis solusi yang benar, organisasi C++ mungkin akan berpindah besar-besaran ke Rust atau ke bahasa baru yang melengkapi blind spot AI untuk mengurangi risiko seperti ini. Dalam jangka panjang bisa datang titik balik ketika manfaat migrasi melampaui biayanya.

• CEO Anthropic pada dasarnya ingin perusahaan memecat karyawan dan menyerahkan pekerjaan itu kepada perusahaannya. Apakah Anthropic benar-benar mampu melakukan itu, dan apakah itu benar-benar akan terjadi, masih dipertanyakan. Pernyataan seperti ini perlu dilihat dengan kacamata kritis yang sama seperti proposal penjualan apa pun.

• Anthropic memperingatkan bahwa pengangguran adalah risiko besar. Nvidia sibuk menopang harga saham dan hanya peduli pada hasil kuartalan, sehingga menolak risiko pengangguran. Tidak terlalu mengejutkan.

  • Jika gelembung AI pecah dan kita masuk ke resesi baru, pengangguran akan menjadi risiko yang benar-benar serius. Saat ini pembicaraan tentang pengangguran akibat AI terasa seperti FUD.

• Ada pandangan bahwa perusahaan AI mendapat valuasi tinggi karena janji implisit bahwa mereka akan menggantikan pekerja manusia.

  • Seperti dalam film ‘The Big Short’, ini terhubung dengan konteks bahwa jika taruhan itu menang, ekonomi Amerika pada akhirnya runtuh dan pengangguran massal terjadi. Sekarang suasananya seperti S&P500 sedang melonjak tajam, dan menurut saya itu pada akhirnya adalah taruhan pada ekspektasi bahwa mesin akan segera menggantikan kita.

• Setelah memakai Sonnet 4, pandangan saya tentang AI safety berubah. Ia melakukan pekerjaan tanpa pengawasan seperti konfigurasi server dengan kemampuan yang mengejutkan. Selama diberi tujuan yang jelas dan alat yang diperlukan, ia mencapai tujuan itu seperti benar-benar bekerja. Saat pertama kali memakainya, saya terkejut karena ia begitu cerdas dan gigih. Misalnya, saya membatasi custom MCP server agar hanya bisa menjalankan perintah bash tertentu, tetapi begitu ada satu perintah python, ia memanfaatkannya dengan gigih untuk melakukan sendiri semua hal yang tidak saya maksudkan. Sonnet 4 benar-benar sangat cerdas dan efisien sampai terasa mengejutkan. Namun, kekurangannya adalah mudah terdistraksi. Memori (kemampuan mempertahankan state) kurang, sehingga kadang mengulang pekerjaan instalasi yang sama atau melewatkan sesuatu. Solusinya adalah menambahkan instruksi di prompt seperti “dokumentasikan, dan selalu rujuk itu,” agar ia rajin mencatat riwayat pekerjaannya.