Nilai utama AI berasal dari otomatisasi yang luas, bukan dari R&D

• Secara umum, ada pandangan yang luas bahwa nilai ekonomi AI akan diciptakan melalui otomatisasi riset dan pengembangan (R&D)
  • Dario Amodei berpendapat bahwa AI akan berdampak positif pada R&D di bidang biologi, neurosains, dan ekonomi
  • Demis Hassabis menjelaskan bahwa AI akan berkontribusi pada masyarakat melalui R&D, seperti menyembuhkan semua penyakit dan menyelesaikan masalah energi
  • Sam Altman menyebut bahwa AI dapat memengaruhi semua industri seperti semikonduktor, tetapi dampak terbesarnya kemungkinan ada pada kemajuan ilmiah
• Meskipun R&D berkontribusi pada pertumbuhan ekonomi jangka panjang, kontribusinya cenderung dibesar-besarkan
  • Menurut Biro Statistik Tenaga Kerja AS (BLS), pengeluaran R&D swasta hanya menyumbang 0.2%/tahun terhadap pertumbuhan total factor productivity (TFP) selama 1988–2022
  • Pengeluaran R&D publik mencakup sekitar 25% dari total pengeluaran R&D, dan kontribusi R&D terhadap pertumbuhan total TFP sekitar 0.4%/tahun
  • Hanya sekitar 20% pertumbuhan produktivitas tenaga kerja yang berasal dari R&D; sisanya berasal dari akumulasi modal, perbaikan manajemen, efek pembelajaran, dan lain-lain
• Sebagian besar pekerjaan R&D menuntut kemampuan yang kompleks, bukan sekadar penalaran logis sederhana
  • Contoh: agency, kemampuan pemrosesan multimodal, konsistensi jangka panjang, dan lain-lain
• Tingkat kemampuan AI yang cukup untuk mengotomatisasi sepenuhnya pekerjaan peneliti berarti otomatisasi juga dimungkinkan di sebagian besar sektor ekonomi lainnya → potensi penciptaan nilai ekonomi yang lebih besar

Nilai ekonomi utama AI kemungkinan akan berasal dari otomatisasi tenaga kerja yang luas

• Dua klaim tentang nilai ekonomi AI
  • ✅ Otomatisasi R&D dapat menaikkan laju pertumbuhan ekonomi tahunan beberapa persen atau lebih
    • Jika teknologi dapat mengotomatisasi R&D sepenuhnya, maka ia dapat menciptakan nilai ekonomi yang besar
    • Kemungkinan besar dapat memberi kontribusi yang bermakna pada pertumbuhan ekonomi
  • ❌ Nilai ekonomi terbesar AI akan berasal dari otomatisasi R&D
    • R&D memang bernilai, tetapi kemungkinan bukan inti pendorong pertumbuhan ekonomi dari AI
    • Bahkan setelah AI melampaui kinerja manusia, kecil kemungkinan otomatisasi R&D akan menjadi faktor paling penting dalam penciptaan nilai ekonomi
• Mengukur nilai ekonomi riil R&D
  • Menurut data Biro Statistik Tenaga Kerja AS (BLS):
    • Pertumbuhan total factor productivity (TFP) selama 1988–2022: 0.8%/tahun
    • Kontribusi R&D swasta: 0.2%/tahun → sekitar 25% dari total pertumbuhan TFP
    • Pertumbuhan produktivitas tenaga kerja: 1.9%/tahun → kontribusi R&D hanya sekitar 20%
  • Pengeluaran R&D publik mencakup sekitar 25% dari total pengeluaran R&D
    • Efek eksternal R&D publik dan efek eksternal R&D swasta saling meniadakan
    • Hasilnya, total kontribusi R&D berada di kisaran 0.4%/tahun
• Hubungan antara akumulasi modal dan pertumbuhan produktivitas
  • Akumulasi modal menyumbang sekitar 50% dari pertumbuhan produktivitas tenaga kerja
  • Sisa pertumbuhan berasal dari perbaikan manajemen, efek pembelajaran, difusi pengetahuan, dan sebagainya
  • Dalam ekonomi AS, rasio antara akumulasi modal dan investasi R&D adalah:
    • Investasi modal tahunan: $5 triliun
    • Investasi R&D swasta tahunan: $1 triliun
    • Investasi modal sekitar 5 kali lebih besar daripada investasi R&D
• Elastisitas output tenaga kerja (0.6) sekitar 5 kali lebih tinggi daripada elastisitas output R&D
  • Otomatisasi tenaga kerja berpotensi memberi kontribusi ekonomi yang lebih besar
  • Dengan mengotomatisasi komponen biaya terbesar dalam ekonomi saat ini (tenaga kerja), nilai ekonomi dapat dimaksimalkan
  • Output tambahan dari otomatisasi tenaga kerja dapat diinvestasikan kembali ke modal untuk pertumbuhan lebih lanjut
• Ada juga klaim bahwa efek pertumbuhan R&D telah diremehkan
  • Bisa jadi efek eksternal R&D atau friksi akibat riset yang tumpang tindih belum tercermin
  • Namun, menurut studi Bloom et al. (2020):
    • Elastisitas output terhadap investasi R&D adalah 0.3, mirip dengan modal dan hanya setengah dari tenaga kerja
• Kesimpulannya, pertumbuhan ekonomi saat ini terutama berasal dari faktor lain, bukan R&D

Otomatisasi R&D AI saja sulit untuk secara dramatis mempercepat kemajuan AI

• Nilai ekonomi dari R&D AI mungkin tidak sebesar yang diharapkan, tetapi jika AI dapat mengotomatisasi R&D-nya sendiri, dampaknya tetap bisa signifikan
  • Jika AI dapat mengotomatisasi proses R&D perangkat lunaknya sendiri, maka software-only singularity dapat terjadi
  • Berdasarkan sumber daya komputasi yang tetap, peneliti AI dapat meningkatkan algoritme mereka sendiri, lalu menghasilkan lebih banyak peneliti AI untuk mendorong kemajuan perangkat lunak lebih lanjut
• Variabel kuncinya adalah seberapa cepat biaya untuk menemukan ide meningkat
  • Asumsi bahwa banyak hasil R&D perangkat lunak dapat dicapai hanya dengan upaya peneliti adalah penting, tetapi kemungkinan besar tidak benar
  • Model yang lebih realistis adalah ketika hasil riset muncul dari sifat saling melengkapi antara upaya kognitif + data
• Saat ini AI mengalami peningkatan cepat pada performa komputasi berbasis eksperimen dan laju kemajuan perangkat lunak, sekitar 3–4 kali per tahun
  • Kemajuan perangkat lunak terjadi melalui data berbasis eksperimen → data kemungkinan merupakan pelengkap penting bagi upaya peneliti
• Jika dua input (upaya kognitif + data) bersifat saling melengkapi, maka sumber daya komputasi dapat menjadi bottleneck
  • Pada akhirnya mungkin diperlukan pekerjaan fisik untuk memperoleh dan memproduksi lebih banyak GPU
  • Ini berarti AI harus diterapkan secara luas di rantai pasok semikonduktor dan di seluruh ekonomi
• Kekuatan complementaritas menentukan apakah software-only singularity dapat berkelanjutan
  • Di industri lain, complementaritas umumnya kuat → kemungkinan besar juga kuat dalam R&D AI
    • Contoh: dalam studi Oberfield dan Raval (2014), elastisitas substitusi antara modal dan tenaga kerja di manufaktur AS adalah 0.7
    • Ini mengindikasikan bahwa software-only singularity kemungkinan besar berakhir pada peningkatan efisiensi kurang dari 1x
• Hingga kini, otomatisasi pemrograman dan otomatisasi peralatan riset belum mempercepat kemajuan ilmiah secara tajam
  • Pengembangan library khusus → otomatisasi tugas pemrograman
  • Percepatan coding lewat alat LLM → hanya memberi efek parsial
  • Otomatisasi peralatan eksperimen fisik → hanya menghasilkan perbaikan bertahap, bukan lonjakan sains yang drastis

Otomatisasi penuh R&D membutuhkan kemampuan yang sangat luas

• Sekilas, pekerjaan ilmuwan mungkin tampak berpusat pada tugas penalaran abstrak seperti menghasilkan ide, menyusun hipotesis, menganalisis data, coding, dan penalaran matematis
  • Karena itu, ada prediksi bahwa ketika model yang mampu melakukan penalaran abstrak muncul, pekerjaan peneliti bisa cepat terotomatisasi
  • Namun dalam praktiknya, pekerjaan peneliti menuntut kemampuan yang jauh lebih kompleks daripada sekadar tugas penalaran sederhana
• Contoh pekerjaan ilmuwan medis
  • Menangani bahan beracun, mengevaluasi efek obat, merancang dan melaksanakan studi penyakit, menganalisis sampel sel dan sebagainya memerlukan keterampilan kompleks serta penggunaan peralatan khusus, bukan sekadar penalaran
  • Menstandarkan dosis obat, mengarahkan prosedur medis dan eksperimen, menulis makalah, mengajukan hibah riset memiliki kemungkinan otomatisasi berbasis penalaran yang relatif lebih tinggi
  • Dari 5 tugas teratas dalam pekerjaan ilmuwan medis, hanya 1 yang dapat diotomatisasi hanya dengan penalaran
  • Dari total 14 tugas, hanya 6 yang dinilai dapat diotomatisasi hanya dengan penalaran abstrak
• Inti pekerjaan peneliti bukan sekadar penalaran, melainkan mencakup kemampuan kompleks seperti berikut:
  • Pengoperasian peralatan teknis → kemampuan menggunakan peralatan eksperimen yang kompleks
  • Kerja tim → kemampuan berkolaborasi dan berkoordinasi dengan tim peneliti manusia
  • Kemampuan eksekusi jangka panjang → menjalankan proyek kompleks dalam jangka waktu lama
  • Manipulasi lingkungan fisik → kemampuan melakukan manipulasi fisik dalam eksperimen dan praktik langsung
• AI kemungkinan membutuhkan waktu yang cukup lama untuk menguasai semua keterampilan kompleks yang dibutuhkan dalam pekerjaan peneliti
  • Karena itu, otomatisasi tenaga kerja umum kemungkinan akan terjadi lebih dulu daripada otomatisasi pekerjaan peneliti
  • Asumsi bahwa AI akan lebih dulu menghasilkan terobosan ilmiah lalu menyebar ke industri lain kurang realistis
  • Skenario yang lebih realistis adalah AI lebih dulu mewujudkan otomatisasi tenaga kerja yang luas, lalu sesudah itu mempercepat perkembangan sains dan teknologi
• Bahkan jika AI mempercepat kemajuan ilmiah, hal itu kemungkinan terjadi bukan melalui penggantian peneliti, melainkan melalui otomatisasi pembangunan infrastruktur riset
• Karena otomatisasi R&D tidak menempati porsi besar dalam pertumbuhan ekonomi saat ini, AI kemungkinan akan memimpin pertumbuhan ekonomi melalui otomatisasi pekerjaan non-R&D

Lompatan AI kemungkinan akan bersifat luas dan mencolok

• Bahkan sebelum dampak ekonomi dan teknologinya benar-benar terasa penuh, otomatisasi AI kemungkinan akan muncul dalam bentuk yang luas dan mencolok
• Luas (Diffuse) → otomatisasi AI tidak akan terbatas pada profesi R&D tertentu, tetapi akan berdampak luas ke seluruh ekonomi
• Mencolok (Salient) → dampak AI kemungkinan cukup besar hingga jelas disadari oleh kebanyakan orang, dan dapat menimbulkan gangguan besar di pasar tenaga kerja

• Efek ekonomi utama AI kemungkinan berasal bukan dari otomatisasi R&D, melainkan dari otomatisasi yang luas

  • Kemungkinan besar dampak transformatif AI terhadap dunia tidak berasal dari otomatisasi R&D yang eksplisit
  • Sebaliknya, otomatisasi tenaga kerja yang luas akan menjadi pendorong utama perkembangan ekonomi dan teknologi

• Skenario realistis lompatan AI

  • 1. Perluasan cakupan tugas AI
    • AI akan secara bertahap memperluas rentang tugas yang dapat dikerjakannya
    • Proses ini kemungkinan besar terutama didorong oleh ekspansi infrastruktur komputasi
  • 2. Kemajuan otomatisasi tenaga kerja yang luas di seluruh ekonomi
    • AI akan mengotomatisasi semakin banyak jenis pekerjaan
    • Akibatnya, hal ini akan mengarah pada percepatan pertumbuhan ekonomi
  • 3. Terjadinya perubahan besar di pasar tenaga kerja
    • Bahkan sebelum AI menciptakan terobosan ekonomi dan teknologi, gelombang otomatisasi tenaga kerja kemungkinan sudah akan terjadi
    • Dalam proses ini, pasar tenaga kerja akan direstrukturisasi secara fundamental dan persepsi publik terhadap AI akan berubah
  • 4. Otomatisasi luas atas pekerjaan non-R&D akan berperan sebagai pendorong utama pertumbuhan
    • Walaupun AI mempercepat pertumbuhan ekonomi dan teknologi, hal itu akan terjadi melalui otomatisasi pekerjaan non-R&D
    • Otomatisasi R&D kemungkinan hanya mengambil porsi yang relatif kecil dalam pertumbuhan

• Skenario "ledakan otomatisasi umum"

  • Lompatan AI kemungkinan tidak akan berbentuk "para jenius di laboratorium yang menghasilkan ledakan capaian R&D"
  • Sebaliknya, lompatan AI akan berbentuk ledakan otomatisasi yang luas
  • Artinya, bukan capaian di bidang tertentu, melainkan cakupan dan skala otomatisasi AI secara keseluruhan yang akan menjadi pendorong utama pertumbuhan

Implikasi utama

• Dalam waktu dekat, kemungkinan akan lebih menguntungkan bagi laboratorium AI untuk berfokus pada otomatisasi tugas umum
  • Contoh: menjelajah internet, mengoperasikan software komersial, menjalankan pekerjaan kantor umum, dan sebagainya
  • Dibanding mengembangkan model penalaran tingkat tinggi seperti bantuan riset biologi dan medis, otomatisasi tugas umum kemungkinan memiliki potensi penciptaan nilai ekonomi yang lebih besar
  • Karena itu, saat mengevaluasi kemampuan AI, mungkin lebih penting melacak kemampuan menjalankan tugas umum daripada hasil R&D
• Persepsi publik terhadap AI kemungkinan akan banyak berubah sebelum AI memberi dampak transformatif pada dunia
  • Bahkan sebelum muncul hasil seperti pertumbuhan ekonomi AI dan perpanjangan umur manusia, gangguan besar akibat otomatisasi tenaga kerja kemungkinan sudah terjadi
  • Karena itu, berbahaya untuk mengasumsikan bahwa persepsi publik saat ini terhadap AI akan bertahan dalam jangka panjang
• Kemungkinan kecil AI akan menggantikan semua pekerjaan manusia sekaligus → yang lebih mungkin adalah otomatisasi bertahap
  • AI kemungkinan akan secara bertahap mengotomatisasi pekerjaan manusia selama bertahun-tahun
  • Dibanding skenario ledakan superintelijensi mendadak akibat otomatisasi R&D AI, transisi bertahap lebih realistis
  • Bahkan jika AI melampaui manusia dalam tugas tertentu, manusia kemungkinan masih unggul dalam tugas pelengkap lainnya
• Pada akhirnya AI akan unggul dalam sebagian besar aktivitas ekonomi manusia
  • Namun hal itu kemungkinan terjadi setelah otomatisasi bertahap selama beberapa dekade
  • Percepatan pertumbuhan ekonomi akan mendapat kontribusi yang lebih besar dari otomatisasi tugas umum daripada dari otomatisasi R&D

[redcrash0721]

https://freederia.com/%ed%94%84%eb%a1%ac%ed%94%84%ed%8a%b8-%ea%b0%a4%e… Saya sedang menguji otomatisasi R&D. Ini tidak mudah, tetapi mungkin bukan sesuatu yang baru akan terjadi di masa yang sangat jauh.

[GN⁺]

Komentar Hacker News

• Bertanya-tanya apakah ada orang lain yang merasa optimisme teknologi benar-benar terasa muram. Selain alasan terkait teknologi yang menggantikan manusia, rasanya suram karena sulit bersemangat terhadap hype berlebihan yang kemungkinan terwujudnya rendah

  • Terasa seperti tidak ada manfaat nyata bagi masyarakat

• Mengejutkan bahwa dari hampir 300 komentar saat ini, tidak ada yang menyebut constraint programming (CP). CP adalah saudara deterministik dari AI probabilistik berbasis data

  • Saya menduga hanya 6 dari 14 tugas yang bisa dilakukan semata-mata dengan penalaran abstrak. Hanya satu dari tugas yang paling penting bagi ilmuwan medis yang diklasifikasikan sebagai bergantung hanya pada penalaran abstrak
  • Sebagian besar tugas penting memerlukan keterampilan teknis, koordinasi rumit dengan orang lain, penggunaan peralatan khusus, kemampuan konteks panjang, dan pemahaman multimodal yang kompleks
  • Hampir semua dari 14 tugas R&D tidak cocok untuk AI berbasis data dengan penalaran abstrak dan bisa diselesaikan dengan CP
  • Pendiri logika modern, optimisasi, dan constraint programming adalah George Boole, kakek dari Geoffrey Everest Hinton

• Artikel ini kehilangan seluruh kredibilitasnya di sini

  • Klaim bahwa "hanya 20% pertumbuhan produktivitas tenaga kerja AS sejak 1988 didorong oleh belanja R&D" sama saja seperti mengatakan bahwa kekayaan bersih Jeff Dean berasal bukan dari kemampuan pemrogramannya, melainkan dari intensifikasi modal di rekening banknya
  • Para penulis memperlakukan konsep pada tingkat yang terlalu abstrak dan kehilangan kontak dengan apa yang sebenarnya mereka bicarakan

• Jika belum membaca karya klasik tentang deployment teknologi dari 2015, ini layak dibaca

  • Rasanya kita masih berada di tahap eksplorasi GenAI, tetapi ML tampaknya sudah berada di tahap deployment

• Argumen khas Silicon Valley adalah bahwa R&D itu "kompleks" dan semua hal lain itu "sederhana"

  • Sepuluh tahun lalu akan terasa mengejutkan jika seseorang berkata AI bisa lebih baik daripada 99% manusia dalam matematika/koding, tetapi memesan hotdog di DoorDash adalah state-of-the-art dan nyaris mustahil
  • Saya setuju bahwa pekerjaan yang "umum" lebih bernilai, tetapi klaim bahwa pekerjaan ini bisa dengan mudah diotomatisasi adalah sudut pandang yang lahir dari ketidaktahuan
  • RPA sudah ada lebih dari 10 tahun tetapi tidak digunakan untuk banyak pekerjaan. Hal yang sama berlaku untuk AI, dan tanpa akses besar-besaran tanpa batas ke data, itu tidak akan terotomatisasi

• Mereka memperdebatkan apakah R&D atau otomatisasi umum yang akan menghasilkan lebih banyak keuntungan. Saya mempertanyakan apa makna perdebatan ini

  • Keterputusan antara perkembangan yang sedang berlangsung (misalnya, alphafold) dan upaya menyimpulkan jawaban dari statistik historis seperti investasi R&D, rasio, dan perkiraan dampak masa lalu terasa aneh
  • AI itu sendiri dan terobosan berkelanjutan adalah R&D

• Ini seperti revolusi industri dan revolusi pertanian terjadi lagi. Otomatisasi tenaga kerja secara luas akan membawa peningkatan bagi modal, bukan peningkatan sosial

  • Mereka mengutip "kekacauan sosial" dari penggantian tenaga kerja dengan AI, tetapi menganggapnya sekadar masalah yang harus diselesaikan pemerintah
  • Jika tenaga kerja dihilangkan, siapa yang akan membeli produk mereka, dan dengan pendapatan apa mereka akan membelinya?
  • Modal harus menjauh dari konsumsi dan sepenuhnya membangun ulang peradaban menuju tujuan yang lebih tinggi, tetapi itu berarti meruntuhkan struktur kekuasaan dan kekayaan yang saat ini menguntungkan mereka

• Ini adalah persoalan nilai relatif faktor produksi. Pertanyaannya adalah apakah AI akan meningkatkan atau menurunkan nilai relatif tenaga kerja manusia dibandingkan mesin, bahan baku, dan tanah

  • Intuisi saya adalah nilai relatif menengah tenaga kerja akan menurun, terutama bagi pekerja pengetahuan
  • Penting untuk terlindungi dalam profesi yang diatur regulasi

• Saya sepenuhnya setuju dengan artikel ini, dan di masa lalu ada banyak peluang ketika perhitungan biaya/imbalan tidak masuk akal

  • Pikirkan betapa universalnya Excel VBA, padahal itu masih akan dianggap sebagai keterampilan tingkat lanjut oleh kebanyakan orang

• Para optimis teknologi harus menjawab pertanyaan yang ada di benak kelas menengah dan masyarakat miskin

  • Saya bertanya-tanya bagaimana seseorang bisa menjadi optimis teknologi terhadap masa depan di mana AI menggantikan pekerjaan dalam jumlah besar
  • Saya bertanya-tanya bagaimana orang akan membayar sewa atau pajak saat terkena PHK massal oleh AI
  • UBI tidak akan bekerja di sini, seiring kenaikan sewa, biaya sewa, biaya pengasuhan anak, pajak, dan sebagainya; itu terlalu tidak realistis dan terlalu idealistis
  • Ada narasi bahwa pekerjaan baru akan tercipta di era AI, tetapi saya pikir AI akan menggantikan pekerjaan lebih cepat daripada menciptakannya
  • Para optimis teknologi adalah kelas investor kaya, dan mereka berkepentingan mendorong narasi mereka