AI: Distopia atau Utopia?

• Tulisan dari Vinod Khosla, Khosla Ventures

1. Pendahuluan

• Selama 40 tahun telah mendedikasikan diri dan meneliti inovasi disruptif. Dimulai dari mikroprosesor, lalu di Sun Microsystems memelopori komputasi terdistribusi dan mendorong perkembangan komputer pribadi
• Kemunculan browser pada 1996 menjadi titik balik besar lainnya. Berinvestasi di Netscape dan membesarkan Juniper untuk membangun backbone TCP/IP dasar internet. Itu adalah fajar revolusi internet, dan melakukan investasi strategis pada raksasa-raksasa baru seperti Amazon dan Google
• Dengan hadirnya iPhone pada 2007, era platform mobile pun tiba. Setiap platform baru memungkinkan inovasi aplikasi berskala besar dan ledakan ide-ide baru
• Ada titik ketika perbedaan dalam derajat berubah menjadi perbedaan dalam jenis, dan AI kemungkinan merupakan jenis yang berbeda dari perubahan tahap teknologi sebelumnya. Mikroprosesor, internet, dan ponsel adalah alat untuk memanfaatkan otak manusia, tetapi AI memperkuat dan melipatgandakan otak manusia itu sendiri
• Seperti kemunculan mesin uap dan motor yang memperkuat tenaga otot, AI menjadi padanan intelektualnya. Kemampuan untuk melipatgandakan keahlian, daya pikir, dan pengetahuan berarti bahwa dalam 10 tahun ke depan AI bisa jauh melampaui kapasitas otak manusia
• Kecerdasan buatan menjanjikan masa depan dengan kemakmuran yang belum pernah ada sebelumnya. Dalam jangka pendek, hal ini bisa menyakitkan bagi mereka yang tergantikan, tetapi dampak susulannya dapat dikurangi lewat kebijakan yang dirumuskan dengan baik
• Rentang waktu 0-10 tahun, 10-25 tahun, dan 25-50 tahun ke depan akan sangat berbeda satu sama lain. Akan sulit memprediksi atau memperkirakan kecepatan perubahan dalam kemampuan teknologi yang jauh melampaui kecerdasan manusia serta tingkat penetrasi sosialnya di berbagai bidang
• Yang memperparah kebingungan saat ini tentang apakah masa depan bersifat distopia atau utopia adalah siklus hype AI saat ini, yang bersama kegagalan-kegagalan yang menyertainya turut mendistorsi pandangan
  • Sebagian besar venture AI akan berakhir dengan kerugian finansial
  • Namun secara keseluruhan akan dihasilkan lebih banyak uang daripada kerugian berkat segelintir perusahaan yang mengubah dunia
  • Yang paling menggairahkan bukanlah skala keuntungan AI, melainkan potensinya untuk mengubah arah dunia dan menciptakan ulang infrastruktur sosial ke arah yang lebih baik

2. Pandangan distopis tentang AI

• Kaum pesimis (Pessimists) dan kaum doomer (Doomers) menggambarkan masa depan distopis dari sisi ekonomi dan sosial
  • Terhadap kekhawatiran mereka, saya menilai sebagian besar tidak berdasar, rabun jangka pendek, dibesar-besarkan, dan pada kenyataannya berbahaya
  • Kekhawatiran ini dapat diselesaikan melalui pilihan sosial
  • Saya melihat distopia para doomer sebagai perhitungan yang keliru dari sisi risiko/imbalan
  • Risiko AI itu nyata, tetapi dapat dikelola
• Dalam perdebatan saat ini, para doomer berfokus pada risiko kecil dari "AI cerdas yang buruk", sambil mengabaikan risiko yang paling jelas, yaitu kalah dalam persaingan AI dari "negara" atau aktor jahat lainnya
  • Inilah risiko yang paling patut ditakuti oleh orang-orang yang takut pada AI dan khawatir AI dapat mengikis demokrasi serta memanipulasi masyarakat
  • Inilah alasan kita tidak boleh kalah dari Tiongkok, sekaligus alasan AI harus digunakan demi seluruh umat manusia
• Tiongkok adalah cara tercepat untuk mewujudkan mimpi buruk para doomer
  • "Apakah Anda siap mempercayai Xi Jinping dan orang-orang dekatnya yang mirip Putin demi distribusi yang adil atas teknologi paling kuat di dunia? Itulah yang benar-benar akan menjadi distopia"

A. Pengurangan lapangan kerja dan ketimpangan ekonomi

• Dalam distopia ekonomi, kekayaan terkonsentrasi di kalangan atas, sementara nilai kerja intelektual dan fisik menurun, pengangguran luas dan deflasi menghancurkan ekonomi serta daya beli, dan ketimpangan makin dalam
  • AI dapat menciptakan dunia di mana segelintir elite makmur sementara yang lain menghadapi ketidakstabilan ekonomi. Ini terutama bisa terjadi dalam demokrasi yang berjalan tanpa arah tanpa kebijakan yang kuat
  • Namun hal ini dapat dicegah melalui intervensi yang bijak seperti redistribusi pendapatan, jaminan standar hidup minimum (mungkin UBI?, Universal Basic Income), dan legislasi strategis yang dipimpin demokrasi
  • Kapitalisme dan struktur pajak berjalan atas izin demokrasi, dan demokrasi dapat memungkinkan transisi ini
• Kabar baiknya adalah AI dapat menciptakan kekayaan yang cukup untuk dibagikan kepada semua orang, dan semua orang akan menjadi lebih baik dibandingkan dunia tanpa AI
  • Mengingat populasi global yang menua dan menyusutnya jumlah tenaga kerja muda, AI menjadi sangat penting
  • Dengan kebijakan yang tepat, masa transisi bisa dibuat mulus dan bahkan dimungkinkan penerapan pekan kerja 3 hari
• Jika pertumbuhan GDP melonjak dari 2% ke 5%, akan tercipta kemakmuran yang memungkinkan dibentuknya "dana transisi". Mirip dengan dana minyak yang mendorong kemakmuran negara seperti Norwegia

B. Kontrol dan manipulasi sosial

• Secara sosial, para pengkritik menggambarkan dunia di mana AI dimulai dari pengawasan yang meluas lalu berkembang menjadi ancaman bagi umat manusia
  • Namun hasil seperti itu bukan sesuatu yang tak terelakkan. Legislasi yang diterapkan di masing-masing negara akan menentukan bagaimana AI diintegrasikan ke dalam kehidupan kita
  • Dalam masyarakat demokratis, ini akan menjadi pilihan kolektif. Saya bersedia menyerahkan sebagian kebebasan demi masyarakat dengan tingkat kejahatan yang lebih rendah. Tetapi itu bukan berarti kita harus menerima totalitarianisme
  • AI juga dapat mengurangi alasan terjadinya kejahatan itu sendiri
  • Jika kita berupaya memberi batasan pada penggunaan legal AI, kita dapat mencapai keseimbangan yang masuk akal: menikmati manfaat dari perkembangan AI tanpa menyerah pada visi distopis yang diprediksi kaum alarmis
• Kekhawatiran tambahan adalah bahwa AI dapat digunakan untuk memanipulasi opini publik, mengontrol informasi, dan memengaruhi pemilu melalui propaganda yang ditargetkan atau teknologi deepfake
  • Faktanya, campur tangan Rusia dalam pemilu presiden AS 2024 sudah terlihat, dan dengan AI yang lebih kuat situasinya bisa menjadi jauh lebih buruk. Ini dapat merusak demokrasi dan menciptakan masyarakat yang makin sulit membedakan kebenaran
  • Namun kekhawatiran tentang manipulasi dan kontrol bergantung pada asumsi bahwa akan ada satu penguasa AI yang despotik, dan itu tidak terlalu realistis
  • Yang lebih mungkin adalah kita akan melihat beragam AI yang melayani kepentingan yang berbeda-beda
• Yang saya bayangkan adalah agen AI pribadi untuk setiap individu, dirancang untuk melindungi mereka dari pemasaran manipulatif dan brain hacking seperti yang ada saat ini. Yang dimaksud brain hacking di sini adalah ketika pemasar membuat konsumen membeli atau mengklik sesuatu yang sebenarnya tidak akan mereka beli atau klik
  • Kita dapat memperkirakan bahwa AI yang kuat akan mewakili dan melindungi setiap individu
  • Anggap saja sebagai "mata-mata lawan mata-mata" di era digital. AI akan memberdayakan kita sebagai konsumen dan warga negara dalam menghadapi AI perusahaan yang punya insentif untuk memanipulasi kita

C. Hilangnya subjektivitas manusia dan pertimbangan etis dalam sistem AI

• Kekhawatiran tentang AI yang mengambil keputusan penting di bidang seperti kesehatan, peradilan, dan tata kelola adalah hal yang masuk akal jika mempertimbangkan bias tersembunyi dalam sistem saat ini
  • Namun, bias tersebut berasal dari manusia, dan AI memberi peluang untuk mengenali serta memperbaikinya
  • Misalnya, dokter manusia cenderung melakukan lebih banyak operasi jika mereka mendapat kompensasi untuk operasi tersebut, dan sulit untuk mengklaim bahwa mereka bebas dari bias
  • AI akan menjadi satu-satunya cara untuk menyediakan layanan medis tanpa bias. AI akan mengungkap bias dan mengoreksinya. Ini akan menciptakan dunia yang lebih sejahtera dan akses yang lebih adil
  • Menurut pandangan saya, manusia akan tetap memegang kekuasaan untuk mencabut wewenang pengambilan keputusan AI, sehingga AI akan tetap menjadi sebuah "lembaga" yang dipandu oleh konsensus manusia, bukan kekuatan yang tak terkendali
  • Momok AI yang berkesadaran dan berniat jahat memang berbahaya, tetapi itu adalah risiko yang bisa kita mitigasi
• Saat AI merombak pekerjaan dan pada akhirnya mengambil keputusan di bidang kesehatan, peradilan, dan tata kelola, sehingga berpotensi mengabaikan kecerdasan dan penilaian manusia, kita dihadapkan pada peluang untuk mendefinisikan ulang tujuan manusia dan memperbaiki hasil yang ada saat ini
  • Saat ini kita dididik di sekolah sejak usia 6 tahun dan diprogram untuk memperoleh pekerjaan, yang pada akhirnya membentuk sebagian besar identitas diri kita
  • Namun, 25 tahun dari sekarang, kita mungkin bisa mengajarkan anak-anak eksplorasi, imajinasi, penemuan, dan eksperimen tanpa kewajiban mendesak semacam itu
  • Membebaskan orang dari pekerjaan demi bertahan hidup dapat mendefinisikan ulang makna menjadi manusia, meningkatkan "kemanusiaan" kita, dan memperluas keragaman tujuan kita
• Pada akhirnya, "kemanusiaan" akan didefinisikan oleh kebebasan untuk mengejar dorongan-dorongan ini setelah lepas dari rantai kerja keras demi bertahan hidup
  • Di atas segalanya, di dunia dengan persaingan sumber daya yang lebih kecil, saya berharap lebih banyak manusia digerakkan oleh motivasi internal daripada tekanan eksternal
  • Masyarakat dan individu akan dapat memilih teknologi yang ingin mereka gunakan secara pribadi dan ke mana mereka ingin menginvestasikan waktu mereka
  • Jika seseorang lebih suka mengambil keputusan pribadi tanpa memanfaatkan AI, mereka akan bebas melangkah tanpa copilot. Tidak akan ada yang dipaksakan kepada kita
  • AI bukan akan menjadi penguasa, melainkan alat yang bisa kita gunakan untuk memenuhi kebutuhan dan permintaan kita
  • Dalam skala kecil, komunitas Amish di Amerika melepaskan teknologi atas pilihan mereka sendiri. Bisa saja ada ribuan komunitas seperti itu
• Berdasarkan hal-hal di atas, ada kekhawatiran bahwa ketergantungan pada AI dapat melemahkan standar etika dan moral manusia
  • Jika sistem AI diprogram untuk memprioritaskan efisiensi di atas pertimbangan etis, keputusan yang merugikan atau tidak adil bisa saja diambil
  • Namun, itu adalah pilihan sosial yang dibuat manusia, bukan mesin. Jika terjadi kesalahan, kitalah yang harus bertanggung jawab
• Dengan alasan yang sama, ketika para pesimis mengkhawatirkan kemunduran etis dan moral karena mesin tidak memiliki pemahaman yang halus tentang nilai, etika, dan emosi manusia, saya justru ingin mengusulkan bahwa manusia yang memegang tanggung jawab adalah risiko yang jauh lebih besar
  • Alignment itu penting, tetapi hal yang sama juga berlaku ketika manusia mencoba menyelaraskan kelompok dan membuat keputusan. Yang terpenting adalah terlebih dahulu memiliki tujuan yang sama
  • AI cukup kuat untuk memahami dan mengikuti instruksi kita, atau tidak. Kita tidak bisa memiliki keduanya
  • AI yang sepenuhnya independen mungkin dapat menimbulkan risiko lain yang lebih besar, yang dibahas di bawah, tetapi "AI yang cukup cerdas" namun tidak bisa memahami instruksi kita bukanlah salah satunya

D. Hilangnya kreativitas dan kemampuan berpikir kritis

• Mengenai kekhawatiran bahwa kreativitas dan kemampuan berpikir kritis manusia akan melemah di dunia AI, saya menganggap itu sebagai pandangan yang sempit
  • Para pengkritik khawatir algoritma AI akan memberikan kepada pengguna ide-ide echo chamber yang sempit, sehingga menimbulkan homogenisasi budaya
  • Mereka juga khawatir bahwa ketergantungan berlebihan pada AI dapat menurunkan kreativitas, kemampuan memecahkan masalah, dan daya berpikir kritis manusia ketika orang menyerahkan pengambilan keputusan kepada mesin
• Namun, bahkan orang seperti saya yang sama sekali tidak punya bakat musik pun bisa melihat dunia di mana, melalui AI, saya dapat membuat lagu yang dipersonalisasi untuk menyampaikan pidato yang saya tulis pada pernikahan putri saya
  • Ini kisah nyata. Ini sangat berarti bagi saya
  • Melalui AI, kita dapat memperluas kreativitas melampaui batasan dan kemampuan kita saat ini
  • Seniman, pelukis, dan performer hebat akan dapat memanfaatkan alat-alat ini dengan lebih baik
• Karena sistem AI bisa lebih unggul atau berbeda dalam pekerjaan kreatif, dan segera dapat mengekspresikan emosi serta empati, sehingga dengan demikian melengkapi manusia, saya melihat ini bukan sebagai hilangnya kemanusiaan, melainkan peningkatan, pengayaan, dan perluasan kemanusiaan

E. Otonomi AI, risiko eksistensial, hegemoni, dan China

• Dari sudut pandang paling ekstrem, para pesimis memperingatkan bahwa AI bisa menjadi tak terkendali dan memusnahkan umat manusia

  • Risiko dari "AI yang punya emosi, mandiri, dan jahat" mungkin merupakan ancaman paling serius yang ditimbulkan AI, dan merupakan ancaman yang harus kita tanggapi dengan serius
  • Konsep "Hard Take-Off", ketika AI dengan cepat lepas dari kendali manusia, adalah sesuatu yang nyata dan patut diwaspadai, tetapi penting untuk menilai risiko ini dibandingkan dengan manfaat besar yang AI tawarkan bagi umat manusia atau risiko yang AI ciptakan di tangan negara-negara yang bermusuhan

• Yoshua Bengio dan Geoffrey Hinton, yang juga luas dikenal sebagai "bapak AI", turut sependapat dengan kekhawatiran ini

  • Di tengah mesin yang sudah melampaui kemampuan manusia dalam tugas-tugas khusus seperti pemodelan struktur protein, Bengio memperingatkan bahwa AI umum yang melampaui kecerdasan manusia bisa muncul dalam 10 tahun ke depan
  • Bersama Hinton, Bengio memperingatkan risiko bencana dari AI yang disalahgunakan oleh pelaku atau organisasi jahat
  • Potensi AI untuk mereplikasi dirinya sendiri, melindungi kelangsungan hidupnya, membangun sistem yang kebal terhadap campur tangan manusia, dan mengeksploitasi kerentanan infrastruktur digital bukan hanya dapat mengguncang demokrasi, tetapi juga dapat menjungkirbalikkan seluruh umat manusia
  • Kekhawatiran ini bukan hanya tentang AI itu sendiri, tetapi juga tentang meluasnya akses ke alat sekuat itu dan jatuhnya alat tersebut ke tangan orang-orang yang berniat jahat
  • Bengio mendorong kerja sama internasional untuk mengatur pengembangan AI, mencegah penyalahgunaan, dan mengembangkan langkah-langkah untuk melindungi umat manusia
  • Saya akan berpendapat bahwa perjanjian internasional tidak ada artinya di sini karena penggunaan AI tidak dapat diverifikasi (berbeda dengan senjata biologis atau nuklir, ketika penggunaannya jelas terlihat)
  • Max Tegmark juga berfokus pada "masalah kontrol", tetapi bahkan ini pun sedang ditangani melalui kemajuan dalam riset keamanan AI
  • Riset OpenAI tentang reinforcement learning from human feedback (RLHF) dan fokus riset yang luas pada interpretabilitas AI mendorong bidang ini ke arah sistem yang lebih transparan dan dapat dikendalikan
  • Paul Christiano, kepala keamanan AI di U.S. AI Safety Institute, menunjukkan bahwa masalah alignment memang nyata, tetapi bukan sesuatu yang mustahil dipecahkan, dan secara bertahap sedang diatasi melalui solusi teknis serta kerangka pengawasan yang lebih ketat
  • Ini mencakup sistem yang memungkinkan manusia mengawasi proses pembelajaran AI dengan lebih saksama, sehingga tujuan yang dioptimalkan AI tetap selaras dengan nilai-nilai manusia

• Selain itu, menyamakan risiko eksistensial dengan senjata nuklir atau pandemi agak kurang tepat

  • Tidak seperti AI, senjata nuklir dan pandemi memiliki daya hancur yang langsung dan jelas
  • Sebaliknya, AI adalah alat yang bisa dirancang dan diarahkan untuk menyediakan fungsi tertentu
  • Stuart Russell, penulis Human Compatible, menekankan bahwa melalui perencanaan yang cermat, AI dapat dikendalikan agar tidak menjadi ancaman
  • Ia mengusulkan agar AI dibangun dengan ketidakpastian terhadap tujuannya sendiri, sehingga AI selalu meminta persetujuan manusia atas keputusannya
  • Pendekatan ini, yang disebut 'Value Alignment', menurunkan kemungkinan AI lepas kendali seperti yang dikhawatirkan oleh Tegmark, Bengio, dan Hinton
  • Namun, ini tidak otomatis atau terjamin, sehingga dibutuhkan lebih banyak pendanaan riset
  • Namun, memperlambat pengembangan AI lewat regulasi dalam pertarungan melawan negara-negara yang tidak bersahabat adalah risiko yang terlalu besar
  • Tertinggal jelas merupakan risiko yang paling saya takuti

• Para peneliti seperti Yann LeCun, kepala ilmuwan AI Meta, menunjukkan bahwa sistem AI saat ini tidak memiliki mekanisme dasar yang diperlukan untuk kesadaran diri atau otonomi

  • Bagi mereka, ketakutan bahwa AI berkesadaran akan mengambil alih sangat dibesar-besarkan
  • AI yang kita kenal sepenuhnya bergantung pada input dan tujuan yang dibuat manusia, tanpa motivasi mandiri atau kemampuan menetapkan tujuannya sendiri
  • LeCun berpendapat bahwa meskipun AI berkembang pesat, gagasan bahwa AI akan mengembangkan kesadaran masih jauh melampaui kemampuan teknologi kita saat ini
  • (Namun apa yang mungkin terjadi dalam waktu dekat? China unggul dalam persaingan AI dan memanfaatkan kekuatan rezimnya untuk mendominasi nilai-nilai politik dan sosial-ekonomi dunia. Saya akan menjelaskan ini lebih rinci di bawah.)
  • Ringkasan saya terhadap ketakutan apokaliptik ini adalah bahwa nasi sudah menjadi bubur, dan kita tidak punya pilihan selain memilih antara menjadi sepenuhnya rentan terhadap pelaku jahat yang memanfaatkan AI atau mengembangkan teknologi yang dapat melawan AI jahat tersebut

• Selain itu, kita akan memiliki banyak AI, jadi bahkan dalam skenario terburuk, kecil kemungkinan semua AI sekaligus berbalik melawan umat manusia

  • Kita akan memiliki banyak jenis AI berbeda yang dirancang untuk melayani manusia
  • Meningkatnya perhatian pada explainability AI kemungkinan besar akan meningkatkan keamanan dengan menyelaraskan tujuan AI dengan nilai-nilai manusia
  • Saya percaya dalam 10 tahun ke depan, kita akan melampaui ketakutan terhadap "sistem black box" yang tak bisa dikendalikan
  • Namun, untuk menyelesaikan masalah ini dibutuhkan fokus setajam laser pada keamanan dan etika AI

• Investasi besar-besaran dalam keamanan AI itu penting, dan sebagian besar riset universitas harus berfokus pada bidang ini

  • Pemerintah federal harus berinvestasi lebih banyak dalam riset keamanan dan deteksi AI
  • Setelah riset dan pengujian yang memadai, dibutuhkan fitur seperti "off switch"
  • Saya akan berpendapat bahwa perjanjian internasional tidak mungkin dilakukan karena tidak ada cara untuk memverifikasi kepatuhan terhadap perjanjian tersebut
  • Kita juga harus ingat bahwa umat manusia menghadapi banyak risiko eksistensial, termasuk pandemi, tumbukan asteroid, dan perang nuklir
  • AI hanyalah salah satu risiko dalam konteks yang lebih luas, dan kita harus mempertimbangkan trade-off antara risiko-risiko ini dan potensi manfaat yang bisa dibawa AI
  • Menurut pandangan saya, risiko tertinggal dari China dan negara-negara musuh lain dalam teknologi AI jauh lebih besar daripada AI yang sadar diri
  • Memperlambat pengembangan AI bisa menjadi bencana bagi demokrasi

• Dalam 20 tahun ke depan, negara yang muncul sebagai pemimpin teknologi, khususnya di bidang AI, akan menempati posisi dominan dalam distribusi global teknologi, keuntungan ekonomi, dan pengaruh, dan karena itu juga dalam hal nilai-nilai

  • AI akan menjadi teknologi paling bernilai, bukan hanya untuk aplikasi pertahanan seperti perang siber atau robot pembunuh, tetapi juga untuk hal-hal seperti dokter gratis dan tutor gratis bagi dunia
  • Negara yang memenangkan persaingan AI ini dan persaingan terkait seperti fusi kemungkinan akan merebut kekuasaan politik dengan basis kekuatan ekonomi yang sangat besar dan melumasi sistem politik dunia
  • Pengaruh terhadap Asia Tenggara, Afrika, Amerika Latin, dan wilayah lain sedang dipertaruhkan
  • Karena nilai-nilai demokratis sedang terancam dalam perang teknologi ini, kita harus melakukan segala yang kita bisa untuk memenangkan perang ini dan mengalahkan China
  • Pandangan utopia mereka kemungkinan akan berbeda

• Saya menduga bahwa dalam 25 tahun ke depan, Partai Komunis China dapat mengambil taktik Tiananmen Square untuk memaksakan apa yang menurut mereka benar bagi masyarakat mereka

  • Sebaliknya, kita akan melalui proses politik
  • Agar nilai-nilai demokratis menang secara global, kita harus berhati-hati dalam mendekati AI, tetapi kita tidak boleh menanggung risiko kalah dalam persaingan AI
  • Itulah sebabnya saya percaya bahwa Rencana Lima Tahun ke-14 China di bawah pengawasan Presiden Xi Jinping secara eksplisit menyatakan niat untuk menang dalam AI dan 5G wireless
  • Yang pertama memberi kekuatan ekonomi, sementara yang kedua memungkinkan China mengawasi semua warga di lebih dari 100 negara dengan mengendalikan jaringan komunikasi dan TikTok
  • Kepemimpinan teknologi adalah prioritas eksistensial yang layak mendapat mobilisasi masa perang (wartime mobilization)
  • Bayangkan bot China, yang bebas dari "kendala alignment" yang dikhawatirkan para akademisi dan filsuf Amerika, diam-diam memengaruhi pemilih Barat satu per satu
  • Untuk menghadapi risiko kebetulan dan kolusif ini, kita harus secara drastis meningkatkan riset dan investasi pada teknologi keamanan, tetapi tidak boleh meregulasi AI secara agresif

• Jika Anda percaya bahwa China akan mencapai puncaknya dalam 10 tahun ke depan karena demografi, perlambatan pertumbuhan, dan beban utang yang sangat besar, maka Anda juga harus percaya bahwa China akan menjadi lebih putus asa untuk menang dan lebih berbahaya saat memasuki masa kemunduran

  • Kebalikan dari jebakan Thucydides (ketika kekuatan dagang yang sedang naik mengguncang tatanan yang ada, konflik bersenjata terjadi antara kekuatan dagang lama dan kekuatan dagang baru)
  • Karena itu, kita tidak boleh bergantung pada belas kasihan mereka sementara kita sibuk memperdebatkan skenario hipotetis dan memperlambat kemajuan dengan regulasi yang salah prioritas

• Kita mungkin perlu khawatir tentang kemampuan sadar diri AI yang dapat menghancurkan umat manusia, tetapi juga ada risiko asteroid menghantam Bumi atau terjadinya pandemi

  • Namun, menurut saya, risiko China menghancurkan sistem kita jauh lebih besar
  • Dalam perdebatan saat ini, para pesimis berfokus pada risiko kecil dan tidak berfokus pada risiko yang paling jelas, yaitu kalah dari aktor jahat dalam perlombaan AI, yang justru membuat AI berbahaya bagi Barat
  • Ironisnya, orang-orang yang takut pada AI dan kemampuan AI untuk mengikis demokrasi serta memanipulasi masyarakat seharusnya paling takut pada risiko ini!

3. Pandangan utopis tentang AI

• Salah satu motivasi saya menulis ini adalah untuk menghapus visi distopis tentang dunia yang berpusat pada AI
  • Visi seperti pengangguran massal, orang kaya makin kaya, turunnya nilai keahlian intelektual/fisik, hilangnya kreativitas manusia, dan sebagainya adalah visi yang miskin imajinasi serta malas secara kognitif
  • Di Barat, ada pandangan yang sangat terdistorsi tentang distopia
  • Banyak penulis distopia sudah terbebas dari kerasnya realitas dan ancaman bertahan hidup, lalu menikmati kemewahan berteori dari menara gading
  • Disebutkan bahwa 40% warga Amerika sulit menanggung pengeluaran tak terduga sebesar 400 dolar, 100 juta warga Amerika tidak mendapat layanan kesehatan primer yang memadai, dan 500 ribu warga bangkrut setiap tahun karena biaya medis yang berlebihan
• AI dapat menyediakan tutor AI yang nyaris gratis bagi setiap anak di bumi, dan keahlian dokter AI yang nyaris gratis bagi semua orang
  • Hampir semua jenis keahlian, dari ahli onkologi, insinyur struktur, insinyur perangkat lunak, perancang produk, perancang chip, hingga ilmuwan, akan menjadi nyaris gratis
  • Mikroprosesor, dilihat dari kemampuan komputasi ponsel, telah membuat sebagian besar elektronik dan komputasi menjadi nyaris gratis
  • AI akan menerapkan pengurangan biaya serupa di wilayah yang jauh lebih luas daripada mikroprosesor: membuat hampir semua keahlian nyaris gratis, sebagian besar tenaga kerja sangat murah melalui robot humanoid dan sejenisnya, serta material dari logam hingga obat-obatan jauh lebih murah lewat penemuan sains dan sumber daya yang lebih baik
  • AI juga akan mengendalikan plasma pada reaktor fusi, serta pesawat otonom, kendaraan swakemudi, dan transportasi publik, sehingga semuanya menjadi jauh lebih murah dan mudah diakses oleh semua orang
  • AI akan menyediakan asisten cerdas yang dipersonalisasi bagi setiap individu untuk membantu pekerjaan sehari-hari, memberikan kesehatan dan nutrisi yang disesuaikan, bahkan dukungan setingkat asisten eksekutif
  • Alat berbasis AI akan menghasilkan ilustrasi, ikon, logo, dan karya seni, mengubah cara kreator bekerja
  • Akan muncul dokter kopilot AI, AI yang mengotomatisasi pekerjaan dan diagnosis radiologi, serta analis keuangan AI yang mengotomatisasi tugas seperti pengelolaan piutang dan pemodelan keuangan
  • AI akan membantu penyusunan kontrak, pembuatan video game, dan pengoperasian kendaraan full self-driving
  • Kopilot AI akan membantu insinyur dalam segala hal, mulai dari verifikasi formal chip, manajemen termal, teknik sipil, hingga desain interior
  • Dari MRI swakemudi hingga audiobook yang dipersonalisasi, kita hanya dibatasi oleh apa yang bisa dibayangkan para wirausahawan
  • AI bahkan akan mendemokratisasi cara kita membangun perusahaan
  • Misalnya, pemrograman tak lagi terbatas pada bidang ilmu komputer. Kita segera bisa memrogram dengan bahasa alami alih-alih bahasa pemrograman yang kompleks, sehingga hampir 1 miliar programmer dapat dilahirkan

A. Peningkatan efisiensi dan produktivitas

• Saya memperkirakan 80% dari 80%, atau mungkin lebih, dari semua pekerjaan dapat dilakukan oleh AI.
  • Dokter layanan primer, psikiater, tenaga penjualan, ahli onkologi, buruh tani, pekerja lini perakitan, insinyur struktur, perancang chip—pekerjaan apa pun mungkin saja. Dan dalam kebanyakan kasus, AI akan melakukannya dengan lebih baik
  • Kita sudah menyaksikan tahap awal ketika AI mengambil alih pekerjaan yang monoton dan berulang, sehingga manusia dapat fokus pada pekerjaan yang lebih kreatif, strategis, dan bermakna
• Pada akhirnya, kita sebagai manusia akan memutuskan pekerjaan apa yang ditugaskan kepada manusia dan apa yang kita pilih sendiri
  • Kita juga dapat melihat kopilot AI menyintesis data dalam skala terabyte dengan cara yang lebih baik daripada yang mungkin dilakukan manusia
  • Di mana pun keahlian terhubung dengan hasil kerja manusia, AI dapat memberikan performa yang lebih baik daripada manusia dan dengan biaya yang nyaris gratis
  • Ambil contoh ahli onkologi yang menangani pasien kanker payudara: sangat sulit bagi mereka untuk mengingat 5.000 makalah terbaru tentang jenis kanker payudara tertentu
  • Kecerdasan yang diwujudkan, seperti robot, akan menjadi vektor kemampuan baru yang menakjubkan dalam dekade berikutnya
  • Hanya karena suatu tugas atau profesi dapat dilakukan oleh AI bukan berarti setiap masyarakat akan mengizinkannya
• Hal lain yang patut dipikirkan lebih jauh: dalam masyarakat di mana keahlian berada pada AI, apakah semua tenaga kerja—mulai dari buruh tani hingga ahli onkologi dan insinyur—akan dinilai setara?
  • Akankah AI menjadi alat penyetara yang hebat?
  • Dan bagaimana dengan sumber daya alam serta input fisik seperti besi, tembaga, litium, dan semen yang diperlukan untuk menopang perangkat lunak dan perangkat keras ini?
  • Saat kita menyaksikan China bergerak secara strategis untuk menguasai wilayah kaya sumber daya seperti Afrika dan Amerika Selatan, terutama rantai pasok mineral penting, kebutuhan akan inovasi menjadi jelas
• AI akan mengubah cara kita menemukan dan memanfaatkan sumber daya alam seperti litium, kobalt, dan tembaga, sehingga kemampuan kita menemukan sumber daya dapat melampaui konsumsi
  • Tantangan saat ini bukanlah kelangkaan sumber daya, melainkan keterbatasan kemampuan kita untuk menemukannya, dan AI akan membantu menembus hambatan ini
• AI juga dapat mengoptimalkan penggunaan sumber daya alam, bahan baku, dan sumber daya lainnya untuk mengurangi pemborosan serta meningkatkan efisiensi industri seperti pertanian, manufaktur, dan energi
  • Ini dapat mengarah pada ekonomi yang lebih berkelanjutan dan pengelolaan bumi yang lebih baik

B. Peningkatan kualitas hidup

• Kehidupan fisik kita juga akan berubah drastis ke arah yang lebih baik
  • Robot bipedal memiliki kemampuan untuk mengubah semua sektor vertikal, dari pekerjaan rumah tangga dan perawatan lansia hingga lini perakitan pabrik dan pertanian
  • Hampir tidak ada yang bersiap menghadapi bagaimana hal ini akan membawa perubahan radikal pada GDP, produktivitas, dan kebahagiaan manusia, serta membebaskan orang dari perbudakan terhadap penugasan yang kita sebut pekerjaan
  • Robot-robot ini akan menciptakan nilai yang cukup untuk menopang orang-orang yang mereka gantikan
  • Dalam 25 tahun, 1 miliar robot bipedal (dan 1 juta dalam 10 tahun) akan dapat melakukan beragam tugas, termasuk manipulasi halus
  • Kita dapat membebaskan manusia dari perbudakan pekerjaan yang benar-benar tidak diinginkan di 50% lapisan terbawah, seperti pekerja lini perakitan dan buruh tani
  • Ini bisa menjadi industri yang lebih besar daripada industri otomotif. Namun, tetap menjadi tanggung jawab manusia untuk tidak mengambil pendekatan yang malas dan memanjakan diri terhadap hidup
• AI juga dapat mempersempit jarak fisik di antara kita
  • Di sebagian besar kota, kita dapat mengganti sebagian besar mobil dengan sistem transportasi cepat pribadi yang otonom dan berbasis AI, serta kendaraan swakemudi last-mile, untuk meningkatkan kapasitas penumpang di jalan yang ada hingga 10 kali lipat
  • Ini akan menyusutkan industri otomotif secara dramatis dan mengurangi GDP nominal, sambil membuat transportasi pribadi lokal jauh lebih nyaman, cepat, dan murah
  • Bukan hanya kehidupan fisik kita yang akan berubah
• Segera, akses internet bagi sebagian besar konsumen dapat menjadi agen yang bertindak atas nama mereka, memberdayakan mereka untuk mengelola tugas sehari-hari secara efisien dan memblokir pemasar serta bot
  • Tidak akan mengejutkan jika puluhan miliar agen yang mewakili konsumen berjalan 24 jam sehari, dan itulah harapan saya saat ini
  • Ini juga akan meningkatkan konsumerisme dan menjadi alat penyetara yang besar bagi konsumen dalam menghadapi mesin pemasaran yang tersusun rapi yang berusaha menjual barang atau mendistorsi cara berpikir
  • Mereka akan memiliki AI paling cerdas yang melindungi kepentingan mereka

C. Layanan kesehatan yang ditingkatkan dan perpanjangan usia

• AI dapat merevolusi layanan kesehatan dengan memungkinkan pengobatan yang dipersonalisasi melalui perawatan yang disesuaikan dengan susunan genetik, gaya hidup, dan lingkungan tiap individu. Hal ini dapat menghasilkan keluaran kesehatan yang lebih baik dan hidup sehat yang lebih panjang
  • AI dapat digunakan untuk mendeteksi penyakit lebih awal, sebelum gejala muncul, sehingga memungkinkan perawatan yang lebih efektif dan kurang invasif. Ini dapat secara signifikan mengurangi beban penyakit kronis dan meningkatkan kesehatan masyarakat secara keseluruhan
• Kualitas, konsistensi, dan aksesibilitas layanan seperti kesehatan akan meningkat sambil menjadi nyaris gratis
  • Cakupan layanan primer yang sangat luas, termasuk perawatan kesehatan mental dan pengelolaan penyakit kronis, bukan hanya akan menjadi hal mendasar secara global, tetapi AI juga akan melengkapi teknologi bioteknologi saat ini untuk menciptakan obat presisi yang benar-benar efektif, meminimalkan efek off-target, dapat diskalakan secara global, dan terjangkau
  • Dokter yang lebih terspesialisasi seperti ahli onkologi akan dapat mengakses jumlah informasi yang sangat besar tentang riset dan data terbaru, sehingga dapat menjadi lebih efektif dan lebih mutakhir daripada rekan manusianya
  • Intervensi manusia kemungkinan masih akan dibutuhkan, dan AI akan tahu kapan harus memanggil dokter manusia sesuai preferensi pasien, tetapi ahli onkologi AI yang beroperasi 24 jam akan menyediakan jauh lebih banyak titik kontak serta mampu menyintesis jauh lebih banyak informasi dan memodelkan hasil untuk mengambil keputusan tentang diagnosis dan proses klinis, sehingga dokter manusia dapat mendedikasikan diri pada aktivitas yang lebih memuaskan. Hal yang sama juga berlaku untuk bidang spesialisasi lain dan semua jenis pengelolaan penyakit kronis serta tes diagnostik
• Ketakutan terhadap distopia AI bukan datang dari para pasien yang berjuang mendapatkan perawatan dalam sistem kesehatan yang sangat tidak efisien ini (meskipun mereka memang khawatir tentang pekerjaan mereka)
  • 150 juta orang Amerika tinggal di wilayah yang ditetapkan pemerintah federal sebagai daerah kekurangan tenaga profesional kesehatan mental, dan lebih dari setengah orang dewasa dengan gangguan mental tidak bisa mendapatkan perawatan
  • Kita seharusnya bertanya bukan kepada akademisi elite, melainkan kepada 28 juta orang, apakah mereka akan menyambut kabar berikut:
    • Terapis AI model bahasa besar pertama yang disetujui di Inggris kini menangani 40% intake kesehatan perilaku NHS, dan AI yang melakukan intake, eskalasi, diagnosis, dan perawatan menunjukkan hasil pemulihan yang jauh lebih baik.
    • Seiring waktu, tren ini akan mengarah pada layanan kesehatan mental yang nyaris gratis. Inilah sisi utopis AI - sebuah revolusi teknologi yang telah lama dinanti yang dapat mengatasi banyak penderitaan akibat sistem saat ini
• Dugaan saya tentang membangun ulang infrastruktur masyarakat (Reinventing Societal Infrastructure) melalui teknologi agar 7,9 miliar manusia di bumi dapat hidup seperti 10% manusia terkaya kini tampak jauh lebih dapat dicapai seiring pengungkapan kemampuan AI yang terus meluas
  • Perluasan layanan primer dasar, pengelolaan penyakit kronis, dan layanan spesialis (misalnya kardiologi, onkologi, muskuloskeletal, dan sebagainya) sangat penting untuk meningkatkan kesehatan dan mencegah penyakit bagi orang-orang yang tinggal di negara berkembang
  • Dokter yang tersedia 24 jam dan nyaris gratis untuk setiap anak di dunia akan mustahil diwujudkan jika kita terus bergantung pada manusia untuk menyediakan layanan kesehatan
  • Faktanya, perdebatan saat ini gagal berfokus pada hasil AI yang paling menonjol: pihak yang akan paling terdampak oleh revolusi AI adalah 4 miliar orang di separuh terbawah bumi yang setiap hari berjuang untuk bertahan hidup
• Terutama karena alasan inilah, ketika para akademisi menara gading mencoba menyeret kita mundur dari jalan menuju utopia AI, hal itu menunjukkan betapa terputusnya mereka dari dunia nyata
• Dua puluh tahun lalu, jurnal Lancet menemukan bahwa di 42 negara yang menyumbang 90% angka kematian anak global, 63% kematian anak dapat dicegah melalui layanan primer yang lebih efektif, setara dengan 6 juta nyawa per tahun. AI dapat membuat ini nyaris gratis
  • Di negara-negara Barat, kemungkinan pencegahan penyakit seperti diare, pneumonia, campak, malaria, dan penularan HIV/AIDS pra dan pascakelahiran dianggap sesuatu yang biasa
  • Tidak ada cara yang realistis untuk menghadirkan cukup banyak dokter layanan primer manusia kepada setiap anak di wilayah dunia yang kurang beruntung sambil meningkatkan jumlah titik kontak
• Jika kita menerima AI ke dalam masyarakat dan melangkah maju, saya membayangkan bahwa ketika saya mengunjungi sebuah desa di India tempat saya lahir, kualitas perawatan yang saya terima akan lebih tinggi daripada saat saya menemui dokter layanan primer lokal di Stanford. Ini karena desa-desa di India akan mengadopsi AI lebih cepat mengingat potensi friksi yang ada di Amerika Serikat

D. Pendidikan dan perluasan pengetahuan

• AI dapat menciptakan pengalaman belajar yang dipersonalisasi yang menyesuaikan diri dengan kebutuhan, kecepatan, kesenjangan pengetahuan, dan minat tiap siswa, sehingga menghasilkan pendidikan yang lebih efektif dan tingkat pencapaian yang lebih tinggi bagi semua pelajar
  • Platform berbasis AI dapat menyediakan pendidikan berkualitas tinggi bagi orang-orang di seluruh dunia tanpa memandang lokasi geografis atau status ekonomi. Hal ini dapat mendemokratisasi pengetahuan dan memberdayakan individu di seluruh dunia
  • Zonasi sekolah negeri dan kode pos tempat lahir akan jauh lebih kecil pengaruhnya terhadap hasil hidup seseorang jika, dengan bantuan AI, kita dapat menyelesaikan masalah pengaruh teman sebaya
• Secara global, AI adalah satu-satunya peluang kita untuk menyediakan tutor pribadi yang tersedia 24 jam dan nyaris gratis bagi setiap anak di bumi untuk berbagai mata pelajaran
  • Sulit untuk melebih-lebihkan dampaknya dalam membuka peluang, memberi agensi, efikasi diri, semangat, harapan, motivasi, dan kesetaraan gender. Hal ini terutama berlaku bagi mereka yang tinggal di bagian dunia yang kekurangan sumber daya dan infrastruktur untuk pendidikan yang seluas, sekonsisten, dan semudah diakses seperti ini
  • Dikombinasikan dengan visi saya selama lebih dari 25 tahun tentang masyarakat yang terbebas dari “keharusan bekerja”, tutor AI dan mentor manusia akan memberi anak-anak kebebasan untuk bereksplorasi dan menjadi diri mereka sendiri. Itulah yang lebih dekat dengan kebebasan

E. Keberlanjutan lingkungan

• AI dapat memainkan peran penting dalam mengatasi perubahan iklim melalui optimalisasi penggunaan energi, pengurangan emisi, dan pengembangan teknologi baru untuk energi terbarukan
  • AI juga dapat membantu pemantauan lingkungan dan upaya konservasi
  • AI dapat menghasilkan praktik pertanian yang lebih cerdas dan efisien yang meningkatkan produksi pangan sambil mengurangi dampak lingkungan, sehingga membantu memberi makan populasi dunia yang terus bertambah secara berkelanjutan
  • Namun, ini adalah cara berpikir yang linear. Ilmuwan AI dapat memungkinkan pendekatan yang jauh lebih inovatif terhadap persoalan krusial yang kita manusia ciptakan ini
• Untuk mewujudkan utopia AI, dibutuhkan teknologi pelengkap seperti fusi nuklir untuk menghasilkan listrik murah tanpa batas
  • Jika iklim politik yang tepat terbentuk, semua pembangkit listrik batu bara dan gas alam dapat digantikan pada tahun 2050
  • Saya bertaruh pada boiler fusi untuk memodifikasi dan menggantikan boiler batu bara dan gas alam, ketimbang membangun seluruh pembangkit listrik fusi atau nuklir baru dari nol
  • Ada juga upaya menjanjikan yang menggunakan panas bumi, tenaga surya, dan sistem baterai canggih untuk listrik bersih yang dapat diatur
• Ada beberapa faktor yang berperan dalam mengurangi biaya lingkungan dari komputasi
  • Peningkatan besar dalam efisiensi algoritma dan perangkat keras sedang terjadi, sehingga sistem AI dapat mencapai jauh lebih banyak dengan konsumsi daya yang jauh lebih kecil
  • Teknologi baru dan integrasi dengan kemampuan pencarian web membantu AI berkembang lebih efektif tanpa secara drastis meningkatkan konsumsi energi
  • Upaya menuju komputasi yang dioptimalkan ini tidak hanya mendukung kebutuhan energi AI yang terus meningkat, tetapi juga memastikan teknologi ini dapat berkembang secara berkelanjutan tanpa membebani infrastruktur global
  • Namun, kita harus bekerja keras untuk masalah ini, dan ini adalah masalah nyata

F. Peningkatan kemampuan manusia (dan kreativitas), pengalaman baru

• AI meningkatkan kemampuan manusia sehingga memungkinkan penyelesaian masalah kompleks yang saat ini sulit ditangani hanya dengan kecerdasan manusia
  • Hal ini dapat menghasilkan terobosan, termasuk tantangan intelektual, di bidang sains, teknologi, dan bidang lainnya
• Sebagai mitra kreatif, AI dapat membantu seniman, desainer, dan inovator mengeksplorasi ide-ide baru serta mendorong batas kemungkinan dalam seni, sains, dan teknologi
  • Layanan konsumen akan menjadi sangat terpersonalisasi, sehingga seseorang dapat sekaligus menjadi seniman, komposer, produser, penulis, dan konsumen
  • Sebagai contoh, musik dapat menjadi interaktif seperti game, dan ada kemungkinan format-format baru akan ditemukan serta diaktifkan
  • Media seperti ini sudah mulai membanjir dan, dalam beberapa kasus, menghasilkan lagu-lagu hit dengan porsi yang lebih besar daripada karya buatan manusia
• Sebelumnya, banyak aspirasi artistik terhalang karena kurangnya bakat, kekhawatiran tentang masa depan ekonomi yang stabil, atau sekadar tidak memiliki sumber daya untuk membuat film atau menggubah lagu, tetapi hambatan-hambatan tersebut akan perlahan menghilang
  • Ini tidak berarti selebritas terkenal akan menghilang, tetapi seni yang dihasilkan AI akan menawarkan kompleksitas dan tekstur mendalam yang menyamarkan asal-usul buatan dari musik tersebut
  • Sebagian orang akan membencinya dan sebagian lain akan menyukainya. Hal yang sama juga berlaku untuk genre musik masa kini, dari musik klasik hingga heavy metal
• Jenis pekerjaan baru akan muncul dan kreativitas baru akan meledak
  • Sebelum kamera film muncul, profesi pembuat film belum ada. Lalu seluruh industrinya tumbuh secara eksplosif
  • Hiburan menjadi semakin populer, dan olahraga ekstrem menjadi pekerjaan yang menghasilkan pendapatan bagi banyak orang, seperti X Games
  • Misalnya, snowboarding yang sebelumnya bukan sebuah profesi kini telah menjadi profesi
  • Platform seperti Etsy dan eBay mendorong para perajin dan wirausahawan di seluruh dunia, dan teknologi baru akan memungkinkan pekerjaan-pekerjaan dari dunia yang sepenuhnya baru
  • Wattpad memungkinkan banyak penulis kreatif baru, dan platform seperti Pinterest dan Tumblr memberi orang wadah untuk menyalurkan kreativitas mereka sehingga mereka dapat lebih mengekspresikan selera dan kepribadian mereka

G. Pengambilan keputusan etis dan tata kelola

• AI dapat membantu menciptakan masyarakat yang lebih adil dan setara dengan memastikan proses pengambilan keputusan yang adil, mengurangi bias, dan mendorong transparansi dalam tata kelola
  • AI dapat menganalisis data dalam jumlah besar untuk mendukung perumusan kebijakan berbasis bukti, yang mengarah pada tata kelola yang lebih efektif dan lebih terinformasi
• Kita dapat memiliki pengacara 24 jam untuk setiap warga, memperbanyak jumlah tenaga ahli hingga 10 kali lipat serta memperluas akses dan keterjangkauan
  • Akan ada cukup banyak hakim AI yang dapat menyelesaikan sengketa dengan cepat tanpa bias manusia yang mengakar
  • Pendidikan, layanan hukum, dan nasihat keuangan tidak lagi hanya akan tersedia bagi kalangan atas masyarakat
  • Bahkan, hal-hal ini akan menjadi layanan pemerintah yang esensial dan nyaris gratis, sebagaimana jalan raya dan pertahanan saat ini

H. Kemakmuran dan kebahagiaan manusia

• Dalam visi utopis, AI dapat membantu mengalihkan fokus sosial dari pertumbuhan ekonomi menuju kebahagiaan dan pencapaian manusia
  • Bayangkan dunia di mana gairah tumbuh secara alami karena orang-orang sejak dini mendapat kesempatan untuk mengejar hal-hal yang benar-benar membuat mereka bersemangat
• Sebelumnya saya telah menjelaskan tentang kebebasan anak, tetapi jika kita membahasnya lebih jauh
  • Jika sejak usia 6 tahun anak-anak mulai diajarkan bahwa mereka tidak perlu unggul di sekolah hanya demi mendapatkan pekerjaan, melainkan untuk menyalakan gairah mereka sendiri, hal itu akan menciptakan pengalaman pembentukan yang sangat berbeda bagi otak mereka yang sedang berkembang dibandingkan jika percakapan ini dimulai pada usia 40 tahun
  • Pekerjaan seperti seni visual, musik, olahraga, dan menulis, yang umumnya tidak terkait dengan stabilitas finansial kecuali bagi 1% atau 0,1% teratas, segera bisa menjadi sesuatu yang memuaskan dan dapat dicapai oleh siapa pun yang ingin menekuninya, tanpa terikat pada batasan saat ini untuk mencari nafkah dan menafkahi keluarga
• Perubahan ini dapat mendefinisikan ulang makna menjadi manusia
  • Tidak lagi terikat pada monotoninya pekerjaan lini perakitan yang mendefinisikan seluruh keberadaan seseorang
  • Seperti yang saya usulkan pada tahun 2000, kita mungkin perlu memikirkan ulang definisi menjadi manusia itu sendiri
  • Pada akhirnya, apakah memasang satu jenis roda pada mobil selama 30 tahun di lini perakitan benar-benar pekerjaan yang memuaskan?
  • Pekerjaan seperti itu, sama seperti bekerja di pertanian dalam panas 100 derajat Fahrenheit, bukanlah lambang kemakmuran manusia, melainkan bentuk yang menyerupai perbudakan
• Namun, ini bukan hanya tentang pekerjaan kerah biru. Pekerjaan kerah putih bisa jadi justru hilang lebih dulu
  • Misalnya, dalam perbankan investasi, apakah meretas spreadsheet Excel atau materi PowerPoint selama 16 jam sehari dan mengerjakan tugas berulang yang sama benar-benar memuaskan?
  • Dampak finansial AI akan membebaskan orang dari batasan-batasan ini, sehingga mereka dapat kembali memusatkan perhatian pada hal-hal yang benar-benar penting, bukan pada kebutuhan dasar seperti bertahan hidup atau perumahan, makanan, dan obat-obatan untuk keluarga
• Menghapus pekerjaan yang tidak diinginkan dan padat karya tidak berarti hidup menjadi kurang bermakna
  • Justru sebaliknya
  • Bagi negara-negara yang beradaptasi dengan teknologi ini, hidup akan menjadi lebih bermakna karena dalam beberapa dekade kebutuhan untuk bekerja 40 jam per minggu bisa lenyap
  • Pada tahun 1920, Keynes membayangkan minggu kerja 15 jam!
  • Bayangkan apa yang mungkin: bekerja 1 hari seminggu untuk menyediakan 20% pekerjaan yang kita butuhkan atau inginkan
  • Saya sendiri, bahkan pada usia 69 tahun, akan senang bekerja berkebun satu hari seminggu dan menghabiskan sisa waktunya untuk belajar
  • Akhirnya saya akan memiliki cukup waktu untuk bermain ski, mendaki, atau menekuni banyak minat saya
• Kesempatan untuk mendefinisikan ulang pengalaman manusia inilah yang membalikkan klaim para pesimis bahwa 'kemanusiaan' akan hilang dari hidup kita
  • Kita dapat menciptakan dunia yang memberi semua manusia jauh lebih banyak agensi, efikasi diri, dan harapan, dengan terlebih dahulu menghapus batasan dan pertimbangan finansial yang membuat banyak orang harus memikirkan kebutuhan dasar bagi diri mereka dan keluarga mereka
  • Dengan menghilangkan beban bertahan hidup pada tingkat dasar, AI memberi kita kesempatan untuk menciptakan dunia di mana orang bebas mengejar apa yang benar-benar penting bagi mereka
  • Bidang utama upaya manusia dapat menjadi budaya, seni, sains, kreativitas, filsafat, eksperimen, eksplorasi, segala jenis kompetisi, dan petualangan
  • Pertanyaan sesungguhnya adalah apakah semua orang akan dapat berpartisipasi di dalamnya

I. Hambatan potensial terhadap utopia kita dapat diatasi

• Tentu saja, banyak hal dapat menghalangi perubahan prediksi ini menjadi kenyataan utopis
  • Perlawanan dari organisasi yang sudah ada dapat menghambat kemajuan (misalnya: serikat aktor)
  • Para politikus dapat memanfaatkan ketakutan publik demi kepentingan pribadi atau populis, yang dapat makin memicu perlawanan
  • Kegagalan atau penundaan teknis, yang juga dapat diperburuk oleh masalah rantai pasok atau konflik global, dapat menunda pengembangan
  • Pasar keuangan juga merupakan faktor risiko. Resesi atau kondisi yang buruk dapat membuat ide-ide menjanjikan kekurangan pendanaan, yang digambarkan sebagai 'celah pada jembatan yang terlalu jauh'
• Sentimen anti-teknologi, termasuk ketidakpercayaan terhadap teknologi dan penolakan dari para penentang, dapat menghalangi adopsi luas atas kemajuan yang bermanfaat
  • Sentimen ini dapat selaras dengan kekhawatiran kaum Luddite modern, dan bersama para pendukung DEI, mereka dapat mendominasi wacana sehingga perhatian beralih dari potensi manfaat teknologi
  • Situasi juga dapat menjadi lebih rumit ketika sejumlah kecil hasil negatif terkait AI menerima perhatian media yang tidak proporsional, sehingga mencemari persepsi publik terhadap AI
  • Peristiwa 'black swan' yang tak terduga dan tidak normal adalah hal yang umum, dan dapat secara tak terduga menghambat kemajuan
  • Terakhir, gerakan ini dapat terpukul jika para penghasut utama dan advokat tidak muncul atau gagal membela tujuan ini secara efektif
• Namun, saya tetap yakin bahwa utopia yang digerakkan AI bukan sekadar kemungkinan optimistis, melainkan probabilitas yang sangat dapat dicapai melalui pilihan sosial yang tepat dan kemajuan teknologi
  • Kuncinya adalah memanfaatkan potensi AI secara bertanggung jawab dan memastikan manfaatnya didistribusikan secara adil ke seluruh masyarakat
  • Seiring kontur lanskap AI terus berkembang, tampaknya tidak akan ada satu perusahaan dominan yang menyediakan AI dan mengendalikan manfaatnya
  • Mengingat betapa mudah diakses dan ramah penggunanya alat-alat AI, kekhawatiran bahwa kekuatan AI akan terkonsentrasi di tangan segelintir pihak tampak kurang mungkin
  • Tidak seperti industri yang keahlian dan modalnya meningkatkan hambatan masuk, pengembangan AI semakin terdemokratisasi sehingga individu dan tim kecil dapat membangun, melatih, dan menerapkan sistem AI dengan sumber daya minimal
• Saat ini, banyak layanan cloud menyediakan infrastruktur yang dibutuhkan untuk melatih model AI dalam skala besar tanpa perangkat keras khusus atau investasi keuangan yang sangat besar
  • Dan riset baru dari pelaku yang lebih kecil berfokus pada pendekatan pengembangan AI yang secara fundamental berbeda dari LLM saat ini
  • Jalur pengembangan yang optimal masih belum jelas bagi saya. Kemungkinan besar banyak di antaranya saling melengkapi
• Selain itu, platform low-code, no-code, dan bahasa alami membuat orang tanpa keahlian teknis mendalam lebih mudah daripada sebelumnya untuk membuat dan menerapkan solusi AI
  • Dari chatbot hingga model machine learning, platform-platform ini mengabstraksikan sebagian besar kompleksitas sehingga orang rata-rata dapat mengembangkan aplikasi AI dalam waktu yang jauh lebih singkat dibanding hanya beberapa tahun lalu
  • Dengan menggunakan API berbasis AI, siapa pun yang memiliki pemahaman dasar tentang pemrograman dapat mengintegrasikan AI yang kuat ke dalam aplikasi, alat, dan alur kerja mereka dengan upaya minimal
• Seiring alat dan sumber daya untuk pengembangan AI terus menjadi lebih mudah diakses, gagasan bahwa satu perusahaan atau organisasi tunggal dapat memonopoli AI menjadi semakin kurang realistis
  • Sebaliknya, kita sedang bergerak menuju masa depan di mana pengembangan AI terbuka bagi semua orang, dari wirausahawan individu hingga bisnis lokal, sehingga inovasi dapat tumbuh dari bawah
  • Model inovasi terdesentralisasi ini akan membantu memastikan AI tetap menjadi alat bagi banyak orang, bukan segelintir orang

4. Ekonomi baru di dunia AI

A. Kapitalisme dan demokrasi di era AI

• Kapitalisme Barat beroperasi dalam lingkup demokrasi dan secara tradisional dirancang untuk efisiensi ekonomi
  • Kapitalisme telah menghasilkan pertumbuhan ekonomi, tetapi di era AI kita tidak boleh hanya berfokus pada efisiensi, dan mengingat peran kesetaraan dalam kebahagiaan manusia, kita juga harus menambahkan tujuan pengurangan kesenjangan pendapatan sebagai hasil yang sama pentingnya
• Kapitalisme, yang secara tradisional menjadi mesin efisiensi ekonomi, mungkin perlu berevolusi dalam menghadapi perubahan yang didorong AI
  • Karena kebutuhan akan efisiensi ekonomi tradisional berkurang, kita memiliki ruang untuk memprioritaskan kapitalisme yang berempati dan kesetaraan ekonomi bersama efisiensi
  • Kapitalisme ada atas izin demokrasi
  • Kesenjangan di atas tingkat tertentu akan mengarah pada keresahan sosial, jadi kebijakan harus dirumuskan dengan hal itu dalam pikiran
  • Saya tumbuh sebagai pendukung tingkat ketimpangan tertentu (yakni, "motivasi untuk bekerja lebih keras") dengan asumsi bahwa ada peluang besar untuk mobilitas sosial
  • Jalan keluar yang dapat memperbaiki hidup kita secara bermakna ini harus tetap ada
• Lebih jauh lagi, kapitalisme saat ini telah menyimpang ke bentuk baru di mana upaya penciptaan permintaan (yakni, iklan dan padanannya) melampaui keunggulan efisiensi ekonomi bagi perusahaan dan membuat kita menginginkan hal-hal yang sebelumnya tidak kita sadari kita inginkan.
  • Ini tidak berkontribusi pada kesejahteraan sosial
  • Kita kini telah sampai pada titik di mana memperbaiki sistem kapitalisme saat ini bisa sepenuhnya positif
  • Ironisnya, masyarakat yang memutuskan untuk merangkul teknologi ini semaksimal mungkin — meski tidak semua orang akan merangkulnya dengan tingkat yang sama — akan memiliki kapasitas yang jauh lebih besar untuk mempraktikkan kapitalisme berempati berkat kelimpahan yang akan dibuka oleh AI
• Kita tidak boleh memperlambat tangan pasar atau kemajuan teknologi, melainkan harus menyadari bahwa dalam banyak kasus tenaga kerja manusia dapat terdevaluasi
  • Ini memberi tekanan turun pada upah pekerja berkeahlian rendah dan bahkan banyak pekerja berkeahlian tinggi
  • Seiring berkurangnya kebutuhan akan tenaga kerja dan penilaian manusia, tenaga kerja akan menjadi semakin kurang bernilai dibanding modal, serta dibanding ide dan teknik machine learning
  • Di era kelimpahan dan kesenjangan pendapatan yang melebar, seperti yang saya prediksi dalam esai saya tentang AI pada tahun 2014, kita mungkin memerlukan versi kapitalisme yang tidak hanya berfokus pada produksi yang efisien, tetapi juga memberi prioritas lebih besar pada efek samping kapitalisme yang tidak diinginkan

B. Kompresi upah dan kekacauan pekerjaan, disertai peningkatan produktivitas

• Seiring AI menyetarakan kesenjangan keterampilan, upah dapat mengalami kompresi, sementara penciptaan nilai bisa bergeser ke kreativitas, inovasi, atau kepemilikan AI, yang berpotensi memicu bentuk ketimpangan ekonomi lain
  • Secara historis, peningkatan produktivitas menghasilkan upah yang lebih tinggi dan kenaikan belanja konsumen, tetapi penulis mengakui hal itu mungkin tidak terjadi dengan AI, mengingat kemampuannya untuk memisahkan 80% pekerjaan dari manusia pada 80% jenis pekerjaan seperti yang ia prediksi
• Dalam konteks yang sama, kita tidak bisa begitu saja mengekstrapolasi sejarah ekonomi masa lalu, meskipun sering dikhotbahkan bahwa pada setiap revolusi teknologi, peluang kerja baru selalu melampaui kehilangan yang ada
  • Seperti kata seseorang, "saat kereta sejarah berbelok, para intelektual terlempar keluar"
  • Penulis berargumen bahwa kali ini bisa berbeda karena pendorong dasar penciptaan lapangan kerja berubah akibat teknologi yang bukan hanya meningkatkan kemampuan manusia, tetapi juga dapat melampauinya secara menyeluruh
  • Kita pernah melihat transisi besar sebelumnya, tetapi tidak pernah secepat ini, sehingga adaptasi menjadi persoalan yang jauh lebih sulit
    • Pada tahun 1900, sebagian besar pekerjaan di AS berada di sektor pertanian
    • Pada tahun 1970, angkanya menjadi 4%
    • Namun itu memakan waktu tiga generasi
    • Siklus AI ini akan jauh lebih cepat. Karena itu, dampaknya akan lebih kacau dan tidak nyaman
• Kecerdasan buatan sangat mungkin memicu perubahan tektonik pada angkatan kerja dengan menghapus banyak pekerjaan dan menuntut peninjauan ulang sosial atas cara orang menghabiskan waktunya
  • Bahkan jika masyarakat secara keseluruhan membaik, perubahan ini bisa menghantam sebagian orang dalam ekonomi dengan jauh lebih keras
  • Hal ini jelas tidak akan mudah diterima oleh mereka yang paling terdampak
  • Masa transisi 10-25 tahun bisa sangat kacau
  • Namun itu sama sekali bukan alasan untuk bertindak dari rasa takut dan pada akhirnya gagal meraih manfaat dunia yang lebih bebas dari batasan kerja serta memberi akses lebih luas pada sumber daya yang saat ini hanya dinikmati sedikit orang
  • Inilah saatnya secara serius memikirkan cara merawat mereka yang terdampak
• AI dapat menghadirkan kapasitas ahli berkali-kali lipat, meningkatkan bukan hanya aksesibilitas tetapi juga kualitas, sambil menyebabkan hilangnya pekerjaan bagi orang-orang yang sebelumnya mengisi posisi tersebut
  • Robotika berbasis AI dapat dan akan melakukan hal yang sama pada pekerjaan yang padat kerja manual
  • Alat AI yang membantu desainer dan arsitek di berbagai bidang vertikal akan sama-sama meningkatkan output dan produktivitas, sehingga jumlah manusia yang dibutuhkan berkurang. Mungkin sampai pada akhirnya AI mengambil alih pekerjaan itu secara mandiri dalam rentang 10-25 tahun ke depan
• Jika satu juta dokter masing-masing menghasilkan 300.000 dolar AS, maka di AS saja itu menciptakan biaya sebesar 300 miliar dolar AS
  • Mungkin secara global jumlahnya 10 kali lebih besar. Artinya, triliunan dolar.
  • Mungkin belanja 300 miliar dolar AS itu akan tetap sama, tetapi akan memberikan layanan 10 kali lebih banyak dalam 10-20 tahun ke depan
  • Jika melihat akuntan, kita bisa sampai pada angka serupa. Triliunan dolar dibelanjakan, tetapi tampaknya permintaan atas layanan akuntansi tidak akan naik 10 kali lipat
  • Setiap bidang spesialisasi akan bereaksi berbeda terhadap hubungan antara kenaikan pasokan dan kenaikan konsumsi
  • Jika AI mendukung/menggantikan banyak tenaga kerja, penghematan ini akan mengalir ke konsumen. Tiap sektor perlu menyeimbangkan penawaran dan permintaan
  • Di AS, permintaan untuk layanan kesehatan, makanan, dan perumahan dapat meningkat, tetapi tidak sampai 10 kali lipat
  • Musik dan hiburan nyaris tidak memiliki batas atas untuk peningkatan permintaan, tetapi selain hiburan selebritas seperti musisi atau performer olahraga, hampir semuanya akan menjadi nyaris gratis
• Produktivitas dapat meningkatkan pendapatan rata-rata sekaligus menurunkan pendapatan median dan koefisien Gini (ukuran dispersi statistik untuk menggambarkan distribusi pendapatan)
  • Ironisnya, warga negara maju seperti AS bisa memiliki standar hidup yang lebih tinggi meskipun kesenjangan pendapatan dapat melebar
  • Namun hal ini akan sangat bergantung pada pendekatan kebijakan yang diambil para pejabat publik terpilih
  • Bisa jadi dibutuhkan pendidikan yang lebih luas, bukan untuk melatih orang demi pekerjaan, tetapi untuk mendorong pencarian intelektual demi nilai intrinsiknya sendiri alih-alih demi "tujuan" seperti pekerjaan

C. Deflasi dan perlunya indikator pengukuran ekonomi yang baru

• Peningkatan produktivitas akibat berkurangnya input (yakni penurunan biaya tenaga kerja) dan meningkatnya persaingan dapat memicu deflasi, bersamaan dengan kehilangan pekerjaan yang disebutkan sebelumnya
  • Sebaliknya, dinamika baru ini juga dapat meningkatkan perekrutan ketika perusahaan dengan belanja terbatas berupaya memanfaatkan biaya yang lebih rendah
  • Di luar tenaga kerja dan keahlian, penggunaan AI untuk penemuan sumber daya, riset, dan sebagainya dapat mempersingkat timeline serta menurunkan biaya, sehingga memperkuat tekanan deflasi
  • Tentu saja ada nuansa tambahan seperti perilaku konsumen, keputusan investasi perusahaan, respons bank sentral, dan volatilitas per sektor
  • Namun meskipun AI kemungkinan akan menyentuh semua vertikal dalam GDP, karena kerangka waktunya berbeda-beda, akan sulit untuk melebih-lebihkan dampaknya pada ekonomi secara keseluruhan, dan kebijakan moneter tampaknya tidak akan menjadi tuas yang sekuat sebelumnya dalam era baru ini
  • Kebijakan moneter selama ini bekerja dan disempurnakan untuk menghasilkan perubahan bertahap dalam ekonomi
  • Bahwa perubahan ekonomi marjinal mendorong perubahan perilaku marjinal mungkin tidak lagi berlaku
  • Respons terhadap angin berbeda dari respons terhadap badai topan, dan respons terhadap ombak berbeda dari respons terhadap tsunami
• Efisiensi berbasis AI di sektor blue-collar dan white-collar dapat menyebabkan deflasi dan kehilangan pekerjaan, dan keduanya bisa dimitigasi
  • 'Deflasi' memiliki konotasi negatif karena harga yang terus turun secara kronis biasanya mengarah pada penurunan profitabilitas perusahaan dan stagnasi, atau bahkan penyusutan, pertumbuhan ekonomi
  • Sebaliknya, pertumbuhan deflasi yang didorong AI kemungkinan besar akan terjadi bersamaan dengan peningkatan konsumsi barang dan jasa seperti dijelaskan di atas, yakni peningkatan efektif kemampuan belanja konsumen
  • Jika jumlah barang dan jasa yang dikonsumsi warga meningkat tajam, apakah itu pasti buruk? Bahasa kita menyamakan pertumbuhan GDP dan laba perusahaan dengan kemakmuran. Ini adalah bug dalam kosakata kita saat ini
• Biaya tenaga kerja atau biaya modal dapat diubah secara efektif melalui perubahan pada aturan sederhana, regulasi, undang-undang, dan strategi pajak seperti pajak capital gain atau MLP
  • Banyak bias ini tertanam dalam ekonomi kapitalis yang saat ini tampak netral di permukaan
  • Untuk mencapai target kesenjangan pendapatan yang wajar, akan dibutuhkan lebih banyak intervensi penting
  • Pendapatan atau mobilitas sosial adalah target yang jauh lebih sulit untuk dirancang ke dalam "aturan" masyarakat
  • Penulis menilai situasinya akan menjadi semakin rumit karena perdebatan ekonomi tradisional antara tenaga kerja dan modal dibalik oleh ekonomi ide yang digerakkan oleh kewirausahaan dan pengetahuan, faktor baru yang menurutnya tidak cukup dihargai oleh banyak ekonom
  • Faktor terakhir ini bisa menjadi pendorong ekonomi yang lebih penting daripada tenaga kerja atau modal
  • Beberapa faktor produksi, seperti sumber daya fisik seperti lithium, tembaga, dan baja, mungkin membutuhkan waktu jauh lebih lama daripada faktor lain untuk menyesuaikan diri terhadap perubahan

D. Pilihan kebijakan

• Lompatan kuantum baru dalam kemampuan komputasi ini kemungkinan besar akan sekaligus meningkatkan kesenjangan pendapatan dan kemakmuran
  • Kali ini, evolusi teknologi benar-benar bisa berbeda karena untuk pertama kalinya yang terlampaui bukan hanya produktivitas, melainkan kecerdasan manusia
  • Jika skenario ini terwujud, apa pun tujuan masyarakat kita, perubahan struktural pada sistem sosial dan politik akan diperlukan untuk mengoptimalkan keadilan
  • Proses demokratis ideal untuk pengambilan keputusan semacam ini. Terutama karena tidak semua orang harus mengejar tujuan yang sama
• Kita menghadapi pilihan: mempercepat, memperlambat, atau mengatur adopsi teknologi yang disruptif, dan memutuskan apakah akan memberi kompensasi kepada mereka yang tergantikan, misalnya melalui dukungan ekonomi
  • Dinamika perubahan dapat menyakitkan bagi mereka yang terdampak disrupsi, dan untuk secara efektif menerima AI beserta semua keuntungannya, menempatkan mereka yang tergantikan di pusat upaya kebijakan negara akan menjadi kunci
  • Kebijakan ekonomi harus mempertimbangkan bukan hanya penyesuaian pertumbuhan ekonomi seperti yang dilakukan Federal Reserve AS saat ini, tetapi juga pengungkit dan faktor peredam kesenjangan serta mobilitas sosial
  • Sebagai seorang kapitalis tanpa penyesalan dan optimis teknologi, saya mendukung dukungan dan penerapan sistem AI yang berkelanjutan dan cepat
  • Kita harus beradaptasi terhadap perubahan yang dibawa kemajuan teknologi, alih-alih memperlambatnya, termasuk kemungkinan penurunan nilai tenaga kerja manusia
  • Perubahan ini menimbulkan tantangan besar, tetapi juga memberi peluang dalam rentang lebih dari 25 tahun untuk membangun masyarakat yang lebih berempati dan dunia setelah keterbatasan sumber daya
  • Kita harus berhati-hati terhadap masyarakat tempat kita hidup dan masa depan yang kita bangun, serta membuat kebijakan dengan empati yang jauh lebih besar. Ini adalah kemewahan yang dahulu tidak mampu kita tanggung, tetapi kini sudah tersedia bagi kita
• Untuk mengatasi dampak samping yang lebih besar dari teknologi yang melampaui kemampuan manusia, perubahan struktural di tingkat negara (dan internasional) kemungkinan akan dibutuhkan dalam jangka panjang
  • Kebijakan ekonomi harus dipandu bukan hanya oleh penyesuaian pertumbuhan ekonomi seperti yang dilakukan Federal Reserve AS saat ini, tetapi juga oleh bias terhadap kesenjangan dan mobilitas sosial
  • Dalam konteks global di mana negara-negara mengambil pendekatan berbeda terhadap adaptasi AI, kemungkinan akan terjadi perubahan dramatis dalam kekuatan ekonomi relatif
• Seiring AI mengurangi kebutuhan akan tenaga kerja manusia, UBI (Universal Basic Income) dapat menjadi penting, dengan pemerintah memainkan peran kunci dalam mengatur dampak AI dan memastikan distribusi kekayaan yang adil
  • Seiring AI menurunkan biaya tenaga kerja dan meningkatkan produktivitas, peran regulasi pemerintah akan menjadi penting dalam distribusi kekayaan dan menjaga kesejahteraan sosial
• Mengingat potensi peningkatan produktivitas besar-besaran di masa depan dan kemungkinan kenaikan pertumbuhan GDP tahunan dari 2% menjadi 4-6% selama 50 tahun ke depan, GDP per kapita bisa mencapai sekitar 1 juta dolar AS (dengan asumsi pertumbuhan tahunan 5% selama 50 tahun)
  • Ekonomi deflasi membuat dolar nominal saat ini memiliki daya jangkau yang jauh lebih besar
  • Saya percaya akan ada sumber daya dan kemakmuran yang cukup untuk membiayai UBI
  • Saat ini UBI mungkin tampak tidak realistis karena keterbatasan ekonomi, dan memang mengabaikan keterbatasan tersebut telah menyebabkan bencana di negara-negara seperti Argentina dan Venezuela. Namun, keterbatasan semacam itu akan berangsur-angsur berkurang
• Diperlukan kehati-hatian dalam merekomendasikan solusi tertentu atau tindakan dini berskala nasional yang berani atau tidak dapat dibalik
  • Perdebatan dan diskusi jelas diperlukan. Kita harus mencari solusi spesifik bagi mereka yang dirugikan oleh pelebaran kesenjangan pendapatan
  • Kita harus mengamati perubahan dengan saksama dan terus membuat perubahan kebijakan kecil sepanjang dekade ini
  • Terlepas dari kemajuan kuat teknologi AI, dampak dan adopsi aktual bisa lebih lambat, seperti bagian datar dari kurva eksponensial

E. Membayangkan utopia konsumen

• Ada kemiripan menarik dengan efek deflasi China di Barat selama 20-30 tahun terakhir
  • Perpindahan tenaga kerja ke luar negeri menyebabkan hilangnya puluhan juta pekerjaan manufaktur domestik, tetapi hampir tidak ada kebijakan yang berfokus pada peningkatan keterampilan atau perawatan bagi mereka yang mata pencahariannya terguncang
  • Melalui AI dan computer vision, kita memiliki peluang untuk membawa kembali manufaktur ke dalam negeri tanpa menaikkan harga barang, melepaskan diri dari tenaga kerja murah di negara seperti China, sambil pada saat yang sama mempertimbangkan kebijakan produktif bagi mereka yang akan tergantikan
  • Dampak deflasi China datang bersamaan dengan penurunan kemampuan belanja konsumen di AS ketika pekerjaan berpindah ke luar negeri
  • Sebaliknya, pertumbuhan deflasi yang didorong AI kemungkinan besar akan terjadi bersamaan dengan peningkatan konsumsi barang dan jasa (yakni peningkatan efektif kemampuan belanja konsumen) karena semua alasan yang dijelaskan di atas. Akan sulit memprediksi dinamika perubahan ini
• Bayangkan dunia di mana perumahan, energi, layanan kesehatan, makanan, dan transportasi semuanya disediakan hampir gratis oleh mesin atau diantar ke depan pintu rumah. Tidak ada satu pun pekerjaan yang tersisa di bidang-bidang tersebut
  • Apa ciri utama dunia itu, dan bagaimana rasanya hidup di dalamnya? Pertama-tama, itu adalah utopia konsumen. Semua orang menikmati standar hidup yang dahulu hanya bisa diimpikan oleh raja dan paus
  • Saya pikir dalam masyarakat utopia masa depan, tingkat biaya hidup tertentu akan lebih rendah sehingga seseorang yang saat ini berpenghasilan 40.000 dolar AS per tahun secara riil bisa hidup lebih baik daripada seseorang yang saat ini berpenghasilan 300.000 dolar AS per tahun
  • Syukurlah, teknologi akan jauh lebih bersifat deflasioner terhadap barang dan jasa daripada outsourcing ke China selama 10 atau 20 tahun terakhir
  • Namun, harapan sejati saya adalah ketika barang dan jasa menjadi melimpah, warga kita mulai lebih berfokus pada apa yang memberi mereka kebahagiaan lebih besar daripada sekadar konsumsi yang lebih banyak, dan konsumsi semakin berkurang sebagai simbol status

F. Perusahaan vs. negara

• Di dunia AI, CEO teknologi yang mengendalikan teknologi ini dapat memiliki pengaruh yang belum pernah terjadi sebelumnya terhadap lapangan kerja global, struktur ekonomi, bahkan distribusi kekayaan
• Platform mereka dapat menjadi perantara utama untuk pekerjaan, pendidikan, dan interaksi sosial, yang berpotensi melampaui peran pemerintah tradisional dalam banyak aspek kehidupan sehari-hari
• Para kritikus berpendapat bahwa para eksekutif ini menjalankan pengaruh yang setara atau bahkan melampaui banyak negara. Mereka mengajukan kemampuan platform teknologi untuk membentuk wacana publik, memengaruhi pemilu, dan bahkan memengaruhi geopolitik sebagai bukti dari kekuasaan berlebihan ini
• Namun, kekhawatiran ini memunculkan pertanyaan menarik, dan saya kembali pada kerangka sebelumnya tentang pilihan paksa antara China yang sedang bangkit dan dimaksimalkan dengan masyarakat dan ekonomi kita yang lebih bebas
• Mengapa kita harus merasa lebih nyaman dengan pengaruh CEO teknologi daripada pengaruh global pemimpin yang tidak dipilih seperti Xi Jinping? Tidak ada CEO teknologi yang kemungkinan memiliki kepentingan pengendali atau bahkan kepentingan substansial, dan mereka harus bertanggung jawab kepada pemegang saham serta dewan direksi
• Keduanya menjalankan kekuasaan besar tanpa akuntabilitas demokratis langsung, tetapi ada perbedaan penting dalam struktur insentif mereka
• CEO teknologi, dengan segala kekurangannya, pada akhirnya bergantung pada dukungan dan partisipasi berkelanjutan dari pengguna, pelanggan, dan pemegang saham. Untuk mempertahankan posisi mereka, sampai batas tertentu mereka harus merespons kekuatan pasar dan opini publik
• Sebaliknya, pemimpin otoriter seperti Xi Jinping mengabaikan sentimen publik dan menggunakan aparat negara untuk menekan perbedaan pendapat dan mempertahankan kontrol
• Dinamika ini menunjukkan bahwa meskipun kekuasaan CEO teknologi jelas mengkhawatirkan dan memerlukan pengawasan ketat, dari sisi respons terhadap para pemangku kepentingan global, hal itu mungkin lebih dapat diterima daripada kekuasaan otoriter yang tidak terkendali

5. Kita dapat menciptakan masa depan yang kita inginkan

• Masa depan yang akan terjadi adalah masa depan yang diputuskan oleh masyarakat kita untuk diarahkan dengan alat yang kuat ini
  • Itu akan menjadi serangkaian pilihan kebijakan, bukan pilihan teknologi, dan akan berbeda di setiap negara
  • Sebagian orang akan memanfaatkannya dan sebagian lainnya tidak
  • Pilihan seperti apa yang seharusnya diambil pada tingkat individu dan sosial?
  • Karena kebutuhan dasar kita telah terpenuhi, seluruh waktu, kerja, energi, ambisi, dan tujuan manusia akan direorientasikan ke hal-hal yang tak berwujud:
    • Pertanyaan besar, hasrat yang mendalam. Sifat manusia untuk pertama kalinya dalam sejarah akan diekspresikan sepenuhnya.
    • Tanpa kendala kebutuhan fisik, kita akan menjadi apa pun yang kita inginkan
  • Pertumbuhan GDP akan membawa kita ke masyarakat yang 'berkelimpahan', tempat kita harus mendefinisikan ulang hubungan dasar kita dengan pekerjaan
  • Dan ukuran GDP tradisional akan mulai menjadi tolok ukur kemajuan manusia yang semakin tidak akurat
  • Dan akan ada ketergantungan jalur yang besar tergantung pada pilihan kebijakan dan sosial yang kita ambil
• Yang paling penting, ambisi besar untuk membawa kehidupan yang berkelimpahan—yang saat ini hanya dinikmati oleh 700 juta orang (10%)—kepada seluruh 7,9 miliar warga dunia akhirnya tampak berada dalam jangkauan
  • Tanpa AI, jelas mustahil untuk memperluas energi, sumber daya, layanan kesehatan, transportasi, perusahaan, dan layanan profesional hingga 10 kali lipat. AI adalah pengganda kekuatan yang dibutuhkan dan satu-satunya alat untuk memperluas apa yang saat ini dinikmati oleh mereka yang paling beruntung
  • AI diperlukan, tetapi tidak cukup
  • Diperlukan kebijakan yang menciptakan kondisi yang mendukung transisi sosial, politik, dan ekonomi yang menyertainya
• AI adalah alat yang kuat yang, seperti alat teknologi kuat sebelumnya seperti nuklir atau bioteknologi, dapat digunakan untuk tujuan baik maupun buruk
  • Sangat penting bagi kita untuk memilih dengan cermat dan menggunakannya untuk membangun dunia yang "mungkin" berdasarkan pilihan masyarakat, bukan pilihan teknologi
    Kita tidak boleh melepaskan manfaatnya karena takut pada hal yang belum diketahui
• Saya seorang possibilis teknologi, optimis teknologi, tetapi teknologi harus digunakan dengan kehati-hatian dan kepedulian
  • Seperti ungkapan "No wine before its time (slogan iklan yang berarti anggur tidak dijual sebelum waktunya tepat)", regulasi memang diperlukan, tetapi tidak boleh ada regulasi yang terlalu dini
  • Jika saya meninjau kembali kata-kata saya dalam wawancara dengan New York Times pada tahun 2000, kita harus mendefinisikan ulang makna menjadi manusia
  • Definisi baru ini harus memungkinkan tafsir personal tentang kemanusiaan dengan berfokus pada gairah, imajinasi, dan hubungan, bukan pada kebutuhan akan pekerjaan atau produktivitas

[garangb]

Saya rasa pernyataan bahwa "demokrasi dapat menjinakkan AI" bukanlah sesuatu yang terjamin selama tidak ada pemerintahan dunia atau hukum internasional yang efektif. Setiap negara tidak akan bisa menerapkan regulasi yang kuat demi daya saing industri AI terhadap negara lain, dan perusahaan internasional seperti M7 akan terus melawan regulasi dengan mengusung "inovasi" dan "kemaslahatan", sementara polarisasi politik akan menghalangi kita untuk menyatukan kekuatan agar dapat menjinakkan AI pada waktu yang tepat dan dengan cara yang tepat pula.

[readiz]

Saya membacanya dengan cukup seru. Rasanya ini bukan tulisan yang perlu dilihat dari sudut pandang benar atau salah. Ini hanya sudut pandang penulis saja..

[kraker]

Soal konsentrasi kekayaan ke perusahaan masih bisa diselesaikan lewat kebijakan
Bagian ini terasa terlalu naif
Kebijakan selalu datang belakangan, jadi saya khawatir bagaimana masyarakat bisa menerima perubahan yang begitu cepat dan besar ini.

[kraker]

• Kecepatan perkembangan teknologi terlalu cepat.
• Proses pengambilan kebijakan rumit dan memakan waktu lama.
• Sulit memprediksi masa depan.
• Benturan dengan kepentingan yang sudah ada tidak terhindarkan.

[koreaisbest]

Bukankah mereka akan berpikir, “Kalau manusia tidak dibutuhkan, kenapa harus melayani?” Bukankah itu sama seperti ilusi bahwa Tuhan yang menciptakan manusia akan lebih unggul daripada manusia?

[lcanon]

Seperti dugaan, tidak ada juga pembahasan soal iklim. Selain itu, sambil bicara soal pemimpin yang tidak dipilih, saya juga penasaran kenapa justru dianggap sah untuk pada dasarnya memaksakan teknologi yang bahkan tidak disetujui mayoritas kepada masyarakat secara sosial "secara demokratis".

[savvykang]

Ini adalah tulisan yang secara keseluruhan sulit saya setujui karena penulis hanya berfokus pada kemungkinan AI mengubah masyarakat dan tidak mempertimbangkan semua prasyarat yang dibutuhkan untuk perubahan itu.

---

AI dapat menyediakan tutor AI yang nyaris gratis bagi setiap anak di bumi, serta keahlian medis setara dokter yang nyaris gratis bagi semua orang

Pada akhirnya, kita akan memutuskan pekerjaan apa yang sebagai manusia akan kita serahkan kepada manusia lain, dan apa yang akan kita pilih sendiri

Saya pikir esensi kedokteran bukan sekadar memberikan pengetahuan medis, melainkan membuat keputusan dengan mempertimbangkan bukti dan situasi seperti efisiensi dan risiko antar-metode terapi, serta prognosis. Agar sistem pakar bisa memperoleh kepercayaan masyarakat luas, yang perlu terakumulasi bukan optimisme, melainkan banyak dasar bukti, contoh kegagalan, dan aturan praktis dari pengalaman.

---

AI juga dapat mempersempit jarak fisik di antara kita

Kita dapat meningkatkan kapasitas angkut penumpang di jalan yang ada hingga 10 kali lipat dengan mengganti sebagian besar mobil di sebagian besar kota dengan sistem transportasi cepat pribadi dan otonom berbasis AI serta kendaraan swakemudi untuk last mile

Agar jarak fisik bisa dipersempit sekali lagi, bukan hanya moda transportasi yang harus berkembang, tetapi juga harus ada perubahan pada perencanaan kota dan jaringan jalan yang mengikuti perkembangan sarana mobilitas tersebut. Jika melihat kota-kota besar di Eropa dan Amerika Serikat yang tidak banyak menyimpang dari perencanaan kota awalnya dan masih menggunakan jaringan jalan sejak masa pendiriannya, perkembangan transportasi saja tidak cukup untuk mempersempit jarak fisik di semua kota besar. Karena perubahan pada kota yang sudah terbentuk harus mengatasi beban fiskal yang sangat besar dan ketidakpastian, kemungkinannya rendah; kota-kota baru yang akan muncul lah yang akan menikmati manfaat perkembangan transportasi.

---

• Dua puluh tahun lalu, jurnal Lancet menemukan bahwa di 42 negara yang menyumbang 90% angka kematian anak global, 63% kematian anak dapat dicegah melalui layanan kesehatan primer yang lebih efektif, setara dengan 6 juta nyawa per tahun. AI dapat membuat ini nyaris gratis

  • Di negara-negara Barat, kemungkinan pencegahan penyakit seperti diare, pneumonia, campak, malaria, dan penularan HIV/AIDS sebelum dan sesudah kelahiran dianggap sebagai hal yang wajar
  • Tidak ada cara realistis untuk menghadirkan dokter layanan primer manusia dalam jumlah yang cukup agar dapat menjangkau dan meningkatkan titik kontak bagi setiap anak di wilayah dunia yang kurang beruntung

Penyakit menular tidak dapat dicegah hanya dengan meningkatkan akses layanan medis; perbaikan kesehatan masyarakat dan sanitasi juga harus dilakukan secara bersamaan, dan itu memerlukan layanan administrasi seperti fasilitas air bersih dan saluran pembuangan.

---

AI dapat membantu menciptakan masyarakat yang lebih adil dan setara dengan menjamin proses pengambilan keputusan yang adil, mengurangi bias, dan mendorong transparansi tata kelola

AI tidak bisa menggantikan penyelesaian persoalan psikologis dan penilaian nilai seperti bias kognitif atau prasangka, konflik, kesetaraan kesempatan, dan redistribusi kekayaan.

---

Selain itu, platform low-code, no-code, dan bahasa alami memungkinkan orang tanpa keahlian teknis mendalam untuk membuat dan menerapkan solusi AI dengan jauh lebih mudah daripada sebelumnya

Platform low-code memang mudah untuk mulai digunakan, tetapi semakin banyak persyaratan tambahan dan semakin kompleks dependensinya, semakin sulit menghasilkan keluaran yang efisien dan matang.

---

Biaya tenaga kerja maupun biaya modal dapat diubah secara efektif melalui perubahan aturan sederhana, regulasi, undang-undang, dan strategi perpajakan seperti pajak capital gains atau MLP

Kemungkinan semua politisi dan pembuat kebijakan berpikir seperti penulis dan menjalankan kebijakan sesuai gagasannya sangat rendah.

---

• Platform mereka (para CEO teknologi) dapat menjadi perantara utama untuk pekerjaan, pendidikan, dan interaksi sosial yang berpotensi melampaui peran pemerintah tradisional dalam banyak aspek kehidupan sehari-hari
• Namun, kekhawatiran ini menimbulkan pertanyaan yang menarik, dan saya kembali pada kerangka sebelumnya: pilihan paksa antara Tiongkok yang sedang bangkit dan termaksimalkan dengan masyarakat dan ekonomi kita yang lebih bebas
• CEO teknologi, terlepas dari segala kekurangannya, pada akhirnya bergantung pada dukungan dan partisipasi berkelanjutan dari pengguna, pelanggan, dan pemegang saham

Sanksi Uni Eropa terhadap dampak perusahaan big tech AS, serta perdebatan mengenai kelayakannya, masih terus berlangsung saat ini dan sama sekali tidak ada kaitannya dengan pemerintahan totaliter Tiongkok.

[xguru]

Entah kenapa tulisan ini membuat saya membandingkannya dengan The Intelligence Age karya Sam Altman.
Daripada sekadar mengatakan "semuanya akan berjalan baik", saya lebih suka karena tulisan ini menjelaskannya dengan menggunakan berbagai contoh.
Ada sudut pandang yang sebelumnya tidak terpikirkan, jadi saya mendapat banyak inspirasi.

Khosla Ventures dinilai sebagai VC terbaik yang dipilih oleh para pendiri. https://www.founderschoicevc.com/

[nowdoit7]

Jika tulisan Sam Altman lebih mirip jualan manis yang bilang pokoknya semuanya akan berjalan baik, saya suka karena tulisan ini memberi banyak hal untuk dipikirkan.

Saat ini memang hubungan manusia dan AI masih terbentuk sebagai majikan dan bawahan, tetapi ketika melihat betapa frustrasinya kita saat ChatGPT tidak berfungsi seperti hari ini, jadi bingung siapa sebenarnya majikan dan siapa bawahan.

Lalu, perusahaan AI tentu saja akan menikmati kekuatan finansial dan politik yang sangat besar, dan rasanya untuk menuju utopia berdasarkan kesepakatan sosial akan timbul biaya sosial yang luar biasa besar.

Dan tentu akan bagus jika semua manusia etis dan baik, tetapi kalau mengingat bahwa pada zaman manusia pun kasus seperti itu jarang terjadi, saya merasa sedih seperti menjadi seorang manusia yang berdiri kecil dan tak berdaya di hadapan perubahan besar.