Yann LeCun: Skenario kiamat yang sesungguhnya adalah para pemilik 1% AI menguasai kekuasaan selamanya

• Yann LeCun, kepala ilmuwan AI di Meta, mengkritik pernyataan suram para pemimpin AI tentang risiko AI dan berpendapat bahwa merekalah yang bisa menimbulkan lebih banyak bahaya.
• LeCun menuduh para pendiri AI seperti Sam Altman dari OpenAI, Demis Hassabis dari Google DeepMind, dan Dario Amodei dari Anthropic menggunakan "penyebaran ketakutan" dan "lobi korporasi besar-besaran" demi kepentingan mereka sendiri.
• Ia menilai jika upaya ini berhasil, segelintir perusahaan akan mengendalikan AI, dan ia memandangnya sebagai sebuah "bencana".
• Pernyataan LeCun muncul sebagai tanggapan atas unggahan fisikawan Max Tegmark yang menyiratkan bahwa LeCun tidak cukup serius menanggapi narasi kiamat AI.
• LeCun berargumen bahwa risiko AI yang nyata dan mendesak bukanlah risiko hipotetis yang sering ditekankan, melainkan eksploitasi pekerja dan pencurian data yang menguntungkan segelintir pihak.
• Ia menepis gagasan "takeoff mendadak", yaitu bahwa umat manusia akan musnah pada saat sistem superintelijen diaktifkan.
• LeCun menekankan pentingnya berfokus pada bagaimana AI sedang dikembangkan saat ini, dan memperingatkan bahaya jika pengembangan AI dimonopoli oleh perusahaan tertutup yang mengejar keuntungan.
• Ia membela para pengembang open source, dan secara khusus mengkritik kurangnya transparansi dalam pengembangan AI oleh perusahaan teknologi besar.
• LeCun menyampaikan kekhawatiran bahwa regulator dapat dengan mudah terpengaruh oleh perdebatan sensasional tentang AI, sehingga pengawasan terhadap proses pengembangan yang sebenarnya menjadi kurang memadai.

[GN⁺]

Opini Hacker News

• Diskusi artikel tentang pandangan Yann LeCun mengenai penyalahgunaan teknologi AI
• Mengungkapkan kekhawatiran atas upaya penangkapan regulasi oleh pihak berkuasa dengan memanfaatkan klaim "X-Risk" dan kepunahan mendadak umat manusia
• Mengkritik dorongan untuk menutup AI melalui persyaratan lisensi dan pelaporan
• Menyatakan dukungan terhadap langkah-langkah untuk mengendalikan riset AI, dengan mengutip perlunya kehati-hatian di bidang ini
• Diskusi tentang pengembangan dan penyebaran teknologi baru, dengan argumen bahwa risiko teknologi dapat disembunyikan hingga teknologi itu didistribusikan secara luas
• Mengkritik pelabelan para peneliti AI terkemuka sebagai "AI Godfather", dengan argumen bahwa hal itu menyesatkan dan tidak perlu
• Diskusi tentang kemungkinan penyalahgunaan AI, dengan argumen bahwa melarang model open source dapat membuat kita tidak tahu cara menanggapi penyalahgunaan tersebut
• Pendapat yang tidak setuju dengan pandangan Yann LeCun, dengan argumen bahwa ia tidak menanggapi risiko AI secara serius
• Diskusi tentang kemungkinan AI digunakan untuk pemilihan saham dan prediksi, dengan argumen bahwa AI semacam itu dapat menyerap kekayaan hingga secara efektif memiliki masyarakat
• Argumen bahwa sudah terlambat untuk memonopoli large language model, sambil menunjukkan bahwa teknologinya sudah diketahui dan biayanya terus menurun
• Spekulasi tentang masa depan bisnis di era kelimpahan, dengan argumen bahwa kemungkinan besar akan menjadi semakin termonopoli