- Di AI Action Summit di Paris, sekitar 60 negara menyepakati deklarasi bersama tentang keselamatan AI, tetapi Amerika Serikat dan Inggris tidak menandatanganinya, memperlihatkan retaknya posisi terkait regulasi AI dan perebutan kepemimpinan industri
- Deklarasi tersebut memuat prinsip bahwa AI harus terbuka, inklusif, transparan, etis, aman, terlindungi, dan dapat dipercaya, serta tidak memiliki kekuatan hukum yang mengikat
- Wakil Presiden AS JD Vance menekankan bahwa regulasi AI tidak boleh “mengekang” pengembangan teknologi, dan menyatakan posisi bahwa sistem AI paling kuat harus dibuat di AS dengan chip buatan AS
- Sumber yang dekat dengan pemerintah Inggris menilai redaksi deklarasi itu “terlalu membatasi”, sementara pejabat dari negara penandatangan mengatakan AS tidak menyetujui ungkapan tentang multilateralisme dan kerja sama internasional
- Eropa sedang memperkuat basis industri AI untuk mengurangi ketergantungan pada AS dan Tiongkok, dan di KTT tersebut diumumkan rencana investasi sekitar 200 miliar euro untuk pusat data dan klaster komputasi
Retaknya barisan tanda tangan di KTT AI Paris
- Amerika Serikat dan Inggris tidak menandatangani deklarasi bersama AI Action Summit yang digelar di Paris
- Sekitar 60 negara menyepakati deklarasi bersama tersebut, yang memuat tujuan untuk membuat teknologi AI “aman, terlindungi, dan dapat dipercaya”
- Deklarasi itu juga mencakup prinsip bahwa AI harus terbuka, inklusif, transparan, dan etis
- Terdapat frasa yang menyebutkan pertimbangan atas kerangka internasional untuk semua
- Komitmen ini tidak mengikat, tetapi AS dan Inggris sebelumnya pernah menandatangani deklarasi serupa pada KTT AI terdahulu
Fokus AS: kepemimpinan AI di atas regulasi
- Wakil Presiden AS JD Vance memperingatkan agar Eropa tidak mengadopsi regulasi AI yang “terlalu bersifat pencegahan”
- Vance mengatakan pemerintahan Trump akan memastikan sistem AI paling kuat dibangun di Amerika Serikat
- Posisi mereka adalah sistem tersebut harus menggunakan chip yang dirancang dan diproduksi oleh AS
- Ini dibaca sebagai pesan bahwa AS ingin mempertahankan posisi dominannya dalam teknologi AI
- Ia berpendapat bahwa rezim regulasi internasional harus mendorong penciptaan teknologi AI, bukan menekannya
- Keegan McBride dari Oxford Internet Institute menilai pidato Vance sebagai “perubahan 180 derajat” dibanding era pemerintahan Biden
Perbedaan pandangan AS dan Inggris soal redaksi deklarasi
- Sikap keras AS selaras dengan kecenderungan “America First” dari pemerintahan Trump
- Seorang sumber yang dekat dengan pemerintah Inggris menilai redaksi deklarasi itu “terlalu membatasi”
- Seorang pejabat dari salah satu negara penandatangan mengatakan AS tidak menyetujui ungkapan terkait multilateralisme dan kerja sama internasional
- Dalam deklarasi bersama itu, penguatan kerja sama internasional dimasukkan sebagai prioritas untuk mendorong koordinasi tata kelola internasional
- Pejabat yang sama juga mengatakan AS memiliki kekhawatiran terhadap Current AI, yang diluncurkan Prancis dalam KTT tersebut
- Kekhawatiran itu adalah bahwa Current AI dapat digunakan untuk menyalurkan dana ke negara-negara berbahasa Prancis
Persaingan dengan Tiongkok dan ketegangan yang dipicu DeepSeek
- Sikap keras AS muncul di tengah makin intensnya persaingan dengan Tiongkok seputar AI
- Area persaingan meluas dari manufaktur chip, model dasar, chatbot AI, hingga energi yang dibutuhkan untuk memasok daya ke superkomputer
- Laboratorium Tiongkok yang sebelumnya kurang dikenal, DeepSeek, mengguncang perusahaan-perusahaan Silicon Valley dengan merilis model AI berbiaya rendah
- Perusahaan seperti OpenAI sebelumnya merasa mereka memiliki keunggulan yang kuat
- Vance memperingatkan agar tidak bekerja sama dengan “rezim otoriter” dalam transaksi AI, secara tidak langsung menyasar Tiongkok
- Ia menyebut CCTV dan 5G sebagai contoh masa lalu, dengan mengatakan bahwa rezim otoriter mengekspor teknologi murah yang disubsidi besar-besaran
- Menurutnya, kerja sama seperti itu mengikat suatu negara pada aktor otoriter yang ingin menyusup dan menguasai infrastruktur informasinya
Respons Eropa: membangun basis industri AI sendiri
- Eropa berupaya membangun pijakan di industri AI untuk mengurangi ketergantungan pada Amerika Serikat maupun Tiongkok
- Dalam KTT dua hari yang diselenggarakan Presiden Prancis Emmanuel Macron, para pemimpin dan perusahaan Eropa mengumumkan rencana investasi senilai sekitar 200 miliar euro
- Investasi tersebut ditujukan untuk pusat data dan klaster komputasi yang akan menopang upaya AI Eropa
- Frederike Kaltheuner dari AI Now Institute mengatakan bahwa setelah peluncuran model terbuka DeepSeek yang kuat, orang-orang Eropa merasa ada peluang singkat untuk bersaing di AI
- McBride menilai arus utama KTT Macron sebenarnya mendorong alternatif terhadap pengembangan AI yang dipimpin AS, tetapi pernyataan Vance mendinginkan suasana itu
1 komentar
Opini Hacker News
Sebagian dari hidup yang didorong oleh akselerasi teknologi selama beberapa dekade ke depan mungkin akan terasa seperti menjalani lobotomi frontal dalam keadaan sadar sambil menyaksikan prosesnya
Kita bisa membayangkan dan memperdebatkan tanpa akhir ribuan skenario hipotetis tentang bagaimana bahkan teknologi yang belum mencapai AGI penuh pun bisa melenceng secara katastrofik, tetapi kemajuan ke arah itu sendiri tidak melambat atau berhenti
Cukup satu kelompok saja yang memiliki kecerdasan kolektif dan terobosan yang memadai, maka AI berikutnya bisa diantarkan sampai ke depan pintu kita, entah kita menginginkannya atau tidak
Rasanya mirip pengalaman ketika buku-buku yang dibaca saat kecil ternyata menyampaikan pesan hidup yang penting, tetapi baru 20 tahun kemudian kita memahami maknanya. Pesannya sudah ada di sana, tetapi saat itu kita belum punya kecerdasan emosional dan perseptual untuk menerimanya
Saat mesin cetak ditemukan pun ada orang-orang dengan suasana serupa, dan pada akhirnya mereka keliru. Jika kita mengikuti “pelajaran” mereka, masyarakat manusia akan menjadi jauh lebih buruk
Apakah kritik terhadap AI/AGI saat ini valid atau tidak pada akhirnya hanya bisa diketahui setelah faktanya terjadi
Terutama di industri teknologi, terlalu banyak orang yang tidak terlalu peduli apa yang terjadi pada orang lain selama mereka sendiri bisa menghasilkan uang. Mereka rela mengorbankan orang lain, dan bahkan di dalam komunitasnya sendiri pun tidak mau berbagi kesejahteraan
Ini adalah akibat tak terelakkan dari masyarakat dengan kepercayaan rendah yang merembes ke masyarakat dengan kepercayaan tinggi; semakin luas teknologi dengan implikasi berbahaya bagi masyarakat tersebar, akan ada cukup banyak orang yang bekerja menuju keruntuhan sosial, jadi tidak ada harapan realistis bahwa kereta ini akan berhenti
Saat ini pelatihan AI memang membutuhkan banyak perangkat keras, tetapi dengan laptop dan internet saja pun riset dan inovasi mutakhir pada sisi arsitektur dan algoritma tetap mungkin dilakukan
Bahkan jika undang-undang yang menyatakan “kemajuan AI ilegal” disahkan, patut dipertanyakan bagaimana cara menegakkannya
Ketakutan imajiner bukanlah ketakutan nyata. Saya tidak setuju dengan pendekatan pemerintahan saat ini, kita harus waspada, dan keberadaan orang-orang yang akan meraup keuntungan besar dari teknologi itu di meja diskusi juga tidak terlihat baik
Namun selain itu, saya belum melihat alasan nyata untuk melakukan lebih dari sekadar menunggu sambil tetap waspada
Tidak ada yang ingin terjebak di negara yang melarang AI, terutama AI dari negara lain, lalu kehilangan daya saing di dunia baru yang sedang muncul
Masa depan akan sulit, jadi untuk apa mengikat satu tangan sendiri. Kehati-hatian berbeda dari rasa takut
AI berbeda dari fisi nuklir. Kita tidak bisa mendeteksi dari jarak jauh apakah seseorang sedang melatih AI, dan sudah terlalu terlambat untuk mengisolasi informasi terkait AI seperti pada pengayaan uranium
Peralatan yang dibutuhkan untuk melatih AI murah dan umum. “Deklarasi keselamatan” seperti ini ompong dan mustahil ditegakkan
Kita tidak bisa menghentikan AI dan harus beradaptasi. Video dan foto akan segera kehilangan nilai sebagai bukti, dan kita harus lebih menghargai hubungan manusia di dunia nyata daripada relasi online, karena kita bisa tahu bahwa lawan bicara itu benar-benar manusia
Ini memang disayangkan, tetapi tidak ada hal yang “dihancurkan” AI yang sudah ada sejak 200 tahun lalu, dan orang-orang akan beradaptasi seperti biasa. Seperti kata penjahat komik Toyo Harada, “Tak satu pun dari kalian bisa menghentikanku. Baik sebagai individu maupun sebagai kelompok”
Ada kemungkinan hal itu diwajibkan secara hukum dengan alasan dan cara yang mirip dengan kewajiban suara rana kamera digital di Jepang
Dua ratus tahun lalu populasi Bumi sekitar 1 miliar orang, tetapi sekarang sekitar 8 miliar. Kaum anarko-primitivis atau pendukung degrowth juga sering mengibaskan tangan terhadap kemajuan 200 tahun terakhir dengan cara serupa, tetapi kemajuan itu penting untuk menopang sistem yang menyelamatkan banyak orang
Meski begitu, perjanjian internasional tentang tidak digunakannya senjata kimia selama ini bertahan dengan sangat baik, secara mengejutkan
Tempat yang akan kacau adalah ranah publik. Kira-kira akan ada kekacauan selama satu generasi, ketika generasi yang lahir antara sebelum sekitar 1975 hingga sekarang melihat gambar yang ingin mereka percayai dan gagal berpikir kritis
Jika layanan berbasis AI seperti ChatGPT dilarang, insentif ekonomi untuk menginvestasikan uang dalam pelatihan semacam itu juga bisa dikurangi
Inisiatif yang lebih baru adalah https://c2pa.org/
Semua diskusi tentang keamanan AI ini hanyalah upaya perusahaan seperti OpenAI membangun moat untuk menghalangi pesaing baru seperti DeepSeek
LLM tidak akan mengarah ke AGI. Bahkan tidak mendekati. Altman membicarakan risiko semacam ini mirip seperti Musk membicarakan taksi tanpa pengemudi
Tentu saja ini memang teknologi yang mengesankan. LLM tampaknya suatu hari bisa meningkatkan produktivitas orang hingga 10 kali lipat dalam pekerjaan yang sepanjang hari berinteraksi dengan komputer
Mereka sama sekali bukan membicarakan ini untuk membangun moat OpenAI. Pada waktu itu OpenAI bahkan belum ada, AI sama sekali belum mendekati level sekarang, dan hampir semua orang menganggap argumen mereka tidak masuk akal
Boleh saja tidak setuju, tetapi menyederhanakannya sebagai sekadar argumen untuk menopang perusahaan AI yang sudah ada itu keliru dan tidak jujur
Untuk hal-hal yang dapat diterima LLM sebagai masukan inderawi, menurut semua deskripsi ia jauh lebih cerdas daripada manusia rata-rata
Jika sebuah negara adalah kekuatan dominan dunia, ia tidak akan membiarkan negara lain menentukan strateginya. Sesederhana itu
Upaya menahan AI akan datang dari pihak yang kalah dalam persaingan. Seperti wawancara yang dikenang Edward Teller, Soviet memanfaatkan moratorium uji coba nuklir untuk mengejar Amerika Serikat dalam bom hidrogen, dan Teller-lah yang mengatakan kepada para ilmuwan idealis bahwa hal seperti itu akan terjadi
Sudah umum diketahui bahwa Tiongkok telah mengejar AS dalam hampir semua hal, dan untuk sisanya pun akan segera melampaui. Lihat saja DeepSeek: efisiennya setara OpenAI, tetapi biayanya jauh lebih rendah. Ada juga Baidu, Alibaba AI, dan lainnya
Ekonomi Tiongkok berada di jalur untuk melampaui AS dalam 5 tahun, tetapi mereka tetap menandatangani perjanjian itu. Sebenarnya sebagian besar negara menandatanganinya, termasuk India
Ini bukan situasi ketika pihak yang kalah membuat aturan baru, melainkan negara-negara besar membahas cara menangani situasi ini, sementara negara-negara yang merasa dirinya terlalu hebat justru tampak tertinggal
Namun upaya-upaya seperti itu juga bersifat simbolis, dan para pihak terkait pun tahu. Itu hanya upaya agar terlihat seolah-olah sedang melakukan sesuatu bagi konsumen informasi yang naif, yaitu para idiot yang berguna
Saya melewatkan era 80-an, tetapi sebagai “hacker” yang melewati era 90-an dan 00-an, arus percakapan seputar AI terasa sangat menyedihkan dan tidak nyaman
Bayangkan mengatakan kepada para hacker masa lalu bahwa di sebuah situs bernama “hacker news”, orang-orang akan berdebat bahwa pemerintah harus mengkriminalkan menjalankan kode di komputer sendiri
Ini bertabrakan secara langsung, baik secara etis maupun filosofis, dengan segala hal yang membuat saya jatuh cinta pada komputer. Saya bertanya-tanya apakah orang-orang benar-benar percaya seperti ini, atau apakah ini narasi canggih yang nyaman bagi perusahaan dan politisi tertentu
Dalam regulasi AI Uni Eropa maupun diskusi yang saya lihat, tidak ada yang membatasi hacking AI itu sendiri
Regulasi membahas penerapan oleh perusahaan/pemerintah dan kasus penggunaan nyata. Misalnya mencegah AI tanpa akuntabilitas mengambil keputusan akhir perekrutan, melarang pengenalan wajah secara luas di tempat umum, mewajibkan transparansi penggunaan AI di bidang berisiko tinggi seperti kesehatan, pendidikan, dan peradilan, serta melarang AI yang membawa senjata
Karena kamu menyinggung etika, saya bertanya: etika apa yang harus diterapkan pada AI? Tidak ada sama sekali, hanya sebagian, atau etika yang sama seperti manusia? Jika AI menggantikan manusia dalam pengambilan keputusan, ia harus bertanggung jawab seperti manusia
Negara-negara yang memiliki AGI tanpa batas kemungkinan besar akan melompat jauh ke depan secara teknologi
Sebaliknya, negara-negara yang memberlakukan pembatasan akan tetap berada di “zaman batu” dalam bidang itu
Secara umum, negara yang pendapatan elitenya bergantung pada tenaga kerja rakyatnya menghasilkan hasil yang lebih baik bagi mayoritas dibanding negara yang tidak demikian. Lihat saja negara berkembang dengan cadangan minyak yang melimpah
AGI akan mengarah ke apa? Seperti tenaga kerja manufaktur yang tergantikan, sebagian besar pekerjaan pengetahuan juga akan tergantikan, dan elite yang ada akan mengendalikan AGI. Itu bisa dipakai untuk menekan pemberontakan selamanya melalui pengawasan yang sepenuhnya otomatis dan ada di mana-mana
Ini benar-benar bukan sesuatu yang layak dituju
[1]: https://en.wikipedia.org/wiki/Resource_curse
Suatu hari mungkin saja ada. Namun “AI” saat ini tidak bisa menjadi AGI, dan tidak ada jalur untuk bergerak ke sana
Jangan menelan narasi itu mentah-mentah. Regulasi UE bukan untuk melarang AGI, melainkan untuk menjaga standar kepantasan minimum ketika teknologinya ada. Orang Amerika tampaknya hampir punya alergi fatal terhadap hal seperti ini
Kini, beberapa tahun kemudian, kita sungguh-sungguh memikirkan situasi ketika sebagian dunia menerima AI dan sebagian lain tidak
Adopsi parsial semacam ini bisa diprediksi, tetapi saya tidak menyangka kita akan memperdebatkannya secepat ini
Bolehkah saya memahami bahwa “deklarasi” ini bukan komitmen tindakan yang konkret? Kalau begitu, saya kurang paham mengapa penting siapa yang menandatangani dan siapa yang tidak
Kekonkretannya pun tampaknya tidak jauh lebih baik dari itu. Panjangnya sekitar satu setengah halaman, daftar negaranya sama panjang dengan deklarasinya sendiri, dan pada dasarnya isinya adalah “kami mengatakan bahwa kami tidak akan melakukan hal buruk”
Mereka benar. Deklarasi itu tidak berguna dan cuma usaha sia-sia
Eropa sangat suka menandatangani deklarasi dan surat kekhawatiran. Kalaupun ditandatangani, tidak akan ada bedanya
Deklarasi semacam “jangan menjadi jahat” ini biasanya hanya gestur tanpa makna
Aktor-aktor pinggiran yang toh tidak akan ikut serta memamerkan superioritas moral, tetapi tidak berdampak apa pun pada arus nyata
Ottawa Treaty juga mirip. Negara-negara yang tidak menandatangani mencakup AS, China, Rusia, Pakistan, India, Mesir, Israel, Iran, Kuba, Korea Utara dan Korea Selatan, dan lainnya. Artinya, negara-negara yang sejak awal diperkirakan akan menggunakan ranjau darat semuanya absen
Ketika situasinya benar-benar terjadi, negara penandatangan seperti Ukraina pun akan menggunakan ranjau darat. Karena pertahanan negara lebih penting daripada menjaga selembar kertas dan merasa lebih bermoral