AS dan Inggris Menolak Deklarasi AI Safety di KTT

• Penolakan terhadap multilateralisme

  • AS dan Inggris tidak menandatangani deklarasi keselamatan AI
  • Sikap AS ini merupakan "perputaran 180 derajat" dari pemerintahan Biden
  • Wakil Presiden AS JD Vance memperingatkan agar Eropa tidak mengadopsi regulasi terhadap AI yang "terlalu berhati-hati"
  • Keduanya tidak menandatangani deklarasi yang bertujuan memastikan teknologi AI berada dalam kondisi "aman, terlindungi, dan dapat dipercaya"
  • Sekitar 60 negara menyetujui deklarasi tersebut di KTT AI Action

• Sikap AS

  • Vance menegaskan bahwa AS akan tetap menjadi kekuatan dominan dalam teknologi AI
  • Ia menyebut bahwa "sistem AI paling kuat akan dibangun di Amerika, dengan chip yang dirancang dan diproduksi oleh Amerika"
  • Ia berpendapat bahwa rezim regulasi internasional harus mendorong penciptaan teknologi AI

• Isi deklarasi

  • Deklarasi ini bertujuan memastikan AI tetap terbuka, inklusif, transparan, etis, aman, terlindungi, dan dapat dipercaya
  • AS dan Inggris sebelumnya pernah menandatangani deklarasi serupa pada KTT AI terdahulu
  • Kali ini mereka tidak menandatangani karena kebijakan "America First" dari pemerintahan AS yang baru dan pandangan pemerintah Inggris bahwa deklarasi itu "terbatas"

• Persaingan AI dan China

  • Persaingan dengan China makin intens dalam pengembangan AI, manufaktur chip, chatbot AI, dan energi yang dibutuhkan untuk superkomputer
  • Model AI murah dari DeepSeek mengejutkan OpenAI di Silicon Valley

• Industri AI Eropa

  • Eropa sedang berupaya menghindari ketergantungan pada AS maupun China dalam industri AI
  • Di KTT yang diselenggarakan Presiden Prancis Emmanuel Macron, diumumkan investasi sekitar 200 miliar euro untuk data center dan klaster komputasi

• Peringatan dari AS

  • Vance memperingatkan agar tidak membuat kesepakatan AI dengan "rezim otoriter"
  • Ia menyinggung CCTV dan 5G sebagai contoh "teknologi murah" yang disubsidi dan diekspor oleh rezim otoriter

• Prioritas deklarasi bersama

  • Deklarasi bersama yang ditandatangani negara-negara seperti China, India, dan Jerman bertujuan untuk "memperkuat kerja sama internasional guna mendorong koordinasi dalam tata kelola internasional"
  • AS tidak menyetujui istilah terkait multilateralisme dan kerja sama internasional
  • Ada kekhawatiran bahwa yayasan Current AI yang didirikan Prancis dapat menyalurkan pendanaan ke negara-negara berbahasa Prancis

• Pidato Vance

  • Pidato Vance dinilai sebagai "perputaran 180 derajat" dari pemerintahan Biden
  • KTT Macron bertujuan mendorong alternatif terhadap pengembangan teknologi AI yang dipimpin AS
  • Setelah peluncuran model terbuka yang kuat dari DeepSeek, Eropa merasa sempat memperoleh peluang dalam persaingan AI

[GN⁺]

Komentar Hacker News

• Ada pendapat bahwa seiring percepatan perkembangan teknologi, kehidupan dalam beberapa dekade ke depan akan terasa seperti menjalani lobotomi dalam keadaan sadar. Bisa dibayangkan ribuan cara hipotetis bagaimana teknologi dapat melenceng ke arah yang salah, tetapi kemajuan tetap tidak berhenti. AI pada akhirnya akan datang, baik kita menginginkannya maupun tidak

• AI tidak seperti fisi nuklir. Tidak mungkin mendeteksi dari jarak jauh bahwa seseorang sedang melatih AI. Sudah terlambat untuk mengisolasi semua informasi terkait AI. Peralatan yang dibutuhkan untuk melatih AI murah dan ada di mana-mana

  • "Deklarasi keselamatan" tidak punya kekuatan nyata dan tidak bisa ditegakkan
  • Karena AI tidak bisa dihentikan, kita harus beradaptasi
  • Video dan foto segera akan kehilangan nilai sebagai bukti
  • Hubungan di dunia nyata lebih penting daripada hubungan online
  • Hal-hal yang "ditimbulkan" AI juga tidak ada 200 tahun lalu, dan manusia selalu beradaptasi

• "Keamanan AI" hanyalah tameng bagi perusahaan seperti OpenAI untuk menghalangi startup baru. LLMs tidak akan mencapai AGI. Altman membicarakan risiko ini sama saja seperti Musk membicarakan taksi tanpa pengemudi

• Ketika menjadi kekuatan dominan di dunia, Anda tidak membiarkan orang lain menentukan strategi. Upaya mengekang AI akan datang dari mereka yang tertinggal dalam perlombaan. Ada wawancara ketika Edward Teller mengenang bagaimana Uni Soviet menggunakan penghentian uji coba nuklir untuk menyamai AS dalam bom hidrogen

• Sebagai seorang "hacker" yang melewatkan era 80-an tetapi hidup melalui 90-an dan 00-an, ada rasa sedih dan cemas yang mendalam melihat bagaimana percakapan tentang AI berkembang. Sulit membayangkan memberi tahu para hacker masa lalu bahwa akan ada orang-orang yang berargumen bahwa pemerintah perlu mengkriminalkan menjalankan kode di komputer sendiri

• Sulit memahami apa yang dimaksud banyak politisi dan pihak lain ketika mereka memakai istilah "AI". Situasinya mirip dengan "blockchain" beberapa tahun lalu. "AI" pada praktiknya adalah sinonim untuk pengambilan keputusan algoritmis, dan itu bisa berdampak langsung pada kehidupan orang. Ekspansi "AI" yang serampangan tanpa akuntabilitas, transparansi, mekanisme pemulihan, dan sebagainya merupakan kemunduran besar terhadap hak-hak yang sudah lama mapan secara historis

  • AS sedang membongkar CFPB dan mendorong deregulasi lebih lanjut
  • Sikap Inggris menarik. Dari sisi perlindungan warga/konsumen, posisinya berada di antara AS dan UE, tetapi meski ada Brexit, lebih dekat ke yang terakhir

• Negara yang memiliki AGI tanpa pembatasan kemungkinan akan membuat lompatan teknologi besar. Negara yang membatasinya mungkin akan tetap berada di "zaman batu"

• Eropa suka membuat deklarasi dan surat keprihatinan. Menandatanganinya pun tidak akan membuat perbedaan

• Rasanya tepat untuk memahami bahwa "deklarasi" ini tidak menjanjikan tindakan konkret. Sulit memahami mengapa harus peduli siapa pun yang menandatanganinya

• Deklarasi itu tidak berguna dan hanya usaha yang sia-sia