Banyak organisasi keselamatan AI mencoba mengkriminalisasi AI open-source yang sudah ada saat ini

• Di kalangan pengguna LLM, muncul keluhan bahwa organisasi keselamatan AI ingin melarang LLM open-source yang mereka gunakan, namun ada klaim bahwa ini hanyalah rumor yang tersebar keliru.
• Namun, klaim tersebut tidak benar. Faktanya, banyak organisasi keselamatan AI pernah mendukung "rancangan undang-undang yang akan mengkriminalisasi open-source model yang sudah ada saat ini".
• Beberapa di antara organisasi ini memiliki pendanaan besar dan semakin terhubung dengan para pembuat kebijakan.

Usulan legislasi dari organisasi keselamatan AI

• Center for AI Safety: organisasi dengan pendanaan besar yang berfokus pada riset dan advokasi keselamatan AI, yang dalam usulan regulasinya kepada NTIA mendefinisikan "sistem AI yang kuat" dan mengajukan persyaratan yang pada praktiknya melarang open-source sistem semacam itu.
• Center for AI Policy: kelompok lobi berbasis di Washington D.C. yang, menurut aturan yang mula-mula mereka usulkan, akan membuat Llama-2 yang sudah dirilis tunduk pada regulasi lembaga baru.
• Palisade Research: organisasi nirlaba yang bertujuan mendemonstrasikan secara konkret kemampuan berbahaya untuk memberi saran kepada pembuat kebijakan dan publik tentang risiko AI, yang mendesak pemerintah untuk menghentikan perilisan Llama 2.
• The Future Society: think tank yang bertujuan menyelaraskan AI dengan tata kelola yang lebih baik, yang mengajukan persyaratan ketat untuk GPAI "Type 2" dan secara eksplisit menyatakan bahwa model open-source tidak akan dapat memenuhinya.

Pengaruh organisasi keselamatan AI

• Organisasi-organisasi ini hanya sebagian dari pihak yang secara sangat jelas menyatakan kebijakan atau tujuan mereka.
• Ada juga organisasi lain dengan kebijakan yang kurang jelas, namun pada akhirnya mengambil posisi yang menentang open-sourcing.
• Jika organisasi keselamatan AI berhasil meloloskan legislasi seperti yang mereka inginkan di masa lalu, model-model yang saat ini digunakan secara aktif kemungkinan akan telah dilarang.
• Organisasi-organisasi ini masih berharap dapat meloloskan langkah serupa, sementara gerakan AI open-source tertinggal secara legislatif dibanding mereka.

Opini GN⁺

• Usulan dari organisasi keselamatan AI berisiko membatasi perkembangan AI open-source dan memperkuat monopoli perusahaan.
• AI open-source sangat penting bagi riset dan inovasi, dan membatasinya dapat berdampak negatif pada kemajuan teknologi.
• Tulisan ini menunjukkan bahwa pembatasan hukum terhadap AI open-source sedang berlangsung saat ini, dan ini merupakan isu yang dapat berdampak penting pada demokratisasi serta aksesibilitas teknologi AI.

[kuroneko]

Sepertinya ini terjadi setiap kali teknologi baru muncul.

[GN⁺]

Komentar Hacker News

• Ada kritik bahwa para pakar keselamatan AI bersikap munafik. Jika mereka benar-benar menjalankan apa yang mereka serukan, mereka akan menuntut agar semua AI dilarang. Dampak berbahaya AI sudah terjadi terlepas dari apakah bobot model dipublikasikan atau tidak, dan khususnya disorot bahwa cara penggunaan AI yang paling menguntungkan adalah menyembunyikan plagiarisme lalu membanjiri internet dengan teks identik yang secara teknis diparafrasekan dengan kata-kata berbeda.
• Alasan lain mengapa akhir dari AI open source mungkin sudah dekat adalah bahwa jika data pelatihan mulai harus dilisensikan, maka selesai sudah. Banyak orang marah pada OpenAI dan Midjourney karena hal yang dibutuhkan AI open source untuk bertahan hidup—yakni fine-tuning atau pelatihan dari nol. Begitu politisi menjadikannya isu platform, hukum tampaknya akan ditulis ulang untuk mencegah perusahaan menggunakan data pelatihan sesuka hati mereka.
• Ada berbagai jenis keselamatan. Misalnya, perlindungan keuntungan juga merupakan salah satu bentuk keselamatan. Ada banyak organisasi yang terlihat seperti pelobi bagi perusahaan-perusahaan mapan di bidang AI. Upaya penegakan lisensi Microsoft tampaknya pernah memakai strategi seperti ini.
• Tidak membantu bahwa di bawah istilah keselamatan AI tercakup banyak gagasan yang berbeda. Misalnya, output yang "aman" secara politis benar, tanpa porno, manipulasi sosial/pemilu skala besar, dan kepunahan umat manusia oleh AI yang kuat; ketiga hal itu hampir tidak punya kesamaan satu sama lain, sehingga membuat semua diskusi menjadi tidak efisien.
• Pemerintah tahu bahwa kemampuan masyarakat umum untuk menggunakan "AI" tanpa kendali dan pengawasan mereka akan mengurangi perluasan kekuasaan mereka. Seperti yang ditunjukkan artikel, "think tank" seperti ini sudah meletakkan dasar untuk mencegah terulangnya Llama 2. Yang kita butuhkan hanyalah AI Stallman, dan model AI FOSS harus menjadi seperti gerakan yang didorong untuk FOSS UNIX pada tahun 80-an dan 90-an. Namun ketika topik ini dituliskan kepadanya, ia tampak tidak tertarik atau bersikap kalah sebelum bertanding, dan sebagian besar mengabaikan gagasan GPL untuk bobot model.
• Sebagian besar pakar keselamatan AI tampaknya sungguh-sungguh meyakini apa yang mereka khotbahkan. Apakah mereka benar adalah pembahasan yang sama sekali berbeda. Namun, pendanaan untuk keselamatan AI jelas sebagian didorong oleh regulatory capture atau suatu bentuk proteksionisme.
• Jangan meremehkan hasrat sistem kontrol atau kekuasaan yang sudah ada untuk mereplikasi dirinya sendiri.
• Ada banyak peneliti keselamatan AI yang beritikad baik, tetapi juga terlihat kemunafikan keselamatan yang memperlihatkan standar ganda "AI untuk saya, bukan untuk Anda".
• Pelisensian data akan menjadi hambatan besar.
• Hasil yang tidak disensor akan dipakai secara merugikan terhadap model open source dalam pertanyaan-pertanyaan di wilayah gelap atau abu-abu.
• Kesenjangan kemampuan komputasi dan ukuran model antara model open source dan closed source besar. 7B termasuk wilayah open source, sedangkan closed source kemungkinan akan jauh lebih besar dari itu.
• Agak menggelikan bahwa organisasi-organisasi ini menamai ambang FLOP dan menjadikan MMLU sebagai metrik evaluasi yang relevan. Tampaknya beberapa organisasi hanya menyalin dan menempel ambang yang serupa. Seiring biaya komputasi makin murah, ambang-ambang ini juga akan makin murah. Mungkin kelak kita akan melihat ini kembali sebagai sesuatu yang picik dan berpandangan pendek.