Kekhawatiran SB-1047 Memicu Pelemahan AI Open Source dan Penurunan Keamanan

Kekhawatiran terhadap pengembangan open source

• Definisi yang terlalu luas: Definisi "model yang dicakup" dalam rancangan undang-undang ini sangat luas, sehingga dapat mencakup beragam model open source yang hanya mengandung risiko minimal. Ini dapat secara tidak sengaja mengkriminalisasi aktivitas para pengembang beritikad baik yang mengerjakan proyek AI yang bermanfaat.
• Penggunaan ganda: Model AI adalah perangkat lunak umum yang berjalan di komputer, seperti pengolah kata, kalkulator, dan peramban web. Pembuat model tidak dapat menjamin bahwa model tersebut tidak akan digunakan untuk hal-hal yang merugikan. Hal yang sama juga berlaku bagi pengembang peramban web, kalkulator, dan pengolah kata. Membebankan tanggung jawab kepada pembuat alat serbaguna semacam ini pada praktiknya berarti tak seorang pun selain tim hukum perusahaan besar yang akan mampu membuat alat seperti itu.
• Persyaratan yang membatasi: Rancangan undang-undang ini membebankan beban yang besar kepada pengembang, seperti penghentian wajib, pelaporan yang luas, dan kepatuhan terhadap "pedoman yang dicakup" yang berpotensi ambigu. Persyaratan ini dapat berdampak tidak proporsional pada pengembang open source yang kekurangan sumber daya untuk menavigasi proses regulasi yang kompleks.
• Menghambat keterbukaan: Kekhawatiran terhadap sanksi hukum dan hambatan birokratis dapat membuat pengembangan open source melemah, serta menghambat semangat kolaborasi yang selama ini menjadi pendorong kemajuan AI. Berkurangnya transparansi ini justru dapat membuat identifikasi dan penanganan potensi masalah keselamatan menjadi lebih sulit.

Dampak terhadap UKM dan inovasi

• Hambatan masuk: Biaya besar yang terkait dengan kepatuhan, seperti biaya administrasi, audit, dan nasihat hukum, dapat menjadi hambatan masuk yang signifikan bagi UKM dan startup. Ini membatasi persaingan dan memusatkan kekuasaan pada perusahaan besar yang sudah mapan, yang pada akhirnya menghambat inovasi.
• Efek mendinginkan terhadap riset: Ketakutan akan tanpa sengaja melanggar ketentuan dalam rancangan undang-undang ini dapat mendorong peneliti dan pengembang untuk melakukan swasensor atau menghindari mengeksplorasi bidang riset AI yang menjanjikan. Ini akan menghambat kemajuan ilmiah dan membatasi potensi AI untuk menyelesaikan masalah sosial.
• Brain drain: Lingkungan yang restriktif yang diciptakan oleh rancangan undang-undang ini dapat mendorong peneliti dan pengembang AI berbakat keluar dari negara bagian California, merugikan ekonomi negara bagian tersebut dan melemahkan posisinya sebagai pemimpin inovasi AI.

Pendekatan alternatif

• Mendukung pengembangan open source: Mendorong dan memfasilitasi pengembangan open source model AI demi kolaborasi, transparansi, dan terciptanya ekosistem AI yang lebih beragam dan tangguh.
• Fokus pada penggunaan, bukan pengembangan: Alih-alih mengatur pengembangan model AI, fokuslah pada aplikasi yang menimbulkan risiko tinggi terhadap keselamatan dan keamanan publik. Dengan mengatur penggunaan AI di area berisiko tinggi yang paling berpotensi menimbulkan kerugian, seperti layanan kesehatan, peradilan pidana, dan infrastruktur penting, penggunaan yang merugikan dapat dimintai pertanggungjawaban sambil tetap memungkinkan kemajuan berkelanjutan teknologi AI.
• Mendorong transparansi dan kolaborasi: Melalui kerja sama antara industri, akademisi, dan pemerintah, dorong pengembangan dan adopsi praktik terbaik untuk pengembangan AI yang bertanggung jawab. Ini dapat mencakup penetapan standar industri, pembinaan pengembangan open source, dan investasi dalam riset keamanan AI.
• Berinvestasi pada keahlian AI: Sediakan sumber daya agar lembaga pemerintah dapat mengembangkan keahlian tentang AI dan membangun kapasitas untuk memantau serta menangani potensi risiko secara efektif. Ini akan memungkinkan pendekatan regulasi AI yang lebih terinformasi dan bernuansa, yang menyeimbangkan keselamatan dan inovasi.

Opini GN⁺

• Alih-alih mengatur pengembangan model open source, regulator seharusnya berperan dalam mendorong dan mengawasi pengembangan open source. Open source tidak hanya meningkatkan transparansi dan kolaborasi, tetapi juga menghadirkan beragam perspektif, sehingga justru dapat membantu meningkatkan keselamatan.
• Daripada mengatur model AI itu sendiri, akan lebih efektif untuk mengawasi dan mengatur pemanfaatan AI di bidang berisiko tinggi. Pemanfaatan AI di bidang dengan tingkat risiko tinggi seperti kesehatan, peradilan, dan keselamatan publik memerlukan pedoman dan regulasi yang ketat, tetapi di bidang berisiko rendah, regulasi perlu diterapkan tanpa menghambat kemajuan teknologi AI.
• Rancangan undang-undang ini berisiko membuat California kehilangan posisi terdepannya di bidang AI dengan membebani pengembangan AI secara berlebihan. Perlu dicari pendekatan alternatif yang tidak menghambat inovasi namun tetap dapat meminta pertanggungjawaban atas penggunaan yang merugikan.
• Pemerintah perlu membangun keahlian tentang AI dan meningkatkan pemahamannya terhadap ekosistem AI agar dapat menerapkan kebijakan regulasi yang lebih bijak. Alih-alih sekadar memperketat regulasi, tampaknya diperlukan upaya untuk mengarahkan perkembangan ke jalur yang diinginkan melalui kerja sama antara industri, akademisi, dan lembaga riset.

[GN⁺]

Opini Hacker News

• Pengembang model, sama seperti pengembang web browser, kalkulator, dan pengolah kata, tidak mungkin bisa menjamin sepenuhnya bahwa model tidak akan digunakan untuk tujuan berbahaya. Membebankan tanggung jawab kepada pembuat alat serbaguna seperti ini pada praktiknya hanya memungkinkan tim legal perusahaan besar yang mampu menanganinya.

• Para politikus sedang bersikap keras terhadap AI open source. Soros mengatakan sinergi antara proyek AI korporasi dan pemerintah bisa menjadi ancaman yang lebih besar daripada para diktator era Perang Dingin. Ia mengatakan, "Perpaduan antara rezim otoriter dan perusahaan monopoli TI memberi keunggulan bawaan yang mematikan terhadap masyarakat terbuka."

• Meski tidak disebut dalam blog, pada 7 Februari 2024 RUU SB-1047 diperkenalkan di legislatif negara bagian California. RUU ini bertujuan mengatur pengembangan dan penggunaan model AI canggih, dengan mewajibkan pengembang melakukan evaluasi keselamatan, mematuhi persyaratan keselamatan, melaporkan insiden, dan membentuk badan pengawas baru di bawah departemen teknologi.

• Ada kekhawatiran regulasi seperti ini akan menguntungkan perusahaan AI mapan dan membuat pendatang baru mustahil masuk. Kebijakan perumahan Scott Wiener memang bagus, tetapi RUU ini merupakan campur tangan pemerintah yang berlebihan.

• Hanya hal-hal yang diizinkan pemerintah yang boleh dipelajari, lalu akan muncul departemen baru dan kewenangan untuk menarik biaya, dan tentu saja mempekerjakan konsultan juga akan menjadi kewajiban.

• Dalam jangka panjang, negara bagian mana yang akan menguntungkan startup AI? Sepertinya bukan California. Washington atau Texas tampaknya belum menunjukkan gerakan regulasi dan juga punya kelebihan.

• Definisi 'model yang dikenai aturan' terlalu samar. Operasi Int dan float sangat berbeda dalam jumlah komputasi, sehingga ada ruang penafsiran di pengadilan. Aturan ini tampak ingin membekukan masa depan berdasarkan tolok ukur saat ini tanpa memedulikan perkembangan algoritma.

• Artikel ini terasa seperti konten berkualitas rendah yang dihasilkan LLM. Untuk benar-benar memahami RUU tersebut, lebih baik membaca analisis Zvi.

• Seluruh artikel ini terasa seperti ditulis oleh ChatGPT. Ia hanya menyebut nilai open source secara samar dan bahkan tidak mengutip RUU aslinya.

• Ada pendapat, "Daripada mengatur pengembangan AI, lebih baik atur penggunaannya, terutama di bidang yang berisiko bagi keselamatan publik." Gagasannya adalah mengatur penggunaan AI di bidang berisiko tinggi seperti layanan kesehatan, peradilan pidana, dan infrastruktur kritis agar penggunaan yang merugikan bisa dimintai pertanggungjawaban, sambil tetap membiarkan teknologi AI berkembang. Adakah sanggahan terhadap pandangan ini?