RUU NO FAKES direvisi… ancaman yang lebih serius bagi kebebasan berekspresi di internet dan inovasi
(eff.org)- NO FAKES Act yang diklaim bertujuan mencegah dampak dari replika generatif AI dikritik karena meluas ke arah pembentukan hak kekayaan intelektual baru dan infrastruktur sensor, yang dapat mengerdilkan ekspresi di internet dan inovasi
- Cakupan penerapannya melampaui replika itu sendiri hingga mencakup alat, aplikasi, dan layanan yang dapat membuatnya, sehingga pengembang dan penyedia hosting bisa menghadapi risiko tanggung jawab hanya berdasarkan klaim pemegang hak
- Penyedia layanan tidak hanya diminta menghapus materi atau alat yang diberi pemberitahuan, tetapi juga mencegah pengunggahan ulang, sehingga pada praktiknya bisa dibebani kewajiban penyaringan
- Dengan surat panggilan yang diterbitkan bukan oleh hakim melainkan oleh panitera pengadilan, pihak tertentu dapat meminta informasi identitas pengguna, sehingga ekspresi sah seperti kritik anonim, parodi, dan komentar bisa terintimidasi
- Biaya kepatuhan dan risiko penghapusan dapat membuat layanan rintisan makin sulit menantang Big Tech, serta mengurangi insentif investasi pada pengembangan alat kreasi yang sah
Meluas dari penanganan replika generatif AI menjadi rezim hak yang luas
- NO FAKES Act adalah singkatan dari Nurture Originals, Foster Art and Keep Entertainment Safe Act, yaitu RUU yang berupaya menciptakan hak kekayaan intelektual baru untuk menangani kekhawatiran atas “replika” yang dibuat oleh AI generatif
- EFF mengkritik bahwa sejak rancangan awal, pendekatannya bukanlah perlindungan yang secara terarah menangani ekspresi palsu yang merugikan, melainkan perluasan rezim lisensi citra ke tingkat federal
- Alasannya, pendekatan itu gagal menyeimbangkan kebutuhan untuk melindungi parodi, satire, dan bentuk ekspresi yang sah
- Revisi terbaru makin memperkuat pendekatan ini dengan menuntut infrastruktur sensor baru yang mencakup bukan hanya citra, tetapi juga produk dan layanan yang digunakan untuk membuat citra tersebut
Struktur yang menyasar hingga alat dan layanan
- Versi pertama berfokus pada replika digital, tetapi versi baru memperluas sasaran hingga alat yang dapat membuat citra seseorang yang tidak disetujui oleh individu, pemegang hak, atau hukum
- Pihak yang membuat, memasarkan, atau meng-host alat tersebut juga dapat menjadi subjek tanggung jawab
- Memang ada beberapa pembatasan
- alat itu harus dirancang dengan tujuan utama membuat citra yang tidak disetujui, atau
- penggunaan komersialnya di luar pembuatan citra tak disetujui harus terbatas
- Namun, hanya dengan tuduhan sederhana pun pengembang bisa dijadikan target, sehingga EFF menilai pembatasan ini sulit menjadi perlindungan yang memadai
- Ketentuan ini dikritik karena dapat memberi pemegang hak hak veto atas inovasi yang selama ini mereka inginkan dalam perdebatan hak cipta
Pemberitahuan penghapusan dan kewajiban filter
- NO FAKES sebelumnya menciptakan mekanisme notice-and-takedown yang mirip DMCA, dan EFF menilai bahkan mekanisme itu pun memiliki lebih sedikit perlindungan
- Revisi terbaru menyasar lebih banyak penyedia layanan, dan bukan hanya menuntut penurunan materi atau alat, tetapi juga pencegahan pengunggahan ulang di kemudian hari
- Akibatnya, terbentuk struktur di mana penyedia dapat kehilangan kekebalan tanggung jawab jika tidak menerapkan filter secara luas
- Filter hak cipta sendiri sudah menimbulkan banyak masalah
- Pada awalnya, filter seharusnya hanya menandai unggahan untuk ditinjau manusia bila tampak seperti salinan utuh dari suatu karya
- Dalam praktiknya, konten yang mirip tetapi tidak identik juga bisa ditandai, seperti ketika orang berbeda memainkan musik domain publik yang sama
- Ada juga kasus ketika kecocokan beberapa detik saja ditandai sebagai pelanggaran
- Dalam sejumlah kasus, filter juga gagal mempertimbangkan konteks yang sebenarnya dapat dibenarkan secara hukum
- Saat ini filter hak cipta bukan kewajiban hukum, tetapi NO FAKES bisa mengubah kewajiban filter semacam itu menjadi hukum
- RUU ini memang memiliki pengecualian untuk parodi, satire, dan komentar, tetapi bagi orang yang tidak mampu menanggung biaya gugatan, perlindungan itu sulit efektif secara nyata
Ketentuan surat panggilan yang mengancam ekspresi anonim
- Naskah saat ini memungkinkan siapa pun memperoleh surat panggilan bukan dari hakim, melainkan dari panitera pengadilan, untuk memaksa layanan menyerahkan informasi identitas pengguna
- EFF menunjukkan bahwa prosedur ini tidak mensyaratkan bentuk pembuktian apa pun
- Mekanisme serupa sudah pernah disalahgunakan dalam perkara hak cipta
- Orang yang tidak nyaman dengan kritik menggunakan surat panggilan untuk membungkam pengkritiknya
- Kritik itu sendiri sering kali memuat pernyataan penggugat sebagai dasar, yang justru dapat menjadi contoh khas fair use
- Meski begitu, surat panggilan tetap diterbitkan, dan jika layanan tidak merespons dengan sangat agresif, identitas pengguna bisa terbongkar
- Terbukanya identitas dapat mengintimidasi ekspresi selanjutnya dan menimbulkan kerugian reputasi maupun kehidupan pribadi bagi pengguna
Beban terhadap inovasi dan persaingan
- EFF menilai banyak orang tidak puas dengan kondisi Big Tech saat ini, merasa makin dipaksa memakai perusahaan teknologi raksasa, sementara kualitas layanan juga memburuk
- NO FAKES dapat sangat meningkatkan infrastruktur yang dibutuhkan layanan baru untuk mematuhi hukum, sehingga layanan baru makin sulit menantang Big Tech
- EFF menilai bukan kebetulan jika sebagian perusahaan besar bersikap positif terhadap versi baru NO FAKES
- Tuntutan penghapusan alat, aplikasi, dan layanan juga bisa menghambat inovasi
- Hal ini dapat merugikan orang yang menggunakan layanan tersebut untuk kreasi yang sah
- Insentif investasi akan menurun untuk alat atau layanan yang bisa dibuat offline hanya berdasarkan tuduhan sederhana
- EFF menunjukkan bahwa beberapa bulan lalu Kongres meloloskan Take It Down, yang berfokus pada citra yang memuat konten intim atau seksual
- Menurut EFF, undang-undang itu juga bermasalah karena menekan platform untuk secara aktif memantau ekspresi online, termasuk ekspresi yang saat ini terenkripsi
- Jika Kongres benar-benar khawatir terhadap dampak privasi, mereka seharusnya menunggu efektivitas regulasi yang baru saja diberlakukan sebelum bergerak ke regulasi internet tambahan
- EFF mengkritik NO FAKES sebagai RUU yang bukan melindungi korban replika digital yang merugikan, melainkan memusatkan kontrol atas penggunaan komersial citra digital
2 komentar
Saya sampai harus mencari-cari lama karena meski sudah dibaca tetap tidak paham maksudnya
https://www.govtrack.us/congress/bills/119/hr2794
https://www.govtrack.us/congress/bills/119/s1367
Sepertinya kemungkinan rancangan undang-undang yang telah direvisi ini untuk diberlakukan cuma 5%
Ini benar-benar tidak masuk akal
Opini Hacker News
Versi baru NO FAKES tampaknya dirancang agar hampir semua operator gerbang internet, begitu menerima pemberitahuan, harus menurunkan ucapan, terus mencegah unggahan ulang, menerapkan filter replika yang pasti berlebihan di atas filter hak cipta yang sudah sangat cacat, menurunkan dan memfilter bahkan alat yang mungkin digunakan untuk membuat gambar, serta mengungkap identitas pengunggah hanya berdasarkan klaim seseorang bahwa dirinya “direplikasi”
Ini terasa seperti sistem yang tidak bisa diimplementasikan perusahaan kecil, dan tidak akan diimplementasikan dengan cermat oleh perusahaan besar
Karena regulatory capture semacam ini, perusahaan yang awalnya membenci regulasi saat masih melakukan “inovasi disruptif” cenderung berbalik mendukung regulasi setelah mencapai skala dan pendapatan tertentu
Namun ini terlihat jauh lebih buruk dari itu. Ini infrastruktur buku teks untuk tirani
Strukturnya menekan ucapan orang-orang yang menentang rezim, merampas pengeras suara dan mesin cetak mereka, menuntut agar penentang diidentifikasi dan diserahkan kepada rezim, serta menanamkan rasa takut akan sanksi pada siapa pun yang bisa dianggap rezim membantu penentang, baik lewat tindakan maupun pembiaran
Rasanya EFF sudah lama berhenti peduli pada isu-isu besar kebebasan internet, dan kini hanya berbaris dengan judul-judul ala Big Tech Bad
Setelah puluhan tahun Big Tech tetap menjadi pengelola informasi sosial yang cukup moderat, sementara teman-teman MAGA berusia 20-an yang tidak diawasi memasukkan seluruh pemerintah federal ke MacBook mereka, sikap seperti ini terlihat sangat tidak peka situasi
Kiamat privasi teknologi sudah tiba, tetapi EFF masih menggerutu soal Meta dan ByteDance demi aliran klik. Seperti semua orang lain di internet, tampaknya itulah yang sebenarnya mereka pedulikan
Jika ini terjadi 15 tahun lalu, mungkin terdengar mustahil, tetapi sekarang rasanya seperti menendang kuda yang sudah mati
Secara pribadi, saya merasa dunia makin lama makin berjuang untuk bertahan hidup sekaligus semakin mendekati sikap “aku sudah aman, urusanmu bukan urusanku”
Sekarang itu akan dipakai terhadap kaum kiri sendiri, dan juga terhadap para pembangkang sayap kanan yang menentang narasi dongeng tatanan yang ada
Sepertinya semua ini berasumsi bahwa media semacam itu dibagikan lewat media sosial
Rumusan hukum ini tampak tidak berarti di dalam komunitas privat. Mungkin ini justru hal yang kita inginkan tetapi belum terwujud: akhir dari media sosial
Solusinya adalah menuntut pemerintah memaksa perusahaan media sosial menerapkan koefisien friksi algoritmik
Namun insentif ekonomi terkait menghilangkan kemauan politik untuk menciptakan perubahan seperti itu
Kelas penguasa diuntungkan oleh kebingungan, perpecahan, dan kekacauan yang disebarkan media sosial dalam bentuknya saat ini. Mereka cukup menyukai keadaan yang ada
Dalam riset terkait, Aral & Eckles (MIT, 2019) mengatakan bahwa penerapan friksi mengurangi penyebaran misinformasi tanpa membatasi kebebasan berekspresi; studi Mozilla dan Stanford (2020–2022) melihat bahwa friksi seperti dorongan untuk membatalkan berbagi dapat mengurangi viralitas berita palsu hingga 50%; dan dalam eksperimen Twitter pada 2021, ketika panduan pengecekan fakta ditampilkan sebelum memposting, pengguna mengedit atau menghapus tweet mereka dalam 25% kasus
Kenapa tidak sekalian melarang kebohongan dan membuat Kementerian Kebenaran saja
Upaya mengatur kebohongan hanyalah kemasan untuk mendorong narasi yang menguntungkan pandangan politik tertentu
Untuk isu ini, saya mungkin sama sekali tidak setuju dengan penulis. Ia membuat beberapa klaim yang cukup berani, termasuk membandingkannya dengan DMCA, tetapi tampaknya tidak banyak bukti
Sanggahan: https://www.recordingacademy.com/advocacy/news/no-fakes-act-...
Saya sendiri bisa dengan mudah tertipu oleh tulisan blog seperti ini
Semua gambar harus dilewatkan melalui filter replika, tetapi AI membuatnya terlalu mudah untuk menghasilkan gambar yang sangat berbeda hanya dengan satu prompt. Maka sekarang dibutuhkan AI yang menyimpulkan “makna” gambar
Secara keseluruhan, ini terdengar seperti kabar sangat baik bagi produsen chip dan pembangkit listrik
Saya benar-benar butuh penjelasan bahasa Inggris sederhana tentang apa sebenarnya yang dilakukan undang-undang ini, tanpa lobi atau alarmisme bergaya agitasi
Apakah undang-undang ini berarti perusahaan memasang watermark pada konten mereka agar perusahaan lain tidak bisa membuat konten turunan berdasarkan konten itu? Tepatnya bagaimana cara kerjanya?
Tampaknya ini semacam DMCA untuk gambar, alat, dan karya turunan, termasuk semua log yang diperlukan untuk melacak pembuat, alat, dan penerbit
Namun seperti saya bilang, saya hanya membacanya sekilas
Hukum ini memungkinkan siapa pun mengajukan keluhan atas konten apa pun yang di-host di mana pun, tanpa bukti; membebankan beban hukum kepada orang yang meng-host konten itu untuk membuktikan fakta negatif, yaitu bahwa konten tersebut bukan “palsu”; dan menetapkan tuntutan hukum untuk menghapus konten segera setelah secara teknis memungkinkan, yang pada praktiknya berarti segera
Jadi, seperti DMCA, ini dapat disalahgunakan, tetapi cakupan tuntutannya lebih luas dan pembuktian pembenarannya nyaris mustahil. Sebab hukum ini menciptakan kategori baru kepemilikan hukum atas konten yang didefinisikan secara kabur
Ringkasnya, ini alasan yang sangat bagus untuk memindahkan hosting ke luar AS
Tennessee akan memberlakukan beberapa undang-undang AI generatif pada 1 Juli, dan menariknya, entah karena legislaturnya salah memahami istilah, larangan menyeluruh ini begitu luas sehingga pada praktiknya bahkan melarang kepemilikan GPU
Situasinya seperti, “Hei, punya lisensi untuk tensor core itu?”
Tapi setidaknya syukurlah mereka juga semakin melarang mariyuana secara nasional melampaui cakupan yang diizinkan Federal 2018 Farm Bill /s
Gubernur bijak dari negara bagian tetangga Texas memveto rancangan undang-undang serupa karena inkonstitusionalitas dan kemungkinan tantangan hukum