- European Ombudsman menilai tindakan European Commission yang menyembunyikan keberadaan daftar perusahaan yang menerima konsultasi teknis saat menjawab permintaan dokumen terkait rancangan regulasi CSAM sebagai “maladministration”
- Daftar tersebut merupakan daftar pihak yang dimintai konsultasi terkait apakah CSAM dapat dideteksi tanpa merusak enkripsi, dan dinilai jelas termasuk dalam cakupan permintaan dokumen ICCL
- Para teknolog kepentingan publik dan lebih dari 450 akademisi memperingatkan bahwa teknologi untuk mendeteksi CSAM dalam konten terenkripsi saat ini belum matang dan tidak akan matang dalam 2–5 tahun ke depan
- Rancangan regulasi CSAM dikritik karena berpotensi menimbulkan pengawasan massal, melemahkan enkripsi, serta bertentangan dengan larangan pengawasan komunikasi yang umum dan tanpa pandang bulu menurut hukum Uni Eropa
- Karena daftar tersebut tidak diidentifikasi, pemohon tidak mendapat kesempatan untuk menggugat alasan tidak dibukanya dokumen, sehingga masalah transparansi dalam pembahasan regulasi menjadi semakin besar
Keputusan Ombudsman dan Daftar Konsultasi yang Disembunyikan
- Saat menanggapi permintaan dokumen terkait proses pengambilan keputusan untuk usulan regulasi CSAM, European Commission tidak mengungkap daftar perusahaan yang dimintai konsultasi tentang apakah CSAM dapat dideteksi tanpa merusak enkripsi
- European Ombudsman menilai daftar ini “clearly fell within the scope” dari permintaan Irish Council for Civil Liberties
- Commission mengakui kepada EU Ombudsman bahwa mereka memang memiliki daftar pakar tersebut, tetapi tidak memberi tahu Dr Kris Shrishak tentang keberadaannya
- Karena daftar tersebut tidak diidentifikasi sebagai dokumen yang diminta, pemohon tidak memiliki kesempatan untuk menantang alasan tidak dibukanya dokumen itu sendiri
- Putusan Ombudsman dapat dilihat di sini
Kontroversi Utama Seputar Teknologi Deteksi CSAM
- Isu paling sensitif dalam negosiasi regulasi CSAM adalah apakah teknologi untuk mendeteksi materi pelecehan seksual anak di dalam komunikasi terenkripsi end-to-end benar-benar memungkinkan
- Banyak pakar memperingatkan bahwa teknologi seperti ini belum berada pada tingkat yang layak diterapkan
- Para teknolog kepentingan publik dan lebih dari 450 akademisi secara terbuka memperingatkan bahwa “teknologi untuk mendeteksi CSAM dalam konten terenkripsi saat ini belum matang, dan tidak akan matang dalam 2–5 tahun ke depan”
- Posisi ini sangat kontras dengan pandangan para pakar yang dijadikan rujukan oleh Commission, tetapi Commission tidak mengungkap nama para pakar tersebut
- Pada Desember 2022, ICCL mengajukan keluhan kepada European Ombudsman karena Commission menolak memberikan daftar pakar yang membantu penyusunan dokumen terkait solusi yang memungkinkan deteksi CSAM dalam komunikasi terenkripsi end-to-end
- Selain kekhawatiran atas pengawasan massal dan pelemahan enkripsi, rancangan regulasi CSAM juga dapat bertentangan dengan hukum Uni Eropa yang berlaku, yang melarang pengawasan komunikasi orang secara umum dan tanpa pandang bulu
- Kekhawatiran ini telah disampaikan oleh berbagai lembaga, termasuk layanan hukum European Council sendiri, European Parliamentary Research Service, United Nations High Commissioner for Human Rights, serta European Data Protection Board and Supervisor
1 komentar
Komentar Hacker News
Saya tidak tahu apakah teori kerugian ketika materi eksploitasi seksual anak (CSAM) beredar dalam komunikasi pribadi pernah benar-benar ditelaah
Sulit melihat kerugian nyata apa yang ditimbulkan pada anak-anak hanya karena byte disalin secara diam-diam
Membuat pornografi anak secara sengaja jelas salah, tetapi itu sudah ilegal, dan orang-orang seperti itu biasanya keamanan informasinya sangat buruk sampai-sampai menggelikan
Jika melihat kasus-kasus “studio” produksi CSAM nyata yang tertangkap, kemungkinannya penegakan hukum terlalu tidak kompeten sehingga penjahat yang sedikit saja pintar pun bisa menghindar, atau para penjahat itu ternyata tidak seterampil yang dibayangkan secara teknis
Apa pun itu, alat untuk menangkap pelaku kejahatan seksual anak yang sebenarnya tampaknya efektif dan memadai
Cukup masuk akal bahwa pembuatan dan distribusi konten pelecehan anak asli memberi penghargaan sosial kepada pedofil, dan akibatnya mendorong mereka untuk melanjutkan atau memperluas tindakan tersebut
Itu juga bisa menjadi dasar sistem “reputasi” yang merekatkan komunitas pelaku pelecehan anak online
Di forum otomotif, orang yang pertama melakukan modifikasi tertentu bisa terlihat keren; demikian pula di komunitas seperti itu, orang yang baru melecehkan anak yang belum pernah terlihat sebelumnya, atau melecehkannya dengan cara baru dan kreatif, bisa menjadi orang yang “keren”
Secara terpisah, fakta bahwa kita menangkap penjahat dengan keamanan informasi yang sangat buruk tidak berarti tidak ada penjahat dengan keamanan operasional (OPSEC) yang sangat baik dan berhasil bersembunyi
Jangan terseret oleh pengalihan isu dan poin yang sengaja ditanam; percakapan harus tetap dipusatkan pada isu privasi dasar, dan seluruh argumen yang umum dipakai seperti CSAM, pelanggaran hak cipta, dan terorisme harus dihindari
Jika saya dilecehkan saat masih anak-anak, saya tidak ingin gambar itu terus beredar dan dilihat orang
Ini mirip dengan undang-undang revenge porn, dan saya ingin memiliki kendali atas gambar telanjang saya
Meski begitu, saya tidak setuju dengan hukum seperti ini
Dampak buruknya lebih besar daripada manfaatnya
Selain itu, ke depan AI CSAM kemungkinan akan lebih menarik dan memuaskan bagi orang-orang yang menginginkannya, dan itu memunculkan diskusi yang sepenuhnya terpisah
Yang digunakan adalah hash/fingerprint dari materi lama yang sudah diidentifikasi oleh lembaga penegak hukum
Materi “baru” belum akan memiliki fingerprint
Secara definisi, mereka adalah orang-orang yang melakukan kesalahan di suatu tempat, entah dalam keamanan informasi atau hal lain
Saya sarankan membaca teks lengkap keputusan Ombudsman: https://www.ombudsman.europa.eu/en/decision/en/176658
Ini menunjukkan betapa mutlaknya semua ini sebagai kekacauan birokrasi
Pemerintahan negara biasa saja sudah berlebihan, tetapi dengan sedikit campuran nasionalisme dan tribalisme entah bagaimana masih bisa bertahan; UE sudah terlalu melewati batas, sehingga pada akhirnya orang-orang akan memberontak atau mereka yang punya akal akan pergi
Sayangnya hal semacam ini bukan hal baru
Pemerintah di seluruh dunia berusaha menghindari pengawasan publik terhadap apa yang mereka lakukan
Saya teringat Kemitraan Trans-Pasifik (TPP) sekitar 8 tahun lalu
Hanya segelintir orang yang bisa melihat teks perjanjian itu [1], sementara wakil rakyat harus meratifikasi isi yang bahkan tidak bisa dilihat oleh konstituen mereka sendiri
Wikileaks dan lainnya membocorkan drafnya, dan seperti yang diperkirakan orang-orang, isinya buruk
Para pendukungnya mengatakan negosiasi perdagangan harus dilakukan secara rahasia agar posisi tawar tidak melemah
Itu sebenarnya berarti “kami tidak ingin memberi publik kesempatan untuk menentang”
Kini UE juga mencari pembenaran konyol untuk bekerja dalam bayang-bayang
[1]: https://www.npr.org/sections/itsallpolitics/2015/05/14/40667...
Agar sistem ini bekerja, basis data CSAM harus dikelola berdasarkan konsensus para pesaing geopolitik
Artinya Russia dan China juga harus disertakan
Dengan begitu, bisa dijamin bahwa pemerintah Western tidak akan menyalahgunakan akses untuk mengawasi kelompok oposisi di masa depan
Sejak awal mustahil percaya bahwa NCMEC tidak akan dibobol
Jika ada sistem di mana polisi Chinese, Russian, American, British, dan sebagainya sepakat bahwa basis data itu hanya berisi CSAM, saya bisa mempercayainya
Kejahatan yang dilakukan terhadap sebagian populasi tidak membenarkan keributan sebesar ini
Anak-anak yang dibunuh pun tidak mendapat perhatian sebesar ini
Masalah ini tidak akan mempersatukan para pesaing internasional, bahkan lebih kecil kemungkinannya daripada asteroid yang meluncur ke Bumi
Karena ini masalah yang hanya dipedulikan dunia Barat, ia mudah dipersenjatai terhadap siapa pun di luar Barat
Alih-alih memasang backdoor di semua perangkat di Bumi, solusi yang lebih realistis mungkin adalah merampas ponsel anak-anak dan mengikat mereka ke radiator
Maksudnya, jika ingin melindungi anak-anak dari CSAM, kurung saja mereka
Kita mungkin tidak mau mengakuinya, tetapi harus melihat kenyataan
Dari sudut pandang negara, anak-anak adalah properti
Seperti aset lain, ternak, atau senjata api, anak-anak bisa “diambil” dari Anda dan “diberikan” kepada orang lain, dan dalam proses itu ada dividen yang muncul
Jika dipikirkan, ini juga menjelaskan tindakan perdagangan manusia itu sendiri
Anda tidak membiarkan pintu semua rumah lain terbuka demi melindungi rumah Anda sendiri
“Solusi” semacam itu menjadikan Anda ancaman sosial yang nyata
Bukankah lebih baik berargumen agar seluruh sistem itu tidak dibuat sama sekali?
Apakah ini memenuhi kriteria?
Pada bagian “usulan perbaikan”, disebutkan bahwa karena Komisi gagal mengidentifikasi daftar pakar meski complainant jelas menaruh perhatian pada hal itu, daftar tersebut harus didaftarkan sebagai permintaan baru untuk akses publik ke dokumen dan diproses sesuai Regulation 1049/2001
Saya tahu Ombudsman tidak punya kewenangan nyata dan hanya bisa memberi rekomendasi, tetapi rasanya mungkin saja menambahkan kalimat seperti “orang-orang yang menolak permintaan pertama seharusnya didenda, dipecat, atau dipenjara”
Pola “abaikan hukum sampai seseorang melewati rintangan besar untuk mengajukan keluhan bahwa kita mengabaikan hukum, lalu barulah patuhi hukum” tidak baik untuk demokrasi
Di New Zealand dan Australia, bukankah menyimpan, menonton, atau memposting video penembakan New Zealand itu ilegal?
Masukkan saja hash-nya ke daftar itu
Dengan logika bengkok yang sama seperti yang dipakai dalam penalaran ala perang salib ini, bukankah itu seharusnya berlaku juga untuk video orang dibunuh, bukan hanya pemerkosaan?
Atau apakah ada keanehan puritan yang khas, yang hanya untuk CSAM membuat negara boleh begitu saja meretas semua perangkat kita?
Jika Auschwitz ditutup aspal, dan membicarakannya menjadi ilegal?
Daftar pakar rahasia itu sekarang sudah dipublikasikan
https://news.ycombinator.com/item?id=38205743#38205787
https://netzpolitik.org/2023/geheime-liste-wie-der-sicherhei...
Yang lebih mengusik daripada fakta bahwa penyembunyian “daftar pakar” rahasia terkait regulasi CSAM Uni Eropa dinilai sebagai maladministrasi adalah betapa sedikitnya lembaga dan perusahaan Eropa dalam daftar ini
Para perwakilan Komisi mengatakan banyak perusahaan yang berpartisipasi dalam EUIF memiliki kekhawatiran soal keamanan dan citra publik
Mereka juga mengatakan topik yang dibahas di EUIF sering kali sensitif dan bersifat operasional, sehingga jika dibuka dapat disalahgunakan oleh pelaku jahat untuk mengakali mekanisme deteksi dan upaya koordinasi perusahaan
Mereka juga mengatakan mengungkap strategi dan taktik perusahaan, serta pendekatan teknis yang spesifik, berisiko memberi tahu penjahat cara menghindari deteksi
Namun jika tujuan perusahaan adalah mendorong agar alat penyadap rahasia disisipkan ke semua perangkat dan aplikasi pesan, maka memang wajar mereka harus mengkhawatirkan citra publik
Mereka juga harus mengkhawatirkan hak asasi manusia dan kompas moral pribadi mereka
Sudah waktunya menyeret orang-orang ini ke tempat terang
Yang terjadi di sini adalah Uni Eropa tidak ingin terlihat seolah-olah berkonsultasi dengan orang-orang seperti itu, sehingga mereka mengarang alasan sembarang untuk menyembunyikannya
Mereka menjadikan anak-anak sebagai senjata politik untuk membuat warga menerima apa pun
Siapa pun yang menentang pengawasan total mereka dicap mendukung penjahat keji, sehingga reputasinya dicemplungkan ke lumpur
https://news.ycombinator.com/item?id=38205743#38205787