- RUU pemindaian CSAM Uni Eropa dapat membuat layanan pesan memeriksa komunikasi pengguna secara otomatis, sehingga isu ini meluas dari sekadar langkah perlindungan anak menjadi persoalan yang mengubah batas hak-hak dasar dalam masyarakat demokratis
- RUU ini dapat menuntut deteksi CSAM yang sudah dikenal maupun belum dikenal, serta deteksi grooming secara real-time; para kritikus khawatir komunikasi pribadi semua pengguna akan masuk ke dalam jaringan pengawasan tanpa target
- Persoalan hukumnya tidak berhenti pada proporsionalitas, tetapi berlanjut ke apakah hakikat hak-hak dasar dilanggar; Frederik Borgesius menilai akses skala besar ke isi komunikasi dapat merusak hakikat hak privasi
- Deteksi AI dan pemindaian sisi klien belum siap untuk diterapkan secara luas, dan karena kemungkinan salah deteksi, penghindaran, serta manipulasi, dapat menimbulkan kerugian yang tidak disengaja bagi anak-anak maupun orang dewasa
- Perlindungan enkripsi ujung-ke-ujung, penyelidikan bertarget, crawling materi web publik, pencegahan, dukungan korban, dan penguatan kerja sama penegakan hukum disebut sebagai alternatif; legislator UE berada dalam situasi harus menulis ulang secara mendasar ketentuan perintah deteksi
Isu utama dalam proposal pemindaian CSAM UE
- RUU pemindaian CSAM yang sedang dibahas di Eropa dapat mewajibkan layanan pesan memeriksa isi komunikasi pengguna
- Cakupannya mencakup CSAM yang sudah dikenal, CSAM yang belum dikenal, hingga deteksi grooming secara real-time
- Pada aplikasi yang menerima perintah deteksi, komunikasi semua pengguna dapat dipantau secara otomatis dan tanpa target
- Dalam seminar yang diselenggarakan European Data Protection Supervisor, lebih dari 20 pembicara menentang proposal ini
- Seminar berlangsung sekitar 3 jam
- Ylva Johansson dari European Commission diundang tetapi tidak hadir, dan tidak ada peserta lain dari pihak Commission
- Commission selama ini menyatakan proposal tersebut sebagai respons yang proporsional dan bertarget terhadap masalah yang semakin membesar
- Baru-baru ini juga disorot adanya indikasi penggunaan iklan microtargeting untuk mempromosikan rencana ini
- Di UE juga sedang berjalan rancangan legislasi terpisah untuk membatasi penggunaan microtargeting politik
Titik balik privasi yang diperingatkan EDPS
- Wojciech Wiewiórowski dari EDPS memperingatkan bahwa jika undang-undang yang mewajibkan pengawasan massal sistematis atas pesan pribadi disahkan, UE dapat mencapai titik tanpa jalan kembali
- Proposal ini bukan hanya soal “perlindungan anak”, melainkan perkara yang mengguncang fondasi berfungsinya privasi dalam masyarakat demokratis
- Jika disahkan tanpa perubahan, proposal ini dapat mengubah secara mendasar sifat internet dan komunikasi digital
- EDPS dan European Data Protection Board telah menyatakan dalam opini bersama setahun lalu bahwa rancangan legislasi ini menimbulkan kekhawatiran serius terkait perlindungan data dan privasi, termasuk enkripsi
Proporsionalitas hukum dan persoalan hakikat hak dasar
- Commission mempresentasikan draf RUU CSAM pada Mei 2022, dan sejak itu penolakan terkait dampak terhadap HAM dan legalitasnya semakin besar
- Hukum UE mensyaratkan bahwa pembatasan hak-hak dasar seperti privasi dan kebebasan berekspresi harus diperlukan dan proporsional
- Pemberlakuan kewajiban pemantauan konten umum kepada platform online dilarang
- Undang-undang yang sejak desainnya menjadikan pesan ratusan juta warga Eropa sebagai objek pengawasan dapat berbenturan dengan prinsip ini
- Frederik Borgesius dari Radboud University menilai proposal ini bukan cara yang proporsional untuk membatasi hak-hak dasar
- Ia membandingkannya dengan perkara penyimpanan data terkait terorisme, dan menunjukkan bahwa pengadilan tertinggi UE berulang kali membatalkan penyimpanan metadata warga Eropa secara umum dan tanpa diskriminasi
- Proposal kali ini menimbulkan masalah yang lebih kuat karena menyangkut analisis isi komunikasi, bukan metadata
- Borgesius menilai dari perspektif Piagam Hak-Hak Dasar UE, jika hakikat hak dasar dilanggar, hal itu dapat menjadi ilegal bahkan tanpa uji proporsionalitas
- Jika otoritas dapat mengakses isi komunikasi dalam skala besar, hal itu terkait dengan pelanggaran hakikat hak privasi
Tujuan perlindungan anak dan kemungkinan kerugian nyata
- Beberapa pembicara mengkritik bahwa proposal ini tidak sesuai dengan masalah sosial kompleks berupa pelecehan seksual anak
- Sebagian besar gambar seksual terkait anak di bawah umur yang dibagikan secara online dapat berasal dari sexting di antara anak di bawah umur yang saling setuju
- Dalam kasus seperti ini, RUU dapat berakibat menyelidiki atau mengkriminalisasi anak-anak yang sedang mengeksplorasi identitas seksual mereka sendiri
- Apakah sesuatu merupakan CSAM sulit ditentukan hanya dari gambar itu sendiri; konteks penting
- Arda Gerkens dari Belanda menilai pemindaian komunikasi pribadi memang dapat menangkap situasi bermasalah, tetapi bukan solusi untuk menangani pelecehan seksual anak
- Ia mendukung pemindaian yang sempit terhadap CSAM yang sudah dikenal di situs web hosting gambar untuk mencegah penyebaran
- Namun ia memandangnya sebagai tujuan pencegahan penyebaran, bukan penuntutan
- Gerkens menunjukkan bahwa proposal Commission terlalu berfokus pada komunikasi pribadi dan penuntutan lanjutan dibanding situs web hosting gambar
- Volume gambar dapat membanjiri sistem yang ada dan memberi tekanan lebih besar pada sistem penegakan hukum yang rapuh
- Kerja sama antarnegara UE dan penguatan sistem penegakan hukum dapat menjadi tempat investasi yang lebih baik
Enkripsi ujung-ke-ujung dan pendekatan berfokus pencegahan
- Susan Landau dari Tufts University menilai proposal Commission gagal membedakan berbagai jenis pelecehan dan eksploitasi seksual anak yang terjadi di internet
- Pendekatan yang berpusat pada penyelidikan dan penuntutan dapat menghadapi batasan dalam banyak kasus
- Dalam mayoritas besar kasus prostitusi berbasis internet, pelaku adalah orang dekat korban, dan korban mungkin tidak ingin melapor
- Yang dibutuhkan adalah ruang yang membuat anak aman, ruang komunitas, pendidikan keselamatan online, pendidikan keamanan, dan desain yang aman
- Landau menilai ada banyak metode untuk mencegah dan menyelidiki pelecehan seksual anak yang tidak terpengaruh oleh enkripsi ujung-ke-ujung
- Enkripsi ujung-ke-ujung adalah teknologi yang melindungi anak-anak maupun orang dewasa
- Helen Charles dari WhatsApp menilai platform pesan milik Meta mendukung tujuan menangani pelecehan seksual anak, tetapi pendekatan Commission tidak cocok dengan masalahnya dan dapat menimbulkan konsekuensi besar yang tidak disengaja bagi pengguna web dari segala usia
- Pemindaian konten pesan terenkripsi ujung-ke-ujung melemahkan hak-hak dasar
- Diperlukan ketentuan yang masuk akal dan proporsional agar layanan dapat menangani CSAM tanpa mengakses isi pesan
- Charles mengusulkan agar di bawah ePrivacy Directive UE, platform dapat lebih banyak menggunakan data traffic, yakni metadata, untuk tujuan pencegahan
- Pengecualian ePrivacy sementara saat ini hanya mencakup deteksi, pelaporan, dan penghapusan CSAM pada pesan yang tidak terenkripsi ujung-ke-ujung, dan tidak mencakup pencegahan
- Meta menyatakan bahwa di tempat yang legal, mereka menggunakan teknik termasuk data traffic untuk mengidentifikasi perilaku bermasalah
Keterbatasan teknis deteksi AI dan pemindaian sisi klien
- Jaap-Henk Hoepman dari Karlstad University menunjukkan bahwa teknologi deteksi CSAM bersifat proprietari, sehingga klaim akurasinya sulit diverifikasi secara independen
- PhotoDNA dari Microsoft dan NeuralHash dari Apple bukan algoritme yang terbuka dan dapat diteliti
- Karena itu, publik harus bergantung pada angka efektivitas yang diberikan perusahaan
- Hoepman mengatakan penelitian yang melakukan reverse engineering terhadap PhotoDNA mengungkap kelemahan mendasar
- Disebutkan bukti bahwa deteksi atas sidik jari CSAM yang sudah dikenal dapat dengan mudah dihindari dengan memutar atau membalik gambar secara horizontal
- Penyerang dapat memanipulasi gambar yang tampak tidak berbahaya agar terdeteksi sebagai CSAM, sehingga menjebak orang tidak bersalah atau membanjiri sistem deteksi
- Alexander Hanff memperingatkan bahwa dalam situasi puluhan miliar komunikasi dipindai setiap hari, tingkat kesalahan 0,1% saja dapat menghasilkan jutaan false positive atau false negative setiap hari
- Claudia Peersman dari University of Bristol memperkenalkan hasil evaluasi Rephrain Centre
- Lima proyek proof-of-concept pemindaian CSAM dalam lingkungan E2EE yang dikembangkan dengan dukungan pemerintah Inggris tidak memenuhi kriteria evaluasi
- Ia tidak menentang pengembangan alat perlindungan anak online berbantuan AI itu sendiri, tetapi menilai alat tersebut belum siap diterapkan secara luas pada pesan pribadi dalam lingkungan enkripsi ujung-ke-ujung
- Matthew Green dari Johns Hopkins University mengatakan penelitian tentang pemindaian sisi klien masih berada pada tahap sangat awal
- Makalah ilmu komputer pertama tentang topik ini muncul pada 2021, dan belum sampai 2 tahun kemudian sudah dibahas RUU untuk mewajibkannya
- Para peneliti terus menemukan cara merusak sistem ini, yang dapat mengakibatkan pelanggaran kerahasiaan pengguna, false positive, dan injeksi data buruk
- Diperlukan waktu untuk meneliti apakah sistem ini dapat diimplementasikan dengan aman
Legislasi yang mengabaikan hak dan pandangan anak
- Beberapa pembicara mengkritik bahwa legislator tidak cukup menangani pandangan dan hak anak
- Gerkens menilai para pembuat undang-undang menghakimi apa yang dilakukan anak-anak secara online, tetapi justru tidak melibatkan anak-anak dalam proses legislasi
- Sabine Witting dari Leiden University menilai proposal ini berdampak negatif pada privasi anak, perlindungan data pribadi, kebebasan berekspresi, dan hak akses informasi
- General Comment No. 25 dari UN Committee on the Rights of the Child memandang privasi sebagai hal yang esensial bagi keselamatan anak
- Privasi bukan hambatan bagi keselamatan anak, melainkan prasyarat penting
- Witting menilai jika pesan pribadi antar remaja terjaring pemindaian CSAM, proses penyelidikan itu sendiri dapat merugikan
- Terutama bagi remaja dari komunitas termarginalkan seperti anak LGBTQ+, hal ini dapat berujung pada pengungkapan palsu, marginalisasi lebih lanjut, dan dalam skenario terburuk, persekusi politik
- Pemindaian komunikasi pribadi, peninjauan tambahan oleh sektor swasta dan pemerintah, serta keterlibatan lembaga penegak hukum merupakan pelanggaran serius atas hak privasi anak
- Ella Jakubowska dari EDRi menyebut survei representatif terhadap remaja usia 13–17 tahun di 13 negara anggota UE
- Jika otoritas dapat memantau komunikasi digital untuk tujuan pemindaian CSAM, 80% menjawab mereka tidak akan merasa nyaman melakukan aktivitas politik atau eksplorasi seksual
Pengawasan digital tanpa surat perintah dan kekhawatiran perluasan misi
- Iverna McGowan dari Center for Democracy and Technology menilai perintah deteksi setara dengan penggeledahan tanpa surat perintah terhadap dunia digital
- Sikapnya: sebagaimana kita tidak menerima aparat penegak hukum masuk ke rumah atau ruang pribadi untuk menggeledah semuanya tanpa surat perintah atau kecurigaan yang masuk akal, hal yang sama juga tidak boleh diizinkan di ruang online
- McGowan menilai ketentuan perintah deteksi harus ditulis ulang secara mendasar
- Harus cukup presisi agar tidak berlaku pada orang yang tidak dicurigai melakukan kejahatan
- Diperlukan persetujuan lembaga peradilan independen serta verifikasi tujuan dan dasar kecurigaan
- Penilaian proporsionalitas independen juga harus disertakan
- Beberapa pembicara mengkhawatirkan kemungkinan perluasan misi di sekitar Europol
- Menurut dokumen yang diperoleh media, Europol diketahui menginginkan akses tanpa filter ke data yang diperoleh berdasarkan proposal pemindaian CSAM
- MEP Saskia Bricmont menilai Europol memiliki tujuan menjadi hub data serta memperluas dan memperkuat misinya
- Proposal awal Commission mengharuskan semua laporan yang tidak “jelas tidak berdasar” dikirim secara bersamaan ke Europol dan lembaga penegak hukum nasional
- Bricmont menilai Europol mendorong perluasan deteksi ke area kejahatan lain di luar CSAM
Masalah kepercayaan antara Commission dan para kritikus
- Seminar berlangsung dua hari sebelum Ylva Johansson hadir dalam dengar pendapat komite hak sipil European Parliament
- Para kritikus menilai Johansson dan Commission tidak menunjukkan transparansi dan akuntabilitas yang memadai dalam proposal kontroversial ini
- Bricmont mempersoalkan penggunaan isu sensitif pelecehan seksual anak untuk mendorong rencana pengawasan menyeluruh yang berdampak besar pada hak-hak dasar ratusan juta warga Eropa
- Ia menyatakan perlu mengetahui lebih jauh tentang laporan investigatif BalkanInsight dan potensi konflik kepentingan
- Ia menilai ketidakhadiran Commission memperbesar kurangnya dialog dan kecurigaan
- Johansson dalam tulisan blog mengkritik serangan pribadi terhadap dirinya dan tuduhan lobi yang tidak transparan
- Ia menyinggung bahwa EDRi, NGO hak digital terbesar di Eropa, menerima pendanaan dari Apple, dan menulis dengan maksud bahwa penentangan masyarakat sipil bisa saja mewakili kepentingan Big Tech
- Jakubowska menilai Commission keliru menyajikan pilihan antara privasi dan keselamatan
- Privasi dan keselamatan saling memperkuat
- Ia memperingatkan adanya risiko terhadap kerahasiaan profesional, misalnya kerahasiaan pengacara-klien, dan hal itu dapat menghambat akses penyintas ke keadilan
Alternatif: penyelidikan bertarget, pembersihan materi publik, desain aman
- MEP Patrick Breyer menggambarkan proposal ini sebagai sesuatu yang “belum pernah terjadi sebelumnya di dunia bebas” dan menyebutnya “Chatcontrol”
- Ia menilai daripada memolarisasi perdebatan, lebih baik mempertahankan bagian yang bisa disepakati semua pihak dan menambahkan pendekatan baru yang efektif
- Arah yang diajukan Breyer adalah menghapus perintah deteksi yang menjadi inti kontroversi dan menerapkan penargetan
- Pemindaian komunikasi harus dibatasi secara ketat pada orang yang diduga terlibat dalam eksploitasi seksual anak
- Deteksi sukarela tanpa target juga memiliki persoalan proporsionalitas yang sama dengan deteksi wajib
- Pemindaian sisi klien yang mengubah perangkat pribadi menjadi pemindai harus dikecualikan secara eksplisit
- Sebagai alternatif pengawasan massal, diusulkan crawling proaktif atas materi yang dapat diakses publik
- Disebutkan bahwa metode ini sudah dilakukan di Inggris dan Kanada
- EU Centre baru dapat berfokus pada pembersihan web publik, pencegahan kejahatan, dukungan korban, dan praktik terbaik penegakan hukum
- Breyer menilai fokus harus diarahkan pada desain aman ketimbang verifikasi usia wajib
- Ia mengajukan pertanyaan desain seperti apakah profil sebaiknya secara default dibatasi menjadi privat, apakah pengguna baru boleh menerima foto dari siapa saja, dan apakah pengguna dapat memilih untuk melihat foto telanjang
- Untuk pencegahan pelecehan seksual anak, pendekatan teknis saja tidak cukup, dan solusi nonteknis penting
- Jika legislator gagal melakukan revisi yang masuk akal, pesan pribadi yang benar-benar rahasia dan enkripsi yang aman dapat berakhir, dan jalan dapat terbuka bagi masuknya metode otoriter yang belum pernah terjadi sebelumnya ke dalam demokrasi
1 komentar
Pendapat Hacker News
“Fakta bahwa orang-orang melihat gambar ini sendiri sudah merupakan tindakan yang justru coba dicegah oleh komisi, dan itu sendiri adalah bentuk kekerasan. Jadi jika Anda mengambil foto tak berbahaya yang dibagikan antara individu yang saling setuju, lalu dalam prosedur penyelidikan berpotensi mengeksposnya kepada ratusan orang, pada akhirnya Anda justru menciptakan lebih banyak korban nyata”
Ini adalah isu utamanya. Rencana ini bukan sekadar punya banyak efek samping, tetapi benar-benar akan merugikan orang-orang yang katanya ingin dilindungi
Serius, setiap kali seseorang membenarkan tindakan dengan seruan emosional sederhana seperti “pikirkan anak-anak” atau “pikirkan teroris”, itu tampak tak lebih dari manipulasi murahan
Menurut saya, pihak yang mendukung harus membuktikan klaim keamanannya dengan angka yang konkret. Mereka meminta kita melepaskan terlalu banyak hal tanpa menanggung tanggung jawab, dan saya tidak melihat kerugiannya lebih kecil daripada manfaatnya
Misalnya, Patriot Act tidak menghasilkan gelombang penindakan teror, malah mempermudah pelanggaran hak asasi manusia dalam skala besar, dan hak yang sudah diambil tidak pernah kembali. Hal yang sama berlaku pada pengetatan besar keamanan bandara; saya tidak tahu ada berapa teroris yang tertangkap karena membawa gunting kuku, tetapi tampaknya sebagian besar upaya teror bisa dicegah dengan cara yang kurang invasif
Satu tingkat lebih parah daripada itu adalah orang-orang yang harus mencari jenis pelanggaran ketentuan layanan paling mengerikan di unggahan media sosial, seperti kekerasan ekstrem dan berdarah, serta gambar kekejaman. Banyak orang di pekerjaan seperti itu membutuhkan terapi besar-besaran untuk bisa bertahan, tetapi sayangnya tampaknya tidak semua punya akses ke perawatan
Jika harus melihat dugaan CSAM seharian untuk memutuskan mana yang boleh dan tidak? Sulit dibayangkan dampaknya pada manusia
CSAM hanyalah tabir asap. Tujuan sebenarnya adalah pengawasan, dan jika ini dipaksakan lolos, cakupannya akan segera diperluas dengan cepat hingga mencakup apa pun
Sejujurnya saya sudah tidak lagi melihat EU sebagai kekuatan untuk kebaikan bersama. Sebenarnya sudah cukup lama begitu, dan ia telah merosot menjadi teknokrasi birokratis
Sebelum ada yang bilang “kita bisa memilih parlemen, dan kita juga bisa memilih salah satu anggota komisi, jadi semuanya baik-baik saja”, ya, saya tahu. Tetap saja tidak ada yang membaik. Dalam implementasi saat ini, demokrasinya terlalu tidak langsung sampai rasanya sekalian saja dihapus. RUU seperti ini akan terus berdatangan sampai salah satunya lolos. Saya tidak bisa mendukungnya
Ini harus dihentikan, tetapi saya takut pada akhirnya akan terjadi di mana-mana. Begitu diterapkan di beberapa negara Barat, negara lain akan punya cetak biru untuk menirunya. Warga di mana-mana sedang dibohongi, dan banyak orang, baik nonteknis maupun bahkan yang bekerja di bidang teknis, menganggap ini hal yang baik. Teman-teman saya di AS, Inggris, dan Australia juga menyambut hal-hal seperti ini masuk ke negara mereka. Demi anak-anak, katanya
Sayangnya, tidak ada yang menganggap masalah ini cukup serius untuk menjalankan kampanye iklan besar-besaran dan kampanye TV di negara-negara anggota guna mengedukasi bahwa ini buruk bagi semua orang dan juga tidak membantu anak-anak
Saya pikir upaya pemindaian sisi klien ini akan runtuh, dan saya sangat berharap begitu. Bukan hanya karena ini jelas menghancurkan kebebasan sipil warga EU, tetapi juga karena sekalipun diterapkan, ini tetap pasti gagal
Gagasan dasarnya tidak efektif terhadap CSAM maupun skenario pengguna bermusuhan apa pun. Hanya saja, harapan saya tidak didukung rekam jejak yang terlalu baik dalam realitas legislasi
Klien tidak bisa dipercaya. Belum lagi banyak layanan yang ada sekarang dan yang akan muncul nanti sejak awal tidak akan menerapkannya, versi aplikasi yang menghapus telemetri jarak jauh semacam itu juga akan relatif mudah diakses. Misalnya, seperti hubungan antara VScode dan VScodium, akan muncul WhatsApp dan WhatsAppium
Kita juga harus memikirkan kemungkinan spoofing. Seseorang bisa mengirim pesan kepada orang lain untuk mendapatkan ID klien, lalu melaporkan bahwa klien itu mendeteksi CSAM terburuk yang bisa dibayangkan
Kita harus memikirkan false positive. Kita harus memikirkan biayanya. Kita harus memikirkan anak-anak. Kita harus memikirkan anak-anak yang orang tuanya bukan pelaku kekerasan, tetapi saling mengirim foto biasa yang bisa disalahartikan lalu dihantui tuduhan CSAM, dan sebagian dari anak-anak itu akan dipisahkan dari keluarganya
Meloloskan RUU ini akan membuang sangat banyak waktu para pembuat undang-undang yang bisa dipakai untuk hal yang lebih baik. Menerapkan pedoman ini akan menghabiskan uang dan keahlian dalam jumlah besar untuk membangun sistem yang cacat dan mudah disalahgunakan. Dalam proses penegakannya, akan muncul penderitaan tak terhitung yang tidak ada hubungannya dengan CSAM. Dan setelah beberapa pelaku pertama tertangkap, kemungkinan besar para pelaku bermusuhan akan mulai memakai saluran lain saja
Tetapi saat itu terjadi, topik pembicaraan mungkin sudah bergeser ke pemindaian sisi klien terhadap pikiran
Saya penasaran bagaimana false positive bisa berujung pada pemisahan anak
Bahkan orang yang benar-benar divonis bersalah karena memiliki CSAM pun saat ini tidak selalu otomatis kehilangan hak akses kepada anak
“CSAM yang diketahui dan tidak diketahui”
Melihat sejauh mana AI gambar saat ini, jelas ini akan menghasilkan false positive dalam jumlah besar. Bahkan, kalau saat ini belum separah itu, sebentar lagi menyaring false positive itu sendiri akan menjadi mustahil. Rencana ini tampak seperti bertempur di perang yang lalu ketika masalah yang jauh lebih besar dan berbeda sedang mendekat
Akibatnya, banyak orang akan ditandai gara-gara foto anak mereka sendiri. Karena hampir semua orang tua punya foto anak telanjang di suatu tempat
Gagasan bahwa inti persoalannya adalah apakah langkah seperti ini tidak efektif untuk mengurangi CSAM, atau apakah ada terlalu banyak negatif palsu atau terlalu banyak positif palsu, menurut saya justru meleset dari pokok masalah
Para legislator mungkin memang peduli pada pengurangan pelecehan anak, tetapi terutama menjadikannya dalih untuk memperluas pengawasan dan kontrol terhadap warga. Ini tak lebih dari dorongan untuk mewajibkan perangkat lunak sisi klien yang bertentangan dengan kepentingan pemilik perangkat keras
Begitu perangkat lunak itu terpasang, memperluas cakupan tuntutannya ke hal-hal yang tidak disetujui masyarakat umum—baik lewat jalur hukum maupun lewat kesepakatan belakang layar yang mencurigakan—menjadi langkah yang jauh lebih kecil
Pemindaian sisi klien tidak bisa bekerja, dan tidak akan bekerja
Tidak ada skenario di mana pemindaian sisi klien bisa bekerja kecuali pengguna dibuat tidak bisa memodifikasi apa pun dalam sistem. Gambar maupun perangkat lunak tidak boleh bisa dimodifikasi
Ini patut diingat. Satu-satunya hal yang akan berhasil dilakukan sistem ini adalah mengidentifikasi warga jujur yang taat hukum tetapi memiliki alasan politik yang tidak sejalan dengan pemerintah saat ini. Jika ini lolos, demokrasi yang nyata—yang bisa mengakhiri hukum tidak populer yang disetujui pemerintah seperti rasisme atau pelarangan alkohol—akan mati di UE
European Commission mabuk kekuasaan
Ada ungkapan, jangan sia-siakan krisis yang baik. Sudah banyak didokumentasikan bahwa situasi krisis adalah kesempatan terbaik bagi pemerintah untuk secara terang-terangan mendorong undang-undang anti-demokrasi dan anti-warga. Undang-undang seperti itu mengikis kebebasan dan memindahkan kekayaan dari orang miskin ke orang kaya, sementara krisis memberi dalih sempurna untuk melewati proses demokratis yang normal, panjang, dan menyeluruh, di mana semua orang seharusnya punya waktu untuk membedah, menganalisis, dan mendebatkannya
Belakangan ini juga banyak krisis. Ada Covid, inflasi, gelombang pengungsi, perang Ukraina, dan perang Israel
“Wahai pembayar pajak yang malang, jangan berpikir terlalu dalam. Lagi pula kamu tidak akan memahami masalah ini. Ini terlalu rumit, dan selain itu kamu juga terdistraksi dan cemas karena virus/inflasi yang tak terkendali/biaya hidup/perang, jadi tentu tidak punya waktu memikirkan hal sepele seperti privasi. Jadi duduk santai saja dan khawatirkan uang sewa, biar kami yang menjaga privasi online-mu, ya?”
Aparat penegak hukum sangat menyukai kenyataan bahwa banyak bagian hidup kita sekarang berada di tangan pihak ketiga sehingga lebih mudah diakses, dan serangan terhadap enkripsi terus berlanjut sejak orang rata-rata mulai bisa menggunakan enkripsi dalam komunikasi
Tambahan lagi, jika Anda membuat perangkat lunak privasi, ini juga masalah yang pada akhirnya harus dihadapi jika Anda memikirkan tujuan Anda dengan serius. Jika alat itu cukup kuat untuk melindungi jurnalis di rezim yang bermusuhan, atau kelompok tertindas mana pun yang Anda inginkan, maka alat itu juga cukup kuat untuk melindungi penjahat yang melakukan hal-hal yang secara pribadi Anda benci
Organisasi yang mendorong hal seperti ini dengan sendirinya menarik orang-orang haus kuasa yang memandang banyak orang bukan sebagai rekan sesama warga, melainkan sebagai objek yang harus dikuasai
Mekanismenya sama di mana-mana. Ini bukan hanya masalah Eropa
Keseluruhan logikanya bisa diringkas seperti ini
Dengan teknologi saat ini, mustahil untuk sepenuhnya menghapus keberadaan foto atau video apa pun. Selama internet ada dan orang masih bisa mengakses media terlarang, media terlarang itu akan terus menyebar
Untuk melawannya, negara harus diberi kewenangan luar biasa untuk memeriksa perangkat dan akun orang serta melihat file, agar bisa menuntut orang yang memiliki media terlarang. Dan negara benar-benar, sungguh-sungguh berjanji bahwa satu-satunya media yang akan kita larang hanyalah pornografi anak dan sama sekali bukan yang lain. Tentu saja ketika nanti mereka ingin memperluas kewenangan ini, pada praktiknya tidak ada yang bisa menghentikannya. Dan tentu saja kami akan melakukannya
Ini adalah upaya untuk menyelesaikan masalah yang tepat, yaitu pelecehan seksual terhadap anak, tetapi jelas caranya salah
Ini mirip seperti 30 tahun lalu berkata, “Orang-orang merekam pelecehan seperti itu ke kaset VHS, jadi kalau kita bicara dengan Sony dan Scotch, entah bagaimana ini bisa dihentikan.” Memang situasinya sekarang sedikit lebih realistis, tetapi tetap saja sama. Pencegahan pelecehan seksual terhadap anak harus menjadi prioritas yang sangat besar dan tinggi bagi setiap pemerintah dan setiap warga
Kalau ada cara yang pasti dan terjamin, berapa pun biayanya harus dilakukan besok juga
Tetapi kenyataannya kita tidak begitu tahu caranya. Ini masalah yang memerlukan gabungan reformasi kesehatan mental, reformasi pendidikan skala besar, dan reformasi kesejahteraan sosial anak agar anak-anak yang benar-benar berisiko bisa dilindungi, sekaligus perlindungan yang bermakna itu diperluas ke semua anak
Kalau ada ide cerdas, saya tertarik
Sama sekali bukan
Kalau ada undang-undang atau program baru yang diumumkan dengan alasan memerangi terorisme, pelecehan anak, atau narkoba, tetapi cakupan penerapan nyatanya melampaui terorisme, pelecehan anak, dan narkoba, berarti Anda sedang dimanipulasi agar memilih melawan kepentingan Anda sendiri. 100% selalu begitu
“Kami menjamin privasi dengan algoritme pintar di perangkat. Data anak Anda tidak akan pernah diunggah kecuali AI di perangkat mendeteksi situasi pelecehan. Dan selain pelaku pelecehan, siapa yang ingin mencegah pengunggahan data seperti itu?”
Jam tangan itu juga bisa terus memeriksa apakah dilepas, dan jika dilepas, unggah 30 detik video terakhir untuk mengidentifikasi siapa yang melepasnya
Jika yang melepas adalah anak atau orang tuanya, kenakan denda kepada orang tua, dan wajibkan anak menjalani wawancara dengan lembaga perlindungan anak untuk mengungkap alasan ‘sebenarnya’ mengapa itu dilepas
Tinggal berikan dua unit untuk setiap anak demi pengisian daya. Satu selalu diisi daya dan satu lagi selalu dipakai. Jika jam yang sedang dipakai mendeteksi bahwa jam lainnya tidak sedang diisi daya, kirim peringatan kepada pengguna. Jika tidak diperbaiki dalam waktu tertentu, anggap sebagai pelanggaran
Pelanggaran berulang berupa pelepasan perangkat atau ‘baterai habis tidak sengaja’ bisa berujung pada denda yang makin tinggi, dan berpotensi sampai pemisahan anak dari orang tuanya
Semua ini mungkin dilakukan dengan teknologi saat ini. Tinggal lakukan manufaktur persetujuan melalui beberapa kasus terkenal tentang smartwatch yang menyelamatkan anak dari orang tua yang abusif, atau beberapa kasus polisi memulihkan anak dari upaya penculikan lewat pelacakan smartwatch, lalu tarik pelajaran bahwa “semua anak membutuhkan pelacakan seperti ini”
Benarkah? Apakah menghukum kepemilikan CSAM benar-benar memengaruhi tingkat terjadinya pelecehan seksual terhadap anak?
Ini bukan berarti mengkriminalkan CSAM itu salah, tetapi adakah sedikit saja data bahwa menghukum orang-orang yang bisa tertangkap lewat pemindaian penyimpanan cloud benar-benar memengaruhi jumlah anak yang menjadi korban?
Jika tidak, maka yang dicapai langkah ini hanyalah tindakan yang terasa memuaskan karena memasukkan pedofil ke penjara. Tetapi yang mengkhawatirkan bukan pedofilnya, melainkan pemerkosa anak dan produsen pornografi anak yang benar-benar melakukan kejahatan terhadap anak
Saya tidak tahu dampak apa yang akan ditimbulkan penelusuran pengguna akhir terhadap rantai pasokan. Sebaliknya, kalau pelacakan pengguna akhir dimungkinkan, saya bisa melihat sejuta cara bagaimana negara akan memperoleh hak untuk menggeledah orang dengan alasan hampir semua kejahatan yang diputuskan penting oleh negara. Jika ini diizinkan, kemungkinan meluas melampaui CSAM dalam beberapa tahun adalah 100%
Dan sejak awal pun “materi” itu tidak harus ada. Perekaman hanyalah pilihan, tetapi saya tidak melihat ada apa pun di sini yang menangani masalah itu
Proposal saat ini tidak akan lolos dalam bentuk sekarang. Sejumlah negara anggota seperti Belanda, Spanyol, dan Polandia menentangnya, dan sangat mungkin proposal ini ilegal
Agar bisa lolos, proposal ini harus diubah total. Perubahan seperti itu mungkin hanya akan membuat proposal yang sudah tidak berguna menjadi lebih tidak berguna lagi, tetapi setidaknya kali ini semoga itu menyelamatkan kita dari backdoor privasi/enkripsi
Dalam keadaan apa pun ini tidak boleh lolos, dan keseluruhannya harus ditolak. Tidak ada ruang untuk kompromi