Komite Kebebasan Sipil Parlemen Eropa mengadopsi posisi aturan pelecehan seksual anak secara online

• Komite Kebebasan Sipil, Kehakiman, dan Urusan Dalam Negeri Parlemen Eropa mengadopsi rancangan posisi parlemen tentang aturan penanggulangan pelecehan seksual anak secara online, dengan menempatkan keseimbangan antara perlindungan anak dan pencegahan pengawasan massal sebagai fokus utama
• Penyedia internet harus menilai risiko signifikan bahwa layanan mereka disalahgunakan untuk pelecehan seksual anak atau grooming anak, dan harus memilih sendiri langkah mitigasi yang bertarget, proporsional, dan efektif
• Hanya jika penghapusan materi ilegal gagal, perintah deteksi berbatas waktu dapat diizinkan sebagai upaya terakhir, dengan cakupan dipersempit pada individu atau kelompok yang memiliki dasar kecurigaan yang masuk akal
• Teks yang diadopsi mengecualikan materi enkripsi end-to-end dari cakupan perintah deteksi untuk melindungi keamanan dan kerahasiaan komunikasi semua pengguna
• Undang-undang baru akan menugaskan Pusat Perlindungan Anak Uni Eropa untuk menangani laporan CSAM dan mendukung teknologi deteksi, serta dapat mengenakan denda hingga 6% dari pendapatan global kepada pelaku usaha yang tidak patuh

---

Pemungutan suara komite dan persetujuan negosiasi

• Komite Kebebasan Sipil, Kehakiman, dan Urusan Dalam Negeri mengadopsi posisi Parlemen Eropa mengenai langkah-langkah baru untuk mencegah dan menghentikan pelecehan seksual anak secara online
  • Posisi tersebut disahkan dengan 51 suara mendukung, 2 menolak, dan 1 abstain
  • Pembukaan negosiasi antarlembaga disetujui dengan 48 suara mendukung, 2 menolak, dan 4 abstain
• Aturan baru ini bertujuan melindungi anak-anak secara online sambil menghindari pengawasan yang digeneralisasi atas internet secara luas

Kewajiban penilaian risiko dan mitigasi bagi penyedia internet

• Penyedia internet harus menilai apakah ada risiko signifikan bahwa layanan mereka disalahgunakan untuk pelecehan seksual anak dan grooming anak secara online
• Langkah mitigasi harus bertarget, proporsional, dan efektif, dan penyedia dapat memilih langkah apa yang akan digunakan
• Situs porno diwajibkan memiliki perangkat untuk perlindungan pengguna dan penanganan laporan
  • Sistem verifikasi usia yang memadai
  • Mekanisme pelaporan materi pelecehan seksual anak (CSAM)
  • Moderasi konten oleh manusia untuk menangani laporan
• Layanan yang ditujukan kepada anak harus mewajibkan persetujuan pengguna sebagai pengaturan default untuk pesan yang tidak diinginkan guna mencegah grooming online terhadap anak di bawah umur
  • Harus menyediakan opsi blokir dan bisukan
  • Harus memperkuat fitur kontrol orang tua

Syarat dan batasan perintah deteksi

• Perintah deteksi yang disetujui otoritas yudisial hanya diizinkan ketika langkah mitigasi saja tidak efektif untuk menghapus CSAM
• Perintah deteksi merupakan upaya terakhir untuk menghindari pengawasan massal atau pengawasan umum atas internet, dan harus memiliki batas waktu
• Tujuan perintah ini adalah menemukan CSAM untuk dihapus atau menonaktifkan akses terhadapnya
• Target dibatasi pada individu atau kelompok yang terhubung dengan pelecehan seksual anak, dan dapat mencakup pelanggan saluran
  • Penetapan target memerlukan dasar kecurigaan yang masuk akal
• Penyedia dapat memilih teknologi yang akan digunakan selama mematuhi perlindungan kuat dalam hukum
  • Teknologi tersebut harus menjalani audit independen dan terbuka

Pengecualian enkripsi end-to-end

• Teks yang diadopsi mengecualikan enkripsi end-to-end dari cakupan perintah deteksi
• Pengecualian ini merupakan langkah untuk menjamin keamanan dan kerahasiaan komunikasi semua pengguna

Peran Pusat Perlindungan Anak Uni Eropa

• Undang-undang baru ini membentuk Pusat Perlindungan Anak Uni Eropa untuk membantu pelaksanaan aturan dan mendukung deteksi CSAM oleh penyedia internet
• Pusat ini akan mengumpulkan, menyaring, dan mendistribusikan laporan CSAM untuk diteruskan ke otoritas nasional yang berwenang dan Europol
• Pusat ini akan mengembangkan teknologi deteksi untuk penyedia, serta memelihara basis data hash CSAM dan indikator teknis lainnya yang diidentifikasi oleh otoritas nasional
• Pusat ini juga akan mendukung penegakan aturan baru pelecehan seksual anak, penyelidikan, dan pemberian denda oleh otoritas nasional
  • Jika tidak patuh, denda dapat mencapai hingga 6% dari pendapatan global
• Juga termasuk rencana pembentukan forum penasihat hak korban dan penyintas yang baru untuk mencerminkan pandangan para korban

Langkah berikutnya

• Posisi parlemen masih harus mendapat persetujuan sidang pleno
• Pembukaan negosiasi akan diumumkan pada 20 November, dan anggota Parlemen Eropa dapat mengajukan keberatan hingga akhir hari berikutnya
• Jika jumlah anggota Parlemen Eropa yang mengajukan keberatan mencukupi, pemungutan suara akan diadakan dalam sesi yang sama

[GN⁺]

Pendapat di Hacker News

• Berbeda dari judulnya, belum ada yang diputuskan di sini
  LIBE hanya mengadopsi “draf posisi Parlemen”, dan masih harus melalui negosiasi trilog antara Parlemen UE, Komisi, dan Dewan
  Jadi masih terlalu dini untuk menyebutnya kemenangan, dan artikelnya juga cenderung tidak akurat serta menyesatkan
  https://www.europarl.europa.eu/news/en/press-room/20231110IP...
  https://netzpolitik.org/2023/ueberwachung-eu-innenausschuss-... dalam bahasa Jerman
  • Judulnya berarti komite telah mengadopsi posisinya, dan itu sendiri benar
  • tri(a?)logue bukan trial-ogue; disebut tri-logue karena melibatkan tiga pihak
• Saya marah hanya karena Parlemen sempat mempertimbangkan hal seperti ini, tetapi akhirnya sangat lega karena mereka memutuskan untuk tidak mendorong alat yang keras ini
  Namun, karena kepentingan komersial, badan intelijen, dan aktor negara semuanya terus menekan privasi, warga tidak boleh lelah untuk bersuara
  Kita membutuhkan undang-undang yang secara jelas menjamin hak privasi agar hukum seperti kontrol chat tidak bisa lahir sejak awal
  • Menurut saya, Parlemen UE hampir 100% menjalankan perannya
    Mereka meninjau undang-undang yang diusulkan Komisi UE, menilainya sebagai undang-undang yang buruk, lalu menolaknya
    Pihak yang lebih pantas disalahkan adalah Komisi UE, terutama komisioner asal Swedia Ylva Johansson, yang tampaknya mendorong kebodohan ini
  • Menurut saya, hak seperti itu sudah ada sampai batas tertentu
    Salah satu kelemahan besar pendekatan sebelumnya adalah benturannya dengan aturan yang sudah ada, sehingga sekalipun lolos, sulit untuk melewati ambang pengadilan
    Misalnya, Pasal 8 Konvensi Eropa tentang Hak Asasi Manusia menjamin bahwa “setiap orang berhak dihormati kehidupan pribadi dan keluarganya, rumahnya, serta korespondensinya”, sehingga jelas bertabrakan dengan gagasan “mari pindai komunikasi semua orang”: https://en.wikipedia.org/wiki/Article_8_of_the_European_Conv...
    Selain itu, Direktif Perdagangan Elektronik, saat menetapkan aturan bisnis online UE pada tahun 2000, secara eksplisit melarang negara membebankan kewajiban pemantauan umum: https://en.wikipedia.org/wiki/Electronic_Commerce_Directive_...
    Meski ada berbagai masalah, dalam ranah seperti ini kerangka UE cukup tertata dengan baik
  • Parlemen Eropa tidak memiliki kewenangan untuk menentukan rancangan undang-undang apa yang akan dipungut suara
    Komisi Eropa yang menyusun drafnya, dan Parlemen paling jauh hanya bisa mengubah atau menolaknya
  • Bahkan jika peluang lolos setiap proposal legislasi absurd seperti ini hanya 1%, kenyataan menyedihkannya adalah suatu saat salah satunya akan lolos
    Pada akhirnya ini adalah masalah probabilitas, jadi kita harus mencari cara untuk mengurangi masuknya proposal semacam itu sejak awal
• Menurut teks aslinya, “kontrol chat” disebut sebagai salah satu rencana terburuk UE dan monster pengawasan, dan Parlemen Eropa dikatakan telah memutuskan untuk menghentikannya
  Dalam kesepakatan bersejarah atas Regulasi Pelecehan Seksual Anak (CSAR) dari Komisi UE, Parlemen Eropa disebut ingin menghapus tuntutan kontrol chat dan melindungi enkripsi yang aman
  Breyer menulis bahwa layanan internet dan aplikasi harus “aman sejak desain dan secara default”, dan Parlemen Eropa sepakat untuk menghapus rencana kontrol chat menyeluruh yang melanggar hak-hak dasar serta sulit bertahan di pengadilan, sekaligus melindungi kerahasiaan komunikasi digital
  Kontrol chat yang selama ini dilakukan secara sukarela oleh perusahaan internet AS terhadap pesan pribadi akan dihentikan secara bertahap, dan pengawasan serta penggeledahan komunikasi yang ditargetkan hanya akan diizinkan jika ada surat perintah pengadilan serta dibatasi pada individu atau kelompok yang dicurigai terkait materi pelecehan seksual anak
  Selain itu, pengecualian tegas terhadap apa yang disebut pemindaian sisi klien juga merupakan kemenangan besar bagi hak privasi
  Sebagai gantinya, Pusat Perlindungan Anak UE yang baru akan secara aktif menemukan materi pelecehan seksual anak dengan crawling otomatis di area internet yang dapat diakses publik, termasuk darknet, dan materi yang ditemukan harus dilaporkan serta dihapus oleh penyedia layanan
  Namun, karena Komisi UE diperkirakan akan terus mendorong kontrol chat bergaya pengawasan umum, perjuangan ini belum selesai
  • Untungnya UE masih memiliki Pengadilan Hak Asasi Manusia Eropa dan Konvensi Eropa tentang Hak Asasi Manusia, yang memungkinkan individu menggugat negaranya sendiri
    Ini berbeda dari Pengadilan Kehakiman Uni Eropa, yang tidak bisa menerima gugatan langsung dari individu
    Konvensi Eropa tentang Hak Asasi Manusia memuat “hak privasi” dalam Pasal 8, dan pernyataan bahwa rancangan undang-undang mengerikan ini akan sulit bertahan di pengadilan kemungkinan berarti orang-orang bisa berbondong-bondong ke Pengadilan Hak Asasi Manusia Eropa dengan dasar Pasal 8
    Tidak diragukan lagi bahwa orang-orang yang dibeli di Komisi UE dan para musuh di negara anggota UE akan kembali dengan langkah mengerikan lainnya
    Sebagai tambahan, kerangka “polisi baik Parlemen Eropa / polisi jahat Komisi Eropa” itu sendiri tampak seperti sandiwara terhadap warga UE
  • Perjuangan tidak pernah benar-benar selesai
    Karena itulah dibutuhkan checks and balances yang kuat
    Komisi, yang terdiri dari orang-orang yang ditunjuk oleh 26 kepala pemerintahan UE, mendorongnya; Dewan yang terdiri dari para kepala pemerintahan itu harus menyetujuinya; Parlemen yang dipilih lewat pemilu umum juga harus menyetujuinya; dan jika semua itu masih gagal, pengadilan ikut campur
    Namun inti perjuangannya bukan hanya berhadapan dengan pemerintah, melainkan mengubah pikiran orang agar lebih memprioritaskan privasi dan keamanan mereka sendiri daripada “pikirkan anak-anak”
  • Ungkapan bahwa harga kebebasan adalah kewaspadaan abadi ternyata bukan omong kosong
• Terlepas dari lobi organisasi-organisasi AS yang bekerja sama dengan Thorn, seperti Google, Facebook, Microsoft, Amazon, dan Palantir, kali ini Parlemen Eropa melakukan hal yang benar
  https://www.thorn.org/partnerships/

https://web.archive.org/web/20130420162917/http://www.wearet...

• Hal yang mengejutkan dari lobi adalah biayanya benar-benar murah
  Dalam persidangan FTX terungkap jumlah yang dipakai untuk melobi politisi demi undang-undang pro-kripto, dan nilainya hanya di kisaran lima digit rendah
  SBF juga mengatakan lobi sangat murah dibandingkan pengaruh yang bisa didapat
  Secara naif saya mengira butuh jutaan dolar untuk membuat politisi berpihak kepada saya, tetapi kenyataannya cukup murah sampai satu engineer FAANG bisa melobi seseorang dengan uang pribadi
  Sepertinya basis pengguna HN saja, kalau mau, bisa melakukan crowdfunding dan mengorganisir kelompok lobi yang lebih besar daripada NRA. Pengeluaran lobi NRA pada 2022 adalah 2,93 juta dolar, dan industri lobi jauh lebih kecil daripada yang diperkirakan secara intuitif
• Saya masih menunggu hari ketika kata “lobi” diganti dengan korupsi
• Panel pakar untuk isu ini benar-benar layak ditonton
  Banyak perwakilan datang dari luar UE, terutama dari AS, dan ada juga perwakilan Kanada, Selandia Baru, serta Australia: https://twitter.com/SimoKohonen/status/1722635234116506052
• Ini akan diajukan lagi kira-kira setahun lagi, dan kalau tidak mendapat cukup perhatian media, tampaknya akan lolos
  Mereka hanya perlu menang sekali, tetapi kita harus menang setiap saat
• Thorn dan para pendukungnya harus disebut apa adanya: musuh dunia bebas, musuh demokrasi, orang-orang yang berjuang demi penindasan dan negara polisi distopis
  Melihat perubahan di Hungaria dan Polandia, atau jajak pendapat di Austria, segala bentuk pengawasan akan digunakan sebagai alat lain bagi diktator dan calon diktator untuk mempertahankan kekuasaan
  Jika PiS bisa mendapatkan komunikasi oposisi dengan mulus, saya ragu pemilu Polandia 2023 akan berakhir seperti itu
• Masuk akal
  Di beberapa negara UE seperti Finlandia, privasi komunikasi adalah hak konstitusional, jadi perlu alasan yang memadai untuk melanggarnya
  Menurut saya generalisasi seperti “terorisme dan semacamnya” sulit melewati standar itu
  • Bahkan lebih kuat lagi, hak ini ada dalam Pasal 7 Piagam Hak-Hak Dasar UE, sehingga tertanam dalam fondasi UE sendiri melalui Perjanjian Lisboa
    Jadi tidak mengherankan undang-undang ini tidak lolos di Parlemen Eropa
    Kalaupun lolos di parlemen, Pengadilan UE seharusnya membatalkannya
• Untuk saat ini pesan pribadi mungkin tidak akan dipindai, tetapi saya penasaran apa yang terjadi dengan masalah sertifikat di browser web
  Maksudnya, ketentuan yang memungkinkan sertifikat browser diganti semaunya dengan sertifikat apa pun yang dikendalikan lembaga UE, sehingga mereka bisa menyadap dan melakukan serangan man-in-the-middle terhadap trafik web yang “terenkripsi”
  Selain itu ada sampai klausul detail yang membuat peringatan browser kepada pengguna bahwa sertifikat telah berubah menjadi ilegal; apakah itu juga sudah hilang sekarang?
  • Itu kemungkinan besar merupakan konsekuensi tidak disengaja dari rancangan eIDAS
    Isinya adalah membuat browser mempercayai otoritas sertifikat tertentu agar sertifikat digital dan tanda tangan digital dapat berfungsi di seluruh UE
    Setelah itu direvisi, dan rancangan tersebut menyatakan bahwa otoritas sertifikat tersebut dapat dan harus dipisahkan dari otoritas sertifikat biasa
    Karena itu, serangan man-in-the-middle tidak mungkin terjadi kecuali browser memilih untuk mencampur keduanya
• Saya ingin tahu siapa yang mendukung usulan baru yang lebih baik, dan siapa yang mendukung usulan lama
  Itu indikator yang jelas tentang nilai-nilai mereka
  Tahun depan ada pemilu Parlemen UE, jadi orang-orang yang mendukung usulan baru bisa menjadi pilihan yang baik, sementara yang mendukung usulan lama mungkin sebaiknya dihindari
  • Pemungutan suara Parlemen UE bersifat publik, jadi bisa dicari
  • Sayangnya, sangat sedikit penduduk UE yang melacak apa yang sebenarnya dilakukan anggota Parlemen Eropa mereka
    Kebanyakan memilih seperti saat pemilu nasional, dan di tempat tinggal saya pemilu Eropa diperlakukan seperti jajak pendapat menjelang pemilu “sungguhan” yang berlangsung sekitar 6 bulan kemudian
• Saya sudah terlalu sinis terhadap UE sehingga kali ini pun memperkirakan yang terburuk, tetapi keputusan ini patut dipuji
  Kita perlu melihat seberapa cepat isu ini muncul lagi ke permukaan
  • Saya sinis terhadap usulan ini, tetapi tidak sampai sinis terhadap UE secara keseluruhan
    Ingat saja hal-hal seperti GDPR, interoperabilitas wajib bagi gatekeeper, dan garansi 2 tahun untuk barang yang dibeli online
    Upaya kali ini untuk merusak enkripsi terasa benar-benar terpisah dari hal-hal yang biasanya dilakukan UE
    Sepertinya satu-satunya organisasi pemerintah yang berfungsi baik untuk memperbaiki hidup saya di negara tempat saya tinggal hanyalah UE
    Sisanya membusuk atau bertentangan dengan nilai-nilai saya
• Saya berharap isu ini bisa benar-benar tuntas di UE, seperti aturan netralitas jaringan pada 2015
  • Kemungkinannya kecil
    Lain kali mereka akan mencoba lagi di tingkat negara masing-masing, alih-alih mendorong besar-besaran sekali di UE
    Seperti biasanya cara perusahaan menyalahgunakan UE: pertama melobi UE sendiri untuk mengincar pendekatan sekali sapu, lalu jika gagal menargetkan negara-negara anggota
• Saya sangat lega dengan hasil ini
  Mengejutkan bahwa ada kemungkinan undang-undang seperti ini bisa lolos, dan kalau sampai lolos, banyak orang termasuk saya akan sepenuhnya berpaling dari UE