ChatControl: UE Ingin Memindai Semua Pesan Pribadi, Termasuk di Aplikasi Terenkripsi

• Uni Eropa (UE) sedang mendorong rancangan undang-undang ChatControl yang memaksa pemindaian otomatis atas semua pesan pribadi dan gambar
• RUU ini juga mencakup aplikasi perpesanan terenkripsi (Signal, WhatsApp, dll.), dan pengguna tidak dapat memilih untuk menolak
• Dengan metode client-side scanning, isi diperiksa di perangkat sebelum dienkripsi sehingga tujuan enkripsi end-to-end menjadi tidak efektif
• Tingkat false positive algoritme sangat tinggi, sehingga pengguna yang tidak bersalah bisa keliru dianggap sebagai pelaku kejahatan
• Efektivitas sistem ini dalam mencegah kejahatan masih sangat diragukan, sementara dampak sosial dan teknis akibat pengawasan massal serta pelanggaran privasi justru mengkhawatirkan

---

Pendahuluan

• Uni Eropa (UE) sedang mendorong sebuah regulasi, ChatControl, yang dapat memicu perubahan mendasar pada cara komunikasi online berlangsung
• Regulasi ini mewajibkan pemindaian otomatis atas semua pesan pribadi dan gambar pengguna, tanpa memandang platform perpesanan yang dipakai
• Layanan terenkripsi (Signal, WhatsApp, Telegram, dll.) juga termasuk tanpa pengecualian, dan pengguna tidak dapat memilih atau menolak
• Aturan ini akan langsung berlaku di seluruh negara anggota UE, sehingga bahkan hak privasi komunikasi yang dijamin konstitusi masing-masing negara pun dapat dikesampingkan
• Alasan resminya adalah memberantas materi eksploitasi seksual anak (CSAM), tetapi dampaknya adalah penghapusan privasi digital bagi 450 juta warga Eropa dan pembentukan sistem pengawasan massal yang belum pernah terjadi sebelumnya

Apa itu ChatControl

• ChatControl adalah istilah yang digunakan oleh pihak penentang nama resmi UE, yaitu Regulation on Preventing and Combating Child Sexual Abuse (CSAR)
• Sebelumnya, perusahaan teknologi besar seperti Meta, Apple secara sukarela menganalisis sebagian pesan pengguna, tetapi regulasi ini memperluasnya menjadi pemindaian wajib di tingkat pemerintah
• Pada 2021, regulasi sementara UE mengizinkan perusahaan melakukan pemindaian sukarela selama 3 tahun, namun setelah berakhir pada 2024, kini didorong penerapan wajib
• Ditambah lagi ada roadmap akses data yang sah, yang mengarah pada struktur di mana seluruh data digital nantinya dapat diakses otoritas bila diminta

Cakupan dan pihak yang terdampak

• CSAR secara harfiah berlaku untuk semua penyedia komunikasi digital
  • email
  • aplikasi kencan
  • platform game dengan fitur chat
  • media sosial
  • layanan hosting file (Google Drive, iCloud, Dropbox, dll.)
  • app store
  • layanan hosting komunitas skala kecil
• Bukan hanya aplikasi messenger, tetapi semua layanan yang memungkinkan berbagi konten akan menjadi objek pengawasan

Cara kerjanya

• ChatControl menggunakan metode client-side scanning
  • Isi dianalisis di perangkat pengguna (smartphone, PC, dll.) sebelum dienkripsi
  • Penyadapan komunikasi tradisional dilakukan dengan mencegat informasi saat dikirim atau diterima, tetapi kini seluruh isi tepat sebelum dikirim akan diperiksa otomatis
  • Semua pengguna diperlakukan sebagai calon pelaku kejahatan, sehingga prinsip praduga tak bersalah pun terbalik

Implementasi teknis

• Sebelum enkripsi, sistem otomatis mendeteksi tiga jenis konten berikut
  1. Konten ilegal yang sudah dikenal: membandingkan hash gambar/video CSAM yang sudah diketahui otoritas dengan file milik pengguna
  2. CSAM yang belum teridentifikasi/potensial: algoritme analisis visual berbasis AI menilai secara statistik elemen visual seperti kulit yang terekspos
  3. Deteksi grooming: AI menganalisis pola percakapan teks untuk mendeteksi konteks pendekatan seksual terhadap anak secara otomatis
• Jika ditemukan indikasi mencurigakan, sistem akan langsung melapor otomatis ke otoritas, tanpa proses verifikasi perantara oleh manusia
• Ini direncanakan akan diterapkan secara wajib di seluruh messenger, email, dan platform di Eropa

Mengapa ini melemahkan enkripsi

• Secara permukaan enkripsi (Encryption) tetap dipertahankan, tetapi karena pemeriksaan dilakukan sebelum enkripsi, maka tujuan enkripsi end-to-end (E2EE) menjadi tidak bermakna
• Perusahaan yang berfokus pada privasi seperti Proton menunjukkan bahwa pendekatan ini adalah ancaman yang bahkan lebih serius daripada "backdoor enkripsi"
  • Backdoor hanya mengakses pesan yang dikirim/diterima, sedangkan client-side scanning dapat memeriksa seluruh data pengguna, termasuk yang belum dibagikan
• Akibatnya, aplikasi messenger berubah menjadi spyware, dan pengguna tidak punya cara untuk menghindarinya

Tata kelola

• UE akan membentuk Pusat Pencegahan Eksploitasi Seksual Anak untuk menerima dan menganalisis semua laporan, tetapi teknologi pemindaian aktual akan dikelola oleh perusahaan eksternal
• Penyedia layanan harus mengumpulkan dan melaporkan informasi rinci seperti evaluasi risiko internal, jenis konten, dan kelompok usia pengguna
  • Ini menjadi beban bahkan bagi layanan yang sebelumnya ramah privasi dan berorientasi pada pengumpulan data seminimal mungkin
• Sistem verifikasi usia (verifikasi identitas) juga diwajibkan
  • Teknologi untuk memverifikasi usia sambil tetap menjaga privasi secara praktis belum benar-benar ada
  • Jaminan anonimitas pengguna pun hilang
• Namun, akun pemerintah (keamanan nasional, polisi, militer, dll.) dikecualikan, sehingga penerapannya berbeda antara warga biasa dan pemerintah

Dampak nyata

Kekhawatiran terhadap enkripsi

• Sistem ini adalah kelanjutan dari strategi yang lebih luas untuk melemahkan enkripsi
  • Sejak 1990-an, terus ada argumen bahwa teknologi enkripsi menghambat penyelidikan kriminal
  • Baru-baru ini UE mengajukan roadmap untuk melembagakan akses otoritas terhadap seluruh data digital hingga 2030
  • Hal ini menjadi momentum bagi berbagai pemerintah yang tidak puas dengan penguatan teknologi enkripsi untuk memperluas pengawasan atas nama terorisme, kejahatan terorganisasi, dan perlindungan anak
• Pejabat pemerintah di Denmark, Prancis, dan negara lain juga menuai kontroversi karena secara blak-blakan menyatakan bahwa komunikasi terenkripsi pada dasarnya bukanlah kebebasan warga

Masalah false positive

• Studi empiris menunjukkan bahwa lebih dari 80% hasil pemindaian merupakan false positive (konten tidak bersalah)
  • Sangat sering terjadi konten yang sebenarnya bukan materi pelecehan anak justru salah dilaporkan sebagai ilegal oleh sistem
  • Sumber daya kepolisian habis untuk meninjau konten biasa seperti foto keluarga alih-alih menangani kejahatan nyata, yang berujung pada penurunan kapasitas investigasi
• Contoh: seorang ayah yang mengirim foto medis anaknya kepada dokter mengalami pemblokiran permanen akun oleh Google dan bahkan diperiksa polisi akibat pengawasan otomatis

Penolakan ilmiah

• Lebih dari 600 kriptografer, pakar keamanan, dan ilmuwan dari 35 negara telah berulang kali memperingatkan melalui surat terbuka mengenai masalah teknis dan risiko terhadap demokrasi
  • Client-side scanning memiliki keterbatasan teknis dalam membedakan yang legal dan ilegal
  • Kerentanan keamanan internal dan eksternal pelanggan meningkat
• Komisi Eropa belum mampu menunjukkan riset yang meyakinkan mengenai efektivitas, keandalan, dan proporsionalitas langkah ini, dan terutama bertumpu pada klaim industri

Kemungkinan penghindaran dan pelumpuhan sistem

• Pelaku kejahatan sudah dapat dengan mudah menghindari sistem pengawasan menggunakan metode yang dikenal luas
  • Enkripsi terpisah (mis. GPG, Caesar cipher) untuk mengenkripsi isi sebelum pesan dikirim
  • Mengunggah file ke platform eksternal (mis. Dropbox, OneDrive), lalu hanya membagikan tautannya
  • Memodifikasi protokol messenger open source (XMPP, Matrix, dll.) untuk menghindari pengawasan
  • Menggunakan steganografi (OpenStego, dll.) untuk menyembunyikan informasi di dalam gambar
  • Berpindah ke platform terdesentralisasi/P2P atau server di luar yurisdiksi UE
• Pada akhirnya, sistem pengawasan ini efektif terutama terhadap warga biasa, bukan penjahat terampil
• Dampak nyata terhadap perlindungan anak sangat kecil, sementara sistem ini justru sangat cocok untuk memantau masyarakat umum dalam skala besar

Kepentingan bisnis

Industri dan perusahaan teknologi

• Meski mengusung logika perlindungan anak, di baliknya juga ada kepentingan perusahaan pengawasan komersial
  • Teknologi pengawasan utama dikembangkan dan dilobi oleh big tech AS serta perusahaan komersial seperti Microsoft PhotoDNA dan Thorn (didirikan bersama oleh Ashton Kutcher)
  • Dengan regulasi ini, teknologi mereka menjadi wajib diadopsi sehingga memperluas sumber pendapatan dan memperkuat dominasi pasar
• Sistem seperti ini bersifat
  • monopolistik (proprietary): kode sumber tidak dibuka sehingga tidak dapat diawasi dan diverifikasi dari luar
  • kurang akuntabilitas: kebijakan operasionalnya tidak dapat diaudit pihak luar
  • memiliki daya paksa hukum: investigasi kriminal bisa dimulai hanya berdasarkan penilaian algoritme

Logika penegakan hukum dan strategi media

• Komisi Eropa dan para politikus menggunakan retorika emosional seperti “pikirkan anak-anak” untuk menyederhanakan narasi dan menggiring penolakan seolah-olah membela kejahatan
• Ini mendorong persepsi bahwa privasi hanya dibutuhkan oleh orang yang mencurigakan, padahal kenyataannya privasi adalah hak dasar bagi media, whistleblower, aktivis, dan warga biasa
• Posisi penentang menolak dikotomi palsu bahwa "melindungi anak = mengorbankan privasi"

Sikap negara anggota UE

Status dukungan/penolakan/penundaan per negara

Mendukung (12 negara) : Bulgaria, Kroasia, Siprus, Denmark, Prancis, Hungaria, Irlandia, Lituania, Malta, Portugal, Rumania, Spanyol

Menolak (7 negara) : Austria, Ceko, Estonia, Finlandia, Luksemburg, Belanda, Polandia

Belum memutuskan (8 negara) : Belgia, Jerman, Yunani, Italia, Latvia, Slovakia, Slovenia, Swedia

Sikap rinci per negara

• Penolakan kuat

  • Austria: kekhawatiran soal konstitusi dan pelanggaran privasi
  • Ceko: menolak pemantauan luas atas komunikasi pribadi warga
  • Estonia: mengakui ketulusan tujuan mengatasi eksploitasi anak, tetapi menolak pelemahan E2EE dan pengawasan massal
  • Finlandia: tidak mendukung kompromi karena kontroversi pasal identifikasi identitas dalam konstitusi
  • Luksemburg: menolak pengawasan luas seperti client-side scanning dan menuntut perlindungan hak
  • Belanda: posisi perlindungan privasi yang kuat
  • Polandia: menolak pengawasan massal

• Belum memutuskan/menahan posisi

  • Belgia: ada kritik bahwa ini adalah monster pelanggaran privasi, tetapi juga menunjukkan sikap kompromistis
  • Jerman: berupaya mencari kompromi terpisah sambil tetap mempertahankan enkripsi, cenderung wait and see
  • Yunani, Italia, Latvia, Slovakia, Slovenia, Swedia: masing-masing masih menunda posisi final karena alasan teknis/politis

Jadwal terbaru

• Usulan ChatControl: Mei 2022, diumumkan secara resmi oleh Komisi Eropa
• Pergerakan adopsi kebijakan: Juli 2025, Denmark ditunjuk sebagai presidensi UE, target adopsi Oktober
• Awal perlawanan: Agustus-September 2025, Ceko, Finlandia, Estonia, dan lainnya menyatakan penolakan penuh
• Garis penahan tercapai: Jerman, Luksemburg, Slovakia, dan lainnya menyatakan penolakan resmi sehingga terbentuk blocking minority (belum memenuhi syarat resolusi berdasarkan negara dan populasi)
• Situasi berubah-ubah: setelah 12 September, posisi tiap negara sering berubah, dan saat ini negara pendukung ChatControl masih belum mencapai ambang adopsi (65% populasi)

Hasil dan dampak lanjutan

• Keamanan siber melemah: kerentanan struktural seperti backdoor privat akan ditambahkan, meningkatkan risiko akses oleh penjahat maupun badan intelijen asing
  • Pengadilan HAM Eropa juga memutuskan bahwa pelemahan enkripsi tidak dapat dibenarkan dalam masyarakat demokratis
• Menghambat inovasi teknologi: perusahaan keamanan Eropa akan sulit memperoleh kepercayaan di pasar global
• Perusahaan teknologi keluar dari Eropa: layanan berfokus privasi seperti Signal telah menyatakan niat untuk hengkang dari Eropa jika regulasi ini diterapkan
  • Swiss juga mempercepat keluarnya perusahaan teknologi karena RUU yang mundur dalam hal privasi
  • Proton dan lainnya sudah mulai memindahkan infrastruktur ke luar UE
• Ketergantungan pada pengawasan AS makin dalam: ada risiko teknologi pengawasan dan data akan berada di bawah kendali perusahaan AS (U.S. CLOUD Act)
• Chilling Effect sosial: masyarakat akan makin menyensor diri karena sadar diawasi, sehingga kebebasan berdiskusi dan berekspresi menyusut

Cara warga dapat bertindak

1. Bagikan artikel dan gunakan tagar (#ChatControl, #StopScanningMe) untuk menyebarkan informasi ke jaringan Anda
2. Ikut petisi online (change.org)
3. Berlangganan kanal informasi terkait dan terus pantau pembaruan
4. Sampaikan pendapat kepada perwakilan/anggota parlemen masing-masing negara dan minta mereka menyatakan penolakan resmi
5. Ikut serta atau berdonasi pada kampanye perlindungan hak digital lokal/global
6. Gunakan alat yang berfokus pada privasi seperti Signal dan terapkan layanan self-hosted

Kesimpulan

• Eropa yang sebelumnya melahirkan GDPR untuk melindungi privasi kini berada dalam situasi berpotensi meruntuhkan nilai itu sendiri melalui ChatControl
• Eropa kini berada di persimpangan: apakah akan menjadi wilayah pertama di dunia yang menormalisasi pengawasan massal atas komunikasi pribadi, atau mempertahankan posisinya sebagai pelopor hak digital global
• Keputusan ini juga dapat memberi dalih pembenaran bagi negara-negara totaliter, sehingga punya arti penting secara internasional
• Pemungutan suara utama berikutnya dijadwalkan pada 14 Oktober 2025

[GN⁺]

Opini Hacker News

• Warga EU khawatir bahwa jika rancangan undang-undang ini lolos, mereka akan makin kehilangan kendali atas pemerintah seperti yang terjadi di Inggris. Mereka mempertanyakan apa yang bisa dilakukan ketika kepentingan pemerintah bertentangan dengan kepentingan rakyat. Jika memulai gerakan politik, orang bisa didatangi polisi hanya karena mengkritik pemerintah, dan bahkan jika memimpikan revolusi pun hal itu tak mungkin diorganisasi karena tak ada senjata dan semua saluran komunikasi diawasi. Pada akhirnya, warga biasa tidak lagi punya pena maupun pedang untuk melawan pemerintah. Insentif bagi pemerintah untuk melayani rakyat makin berkurang, dan bahkan protes pun tak akan bisa merebut kembali kebebasan yang dulu ada. Mereka memperingatkan bahwa masyarakat sedang bergerak menuju kondisi di mana semua orang merasa tertindas tetapi tak seorang pun bisa berbuat apa-apa

  • Senjata kita saat ini masih euro. Jika perusahaan dan kalangan kaya lokal berpihak pada kita, pemerintah sampai batas tertentu tetap harus memperhatikan rakyat. Tentu uang dan kekuasaan sangat berkaitan, tetapi orang kaya di tingkat lokal kadang lebih dekat dengan komunitas tempat mereka berada. Biasanya mereka menghambat perbaikan, tetapi di saat krisis mereka bisa menjadi kekuatan besar. Saya juga merasa senjata sungguhan tidak terlalu berguna. 1) Hidup di Eropa tidak seperti film aksi Amerika. 2) Bukan cuma warga sipil, pegawai negeri dan polisi pun relatif tidak terlalu bersenjata, jadi ada semacam keseimbangan. 3) Jika revolusi benar-benar terjadi, senjata sering kali muncul dalam jumlah besar secara “ajaib”, dan dari pengalaman, saat itu hal terbaik adalah cepat mengungsi sambil mengingat siapa pemasok senjatanya
  • Sebagai warga Inggris, saya minta dijelaskan dasar penilaian bahwa Inggris sudah kehilangan kendali atas pemerintah. Inggris belum menerapkan kebijakan yang mirip dengan aturan kontrol percakapan Uni Eropa, dan menurut saya kalau gagasan serupa muncul pun penolakannya akan besar
  • Justru masalah rancangan undang-undang ini adalah karena pernyataan “semua saluran komunikasi diawasi sehingga orang bahkan tak bisa melawan” itu tidak benar. Software keamanan seperti PGP sebenarnya mudah dipakai siapa saja, dan para kriminal pun sudah memakainya sekarang. Pemerintah mustahil memecahkan enkripsi RSA, sehingga pengawasan massal terhadap seluruh warga hanya akan merugikan warga biasa, sementara kriminal justru menjadi lebih aman. Ketika pemerintah sadar kebijakan pengawasan tak berguna ini tidak efektif, saya rasa mereka akan mencoba langkah yang lebih keras lagi. Saya bahkan membayangkan bahwa di masa depan software enkripsi, bahkan kepemilikan bilangan prima yang dipakai dalam kriptografi, bisa saja dibuat ilegal. Ada kekhawatiran sejauh mana pemerintah akan mencoba merampas hak matematis ini, yakni enkripsi dan privasi
  • Ada yang berpendapat bahwa dalam demokrasi perwakilan pun rakyat sebenarnya sudah kehilangan kendali atas pemerintah. Fakta bahwa rancangan seperti ini terus bermunculan dianggap sebagai buktinya. Demokrasi perwakilan dinilai bukan demokrasi sejati. Nada kritik sosialnya terasa seperti “Sic semper tyrannis”
  • Orang sekarang bukan tidak melakukan revolusi karena tak punya senjata. Justru semua orang sudah terlalu dipenuhi hiburan dan makanan, sehingga politik pun dikonsumsi seperti reality show. Orang melihat berita dan mengelus lidah pada kontroversi hari ini, tetapi pada akhirnya semua itu hanyalah ‘roti dan sirkus untuk orang dewasa’ (panem et circenses). Internet telah merosot menjadi alat kontrol massa terbesar sepanjang sejarah, dan karena ada Doordash serta Netflix, orang sibuk bekerja atau sekadar scrolling hingga kehilangan kemampuan berpikir mendalam maupun semangat perlawanan. Ini bukan cuma masalah Eropa; pemerintah dan badan intelijen AS juga mengawasi rakyat tanpa dasar hukum yang jelas. Pada akhirnya kita semua berada dalam masalah besar yang sama

• Menurut isi artikelnya, contoh utama ‘ancaman’ yang dibidik oleh rancangan undang-undang ini adalah CSAM (materi eksploitasi seksual anak). Tetapi para kriminal tidak melakukan kejahatan hanya karena adanya saluran distribusi terenkripsi. Masalah sesungguhnya adalah akses terhadap anak itu sendiri. Pengawasan tidak bisa menyelesaikan bagian itu. Seberat apa pun regulasinya, kriminal akan memakai alat yang menghindari pengawasan terpusat—alat terdesentralisasi sederhana seperti GPG atau email—dan hasil akhirnya hanyalah pengorbanan privasi semua orang

  • Saya yakin isu ini pada dasarnya tidak ada hubungannya dengan CSAM. Justru politikus membawa-bawa CSAM agar bisa mengaburkan pokok persoalan dengan framing seperti “xp84 membela pornografi anak!”. Tujuan sebenarnya saya rasa adalah menekan kebebasan berekspresi dan mengendalikan sepenuhnya komunikasi warga. Itulah kejahatan yang sebenarnya
  • Saya menolak ChatControl, tetapi klaim bahwa “kriminal berbuat jahat karena ada saluran terenkripsi” sebenarnya bukan yang dikatakan pemerintah. Intinya bukan menangkap semua kriminal, melainkan ingin lebih mudah menangkap kriminal yang bisa ditangkap. Dan banyak kriminal ternyata lebih gagap teknologi daripada dugaan orang, sehingga mereka memakai perangkat dengan pengaturan bawaan
  • Menjadikan messenger seperti Signal sebagai target terasa mengejutkan. Layanan yang bahkan tidak punya fungsi jejaring sosial seharusnya bukan prioritas utama, dan jika benar-benar menargetkan kriminal, menurut saya ada sasaran lain yang lebih tinggi prioritasnya
  • Kalau mau melarang pesan terenkripsi, bukankah file zip terenkripsi juga harus dilarang, sindir seseorang terhadap kepalsuan kebijakan ini
  • Seseorang mengajukan bantahan, “Apakah kalau kebijakan tidak bisa menyelesaikan masalah secara sempurna berarti jadi tak berguna?” sambil mempertanyakan argumen yang tampak agak tidak realistis

• Tantangan sebenarnya bukan sekadar menolak upaya seperti ini, tetapi mencegah agar kebijakan semacam ini tidak terus-menerus dicoba lagi sampai akhirnya lolos dengan alasan situasi tertentu

  • Solusi paling mendasar untuk semua masalah adalah mencantumkannya dalam konstitusi. Tetapi EU tidak punya konstitusi yang benar-benar substantif, dan rancangan undang-undang ini berbenturan langsung dengan konstitusi negara-negara anggota terkait perlindungan kerahasiaan komunikasi. Kerumitannya bertambah karena secara aturan ini bukan “law” melainkan “regulation”
  • Untuk menghentikan upaya seperti ini, menurut seseorang, perlu dibuat undang-undang yang mewajibkan semua komunikasi pribadi komite atau pejabat yang mendorong kebijakan ini—mulai dari WhatsApp sampai mutasi bank—dibuka untuk umum agar bebas ditelaah. Kalau mereka ingin melanggar privasi warga, mereka harus lebih dulu merasakannya sendiri
  • Ada kecurigaan bahwa para pengusul kebijakan semacam ini bukan sekadar bodoh, melainkan dipengaruhi musuh atau telah korup. Pihak yang paling diuntungkan secara nyata dari kebijakan ini justru adalah musuh EU. China dan Rusia akan jauh lebih mudah mengumpulkan data di Eropa lewat aturan semacam ini. Sistem para pengambil kebijakan juga yang paling mudah diretas
  • Untuk benar-benar menjamin hak privasi, justru perlu terus menuntut ‘transparansi absolut’ dari politisi dan pemerintah. Jika semua informasi semua warga harus bisa diungkap kapan saja, maka masuk akal pula membuat hukum yang melarang pemerintah menyembunyikan informasi apa pun dengan alasan keamanan atau alasan lain. Ini mungkin terdengar berlebihan, tetapi atas nama “pemberantasan korupsi” argumen itu bisa cukup meyakinkan. Sama seperti pemerintah memakai “demi anak-anak” sebagai dalih untuk melegitimasi pengawasan
  • Kepalsuan dan bahayanya mungkin lebih mudah ditunjukkan jika ada contoh bagaimana pemimpin negara lawan menyalahgunakan akses data yang sama hingga menimbulkan masalah. Namun orang mungkin baru menganggap itu masalah ketika mereka sendiri terkena ketidakadilan semacam itu

• Pemerintah harus transparan, dan rakyat harus dijamin memiliki ruang privat agar memiliki legitimasi

  • Ungkapan “pemerintah transparan, rakyat tidak transparan” terasa ringkas sehingga ingin saya tambahkan ke argumen saya
  • Saya suka rumusan, "transparansi untuk yang berkuasa, privasi untuk yang lemah"
  • Seperti kata seseorang, “rakyat tidak seharusnya takut pada pemerintah; pemerintahlah yang harus takut pada rakyat.” Rasanya kita sudah kehilangan bahasa yang seharusnya dipakai untuk membahas legitimasi dan peran negara. Disarankan untuk lebih banyak membaca karya klasik seperti J.S. Mill atau Hobbes. Sampai sekarang pun karya-karya itu masih memberi wawasan dan inspirasi
  • Diakui bahwa pemerintah memang perlu privasi. Mereka menangani banyak perkara yang kompleks dan sensitif seperti penyelidikan kejahatan seksual terhadap anak dan penangkapan mata-mata. Saya tidak sampai menuntut dekripsi paksa, tetapi menurut saya posisi yang lebih realistis bukan “pemerintah transparan, warga tidak transparan”, melainkan “keduanya sama-sama setengah transparan”

• Fakta bahwa politisi EU mengecualikan diri mereka sendiri dari ChatControl dianggap sudah menjelaskan segalanya

• Dibagikan tautan wawancara dengan menteri kehakiman Denmark Peter Hummelgaard, perancang kebijakan ini. Ia dikritik karena sama sekali tidak memahami E2E (enkripsi end-to-end), bahkan tampaknya belum pernah membaca tuntas halaman Wikipedia sekalipun

  • Artikel wawancara DR

• Disindir bahwa jika rancangan undang-undang baru ini benar-benar demi memberantas pornografi anak, maka foto anak mandi dalam keluarga pun bisa otomatis diteruskan ke pihak ketiga yang “tepercaya”. Ditambahkan juga risiko bahwa foto semacam itu suatu hari bisa bocor. Jika saya seorang kriminal, saya rasa saya tahu betul harus melamar kerja di bagian mana dalam sistem seperti itu

• Ada yang membayangkan bahwa di masa depan teknologi bisa membuat bom menjadi kecil dan tak bisa dilacak, atau senjata kimia jadi mudah diakses, sehingga ancaman teror bisa jauh lebih serius. Jika dalam kondisi seperti itu kemungkinan warga atau keluarganya menjadi korban terasa sangat nyata, apakah orang akan lebih rela menyetujui pengawasan daripada sekarang? Saat ini pertukaran pengawasan dengan privasi dianggap merugikan konsumen, tetapi jika di masa depan keamanan absolut bisa dijamin sebagai imbalannya, titik keseimbangannya mungkin bergeser. Rasa aman mutlak yang dirasakan di China, misalnya, terasa mengesankan bagi seseorang yang berasal dari Amerika. Meski tetap mementingkan privasi, rasa ‘aman seketika’ sulit diabaikan. Ini dipandang menarik semata sebagai persoalan keseimbangan dalam diskusi

  • Mungkin saja kita membayangkan skenario fiksi ilmiah di mana hak sipil harus ditangguhkan demi mencegah teror, tetapi jika itu bukan kenyataan saat ini, maka skenario ekstrem seperti itu sangat jarang relevan dan tidak diinginkan
  • Ditunjukkan bahwa ‘rasa aman mutlak’ di China bisa jadi hanyalah ilusi karena media mencuci otak orang dengan pesan bahwa “tidak ada kejahatan”. Faktanya, tolok ukur penilaian polisi adalah persentase kejahatan yang berhasil ditangkap, sehingga statistik resminya sendiri telah dimanipulasi, menurut artikel bukti ini
  • Dalam pembahasan soal perluasan pengawasan, sering diabaikan asumsi bahwa kriminal akan patuh pada hukum. Enkripsi tetap bisa dilakukan dengan berbagai cara seperti steganografi. Jika hardware diawasi, perangkat enkripsi akan beredar di pasar gelap, dan dalam kasus terburuk orang bahkan bisa memakai one-time pad raksasa. Pada akhirnya kita tidak mendapatkan keamanan maupun privasi, dan jika enkripsi diberi backdoor, justru risiko penyalahgunaan menjadi lebih besar. Yang paling dikhawatirkan adalah tak ada jaminan bahwa pemerintah selalu bisa dipercaya dengan kewenangan seperti ini
  • Masalah sebenarnya bukan pada ‘manfaat’ pengawasan, melainkan ketimpangan kuasa yang muncul antara negara pengawas dan warga. Jika pejabat negara juga diawasi sama seperti warga, situasinya mungkin berbeda. Bahkan di semesta Star Trek ada contoh serupa, digambarkan sebagai masyarakat di mana semua orang diawasi tetapi tak ada yang keberatan. Namun dunia nyata berbeda. Negara selalu mengecualikan dirinya sendiri dari pengawasan, dan pada akhirnya itu akan mengarah ke otoritarianisme
  • Seseorang bertanya apakah tulisan itu dibuat dengan ChatGPT, lalu menunjukkan bahwa membuat barang berbahaya seperti bom sebenarnya sudah cukup mudah bagi siapa pun lewat pencarian Google dan belanja online. Senjata seperti pisau juga tidak sulit dibeli dan bisa dipakai untuk kejahatan dengan sederhana

• Dengan mengutip Konvensi Eropa tentang Hak Asasi Manusia, disebutkan bahwa setiap orang berhak atas penghormatan terhadap kehidupan pribadi, kehidupan keluarga, rumah, dan korespondensinya. Hak itu memang dapat dibatasi bila perlu sesuai hukum, tetapi orang mempertanyakan batas dan standar legitimasi pembatasannya. Biasanya yang dianggap masuk akal adalah prosedur sementara yang menargetkan individu tertentu dengan izin hakim. Mengawasi komunikasi semua orang terasa tidak sesuai dengan prinsip proporsionalitas, yaitu pelanggaran minimum yang diperlukan, dan ditambahkan tautan ke teks lengkap konvensi serta prinsip proporsionalitas

  • Dasar hukumnya pada dasarnya hanya frasa “sejauh diizinkan oleh hukum”. Dalam kasus ChatControl, diklaim bahwa ‘algoritma’ hanya memindai materi ilegal secara lokal dan tidak melakukan apa-apa bila materinya tidak ilegal. Ini secara halus dibedakan dari pengawasan atas semua komunikasi secara langsung (OS yang membaca pesan untuk menampilkannya di layar juga biasanya tidak disebut pengawasan). Namun saya tetap menentangnya. Masalah sebenarnya adalah daftar materi ilegal—atau bobot model yang menentukan ilegalitas—tidak dapat diverifikasi dan bisa disalahgunakan

• Dijelaskan bahwa motif di balik kontroversi rancangan undang-undang ini juga bisa dilihat dari tekanan agar Apple mengadopsi RCS. RCS (Rich Communication Services) memiliki titik perantara antar-operator yang membuatnya mudah disadap lembaga pemerintah, tetapi sering keliru diperkenalkan sebagai "enkripsi end-to-end". Namun jika benar-benar menginginkan E2E, orang disarankan memakai Signal atau iMessage

  • Ditegaskan bahwa RCS tidak disebut “enkripsi end-to-end” oleh siapa pun. Apple dan Google sama-sama telah menyatakan secara resmi bahwa saat ini E2E belum diterapkan, dan yang ada baru janji untuk membawanya ke iPhone di masa depan. Peringatan keras diberikan bahwa tingkat keamanannya berbeda dengan iMessage