Uni Eropa: Menolak pemindaian bisa membuat berbagi foto dan tautan dilarang

• Rancangan aturan materi pelecehan seksual anak di EU, yaitu chat control, kembali memasuki fase yang berpotensi mendapat persetujuan pemerintah EU karena kemungkinan perubahan posisi Prancis
• Draf tertanggal 28 Mei 2024 menanyakan kepada pengguna aplikasi dan layanan chat apakah mereka menerima pemindaian otomatis dan kemungkinan pelaporan atas gambar, foto, dan video pribadi, dan jika menolak maka pengiriman serta penerimaan foto, video, dan tautan akan dibatasi
• Layanan enkripsi end-to-end seperti WhatsApp dan Signal juga harus menerapkan pencarian otomatis sebelum pengiriman, sehingga pada praktiknya berfungsi sebagai client-side scanning
• Pemindaian teks untuk tanda-tanda grooming dan pemindaian komunikasi suara dalam draf sebelumnya dihapus, tetapi chat pegawai lembaga keamanan dan militer direncanakan akan dikecualikan dari cakupan
• Council Legal Service menilai pemindaian massal tanpa pandang bulu terhadap orang yang tidak dicurigai sebagai pelanggaran hak dasar, tetapi banyak pemerintah EU berencana melanjutkan pembahasan pada 4 Juni

---

Apa yang diubah oleh draf “upload moderation”

• Rancangan aturan materi pelecehan seksual anak yang sangat kontroversial, yang disebut chat control, kembali berada dalam situasi yang memungkinkan disetujui di tingkat pemerintah EU
  • Menurut laporan Euractiv dan dokumen internal, Prancis mungkin akan melepaskan hak vetonya yang selama ini dipegang
  • Prancis memandang usulan baru “upload moderation” sebagai opsi yang secara prinsip dapat diterima
• Draf terbaru tertanggal 28 Mei 2024, Council document 9093/24, berlaku untuk aplikasi dan layanan yang memiliki fitur chat
  • Pengguna akan ditanya apakah mereka menerima kemungkinan pemindaian tanpa pandang bulu yang rawan kesalahan serta pelaporan atas gambar, foto, dan video yang mereka bagikan secara pribadi
  • Gambar dan video yang sebelumnya belum diketahui juga akan menjadi sasaran pemeriksaan dengan teknologi AI
  • Pengguna yang menolak pemindaian tidak akan bisa mengirim atau menerima gambar, foto, video, dan tautan
• Layanan enkripsi end-to-end seperti WhatsApp atau Signal juga harus menerapkan pencarian otomatis sebelum pesan dikirim
  • Draf ini menanganinya sebagai client-side scanning dalam Article 10a
  • Patrick Breyer mengkritik bahwa pendekatan ini melemahkan enkripsi end-to-end yang selama ini aman dan mengubah ponsel pintar menjadi alat pengawasan

Cakupan yang dikecualikan dan isu yang masih tersisa

• Dalam draf terbaru, sebagian cakupan pemindaian yang ada dalam usulan awal dihapus
  • Pemindaian pesan teks untuk tanda-tanda grooming, yang sampai sekarang hampir tidak pernah digunakan, direncanakan akan dihapus
  • Pemindaian komunikasi suara, yang sejauh ini belum pernah diterapkan, juga direncanakan akan dihapus
  • Sebagai konsesi kepada Prancis, chat pegawai lembaga keamanan dan militer kemungkinan akan dikecualikan dari chat control
• Dalam pembahasan terakhir pada 24 Mei, Council Legal Service menyatakan bahwa pemindaian chat control tanpa pandang bulu terhadap orang yang tidak dicurigai masih tetap diperkirakan terjadi dan termasuk pelanggaran hak dasar
  • Meski demikian, banyak pemerintah EU tetap menunjukkan niat untuk mendorongnya
  • Pemerintah-pemerintah EU berencana melanjutkan pembahasan pada 4 Juni
• Anggota Parlemen Eropa Patrick Breyer mengkritik bahwa Belgian proposal pada dasarnya tetap menerapkan inti dari usulan awal chat control dari EU Commission
  • Menurutnya, di abad ke-21 menggunakan messenger hanya untuk teks murni bukanlah pilihan yang realistis
  • Ia menilai penghapusan elemen berlebihan yang pada praktiknya tidak digunakan hanya bersifat kosmetik
  • Ia memperingatkan bahwa chat pribadi dan foto warga yang tidak bersalah bisa diperiksa dan bocor melalui teknologi yang tidak dapat diandalkan
  • Ia juga menilai bahwa jika pemerintah-pemerintah EU memasuki negosiasi trilogue dengan posisi ini, ada risiko Parliament secara bertahap melepaskan posisi awalnya dalam negosiasi tertutup dan menyetujui kompromi yang membahayakan keamanan online

[xguru]

Dalam kasus ini, sepertinya masalahnya memang sangat besar, tapi tampaknya tetap akan dipaksakan. Saya suka dengan apa yang dilakukan Uni Eropa terhadap Apple, tapi yang ini rasanya sudah kelewat jauh.

[unsure4000]

Mungkin sejak awal yang dilakukan ke Apple memang sudah salah... T_T

[GN⁺]

Opini Hacker News

• Jika “chat staf otoritas keamanan dan militer juga dikecualikan dari kontrol chat”, bukankah itu berarti bidang keamanan dan militer, yang justru paling mungkin perlu dipantau percakapan pribadinya, malah dikecualikan?

  • Saya belum membaca drafnya secara rinci, tetapi aneh sekali bahwa yang dikecualikan bukan hanya kelompok itu, melainkan juga orang-orang yang memakai layanan secara nirlaba.
    Jadi kalau meng-host sendiri seperti [1], tidak perlu mematuhi hukum ini.
    Tapi apakah itu berarti pejabat keamanan bisa memakai layanan publik, bukan infrastruktur yang mereka host sendiri, dan dengan asumsi mereka termasuk pihak yang dikecualikan, bisa mengirim data rahasia?
    Dan seperti yang dikatakan @WA, apakah daftar kontak para pegawai negeri seperti ini akan diberikan kepada semua organisasi komersial?
    Ini benar-benar terdengar seperti lelucon bodoh.
    [1]: Lihat baris ketiga di https://www.patrick-breyer.de/en/posts/chat-control/#current...
  • Bagaimana mereka mau menerapkan ini di dunia nyata? Memberikan daftar nomor telepon akun personel militer/keamanan kepada Meta, Apple, Google agar flag fitur berbagi tautan/foto diaktifkan?
  • Mengejutkan bahwa chat pejabat dan politisi UE tidak dikecualikan. Pasti ini kesalahan dan tampaknya akan segera diperbaiki.
  • Mereka mengklaim privasi tetap terjaga karena AI yang memprosesnya alih-alih manusia, dan tujuannya hanya untuk mendeteksi materi eksploitasi seksual anak.
    Kalaupun klaim itu benar, untuk apa ada fitur yang mengecualikan kelompok tertentu? Sulit dijelaskan kecuali mereka sengaja memberi pengecualian agar kelompok itu bisa membuat dan mengedarkan materi eksploitasi seksual anak.
    Kesimpulan yang lebih masuk akal adalah klaim tentang perlindungan privasi atau pembatasan tujuan itu palsu.
  • Apakah platform yang dipakai otoritas boleh tidak mengecualikan mereka dan memindai mereka sama seperti semua orang, atau apakah hukum akan menegaskan bahwa pemindaian seperti ini hanya berlaku untuk warga biasa?

• Sulit dipercaya ada yang mengira langkah seperti ini setidaknya akan memperlambat sesuatu. Sebagian hukum bisa dipandang sebagai kompromi antara keamanan dan kebebasan, tetapi dalam kasus ini saya bahkan tidak tahu apa yang menjadi lebih sulit bagi kriminal.
  Jika orang bisa mengirim teks sambil membagikan hal bermasalah di platform seperti ini, mereka juga bisa mengirim tautan. Bahkan di platform yang “tidak mengizinkan tautan”, orang akan membuat konvensi penulisan baru atau membagikannya sebagai teks biasa. Mereka juga bisa memakai platform lain, jadi saya tidak melihat di mana efek pencegahnya.
  Pada akhirnya ini hanya regulasi menyebalkan yang lahir dari orang-orang yang tidak memahami teknologi.

  • “Menyebalkan” adalah tafsir paling positif yang bisa diberikan untuk perkara ini.
  • Sepertinya Anda terlalu melebih-lebihkan pengetahuan dan kemampuan teknis banyak orang. Untuk setiap penjahat profesional yang cerdik, ada juga orang bodoh yang melakukan hal bodoh karena bodoh, dan penjahat profesional yang cerdik pun membuat kesalahan.
    Tentu saja ini tidak akan menangkap 100%, tetapi hampir tidak ada hukum atau langkah yang bisa begitu. Dan langkah yang mencapai tingkat seperti itu biasanya disertai false positive yang sangat besar.
    Tautan juga tidak sulit dipindai, dan sulit berharap bahwa seseorang bisa “asal” mengunggah materi eksploitasi seksual anak di sembarang tempat tanpa akhirnya mendapat masalah. Kalau orang itu benar-benar tahu persis apa yang ia lakukan, kembali lagi ke paragraf sebelumnya.
    Sulit membantah bahwa hukum ini akan menangkap setidaknya seseorang, bukan nol orang, dan sulit menilai sebelumnya tepatnya berapa orang. Itu bukan berarti ini hukum yang baik, tetapi argumen semacam “tidak akan menangkap siapa pun” adalah argumen yang buruk.
  • Mereka tidak percaya langkah seperti itu efektif, atau mereka tidak peduli. Tujuan langkah seperti ini ada dua.
    Pertama, membuatnya tampak seolah seseorang sedang melakukan sesuatu. Pemilih tidak mau menerima kenyataan bahwa wakil mereka tidak punya kekuatan untuk menyelesaikan isu panas tertentu. Sekalipun hukum atau regulasi baru hampir tidak efektif atau tidak efektif sama sekali, jika legislator bisa membuat “pakar” mengatakan hal-hal yang terdengar baik, banyak pemilih yang tidak memahami isu itu akan cukup puas.
    Kedua, terus membangun dan menormalkan teknologi pengawasan hingga menjadi bagian dari keseharian. Semakin banyak hal yang diwajibkan, yang tidak bisa dilakukan sendiri secara privat oleh pihak pemerintah, semakin mudah bagi mereka untuk melakukan hampir apa pun yang mereka inginkan.
  • Bahkan tautan pun tidak diperlukan. Gambar bisa dikonversi ke base64 lalu dikirim, atau dikompresi dan dienkripsi dengan 7z. Sepertinya masih banyak cara lain.
    Memang, seberapa mudah diakses di ponsel adalah soal lain, tetapi tampaknya tidak terlalu sulit.
  • Bagi penyedia layanan, fakta bahwa konten buruk di-host “di tempat lain” saja sudah menguntungkan. Zona aman yang bisa dimanfaatkan pelaku berbahaya menjadi berkurang.
    Konten publik juga bisa dipindai sebagai bagian dari defense in depth.

• Ketika para penanggung jawab yang berwenang merasa tidak berdaya menjalankan tanggung jawabnya, mereka panik lalu mendorong orang-orang tak bersalah ke situasi yang tidak nyaman atau berbahaya dan membuat semua orang dalam risiko. Alih-alih menangkap jumlah pelaku yang relatif kecil yang memang menyebabkan masalah nyata.
  Selama bertahun-tahun saya sudah melihat terlalu banyak contoh seperti itu, dan semakin besar kemarahan publik, semakin besar pula kerugian yang ditanggung seluruh publik dibanding segelintir kecil orang yang terkait atau bertanggung jawab. Sementara mereka hanya sedikit mengubah cara dan terus melakukannya, publiklah yang rusak.

  • Ini terasa lebih seperti tabir asap daripada niat tulus untuk membantu menangani pelecehan anak. Apakah pelecehan anak oleh predator merupakan masalah sebesar itu sampai seluruh populasi harus berada di bawah jaring pengawasan? Predator kemungkinan besar bahkan tidak sampai 0,1% populasi.
    Daripada mengalihdayakannya ke pemerintah atau perusahaan publik, lebih baik memberi orang tua alat dan pendidikan agar mereka bisa melindungi anak-anak mereka.
  • Mengatakan para penanggung jawab yang berwenang merasa tidak berdaya, dengan kata lain berarti masalahnya adalah kecanduan kekuasaan tanpa batas mereka.
  • Mereka bukan orang-orang yang bertanggung jawab. Mereka hanya meyakinkan banyak orang bahwa mereka memikul tanggung jawab sambil menerima uang sangat besar seumur hidup, padahal sebenarnya mereka tidak bertanggung jawab. Tanggung jawab ada pada pelaku.
  • Di dunia modern, menegakkan hukum dan menangkap kriminal adalah tugas organisasi kepolisian. Mereka tidak peduli pada hak, konstitusi, atau moral, dan tidak akan pernah peduli.
    Karena itu, warga yang memilih orang-orang yang melakukan hal seperti ini harus memecat politisi pada kesempatan berikutnya dan memberi tahu mereka mengapa mereka dipecat. Polisi adalah kalajengking, dan kalajengking bertindak sesuai sifatnya. Orang-orang bodoh yang membuat hukum yang mereka tegakkan itulah yang harus dipecat, dan sumber sebenarnya dari hukum baru bukanlah polisi, melainkan mereka.
  • Salah satu alasan besar sulit menangkap pelaku seperti itu secara online adalah kemungkinan besar mereka tidak berada di dalam negara sendiri.

• Kekacauan yang bisa ditimbulkan oleh undang-undang seperti ini kira-kira seperti ini
  https://mjtsai.com/blog/2022/08/22/google-account-deleted-du...
  https://news.ycombinator.com/item?id=32538805

  • Saya benar-benar khawatir bahwa mungkin kita harus memberi tahu putra kecil yang sedang menginap di rumah orang tuanya agar tidak membagikan foto dan video dirinya belajar berenang di kolam renang secara digital kepada orang tuanya. Bahkan jika dikirim secara pribadi lewat WhatsApp, false positive bisa menghancurkan hidup seseorang
  • Tanpa perlindungan apa pun, Google akan menjadi pihak yang sangat besar dalam meng-hosting dan memfasilitasi distribusi materi eksploitasi seksual anak. Kita tidak boleh naif soal ini
    Masalah sebenarnya adalah dukungan Google yang terkenal tidak ada atau sulit dipahami. Ditambah lagi penanganan hitam-putih seperti "pemblokiran seumur hidup", serta struktur yang menyulitkan banding ke pihak yang secara masuk akal independen. Ada begitu banyak alasan tidak bersalah yang bisa membuat akun diblokir, dan ini hanya salah satunya
    Layanan yang memungkinkan siapa saja mengunggah atau mengirim apa pun akan menjadi kertas lalat yang menarik manusia-manusia terburuk. Perlindungan dalam bentuk tertentu memang benar-benar diperlukan
    Selangkah lebih jauh, jika menyediakan platform raksasa yang terkait dengan banyak aspek kehidupan, mau tidak mau harus menerima tanggung jawab tertentu. Minimal harus menyediakan dukungan yang setidaknya kira-kira membantu, dan tidak boleh menjadi host skala besar untuk materi eksploitasi seksual anak
    Saat dulu bekerja sebagai teknisi perbaikan, saya pernah menekan sembarang video di halaman depan Google Video untuk melihat apakah Flash Player berfungsi, dan yang muncul adalah video seorang pria menembak kepalanya sendiri. Di tempat seperti Kazaa atau situs warez pun, konten semacam "Alice 12 tahun yang masih kecil dengan bangga menunjukkan payudaranya yang kecil" cukup sering ditemui tanpa perlu sengaja mencarinya
    Di mana titik keseimbangan untuk semua ini adalah pertanyaan yang sulit, tetapi berpura-pura bahwa keseimbangan itu sendiri tidak ada tidak membantu

• Rancangan ini sedang didorong oleh dewan, tetapi hasil akhirnya masih bisa dipengaruhi. Cukup pilih partai yang tidak terlibat dalam sampah seperti ini agar bisa ditolak. EU Pirate Party masih ada di surat suara di beberapa wilayah
  Jika ini naik menjadi undang-undang, perkiraan saya adalah kembalinya ASCII art

  • Tidak, rencana ini terang-terangan jahat. Seperti yang kita pelajari dari kegilaan banner cookie, orang selalu menyetujui semuanya demi menyingkirkan penghalang. Usulan ini memberikan pilihan palsu. Di EU, banyak koordinasi kehidupan nyata dilakukan lewat WhatsApp, jadi untuk berpartisipasi secara bermakna orang tidak punya pilihan selain setuju
    Ini bukan soal berbagi foto liburan dengan teman, melainkan hal-hal seperti ini
    "Ini tautan yang menjelaskan cara mengurus pajak organisasi nirlaba", "Ini logo sekolah yang baru", "Ini tautan jadwal turnamen sepak bola"
  • Dalam praktiknya, 99,99% pengguna sama sekali tidak akan peduli dan hanya akan mengizinkan pemindaian. Jika Anda belum menyadarinya, orang-orang benar-benar tidak peduli

• Sedikit keluar topik, tetapi saya penasaran apakah EU pernah melonggarkan regulasi atas sesuatu. Apakah mereka hanya menambahkan undang-undang dan pasal baru? Apakah mereka diberi imbalan berdasarkan jumlah baris kode? Apa contoh undang-undang yang dicabut atau diregulasi lebih longgar

  • Deregulasi tentu saja juga merupakan semacam regulasi, tetapi yang terlintas adalah ini
    https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32...
    Ringkasannya ada di sini: http://publications.europa.eu/resource/cellar/c56fbf1c-97bd-...
    Arahan ini mencabut berbagai hukum nasional terkait ukuran produk. Misalnya di Prancis, sampo bisa dijual dalam botol 250 ml atau 500 ml, tetapi tidak boleh 295 ml; jamur juga bisa dijual dalam kotak 250 g atau 500 g, tetapi tidak boleh 230 g atau 490 g
    Sekarang itu sudah bisa dilakukan, dan hasilnya menjadi deregulasi yang memungkinkan shrinkflation
  • Ya. Orang bisa bergerak bebas di semua negara Uni Eropa, kebanyakan memakai mata uang yang sama, menggunakan ponsel tanpa biaya roaming, dan mendapatkan layanan kesehatan jika perlu. Itu bukan hasil dari penambahan regulasi, melainkan pengurangan regulasi
  • Tergantung apa yang dianggap sebagai deregulasi. Banyak hal disederhanakan melalui pasar tunggal dan pergerakan bebas tenaga kerja
  • Tidak mengejutkan kalau itu bisa terlihat begitu
    Bagi saya, cara EU dan AS menangani keamanan pangan merangkum filosofi keduanya dengan baik. Di EU, agar makanan diizinkan, harus dibuktikan bahwa makanan itu aman; di AS, agar makanan dilarang, harus dibuktikan bahwa makanan itu tidak aman
  • Sayangnya EU bukan satu-satunya yang seperti itu
    Belakangan ini deregulasi tidak terlalu populer, tetapi sesekali memang terjadi di sana-sini

• Lalu bagaimana dengan hak dasar kita, Pasal 7

  CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION
  (2012/C 326/02)
  Article 7
  Respect for private and family life
  Everyone has the right to respect for his or her private and family life, home and communications.

• Saya mendukung semua undang-undang ini, cukup tambahkan satu hal saja
  Semua data yang dibagikan oleh politisi, pejabat publik, dan keluarga mereka di dalam EU harus dipublikasikan, dianalisis untuk penyelidikan korupsi, dan disimpan secara permanen
  Jika kita semua dianggap pedofil, maka semua politisi adalah penjahat
  Tentu saja sebagian akan dituduh secara tidak adil dan kita semua akan kehilangan kebebasan, tetapi setiap kali pemilu akan ada peluang kecil bahwa pemerintahan sebelumnya diaudit dan korupsi serta kejahatan lain terungkap
  Kelihatannya itu cukup layak dicoba

  • Kita bisa melakukan yang terakhir tanpa melakukan yang pertama. Tentu saja para politisi tidak akan pernah melakukan hal yang merugikan diri mereka sendiri

• Jika dilihat secara positif, penolakan ini akan memicu generasi baru untuk mengirim fosil-fosil tua itu ke tong sampah sejarah
  https://youtube.com/watch?v=-wntX-a3jSY
  Semakin kuat kalian menggenggam, semakin banyak sistem bintang yang akan lolos dari sela-sela jari kalian

  • Semoga saja begitu. Namun melihat semua orang, setidaknya di AS, menjadi jauh lebih otoriter, aku tidak bisa terlalu berharap. Sungguh, semoga beruntung dalam pertarungan ini
  • Gambaran "generasi baru" yang kulihat, secara rata-rata, lebih condong pada kepatuhan yang mengerikan terhadap otoritas apa pun demi alasan apa pun. Dan sebagian dari pengecualian yang memberontak pun cukup bernuansa Nazi
    Tentu saja tidak jauh berbeda dari generasi sebelumnya, tetapi jelas bukan gelombang anti-otoritarian besar
    Di kelompok usia mana pun, orang hanya bisa diandalkan untuk melawan ketika mereka benar-benar mengalami ketidaknyamanan. Kebanyakan akan menerima pengawasan lalu kembali membagikan meme bodoh. Setidaknya sampai semuanya sudah terlambat
  • Atau bisa juga menjadi seperti varian Rusia ala Putin. Sekrup kekuasaan makin lama makin dikencangkan hingga Putin memperoleh kekuasaan absolut
  • Ini pandangan yang naif
    Alasan usulan semacam ini terus muncul kembali adalah karena ada kekhawatiran sah yang belum diselesaikan oleh swa-regulasi industri
    Jika tidak ada yang mau berdialog soal langkah yang baik, para politisi akan mencoba lagi, sekalipun mereka politisi baru
    Apa yang dilakukan penyebaran AI generatif secara tidak bertanggung jawab di ranah ini benar-benar mengerikan. Namun semuanya dianggap seolah-olah "toh matematika tidak bisa dihentikan, jadi kami tidak akan melakukan apa-apa", atau secara tersirat "tujuan membenarkan cara, jadi tidak apa-apa mengorbankan beberapa anak demi mendapatkan AGI". Dari luar, tampilannya sangat buruk
    Jika industri teknologi tidak bertanggung jawab sendiri, privasi akan segera mati. Para politisi hanya perlu menang sekali

• Tunggu saja sampai beberapa ratus false positive pertama beserta kisahnya muncul di berita, lalu lihat dampaknya pada pemilu berikutnya. Beberapa partai akan berkampanye dengan itu

  • Menurut laporan sebelumnya, tingkat false positive pemindaian itu disebut 10%[1]
    [1] https://www.reddit.com/r/privacy/comments/voaicx/10_error_ra...
  • Namun saat itu sudah terlalu terlambat. Mereka akan berjanji menyesuaikan filter dan daftar izin, tetapi pada akhirnya pemindaian akan tetap ada
    Untuk menerapkan undang-undang ini, mereka hanya perlu berhasil sekali, dan setelah itu akan terus bertahan. Kita harus berhasil mencabutnya setiap kali, dan tidak boleh gagal sekali pun