Dorongan kontroversial Komisi Eropa untuk pengawasan digital dikritik karena melemahkan demokrasi
(dannymekic.com)- Rancangan regulasi CSAM dari Komisi Eropa dikritik sebagai usulan pengawasan massal yang akan memindai secara otomatis percakapan, foto, dan video warga di aplikasi komunikasi seperti WhatsApp, iMessage, Instagram, TikTok, dan X
- Warga yang tidak dicurigai melakukan kejahatan pun dapat menjadi sasaran, sehingga kalangan akademik, otoritas regulator privasi, dan pakar hukum internal Dewan Uni Eropa menyoroti pelanggaran hak privasi serta cacat teknisnya
- Setelah pada 14 September 2023 muncul indikasi bahwa usulan itu tidak mendapat cukup dukungan di Dewan Uni Eropa, keesokan harinya Komisaris Urusan Dalam Negeri Ylva Johansson menayangkan iklan berbayar di X yang menyasar negara-negara penolak atau yang masih menahan sikap
- Iklan itu ditayangkan lebih dari 4 juta kali, dan menurut laporan transparansi X menggunakan microtargeting dengan mengecualikan pengguna yang tertarik pada Julian Assange, Brexit, AfD, Kekristenan, dan lainnya
- Pengecualian iklan berdasarkan keyakinan politik dan agama dinilai bertentangan dengan kebijakan iklan X, Digital Services Act, dan GDPR, serta memicu kritik bahwa Komisi Eropa menekan opini publik secara manipulatif
Struktur pengawasan komunikasi yang ingin diubah oleh rancangan regulasi CSAM
- Komisi Eropa mendorong rancangan regulasi CSAM yang akan mengubah aplikasi komunikasi digital seperti WhatsApp, iMessage, Instagram, TikTok, dan X menjadi alat pengawasan massal
- Objek pemindaian mencakup seluruh komunikasi digital warga Uni Eropa, termasuk percakapan real-time, foto, dan video
- Komunikasi warga yang tidak dicurigai melakukan kejahatan pun dapat dipindai secara otomatis
- Ratusan akademisi, otoritas regulator privasi, dan pakar hukum internal Dewan Uni Eropa mengkritik usulan ini karena melanggar hak privasi dan teknologi implementasinya juga dinilai cacat secara mendasar
- Kecerdasan buatan tidak mampu mendeteksi aktivitas kriminal secara akurat, sehingga dapat salah melaporkan jutaan warga tak bersalah sebagai tersangka
- Pelaku kejahatan dapat dengan mudah menghindari sistem dengan menghapus aplikasi atau berpindah ke dark web
- Usulan ini dikritik karena berarti berakhirnya percakapan digital privat, serta tidak sejalan dengan kebebasan berkomunikasi dan asas praduga tak bersalah
Iklan X yang dimulai tepat setelah kurangnya dukungan di Dewan
- Pada 14 September 2023, terungkap bahwa usulan ini tidak memiliki dukungan yang cukup di Dewan Uni Eropa
- Keesokan harinya, 15 September, Komisaris Eropa untuk Urusan Dalam Negeri Ylva Johansson memesan kampanye iklan berbayar di X
- Sasaran iklan adalah negara-negara yang menurut notulen rapat 14 September yang bocor tidak berniat mendukung usulan saat itu
- Belanda
- Swedia
- Belgia
- Finlandia
- Slovenia
- Portugal
- Ceko
- Kampanye itu ditayangkan lebih dari 4 juta kali
- Iklan tersebut menggunakan gambar anak perempuan kecil, laki-laki yang tampak mengancam, dan musik menyeramkan, serta memberi tekanan emosional seolah-olah pihak yang menentang rancangan undang-undang tidak menginginkan perlindungan anak
Masalah pada jajak pendapat dan penyajian tingkat dukungan
- Iklan itu mengklaim bahwa rancangan undang-undang yang diusulkan didukung oleh mayoritas warga Eropa
- Survei yang dijadikan dasar dikritik karena hanya menonjolkan kelebihan rancangan tersebut tanpa memaparkan kekurangannya
- Survei YouGov dan Novus menyajikan kekurangannya juga, dan menunjukkan bahwa hampir tidak ada dukungan untuk usulan ini di kalangan warga Eropa
- Setelah itu, ahli metodologi Dr Vera Wilde menulis artikel rinci mengenai hasil survei yang digunakan dalam kampanye iklan tersebut
- Ia menilai instrumen surveinya bias sehingga survei tersebut tidak valid
- Ia menilai para pelaksana survei melanggar standar profesional dan etika survei yang diakui luas beserta kode perilaku terkait
- Ia menilai para pendukung program telah salah merepresentasikan hasil survei
- Ia menilai survei ini dan cara penyajiannya merupakan kampanye disinformasi yang menyesatkan peserta dan pembaca
Microtargeting di X dan benturan hukum
- Menurut laporan transparansi X, Komisi Eropa menggunakan microtargeting agar iklan tidak terlihat oleh kelompok tertentu
- Kelompok yang dikecualikan mencakup orang-orang yang tertarik pada privasi dan pengguna yang cenderung euroskeptis
- Orang yang tertarik pada Julian Assange
- Orang yang tertarik pada nexit, brexit, spanexit
- Orang yang tertarik pada Victor Orbán, Nigel Farage, dan AfD Jerman
- Alasannya tidak jelas, tetapi orang yang tertarik pada Kekristenan juga dikecualikan
- Setelah mengecualikan kelompok politik dan agama yang kritis, algoritme X diatur untuk mencari pengguna dari kelompok yang tersisa yang kemungkinan akan tertarik pada pesan iklan tersebut
- Akibatnya, dinilai tercipta echo chamber tanpa kritik yang mengurangi respons kritis
- Microtargeting semacam ini yang didasarkan pada keyakinan politik dan agama bertentangan dengan hal-hal berikut
- Kebijakan iklan X
- Digital Services Act Article 26(3)
- General Data Protection Regulation
- Khususnya, Digital Services Act adalah hukum yang justru harus diawasi langsung oleh Komisi Eropa
Prosedur demokratis dan tuntutan kepada Komisi Eropa
- Jika rancangan undang-undang tidak memiliki dukungan yang cukup, tanggapan yang demokratis adalah menariknya, atau merevisinya agar dapat memperoleh dukungan yang memadai seperti yang diusulkan Jerman
- Dalam hal ini disebutkan revisi dengan cara yang tidak memperkenalkan “telescreen” yang inkonstitusional
- Cara Komisi Eropa menggunakan iklan manipulatif, statistik yang menyesatkan, dan microtargeting berbasis agama dan keyakinan untuk mengubah opini publik di negara anggota yang diragukan, dikritik karena mengingatkan pada kampanye disinformasi dalam pemilu AS dan saat Brexit
- Dinilai bahwa menyingkirkan nilai-nilai Eropa demi mendorong rancangan undang-undang yang sangat kontroversial tidak hanya merugikan warga, tetapi juga fondasi Uni Eropa sendiri
- Komisi Eropa dituntut untuk menghentikan kampanye iklan tersebut dan mengakhiri kampanye disinformasi manipulatif yang berupaya membelokkan opini publik Eropa melalui iklan ilegal di media sosial
Pembaruan setelahnya dan materi terkait
- Setelah artikel dipublikasikan, ada pembaruan bahwa akun @DannyMekic dan cuitannya tidak lagi muncul di mesin pencari X/Twitter
- Akses ke akun kemudian dipulihkan, tetapi disebutkan tidak diketahui mengapa, bagaimana, untuk siapa, atau apakah itu keputusan internal X sendiri
- Laporan transparansi X terkait tampaknya telah dihapus dari X/Twitter per 14 November 2023, dan file mirror tersedia di GitHub
- Teks utama juga menyediakan daftar tautan ke laporan transparansi X terkait dan postingan EUHomeAffairs
1 komentar
Opini Hacker News
Cara para politisi mencoba meloloskan rancangan undang-undang kontroversial seperti ini terasa benar-benar keliru
Politisi, yang dipengaruhi lobi yang tidak terlalu peduli pada kepentingan publik, mengangkat isu kontroversial, lalu untuk menghentikannya banyak warga harus menghabiskan waktu dan energi untuk berkampanye
Namun begitu suasana mereda, politisi dan pelobi yang sama membawanya lagi dengan hanya mengganti nama atau menyelipkannya diam-diam ke RUU lain, dan setelah peristiwa yang banyak mengerahkan emosi, dukungan publik juga mudah didapat tanpa konteks
Politisi dan pelobi dibayar untuk melakukan hal ini, sementara warga tidak, sehingga pada akhirnya, ketika warga mengorbankan hidup mereka, mereka bisa terus mendorong omong kosong yang sama
Dulu mereka juga mencoba meloloskan paten perangkat lunak dalam rapat menteri pertanian, dan saat itu delegasi Polandia berhasil menghentikannya, tetapi pada akhirnya industri tetap mendapatkan apa yang mereka inginkan belakangan
Di satu sisi rasanya kegilaan ini akan berakhir, tetapi di sisi lain aku khawatir selama beberapa bulan mereka juga akan mencoba hal-hal seperti pengawasan total dan pemotongan tubuh menjadi dua sebagai metode hukuman mati
Meski begitu, mungkin ada kelebihan bahwa hukum yang buruk bisa diperbaiki jauh lebih cepat
Banyak kemenangan hak, seperti hak pilih perempuan, hak sipil, hak kaum gay, dan ganja medis, juga merupakan hasil dari politisi dan pelobi yang terus mengajukannya dan terus kalah, sampai suatu hari lolos dan mengakar
Secara pribadi, menurutku pemerintahan lokal yang lebih kecil dan terdesentralisasi adalah cara terbaik untuk mengurangi kerusakan, tetapi itu berarti semua kelompok harus mengulangi pertarungan yang sama di berbagai daerah, jadi itu pun menimbulkan kerusakan tersendiri
Aku tidak bisa memikirkan cara untuk mengalahkan RUU buruk secara permanen tanpa merusak gerakan-gerakan hak di masa lalu dengan cara yang sama
Biasanya, untuk mencegah tindakan diperlukan kendali penuh atau insentif yang kuat, dan pengembangan fitur browser juga memiliki dinamika yang sama
Menambahkan itu mudah, tetapi mencegah penambahan sulit, dan pada akhirnya kita mengatakan ya bahkan pada hal-hal yang merugikan mayoritas
Lebih banyak orang hanya mencari tahu sampai batas tertentu lalu tidak melakukan apa-apa, dan kelompok yang lebih besar mengeluh di forum sambil hanya meminta orang lain melakukannya
Dengan jumlah orang yang sangat kecil pun perubahan bisa dibuat, tetapi dalam kenyataan bahkan lebih sedikit orang yang bergerak, sehingga tidak terjadi apa-apa
Orang-orang yang bergerak seperti aku akhirnya kelelahan dan putus asa, serta merasa telah menyia-nyiakan bagian yang cukup besar dari hidup
Jika beberapa orang lagi saja ikut, mungkin hasilnya bisa berbeda, tetapi itu tidak terjadi
Jika menginginkan perubahan, kalian bisa meraihnya, tetapi kebanyakan orang tidak akan melakukannya
Terlepas dari isu privasi dan pengawasan yang lebih luas, jika European Commission menggunakan iklan tertarget yang canggih untuk menggoyang opini publik dan secara sengaja mengecualikan orang-orang yang peduli pada perlindungan privasi serta kaum Euroskeptik, itu sangat mengkhawatirkan
Jika lembaga seperti EC mulai mendorong agenda melalui ruang gema yang dirancang dengan hati-hati dan mengeluarkan kelompok populasi tertentu dari pembahasan, ruang bersama untuk diskursus politik publik akan hilang
Apakah ini gerrymandering digital?
Tidak ada yang baru, hanya saja sekarang bukan cuma populis sayap kanan yang melakukannya
Di Twitter sekarang, entah kenapa, populisme sayap kanan seperti itu sudah dianggap sepenuhnya baik-baik saja
Misalnya ketika menargetkan promosi ke Belgium atau NL, orang-orang yang sudah berada di sana selama beberapa generasi sering kali merupakan pendukung partai sayap kanan
Orang-orang yang mengikuti maksud hukum sering kali tidak terdaftar secara lokal, seperti mahasiswa di AS
Pada akhirnya, terbentuk loop umpan balik yang menyalurkan konten lain lagi kepada orang-orang yang mirip dengan kelompok yang menghasilkan Brexit
Aku setuju dengan penulis bahwa jika RUU yang diusulkan tidak mendapat dukungan yang cukup, respons demokratis yang benar adalah menariknya
Aku sudah muak dengan model kebijakan publik ala persaudaraan kampus, yang terus bertanya sampai mendapatkan contoh yang diinginkan dari orang-orang yang tidak diblokir agar tidak bisa didengar
Baru-baru ini aku mengetahui bahwa pemungutan suara Kongres AS dulu adalah pemungutan suara anonim, dalam arti jumlah suara diumumkan tetapi siapa memilih apa dirahasiakan
Setelah itu, dengan alasan meningkatkan transparansi, suara individu yang sebenarnya dipublikasikan, dan meski efeknya tampak membuat proses lebih terbuka bagi warga, hasilnya justru menunjukkan kepada pelobi secara persis anggota mana yang mendukung atau menentang kepentingan mereka
Akibatnya, dana mengalir ke anggota yang ramah terhadap lobi dan lingkaran setan semakin cepat
Video kuliah ini membahas proses dan dampaknya jauh lebih rinci: https://www.youtube.com/watch?v=Qz27n1tNNMg
Sebagai tambahan, aku juga ingat kisah bahwa sebuah badan politik nyata yang menguji pemungutan suara terbuka dan rahasia untuk RUU yang sama menghasilkan hasil yang sama sekali berbeda. Sepertinya itu parlemen Italia
European Parliament mungkin adalah institusi terbaik yang dimiliki Eropa, dan banyak perubahan baik serta hak-hak baru berasal dari sana
Sebaliknya, European Commission nyaris merupakan yang terburuk yang bisa kita miliki
Mereka sepenuhnya korup, seperti kasus wakil presiden yang menerima tas berisi uang tunai dari Qatar dan lainnya, atau setidaknya korup secara moral akibat lobi
Selain itu, tidak ada yang memilih orang-orang dengan kewenangan sebesar itu
Patut juga dipikirkan mengapa AS mendapat akses bersama ke semua transaksi finansial warga Eropa, tetapi kebalikannya tidak berlaku
Jadi itu melemahkan argumen awal
Misalnya, AS menanggung sebagian besar biaya pertahanan Eropa
Selain itu, entah karena alasan apa ia menjadi wakil presiden yang menangani AI dan Blockchain, padahal sama sekali tidak punya kualifikasi
Masalah pada EC maupun EP adalah kurangnya akuntabilitas, dan sistemnya sangat tidak langsung
Tidak ada yang baru dari EU Commission
Di antara lembaga-lembaga EU, inilah yang paling kurang demokratis, dan namanya pun terasa sangat tepat karena commission berasal dari commissar di Soviet Union
Lihat saja bagaimana mereka menyerang negara-negara yang berani memilih pihak yang menentang para pendukungnya, terutama kelompok kepentingan Jerman dan Rusia sebagai proksi
Mereka mendefinisikan ulang istilah seperti supremasi hukum untuk menargetkan Polandia yang diperintah partai penentang EPP, partai berkuasa di EU, sementara sepenuhnya mengabaikan korupsi parah di Bulgaria yang berada di pihak mereka
Mereka tidak bereaksi terhadap korupsi besar-besaran di Court of Justice of the EU, dan kini pengadilan itu nyaris berada di sisi yang berlawanan dengan supremasi hukum, tetapi itu cerita panjang
Pada saat yang sama, mereka berusaha memperluas kewenangannya sendiri dengan melanggar perjanjian, menghapus hak veto, dan mendorong rancangan hukum seperti ini
Ini semakin menyedihkan karena EU sendiri tadinya adalah ide yang luar biasa, dan apa pun bisa menjadi korup
Saya penasaran dengan pandangan orang-orang yang pernah memikirkan secara mendalam peran anonimitas dalam demokrasi
Menarik bahwa orang-orang yang berpendapat kalau tidak melakukan kesalahan maka tidak masalah diawasi sering menerapkan filosofi itu hanya ke satu arah
Saya melihat orang-orang marah karena Snowden mengungkap aktivitas pemerintah, tetapi tidak peduli bahwa isi yang terungkap adalah fakta bahwa pemerintah mengawasi warganya sendiri
Apakah itu berarti pemerintah berhak memiliki privasi, tetapi warga tidak?
Saya punya intuisi bahwa privasi individu penting untuk mempertahankan demokrasi, tetapi juga intuisi bahwa kerahasiaan institusional pemerintah merugikan demokrasi
Tentu saja, kebanyakan orang akan berargumen bahwa tingkat kerahasiaan pemerintah yang masuk akal diperlukan demi keamanan nasional, dan saya lebih memilih seminimal mungkin, tetapi kebanyakan orang di sekitar saya tidak setuju
Saya ingin mengeksplorasi kedua sisi dan mencari argumen yang melampaui intuisi, jadi akan bagus jika ada tautan argumen atau referensi dari berbagai posisi
Salah satu kewajiban pemerintah adalah pertahanan militer, pemerintah harus melindungi rakyatnya, dan realitas perang menuntut adanya tingkat kerahasiaan tertentu
Tidak mengakui hal ini bisa berarti pemerintah meninggalkan kewajibannya
Sebaliknya, individu privat tidak bisa menjalankan perang, dan alasan pemerintah harus melindungi rakyat juga karena individu dilarang berperang sendiri secara langsung
Jadi logikanya, realitas perang membenarkan kerahasiaan pemerintah, tetapi tidak membenarkan rahasia pribadi individu
Sebagai sanggahan, secara historis terutama pada abad ke-20, puluhan juta orang dibunuh oleh pemerintah mereka sendiri
Pemerintah mungkin membutuhkan sebagian rahasia agar efektif melindungi rakyat dari ancaman eksternal, tetapi rakyat juga membutuhkan hak untuk memiliki rahasia terhadap pemerintah agar bisa melindungi diri dari ancaman internal yang sama nyatanya dan sama mengkhawatirkannya, yaitu pemerintah
Untuk bekerja sama, orang membutuhkan suatu bentuk tekanan sosial, bisa berupa umpan balik positif dari rekan, atau umpan balik negatif seperti rasa malu
Di sini keaslian itu penting, dan rekan-rekan harus bisa memberikan umpan balik positif maupun negatif yang akurat
Anonimitas merusak model ini dengan memungkinkan orang berpura-pura menganut suatu pandangan demi mendapat imbalan, sambil menghindari umpan balik negatif atas perilaku antisosial
Ini langsung terlihat dari para komentator pseudonim di internet
Orang biasa pun bisa bersikap sangat buruk secara online karena mereka dapat menyembunyikan perilakunya dari orang-orang yang bisa memberikan konsekuensi sosial
Jika mengetahui bahwa seorang teman dekat adalah orang yang menunjukkan kekejaman sehari-hari ala troll online, Anda mungkin akan memutuskan hubungan pertemanan
Tentu saja manfaat privasi tidak semuanya buruk, dan orang-orang rentan khususnya sangat terbantu oleh privasi dalam lingkungan yang bermusuhan
Namun dalam lingkungan yang kurang bermusuhan, seperti demokrasi langsung atau tidak langsung, jawabannya mungkin bukan lebih banyak privasi, melainkan budaya yang tidak terlalu menghakimi
Kerangka lain adalah kepercayaan
Anonimitas melemahkan kepercayaan, sementara tindakan kolektif membutuhkan kepercayaan
Dari sudut pandang ini, cukup jelas bahwa demokrasi dan perlindungan privasi mengejar tujuan yang saling berlawanan
Dalam hal pemungutan suara pun, menurut saya bukan ide bagus menciptakan insentif untuk berbohong, atau lebih buruk lagi, secara aktif mendorongnya sebagai hal positif
Jika pemungutan suara terbuka menciptakan eksternalitas negatif, mungkin ada solusi lain selain membiarkan orang berbohong tentang bagaimana mereka memilih
Benar-benar mengerikan
Inggris juga mencoba hal semacam ini dengan dalih melindungi anak-anak
Namun mereka tidak mendukung organisasi masyarakat sipil yang sudah bekerja baik di bidang itu, dan dari tindakan nyata mereka terlihat bahwa kontrol memiliki prioritas jauh lebih tinggi daripada perlindungan anak
Bahkan jika mengesampingkan obsesi umum terhadap kontrol dan hilangnya kebebasan, saya penasaran apakah pernah ada penelitian tentang seberapa membantu ini dalam menghentikan pelaku kejahatan seksual terhadap anak
Sepertinya efektivitasnya akan jauh lebih rendah dibanding organisasi masyarakat sipil yang menangani kejahatan seksual terhadap anak, dan pada akhirnya ini terlihat seperti upaya meniru China untuk mengendalikan populasi
Para birokrat membanjiri warga dengan teks dalam jumlah luar biasa besar
Di sini bahkan ekspresi pendapat pun diatur, padahal beberapa prinsip saja sudah cukup
Prinsip terpenting seharusnya adalah bahwa setiap warga dapat menyatakan pendapatnya secara bebas
https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CEL...
Ini juga bukan hal baru
Negara mana pun, jika mau, dapat menerapkan perlindungan kebebasan berekspresi yang lebih kuat, dan lembaga UE tidak bisa mencegahnya
Logika awalnya tidak masuk akal
Sebagian besar negara UE memiliki undang-undang yang secara eksplisit melarang ujaran kebencian seperti Nazi atau antisemitisme
Tidak ada yang meneteskan air mata karena pendapat mereka dibatasi, dan memang seharusnya begitu
Berdebat dengan merpati tidak akan berhasil
Itu adil
Pencemaran nama baik adalah tindak pidana yang dihukum oleh hukum di mana pun di Barat, tetapi itu tidak berarti orang dilarang mengatakan apa yang diinginkannya
Demokrasi tanpa kekuatan penyeimbang berupa sistem peradilan bukanlah demokrasi dalam arti modern
Saya memandang bahwa baik European Union maupun negara anggota mana pun tidak memiliki demokrasi yang nyata
Tidak ada pemisahan kekuasaan, dan eksekutif serta legislatif seolah menjadi satu untuk mengendalikan semuanya
Hal ini terlihat dari undang-undang yang memintas sistem peradilan ketika menyensor konten internet
Yang memutuskan apakah akan melarang Russia Today atau Twitter bukanlah hakim
Ini seperti hukum besi oligarki Michels yang terjadi di depan mata
Mereka membuat hukum, menegakkannya, dan menghukum jika tidak dipatuhi
Hampir setahun lalu saya pertama kali melihat inisiatif ini di situs web VPN
Yang lebih mengkhawatirkan adalah isu ini hampir tidak diberitakan di media
Bagaimana orang bisa memprotes sesuatu yang bahkan belum pernah mereka dengar?
Kekuatan hegemonik yang diam-diam merusak hak-hak dasar bukan hanya warga Eropa tetapi semua orang, dengan dalih birokrasi yang rumit, pengekangan media, dan perlindungan anak, lebih menyeramkan daripada usulannya sendiri
Melawan materi eksploitasi seksual anak dan aktivitas kriminal lainnya sangat penting, tetapi pengawasan massal bukan jawabannya