Pengawasan bukanlah keamanan: pernyataan tentang ancaman privasi terbaru di Inggris [pdf]

• Tuntutan untuk memindai seluruh konten di semua perangkat yang dijual atau digunakan di Inggris berdasarkan kriteria dugaan ketelanjangan bukanlah langkah untuk melindungi anak, melainkan tindakan yang membahayakan privasi dan hak berkomunikasi semua orang
• Menggabungkan verifikasi usia dan pemindaian konten sehingga semua penduduk Inggris harus membuktikan usia mereka atau membiarkan seluruh kontennya dipindai berarti menempatkan syarat berbahaya pada pelaksanaan hak dasar untuk berkomunikasi
• Kemampuan pengawasan dan sensor berskala besar, sekali dibangun, tidak akan tetap terbatas, dan akan meluas menjadi alat untuk menyensor dan mengawasi hal-hal yang dianggap sebagai ancaman atau konten berbahaya di Inggris maupun di luar negeri
• Janji bahwa sistem berjalan di perangkat saja juga bukan perlindungan yang memadai, karena cakupan pemindaian berada dalam struktur yang tunduk pada keleluasaan pemerintah dan dapat berubah dari deteksi ketelanjangan hari ini menjadi ucapan politik besok
• Keamanan anak yang sesungguhnya bergantung pada pendanaan pendidikan yang memadai, layanan sosial yang kuat, dan pengaman yang bermakna terhadap teknologi AI serta platform, dan infrastruktur pengawasan tak terlihat yang menyala secara default bukanlah alternatifnya

---

Posisi inti

• Anak-anak harus dilindungi dan dibesarkan dengan aman, bukan dijadikan sasaran pengawasan, pemotongan anggaran, dan penutupan-nutupan
• Semua orang, termasuk anak-anak, memiliki hak asasi atas perlindungan privasi, dan tuntutan pemerintah Inggris mengarah pada pelanggaran hak ini
• Tuntutan pemerintah Inggris adalah langkah yang mewajibkan pemindaian seluruh konten di semua perangkat yang dijual atau digunakan di Inggris berdasarkan kriteria dugaan ketelanjangan
  • Pendekatan ini menggabungkan verifikasi usia dan pemindaian konten
  • Ini tidak melindungi anak-anak dan justru membahayakan semua orang
  • Hasilnya adalah memperkuat dominasi pasar dan kendali data pribadi Apple, Google, dan Microsoft

Langkah yang diusulkan dan risikonya

• Struktur yang mewajibkan semua penduduk Inggris membuktikan usia mereka atau menjalani pemindaian seluruh konten demi menggunakan hak dasar untuk berkomunikasi adalah usulan yang berbahaya
• Kemampuan pengawasan dan sensor massal adalah teknologi yang tidak akan tetap dalam lingkup sempit, betapapun tulusnya janji pihak yang memulainya terdengar
  • Sekali dibangun, strukturnya akan meluas
  • Menjadi alat berbahaya untuk menyensor dan mengawasi hal-hal yang dianggap sebagai “ancaman” atau “konten berbahaya” di Inggris maupun di luar negeri
• Janji bahwa sistem hanya berjalan di perangkat bukanlah alasan yang cukup untuk merasa aman
  • Baik dijalankan di dalam perangkat, di kamera itu sendiri, atau di tempat lain, cakupannya ditentukan oleh penilaian pemerintah dan aturan pelarangan
  • Hari ini deteksi ketelanjangan, besok bisa berubah menjadi deteksi ucapan politik
• Secara historis, teknologi seperti ini cenderung meluas secara otoriter dalam hal jenis konten dan orang yang diawasi
  • Alat-alat semacam ini dapat digunakan untuk melaporkan orang secara otomatis kepada otoritas pemerintah
  • Aparat penegak hukum sudah pernah menuntut kewenangan yang sama luasnya, dan dalam iklim politik yang makin tidak stabil, kewenangan seperti ini sangat rentan disalahgunakan
• Keamanan anak lebih dekat pada konsep pendidikan yang didukung dengan baik, layanan sosial yang kuat, dan pengaman yang bermakna terhadap teknologi AI dan platform
• Yang diinginkan pemerintah Inggris adalah infrastruktur pengawasan tak terlihat yang menyala secara default
  • Ada struktur yang memungkinkan legislasi dipaksakan dengan cepat di bawah dalih yang sinis
  • Pendekatan yang kurang mempertimbangkan kebutuhan nyata anak-anak yang diklaim sebagai pihak yang dilindungi serta konsekuensi mengerikan dan luas yang akan mengikuti di dunia nyata

[GN⁺]

Komentar Hacker News

• Kadang saya penasaran apakah orang-orang di industri teknologi yang membuat hal-hal seperti secure boot, attestasi, dan DRM memandang akhir seperti ini sebagai sesuatu yang selalu dilihat para pendukung open source sebagai keniscayaan
  Saat mereka memindahkan keputusan akhir dari pengguna ke perusahaan melalui sarana teknis, apakah mereka sungguh berpikir para politisi tidak akan bisa memindahkan kendali itu ke diri mereka sendiri lewat sarana politik?
  Saat mereka mengunci platform demi memeras potongan 30% dari App Store, menegakkan aturan lewat peninjauan aplikasi, bahkan menunjukkan penyensoran terhadap situs seperti Tumblr, apakah mereka mengira para politisi tidak akan menginginkan kekuasaan yang sama untuk menetapkan aturan dan melakukan sensor?
  Apakah mereka berpikir para pemberi kerja akan menghentikan peralihan itu, bahwa perusahaan bernilai triliunan akan menjadi gerilyawan ala Che Guevara yang hendak menggulingkan sistem yang telah menjadikan mereka perusahaan triliunan?

  • Saya mendapat kesan bahwa orang-orang yang bisa melakukan hal seperti itu cenderung menerima dunia apa adanya. Semacam, “begini cara dunia berjalan, jadi pembatasan digital diperlukan, dan sekarang kita harus menerapkannya”
    Apakah DRM atau remote attestation merupakan praktik bisnis standar atau tidak bukan sesuatu yang bisa saya putuskan, melainkan sekadar realitas yang diterima begitu saja
    Ini mirip dengan dua tipe orang dalam memandang hukum. Satu pihak berkata, “ini hukumnya jadi harus ditaati,” sementara pihak lain berkata, “hukum ini tidak masuk akal jadi harus diubah”
    Ini juga seperti perbedaan antara orang yang melihat lampu penyeberangan pejalan kaki lalu menyeberang saat hijau, dan orang yang melihat mobil lalu menyeberang bila tidak ada kendaraan datang. Yang pertama berkata aturan lalu lintas harus diikuti, sedangkan yang kedua menganggap kalau hanya melihat lampu merah/hijau dari hukum, mereka tidak akan selamat. Lampu hijau tidak berarti aman, dan kalau tidak ada mobil, tidak ada alasan tak bisa menyeberang meski lampunya merah
  • Pada akhirnya mereka adalah karyawan. Pemberi kerja mempekerjakan mereka untuk menulis kode yang diinginkan, dan jika mereka tidak mau, mereka akan dipecat lalu digantikan orang lain yang mau menuliskannya
    Seberapapun meragukannya secara etis, orang yang rela meninggalkan pekerjaan demi mempertahankan sudut pandangnya sendiri masih sangat jarang
  • Ungkapannya bagus
    Menurut saya, kita bisa paling banyak belajar soal masalah ini dengan membaca tulisan orang-orang cerdas dan kompeten di perusahaan teknologi besar. Kerangka pikir mereka sering kali menganggap ini sebagai trade-off terhadap tekanan sosial yang lambat namun tak terhindarkan, yang diredakan dengan mengorbankan kebebasan
    Jadi saya tidak berpikir mereka tidak menyadari poin di atas. Sebaliknya, lebih dekat ke kenyataan bahwa mereka—dan mungkin perusahaan, bahkan orang biasa juga—tidak melihat cara yang realistis untuk melaju menuju sesuatu yang lebih baik, lebih kaya, atau lebih canggih tanpa kompromi itu
    Rasanya seperti mereka melihat percabangan masa depan, dan entah mereka yang melakukannya atau keadaan memburuk lalu orang lain yang melakukannya, tidak ada jalur yang berakhir tanpa pembatasan teknis
  • Orang-orang yang membuat fitur seperti secure boot, attestasi, dan DRM sangat paham, tetapi tidak peduli. Karena mereka menganggap manfaat yang dijanjikan kepada mereka—seperti berkurangnya peretasan, malware, dan trafik bot—lebih besar daripada kemungkinan kerugian bagi masyarakat secara keseluruhan
  • Saya ingat pernah bersuara tentang hal-hal seperti ini dulu. Tapi alasan pembenar ada di mana-mana
    Katanya, “secure boot bisa dimatikan, jadi tidak masalah.” Itu memang benar, tetapi setelah itu semakin banyak hal tidak akan bisa dijalankan. Misalnya, seperti tidak bisa memakai aplikasi iOS di Mac. Pada akhirnya, seperti yang sudah terjadi di ponsel, tetap berada di dalam walled garden yang nyaman akan menjadi standar, dan jika keluar darinya, Anda akan diblokir begitu saja dari aplikasi yang melakukan hal-hal berguna
    Ada juga logika attestasi bahwa “perusahaan perlu memastikan Anda memang orang yang Anda klaim.” Benar, tetapi kalau mereka bisa mendapat keuntungan dari kekuasaan itu, perusahaan akan menyalahgunakannya

• Urutannya kira-kira begini

  1. Sebelum melihat konten dewasa, komputer perlu memiliki kamera agar pihak ketiga bisa memverifikasi usia
  2. Ini lalu diterapkan juga ke media sosial
  3. Lalu diterapkan ke sistem operasi
  4. Jika verifikasi usia tidak dilakukan, hukum akan menuntut komputer harus cukup kuat untuk menjalankan AI atau terhubung ke internet dan mengirim foto privat ke pihak ketiga. Dengan begitu, ketelanjangan bisa dideteksi dan dilarang. Agar bisa bekerja pada hal-hal seperti panggilan FaceTime, kemungkinan harus bisa berjalan secara real time
     Langkah berikutnya kemungkinan besar adalah secara efektif membuat sebagian besar sistem operasi dan perangkat lama menjadi ilegal. Ini kabar bagus bagi Google, Apple, dan Microsoft, dan kabar buruk bagi Linux serta sistem operasi alternatif. Perlu diingat dulu sekolah-sekolah pernah membagikan Raspberry Pi
     Tambahan lagi, karena tak seorang pun paham bagaimana rekayasa perangkat lunak sebenarnya berjalan, mereka menuntut ini diimplementasikan gratis dalam 3 bulan. Benar-benar cara kerja yang luar biasa
  • Sepertinya tidak perlu sampai ke tahap “langkah berikutnya adalah melarang sebagian besar sistem operasi dan perangkat lama”
    Sebagai gantinya, cukup buat teknologi baru yang pada praktiknya wajib dipakai, tetapi tidak bisa dijalankan di perangkat lama. Perbarui atau berhenti eksis secara sosial
    Ponsel dan email sudah tampak mendekati kategori “wajib” seperti itu. Saya bilang ini sebagai pengguna internet yang pribadi tidak memakai ponsel/email. Ketika saya menjawab, “saya tidak punya telepon dan tidak punya email,” tak ada yang percaya. Saya orang paling bebas yang masih hidup, tapi kalau mereka tidak percaya, itu kerugian mereka
  • Ini bukan cuma soal foto Anda. Ini soal semua konten yang ditampilkan di perangkat, semua konten yang ditangkap kamera, semuanya. Ini adalah pengumpulan total. GCHQ pasti kegirangan
  • Apakah undang-undangnya benar-benar mensyaratkan pihak ketiga? Kalau ini adalah fitur di perangkat yang bisa diatur orang tua, rasanya tidak seburuk itu
  • Kalau tekanan fasis sudah cukup besar, mungkin Usenet akan kembali bagus. Yang perlu dicari hanya cara untuk menyaring konten baik yang sudah dikenal dari spam, dan sepertinya itu bisa dipecahkan dengan identitas OpenPGP
    Atau, bagi orang yang sabar, ada Tor dan pengelola unduhan. Galeri foto/video hasil pembangkitan statis yang tersebar di ribuan situs kecil juga mungkin
    Kekurangan dari mendorong orang ke sudut-sudut gelap adalah semua regulasi hilang, dan sebagian penerimaan pajak ikut hilang. Kehilangan penerimaan pajak mungkin justru cara untuk menarik perhatian mereka

• Signal harus melawan dengan tegas. Akan bagus jika dikatakan seperti ini
  Pemerintah ingin menanam mata-mata di setiap ponsel, memasang alat penyadap di setiap kamar tidur, dan menguping setiap rumah tangga setiap malam. Sampai ke setiap ruang praktik, setiap ruang konseling, setiap pub, setiap jalan, dan setiap toko
  Saat mata-mata itu melapor pulang, polisi bisa datang ke rumah hanya karena kata-kata yang Anda ketik kepada kekasih
  Stasi buatan akan masuk ke setiap desktop, laptop, tablet, kamera, dan ponsel. Ia ada di setiap sudut dan setiap ruang tamu. Tidak ada pengecualian dari tatapannya
  Apakah penyedot debu Anda sudah siap melapor pulang?

  • Maksudnya aplikasi/platform pesan Signal? Yang lucu, di Tiongkok Signal hampir tidak berfungsi dengan baik bahkan jika memakai VPN. Mengirim media atau gambar itu tidak mungkin
    Kadang-kadang bahkan diblokir selama berminggu-minggu. Hal lain biasanya masih lumayan jalan kalau pakai VPN
  • Jika Signal tidak melawan, mereka akan kehilangan pelanggan yang peduli privasi, dan untuk sementara tidak akan kehilangan pelanggan yang tidak peduli. Tapi perpecahan seputar solusi baru hampir pasti akan terjadi, dan akan muncul opsi lain yang direkomendasikan teman-teman teknis atau orang-orang yang sedang dianggap keren kepada pengguna umum
    Kita sudah pernah mengalami hal seperti ini. Satu-satunya cara menang dalam permainan ini adalah tidak ikut bermain. Terutama dengan pemerintah, begitu mulai bermain Anda sudah kalah
  • Tidak beda dengan The Witness dalam novel Gnomon karya Nick Harkaway

• Pengawasan menggantikan ancaman pribadi dan periferal yang dijadikan alasan di permukaan dengan ancaman yang jelas, berbahaya, luas, dan secara praktis tak bisa dipulihkan. Ancaman itu terus menumpuk tuas yang tersentralisasi atas setiap aspek langsung maupun tidak langsung dari hidup kita
  Pengetahuan adalah kekuasaan. Jika kehidupan batin kita dipaksa terbuka, masing-masing dari kita ditempatkan dalam posisi rentan
  Bahkan “jika tidak disalahgunakan”, ancaman potensial itu sendiri secara nyata merampas kebebasan berpikir dan bertindak
  Ini adalah penyalahgunaan yang ekstrem
  Negara akan berfungsi sebagai ancaman searah yang dimaksimalkan terhadap semua warga, dan menghancurkan rasa bahwa negara bekerja untuk rakyat
  Analisis gabungan AI memperbesar ancaman itu serta dampak pasif dan aktifnya secara eksponensial
  Salah satu konsep etika dan keamanan paling bijak dalam sejarah adalah ini. “Hak rakyat untuk merasa aman atas diri, rumah, dokumen, dan barang miliknya dari penggeledahan dan penyitaan yang tidak wajar, tidak boleh dilanggar”
  Demokrasi yang memasang tuas kediktatoran total adalah distorsi dan ancaman terbesar terhadap demokrasi. Demokrasi hanya berfungsi selama ia mengakui bahwa pemerintah adalah ancaman terbesar terhadap kebebasan. Satu-satunya pertahanan adalah membatasi secara ketat kekuasaan pemerintah atas warga

• Pemerintah telah mendorong pengawasan sejak awal internet konsumen
  Contoh paling awal yang saya ingat adalah Clipper Chip. Mati tiga tahun setelah diusulkan
  Gagasan bodoh ini juga akan gagal dengan cara yang mirip. Ini juga diusulkan oleh seorang perdana menteri yang mempromosikan teman sangat dekat dari pedofil paling terkenal belakangan ini menjadi duta besar, melawan rekomendasi birokrasi
  Meminta perubahan besar diterapkan ke semua sistem operasi di bumi dalam 3 bulan? Tidak terdengar sedikit pun seperti sesuatu yang mungkin

• Saya tadinya tidak terlalu membenci Starmer, tapi urusan ini akhirnya membuat saya naik ke kubu anti-Starmer
  Warisan yang mengerikan untuk ditinggalkan. Ini upaya menyedihkan untuk mendapatkan efek terbesar dengan biaya paling kecil. Dan lagi, 3 bulan? Mungkin itu memang selama itulah dia berharap tetap menjadi perdana menteri

  • Mungkin orang-orang Palantir sedang menawarkan sesuatu yang tak bisa ditolak. Dorongan terakhir sebelum pensiun dan menghilang ke matahari terbenam

• Ini adalah ratchet yang makin lama makin mengencang. Pemeriksaan di sisi klien, pembuktian jarak jauh untuk menjamin pemeriksaan sisi klien itu benar-benar bekerja, verifikasi identitas digital, dan seterusnya

• Patut dipuji bahwa Signal cepat mengambil posisi menentang hal ini. Saya berharap sikap ini cepat menyebar sebagai bantahan terhadap narasi yang terlalu kuat bahwa RUU yang dibuat tergesa-gesa dan seperti palu adalah langkah terbaik berikutnya
  Kemajuan yang sesungguhnya seharusnya mengarah pada pemahaman dan penciptaan solusi atas pengikisan komunitas, kepercayaan, dan empati terhadap sesama. Rasanya ini mungkin gejala dari buruknya investasi, kebijakan, dan tata kelola demi masyarakat yang sehat. Tentu saja mungkin sebaiknya jangan bicara soal meminta pertanggungjawaban kalau tidak ingin terdengar sinis terhadap politik

• Kapan orang akan sadar bahwa para politikus sudah memasukkan klausul pengecualian untuk diri mereka sendiri dan aparat keamanan? Untuk kali ini saya berharap pesimisme saya salah, tapi ini bukan pesimisme tanpa dasar

  • Sekarang ini sudah hampir menjadi klausul standar. Semua orang saling menyalin PR satu sama lain

• “Pengawasan bukanlah keamanan”
  Mungkin tidak, tapi selama orang rata-rata menganggapnya demikian, secara praktis jadinya memang begitu

  • Apakah orang rata-rata benar-benar berpikir begitu? Persepsi tentang bagaimana orang lain berpikir tidak selalu sesuai dengan apa yang sebenarnya mereka pikirkan
  • https://xkcd.com/610/
  • Tetap saja ini meme yang hebat. Harus lebih sering dipakai
  • Seandainya orang rata-rata punya alat dan wewenang untuk mengakses semua informasi itu
  • Bukankah lebih tepat kalau dibilang selama miliarder rata-rata menganggapnya begitu
    Yang mendorong ini bukan orang rata-rata