Pada Agustus 2021, Apple mengumumkan akan memperkenalkan dua fitur keamanan baru di produknya untuk melindungi anak-anak.
Salah satunya adalah mendeteksi apakah foto yang diunggah pengguna ke iCloud merupakan CSAM (materi pelecehan seksual anak) berdasarkan hash gambar, dan yang lainnya adalah menambahkan fitur penyaringan yang menyamarkan foto tersebut dan menampilkan peringatan jika terdeteksi bahwa anak di bawah umur menerima atau mengirim foto cabul melalui iMessage.
Pengumuman ini memicu kontroversi besar. Bahkan karyawan internal Apple sendiri menyuarakan kekhawatiran, dan banyak organisasi serta individu termasuk EFF (Electronic Frontier Foundation) menandatangani surat terbuka yang menentangnya. Di GeekNews juga ada beberapa tulisan terkait.
Apple menjelaskan bahwa anggapan pelanggaran privasi adalah kesalahpahaman, tetapi kontroversi dan kekhawatiran itu tidak mudah mereda. Bahkan kemudian, ketika New York Times memberitakan kasus seseorang yang dirugikan akibat tindakan sepihak berdasarkan algoritma deteksi CSAM milik Google, menjadi jelas bahwa kekhawatiran tersebut sama sekali bukan tanpa dasar.
- Apple memperkenalkan fitur keamanan baru untuk perlindungan anak
- Apple menyesalkan kontroversi "pemindaian iPhone"
- Apple menunda peluncuran fitur pemindaian foto iCloud untuk perlindungan anak
- CSAM, apa yang dikhawatirkan orang dari Apple?
- Google menuduh ayah yang memotret luka bayinya yang sakit sebagai penjahat
Kali ini, menurut penjelasan Apple kepada WIRED, perusahaan itu telah membatalkan rencana untuk memeriksa apakah foto yang diunggah ke iCloud merupakan CSAM.
Sebagai gantinya, mereka akan lebih memperkuat fitur penyaringan yang memberi peringatan saat mendeteksi anak di bawah umur menerima atau mengirim foto cabul. Secara spesifik, mereka sedang meneliti agar fitur tersebut tersedia tidak hanya untuk foto tetapi juga untuk video, dan juga berencana memungkinkan fitur deteksi CSAM berbasis machine learning on-device ini digunakan di aplikasi lain selain iMessage. Dan mungkin untuk mencegah kontroversi, mereka menekankan bahwa fitur semacam ini pada dasarnya dalam keadaan mati secara default (opt-in) dan Apple tidak mengetahui fakta bahwa deteksi tersebut terjadi.
Tampaknya, karena kontroversi tahun lalu begitu besar, rencana untuk memindai foto yang diunggah ke cloud dibatalkan sepenuhnya, dan sebagai gantinya mereka bergerak ke arah mengembangkan lebih lanjut fitur yang memfilter CSAM secara mandiri di dalam perangkat. Namun, karena penyensoran oleh machine learning on-device juga merupakan salah satu pokok kontroversi utama sejak saat itu, rasanya langkah Apple kali ini masih agak kurang untuk benar-benar meredakan seluruh kontroversi dan kekhawatiran terkait.
3 komentar
Melihat kasus Google, saya sempat khawatir, jadi rasanya melegakan mendengar Apple membatalkan rencana itu.
Tulisan yang memuat opini pribadi seperti ini juga sangat bagus.
Terima kasih atas rangkumannya yang rapi!