- Pengadilan menilai klaim bahwa Apple tidak mendeteksi materi eksploitasi seksual anak (CSAM) yang disimpan dan dibagikan pengguna di iCloud sebagai upaya meminta pertanggungjawaban penerbit atas konten pihak ketiga, dan mengakui kekebalan berdasarkan Pasal 230 Communications Decency Act
- Penerapan PhotoDNA atau NeuralHash merupakan keputusan moderasi konten yang terkait langsung dengan pemantauan dan pelaporan konten, sehingga penggugat tidak dapat menghindari Pasal 230 sekalipun hal itu dibingkai sebagai cacat desain
- Sekalipun Apple mengetahui kemungkinan peredaran CSAM di iCloud, hal itu tidak memengaruhi kekebalan; dan jika Apple tidak mengidentifikasi CSAM, maka kewajiban pelaporan ke NCMEC juga tidak timbul
- Pengadilan menolak gugatan amendemen ketiga, tetapi menyampaikan kekhawatiran bahwa hukum saat ini tidak mewajibkan perusahaan melakukan deteksi proaktif sehingga gagal melindungi korban; pengadilan menyatakan bahwa apakah kewajiban semacam itu harus diberlakukan adalah keputusan pembuat undang-undang
- Karena kewajiban pemindaian CSAM dapat merusak privasi jutaan orang dan enkripsi end-to-end, pemerintah seharusnya memprioritaskan pencarian dan penuntutan pembuat, penyebar, dan pengunduh CSAM, alih-alih melemahkan enkripsi
Perubahan kebijakan Apple soal deteksi CSAM
- Alih-alih memeriksa file yang diunggah pengguna ke penyimpanan iCloud privat dengan PhotoDNA, Apple mengembangkan teknologi sendiri, NeuralHash, tetapi kemudian membatalkan rencana pemindaian CSAM di cloud
- Sebagai gantinya, Apple menerapkan enkripsi end-to-end pada file iCloud
- Perubahan kebijakan ini membingungkan publik, dan karena Apple sebelumnya secara sukarela memperagakan pendekatan intervensi yang lebih aktif, tekanan dari pemerintah dan korban CSAM pun berlanjut
Klaim dan proses gugatan
- Para penggugat berargumen bahwa kegagalan Apple menerapkan fitur deteksi CSAM yang diketahui merupakan cacat desain
- Logikanya, Apple dapat menerapkan secara aman fitur yang bisa mencegah penyebaran CSAM yang sudah diketahui, tetapi tetap tidak melakukannya
- Pengadilan menolak gugatan amendemen ketiga, sehingga perkara ini berada pada tahap yang dapat dibawa ke Pengadilan Banding Federal Sirkuit Kesembilan
- Perkara ini adalah Amy v. Apple Inc., 2026 WL 2031817, yang diputuskan Pengadilan Federal Distrik Utara California pada 13 Juli 2026
- Gugatan awal juga tersedia untuk publik
Kekebalan berdasarkan Pasal 230 Communications Decency Act
- Pihak yang secara langsung menyebabkan kerugian para penggugat adalah pengguna pihak ketiga yang membagikan CSAM melalui iCloud, sementara Apple tidak secara eksplisit menyetujui maupun memblokir penggunaan tersebut
- Kewajiban yang diminta para penggugat adalah agar Apple mencegah distribusi konten pihak ketiga, yang timbul dari posisi Apple sebagai penerbit
- Untuk menghindari tanggung jawab, Apple harus memeriksa konten dan memutuskan apakah konten itu boleh beredar, sehingga tindakan yang diminta itu sendiri merupakan peran penerbit
- Karena itu, pengadilan menilai Pasal 230 berlaku untuk semua klaim penggugat dan Apple memperoleh kekebalan penuh
- Sekalipun diasumsikan, seperti dalam pesan teks internal, bahwa Apple mengetahui alat iCloud dapat digunakan untuk mendistribusikan materi eksploitasi seksual anak, pengetahuan umum pihak tergugat tidak mengubah kekebalan Pasal 230 yang berlaku saat ini
Penerapan PhotoDNA juga termasuk moderasi konten
- Untuk mengoperasikan alat deteksi CSAM, konten harus ditinjau guna menentukan apakah suatu file merupakan CSAM
- PhotoDNA yang digunakan para pesaing Apple dan NeuralHash milik Apple dirancang untuk memantau dan melaporkan gambar pelanggaran yang diunggah ke server perusahaan
- Keputusan tentang alat mana yang akan diterapkan juga terkait dengan moderasi konten, sehingga Apple tidak dapat dimintai tanggung jawab berdasarkan keputusan desain yang bisa dipilihnya
- Jika Apple sejak awal tidak mengidentifikasi CSAM, maka tidak ada objek yang harus dilaporkan ke NCMEC, sehingga pelanggaran kewajiban pelaporan tidak terbukti
Perbedaan dengan preseden untuk menghindari Pasal 230 sebelumnya
- Para penggugat mencoba menerapkan pengecualian baru yang diakui dalam Doe v. Twitter, tetapi tidak diterima
- Twitter dapat memperbaiki cacat pada infrastruktur pelaporan tanpa memantau atau menghapus konten pihak ketiga
- Sebaliknya, agar Apple membangun perlindungan CSAM, Apple harus secara langsung memantau konten pihak ketiga dengan NeuralHash atau PhotoDNA
- Lemmon v. Snap juga tidak berlaku
- Berbeda dari perkara tersebut, tidak ada klaim bahwa Apple membuat konten seperti filter Snapchat yang menyebabkan kerugian, dan semua klaim terkait tak terpisahkan dengan konten pihak ketiga
- Upaya menghindari Pasal 230 berdasarkan Roommates.com juga tidak terbukti
- Sebab tidak ada tuduhan bahwa Apple mengubah atau memperluas CSAM di servernya
Kekosongan hukum yang dikhawatirkan hakim
- Hukum saat ini tidak melarang Apple maupun perusahaan lain menggunakan atau mengembangkan teknologi untuk mengidentifikasi dan melaporkan materi eksploitasi seksual anak yang disimpan atau didistribusikan di server atau cloud
- Pada saat yang sama, tidak ada pula hukum yang membebankan kewajiban kepada perusahaan untuk melakukan tindakan tersebut secara proaktif
- Tindakan sukarela perusahaan saja tidak cukup untuk menghentikan peredaran CSAM, dan jika ingin mewajibkan Apple serta perusahaan lain bertindak, pembuat undang-undang harus menjadikannya kewajiban hukum
- Namun, hukum semacam itu dapat menyebabkan setidaknya sejumlah hilangnya privasi bagi jutaan orang
Biaya yang harus dibayar enkripsi end-to-end
- Putusan hanya membahas enkripsi dua kali, tetapi dalam perubahan kebijakan Apple, enkripsi end-to-end adalah unsur utama
- Jika pemindaian CSAM diwajibkan di iCloud, enkripsi end-to-end yang berlaku untuk semua pengguna dan semua tujuan harus dipatahkan
- Pelaku jahat yang ingin mencegat file privat untuk tujuan kriminal dapat menyalahgunakannya
- Aktor pemerintah juga dapat menyusup ke penyimpanan file privat untuk menyebarkan atau mempersenjatai materi
- Gambar yang sensitif, privat, atau terkait kekerasan dapat dicegat dan disebarkan tanpa persetujuan, sehingga menciptakan korban baru
- Enkripsi end-to-end bukan fitur kenyamanan opsional, melainkan komponen inti arsitektur teknis yang menopang keselamatan orang
Benturan antara realitas korban dan hukum saat ini
- Putusan ini dibuat bukan berdasarkan apakah keputusan Apple berkontribusi pada kerugian, melainkan apakah semua klaim memperlakukan Apple sebagai penerbit konten pihak ketiga
- Namun, itu tidak berarti para korban tidak mengalami kerugian nyata dan berkelanjutan
- Para korban menyatakan bahwa adegan pelecehan seksual terhadap mereka saat anak-anak direkam, dan mereka kembali menjadi korban setiap kali gambar dan video tersebut berulang kali disimpan dan diedarkan di iCloud
- Kritik bahwa Pengadilan Banding Federal Sirkuit Kesembilan telah memperluas cakupan Pasal 230 hingga menjadi kekebalan fungsional, bahkan ketika perusahaan internet mengetahui atau seharusnya mengetahui adanya konten ilegal, menjadi makin kuat
- Dalam kenyataan ketika data pribadi, termasuk informasi keuangan dan kesehatan, disimpan dan dikirim secara online, privasi memang penting, tetapi tetap ada masalah bahwa pembuat, penonton, dan penyebar CSAM memanfaatkan perlindungan privasi untuk menghindari penyelidikan
- Dalam kerangka hukum saat ini, tidak ada sarana untuk melindungi para korban dalam gugatan kelompok ini, dan mereka harus menanggung kerugian sampingan dari lingkungan hukum yang tidak efektif
Prioritas regulasi
- Inti penanganan CSAM adalah kegiatan pemerintah untuk menemukan dan menuntut pembuat, penyebar, dan pengunduh
- Memastikan pemerintah menjalankan penyelidikan dan penuntutan yang dimungkinkan harus menjadi prioritas utama
- Penghancuran enkripsi end-to-end tidak boleh dimasukkan sebagai instrumen regulasi
1 komentar
Komentar Hacker News
Para legislator dan sejumlah kelompok mendorong pengawasan, pemindaian, bahkan verifikasi identitas untuk menghentikan materi eksploitasi seksual anak (CSAM), tetapi tampaknya hampir tidak berupaya pada pencegahan kekerasan seksual terhadap anak (CSA) itu sendiri
Penindakan CSAM baru bekerja setelah kekerasan terjadi, dan sering kali orang ditangkap atas tuduhan kepemilikan atau distribusi ketimbang kekerasan nyata; cakupannya juga meluas hingga materi fiktif seperti cerita dan gambar buatan AI. Jika teknologi seperti ini diterapkan pada ujaran politik atau materi yang tidak diinginkan pemerintah, itu akan menjadi masalah serius, dan negara bagian konservatif bahkan bisa saja melarang total pornografi dengan alasan bahwa pornografi mendorong prostitusi, pemerkosaan, dan CSA
Di sisi CSA, pendidikan preventif dan perlindungan anak masih kurang, dan secara paradoks gereja serta Scouts yang pernah memiliki skandal kekerasan di masa lalu justru paling aktif menerapkan langkah pencegahan. Pemeriksaan identitas tidak dapat menghentikan pelaku pertama kali atau orang yang belum pernah tertangkap, dan daftar pelaku kejahatan seksual juga berisi orang-orang yang tampaknya tidak terkait dengan CSA, seperti seorang kenalan yang masuk daftar karena buang air kecil di tempat umum dalam radius 500 kaki dari taman bermain pada dini hari
Pada akhirnya, alih-alih melindungi anak berdasarkan data, tampaknya yang didorong hanyalah perluasan bertahap hukuman ekstrem yang diinginkan publik serta solusi kasar yang mudah, seperti mewajibkan pemindaian dan identitas untuk menggunakan internet
Teknologi yang dipakai untuk mengidentifikasi CSAM juga bisa menemukan file berhak cipta atau materi yang tidak mendukung pemerintah yang sedang berkuasa. Enkripsi ujung-ke-ujung (E2EE) sangat menaikkan biaya pengawasan massal, karena itu pemerintah AS terus menentangnya selama 30 tahun
Di sisi lain, ada juga masalah bahwa para pedofil sungguhan adalah kalangan kaya yang keluar-masuk resor terkenal
Seperti kekerasan seksual lainnya, ini adalah kejahatan yang menggabungkan hasrat mengontrol dan dopamin, dan para pemimpin gereja serta Boy Scouts menggunakan pengaruh sosial dan kekuasaan mereka untuk memaksa korban tunduk dan setia. Karena organisasi Boy Scouts telah meresap ke struktur kekuasaan yang ada seperti gereja dan polisi, anak berusia 11 tahun sulit menuduh tokoh lokal yang dihormati, dan pelaku juga menanamkan perasaan pada korban bahwa korban ikut bersalah. Bahkan ketika korban maju, penuntutan sulit dilakukan dan korban terpapar rasa malu publik, sehingga sering kali dilakukan plea bargain dengan dakwaan yang lebih ringan untuk melindungi korban
Saya sendiri bukan korban langsung, tetapi pemimpin Boy Scouts di paroki saya adalah pelaku berulang yang melecehkan puluhan atau ratusan orang, dan belakangan saya menyadari beberapa teman saya hampir pasti juga menjadi korban. Semua orang yang saat itu punya wewenang mengabaikannya
Mungkin hari ini saya sedang sangat sinis, tetapi melihat apa yang terjadi pada orang-orang yang saya kenal seumur hidup membuat saya percaya bahwa ini sangat umum
Sulit bagi saya memahami pandangan bahwa Apple tidak berada di pihak privasi. Jauh dari sempurna, tetapi dibandingkan perusahaan teknologi besar lain, levelnya berbeda, dan mungkin justru lebih mudah bagi mereka untuk tidak mengambil langkah seperti ini
Pada akhirnya, Apple memberi contoh bahwa semua pesan dan materi dapat dipindai sambil tetap mengklaim mempertahankan privasi
Jika kepentingan Apple selaras dengan kita, itu patut disambut, tetapi kita tidak boleh mengatribusikan altruisme pada perusahaan bernilai sekitar 5 triliun dolar
Di desktop ada Linux yang cukup layak dipakai, tetapi di smartphone, karena Google, jika beralih ke GrapheneOS, banyak sekali aplikasi tidak berfungsi atau rusak setiap beberapa bulan. Bahkan bagi orang yang akrab dengan teknologi, mengurangi pengawasan di Android sangat merepotkan, dan Google memperburuk platformnya di setiap rilis
Berkat “keamanan” Google, aplikasi perbankan bisa dipakai di perangkat berusia 9 tahun yang pembaruan firmware-nya sudah terhenti selama 6 tahun, tetapi tidak bisa dipakai di GrapheneOS
localStorageprivat dirugikan, dan aplikasi web dari situs yang sama yang memakai beberapa subdomain terkadang harus membocorkan data lewat jaringanDi Firefox dan Chrome, state lokal bisa dibagikan secara privat secara offline, tetapi biasanya orang menggunakan cookie demi mendukung Safari juga. Apple mendukung privasi hanya ketika menguntungkan secara finansial
Jika server tempat data disimpan dan aplikasi dioperasikan oleh perusahaan yang sama, aplikasinya bersifat closed source, dan kapan saja dapat mendekripsi serta memproses data yang diunduh, maka enkripsi ujung-ke-ujung sejati dianggap mustahil
Proton, MEGA, dan sejenisnya juga hanya berguna selama perusahaan memilih untuk tidak menyalahgunakan fungsi dekripsi lokal. Ini juga alasan yang sama mengapa E2EE berbasis web, di mana operator situs dapat mengubah kode JavaScript sesuka hati, membuat orang enggan menggunakannya
NSA, GCHQ, atau Mossad mungkin punya cara untuk mengambil data yang tidak terenkripsi, tetapi E2EE proprietari pun bermanfaat bagi kebanyakan orang. Sebab risikonya berubah dari “sebagian besar lembaga penegak hukum di dunia secara teori bisa melihat pesan saya” menjadi “bisa menjadi target Mossad”. Ini terutama menguntungkan karena lembaga setingkat FBI di tempat saya tinggal bahkan enggan membeli lisensi Cellebrite
https://www.usenix.org/system/files/1401_08-12_mickens.pdf dan https://arstechnica.com/gadgets/2025/10/leaker-reveals-which... juga layak dibaca. Alasan Meta mendukung pemindaian dan ingin menghapus E2EE dari pesan Facebook adalah regulatory capture, dan Zuckerberg menginginkan privilese untuk “melindungi” anak-anak serta menyingkirkan pesaing yang “tidak aman”
mega.nzlewat situs web dan menggunakan aplikasi pihak ketiga, itu tidak masalah; MEGA juga menyediakan SDK yang sulit dikendalikan atau dimanipulasi secara diam-diam terhadap penggunaHukum AS punya paradoks: demi mencegah kejahatan A, tindakan B dijadikan ilegal. Misalnya jika A adalah pelecehan seksual nyata terhadap anak, maka B adalah kepemilikan atau distribusi CSAM; jika A adalah transaksi narkoba atau penggelapan pajak, maka B adalah penarikan tunai terstruktur
Semakin keras B dicegah, semakin sulit A dideteksi, dan semakin sulit pula memakai B sebagai bukti A. Sepengetahuan saya, seseorang bisa divonis terkait CSAM karena gambar atau karya kreatif tokoh fiktif meski tidak ada tindakan nyata terhadap orang sungguhan, dan penarikan terstruktur yang sama sekali tidak terkait kejahatan pun dapat dihukum
Memandang hukum hanya sebagai “sistem utilitarian untuk mengompensasi kerugian yang ditimbulkan satu individu kepada individu lain” itu naif. Itu lebih tepat disebut perbuatan melawan hukum daripada kejahatan, dan hukum pidana tidak hanya menangani kerugian antarindividu, tetapi juga memaksakan adat dan norma sosial. Kanada melarang semua CSAM, termasuk karya fiktif, karena memandang masyarakat itu sendiri sebagai korban
Ada beberapa vonis berdasarkan konten fiktif, tetapi umumnya terdakwa juga memiliki CSAM nyata sehingga tidak ada manfaat praktis untuk memperdebatkan dakwaan gambar fiktif secara terpisah
Penilaian hakim bahwa anak-anak korban akhirnya menjadi “kerugian sampingan” dari perlindungan privasi memang disayangkan, tetapi enkripsi ujung-ke-ujung berarti pemindaian CSAM tidak mungkin dilakukan
Sebagai alternatif, Apple sempat mencoba pemindaian di dalam perangkat dan mendapat kritik keras. Ini kompromi yang menyedihkan, tetapi selain memprioritaskan privasi, saya tidak melihat alternatif lain
Hanya karena secara teknis kita bisa membangun jaringan pengawasan menyeluruh yang menghancurkan privasi, bukan berarti kita harus membangunnya. Jika ponsel sudah ada 250 tahun lalu, para pendiri Amerika Serikat pun tentu akan menganggap isi di dalamnya sebagai dokumen pribadi yang tidak boleh digeledah tanpa surat perintah
Prioritas utama harus selalu mencegah pembuatan CSAM itu sendiri. Berikan pendidikan seks yang komprehensif sejak usia dini agar anak bisa mengenali grooming dan meminta bantuan kepada orang dewasa tepercaya meskipun pelakunya anggota keluarga. Sekolah perlu diperbaiki agar homeschooling menjadi kurang menarik, anak-anak homeschooling juga perlu diperhatikan apakah mengalami isolasi sosial, dan jauh lebih banyak sumber daya harus dialokasikan untuk investigasi lapangan
Ini bukan berarti homeschooling sama dengan pelecehan anak, melainkan bahwa dalam lingkungan tersebut kurang tersedia mekanisme untuk mendeteksi pelecehan
Itu tidak berbeda dari logika bahwa tidak masalah jika pemeriksaan dilakukan diam-diam saat tidak ada orang sehingga tak seorang pun menyadarinya
Ini adalah kemenangan bagi privasi dan kebebasan
Sebagai orang yang membuat mediaden.ca, saya sudah lama memikirkannya, tetapi meski pemindaian sisi klien mungkin sedikit lebih baik daripada pemindaian sisi server, keduanya mengarah pada pembusukan privasi
Pemerintah memang harus menangkap penjahat, tetapi tidak boleh dengan mengorbankan semua orang lain: https://mediaden.ca
Menurut saya rancangan Apple bukan memindai di penyimpanan iCloud, melainkan memeriksa di dalam perangkat tepat saat file hendak diunggah ke iCloud. Jika demikian, itu kompatibel dengan Advanced Data Protection, jadi bisa saja Apple bukan berbalik arah secara drastis, melainkan ADP memang sudah direncanakan sejak awal
Justru mungkin Apple, dalam proses penerapan ADP, mengantisipasi kekhawatiran lembaga pemerintah dan mengusulkan NeuralHash sebagai sarana untuk mencapai enkripsi ujung-ke-ujung. Rancangannya sendiri elegan dan menyediakan perlindungan privasi serta mekanisme pengaman yang jauh lebih kuat daripada Microsoft atau Google, tetapi komunikasi Apple sangat buruk sehingga memicu reaksi balik besar. Ini bukan berarti saya mendukung implementasinya, tetapi jauh lebih baik daripada pendekatan para pesaing
Apple menangani respons terhadap insiden CSAM dengan sangat buruk. Gara-gara ini, “Hair Force One” mungkin tersingkir dari daftar kandidat penerus CEO
Saya bukan ahli hukum, tetapi setahu saya pemindaian bisa dilakukan karena bukan kewajiban, sehingga tidak menimbulkan masalah terkait Amandemen Keempat Konstitusi AS