Juri memutuskan Meta bertanggung jawab dalam kasus eksploitasi seksual anak yang terjadi di platform Meta

• Juri negara bagian New Mexico memutuskan bahwa Meta gagal melindungi anak-anak dari pelaku kejahatan seksual di Facebook dan Instagram, sehingga melanggar hukum negara bagian
• Meta dinyatakan melakukan "praktik dagang yang tidak adil dan menipu" serta "tindakan yang tidak berperikemanusiaan", dan diperintahkan membayar ganti rugi sebesar 375 juta dolar AS; perusahaan menyatakan akan mengajukan banding
• Kasus ini merupakan putusan juri pertama yang membahas kewajiban perusahaan media sosial dalam melindungi remaja, dan menjadi kasus pertama di mana Meta dinyatakan bertanggung jawab di pengadilan
• Dalam persidangan, kesaksian pelapor pelanggaran internal dan mantan eksekutif menyoroti bahwa algoritme bekerja dengan cara yang menguntungkan pelaku kejahatan
• Putusan ini dinilai sebagai preseden penting bagi penguatan tanggung jawab hukum perusahaan media sosial dan penetapan standar perlindungan remaja

---

Juri New Mexico menyatakan Meta bertanggung jawab karena gagal mencegah eksploitasi seksual anak

• Juri negara bagian New Mexico memutuskan bahwa Meta melanggar hukum negara bagian karena tidak memperingatkan tentang risiko di platformnya dan gagal melindungi anak-anak dari pelaku kejahatan seksual
  • Meta dinilai melakukan "praktik dagang yang tidak adil dan menipu" serta "tindakan yang tidak berperikemanusiaan", sehingga diperintahkan membayar total ganti rugi sebesar 375 juta dolar AS
  • Meta menyatakan berencana mengajukan banding atas putusan tersebut dan mengatakan bahwa mereka “dengan hormat tidak setuju” dengan keputusan itu
• Kasus ini berasal dari gugatan yang diajukan pada 2023 oleh Jaksa Agung New Mexico Raúl Torrez, berdasarkan tuduhan bahwa Meta telah menjadikan Facebook dan Instagram sebagai lahan aktivitas pelaku kejahatan seksual terhadap anak
  • Pemerintah negara bagian menuntut ganti rugi miliaran dolar, tetapi juri memutuskan jumlah yang lebih kecil
  • Dalam proses lanjutan setelah persidangan, pengadilan masih dapat menjatuhkan sanksi tambahan atau memerintahkan perubahan pada platform
• Putusan ini adalah vonis juri pertama dalam rangkaian gugatan yang menyoal tanggung jawab perusahaan media sosial untuk melindungi remaja, dan menjadi kasus pertama di mana Meta dinyatakan bertanggung jawab di pengadilan
  • Pada saat yang sama di Los Angeles, putusan dalam gugatan terpisah terhadap Meta dan YouTube yang menuduh fitur adiktif merusak kesehatan mental remaja juga sedang berlangsung
  • Di seluruh Amerika Serikat, ratusan gugatan serupa telah diajukan oleh individu, sekolah, dan pemerintah negara bagian
• Persidangan selama 6 pekan menghadirkan kesaksian dari pelapor pelanggaran internal Meta dan mantan eksekutif
  • Mantan direktur engineering Meta, Arturo Bejar, bersaksi bahwa putrinya yang berusia 14 tahun menerima pendekatan seksual di Instagram, dan menyoroti bahwa algoritme personalisasi Meta juga bekerja dengan cara yang menguntungkan pelaku kejahatan
  • Mantan wakil presiden Brian Boland bersaksi bahwa “keamanan bukan prioritas bagi CEO Mark Zuckerberg dan COO saat itu Sheryl Sandberg”
  • Sementara itu, kepala Instagram Adam Mosseri menyatakan bahwa perusahaan telah memperkenalkan fitur perlindungan remaja seperti Teen Accounts
• Meta menyatakan bahwa 40.000 karyawan menangani aspek keamanan, dan perusahaan berinvestasi besar dalam perlindungan remaja
  • Menanggapi kritik Meta bahwa akun investigasi penyamaran milik kantor jaksa agung menggunakan foto anak sungguhan, Torrez membalas bahwa itu adalah “serangan untuk menghindari tanggung jawab”
  • Meta menekankan pengembangan teknologi untuk mencegah eksploitasi seksual anak dan kerja sama dengan aparat penegak hukum, serta mengumumkan akan menghentikan fitur pesan terenkripsi end-to-end di Instagram
  • Torrez menyebut putusan ini sebagai “kemenangan bersejarah atas Meta, yang menempatkan keuntungan di atas keselamatan anak”

Isu utama yang dipertimbangkan juri

• Juri menilai apakah Meta membuat pernyataan palsu atau menyesatkan tentang keamanan platformnya, atau secara sengaja merancang produk yang membahayakan remaja
  • Kantor Jaksa Agung New Mexico menyatakan bahwa setelah membuat akun anak palsu dan mengoperasikannya di Facebook dan Instagram, akun-akun itu menerima ajakan seksual dan permintaan materi cabul
  • Tiga pria dewasa yang berhubungan dengan akun-akun tersebut ditangkap pada Mei 2024, dan dua di antaranya dituduh mencoba bertemu langsung dengan akun yang menyamar sebagai anak perempuan berusia 12 tahun
• Kesaksian internal Meta menunjukkan bahwa fitur penghubung dalam algoritme dapat disalahgunakan oleh pelaku kejahatan
  • Kesaksian menyebut bahwa “jika minat seseorang adalah gadis-gadis muda, platform akan memperkuat koneksi yang sesuai dengan minat itu”
• Keputusan Meta untuk menghentikan fitur enkripsi end-to-end disebut sebagai langkah untuk meningkatkan akses bagi lembaga penyidikan
  • Meta menjelaskan bahwa “hampir tidak ada pengguna yang memakai fitur ini, sehingga fitur tersebut akan dihapus dari Instagram, sementara pesan terenkripsi tetap didukung di WhatsApp”
• Ravi Sinha, kepala kebijakan keselamatan anak di Meta, bersaksi bahwa perusahaan telah bekerja sama dengan aparat penegak hukum dan mengembangkan teknologi untuk mencegah eksploitasi anak
  • Juru bicara Meta Andy Stone mengkritik penyelidikan New Mexico sebagai “bermasalah secara etis”, tetapi Torrez membalas bahwa itu adalah “upaya menghindari tanggung jawab”
• Putusan ini dinilai sebagai preseden penting di tengah tren penguatan tanggung jawab hukum perusahaan media sosial
  • Ke depan, putusan ini berpotensi memengaruhi gugatan perlindungan remaja lain di tingkat negara bagian maupun federal

[GN⁺]

Komentar Hacker News

• Banyak orang akan bersorak jika ada putusan yang merugikan Meta tanpa membaca rinciannya, tetapi perlu disadari bahwa gugatan seperti ini adalah salah satu alasan utama fitur seperti enkripsi ujung ke ujung (E2EE) terus mundur
  Dalam gugatan negara bagian New Mexico, muncul kekhawatiran bahwa jika remaja dapat menggunakan E2EE di Instagram, aparat penegak hukum akan lebih sulit menangkap pelaku kejahatan. Di tengah persidangan, Meta mengumumkan akan menghentikan dukungan pesan E2EE di Instagram pada akhir tahun ini
  Gugatan negara bagian New York bahkan secara langsung menjadikan dukungan E2EE itu sendiri sebagai sasaran serangan (artikel Reuters)

  • Intinya adalah menjamin transparansi dan pilihan bagi konsumen
    Akun anak harus diklasifikasikan dalam struktur yang memungkinkan pengawasan orang tua, dan orang tua harus bisa meninjau konten atau mengatur alat yang diperlukan
    Namun, secara default semua orang di internet harus diperlakukan sebagai orang dewasa, dan jika orang tua mengizinkan aktivitas online anak mereka, maka mereka harus memikul tanggung jawab pengawasan yang sesuai
    Regulasi seperti ini seharusnya hanya berlaku untuk produk komersial, dan tidak berlaku bagi proyek komunitas nirlaba
  • Tidak masalah jika anak di bawah umur tidak boleh memakai E2EE, tetapi saya menolak jika semua orang dilarang. Saya membesarkan dua anak
  • Sebagai operator platform, saya rasa E2EE tidak memberi manfaat nyata pada layanan gratis. Justru hanya menambah tanggung jawab hukum yang tidak terduga
  • Organisasi yang tersentralisasi dan perangkat lunak berpemilik tidak bisa memberikan E2EE yang sejati. Mereka selalu bisa menyisipkan backdoor lewat pembaruan kapan saja
    Lebih baik dipaksa berhenti melakukan security theater seperti ini, dan orang yang benar-benar membutuhkan privasi akan mencari alternatif
  • Inilah inti masalahnya. Ini tidak benar-benar membantu anak-anak, dan juga tidak akan terlalu melukai Meta. Pada akhirnya ini hanya akan berujung pada pelemahan privasi dan penguatan pengawasan

• Belakangan ini mencurigakan melihat terbentuknya konsensus internasional bahwa “sekarang saatnya bertindak”. Terutama karena verifikasi identitas (ID verification) tampak didorong secara bersamaan lewat berbagai jalur

  • Dua hal bisa sama-sama benar pada saat yang sama. Anak-anak memang perlu dijauhkan dari algoritme iklan, tetapi solusinya tidak boleh berubah menjadi rezim pengawasan massal
  • Masalahnya bukan mengatur pengguna, melainkan mengatur industri media sosial itu sendiri. Pengguna tidak punya uang untuk melobi, tetapi perusahaan menghabiskan miliaran dolar
  • Katanya Meta menghabiskan 2 miliar dolar untuk melobi kebijakan verifikasi identitas ini (komentar terkait)
  • Menariknya, belakangan ini Gen Z justru jauh lebih berhati-hati dalam memakai media sosial
    Anak remaja saya dan teman-temannya kebanyakan hanya memakai obrolan grup privat, dan hampir memakai media sosial dalam mode ‘read-only’. Mereka tidak mengunggah foto atau informasi pribadi
    Justru yang terlalu terbuka adalah generasi milenial. Melihat mereka membagikan foto keluarga dan kehidupan pribadi secara berlebihan rasanya sampai memalukan
  • Melihat tren ini terjadi bersamaan dengan E2EE dan pembatasan komputasi umum, arah Barat pun tampak tidak berbeda dengan Tiongkok

• Gugatan negara bagian New Mexico berasal dari penyelidikan platform Meta dengan membuat profil palsu yang menyamar sebagai akun anak, dan memang ada pria dewasa yang mendekat lalu membuat ajakan seksual
  Dari isi artikelnya, tampaknya E2EE bukan isu intinya. Meta memang mengumumkan penghentian E2EE selama persidangan, tetapi kaitan langsungnya tidak jelas

  • Namun, selama bertahun-tahun memang ada tekanan untuk menonaktifkan E2EE dengan alasan mempersulit deteksi kejahatan seksual terhadap anak. Putusan kali ini kemungkinan besar merupakan kelanjutan dari garis itu
    Interpretasi lain, ini bisa jadi perubahan yang muncul setelah Meta meninggalkan rencana mengintegrasikan pesan WhatsApp, Facebook, dan Instagram

• Kami tidak menginginkan verifikasi usia, dan kami menginginkan E2EE. Tetapi karena orang membenci Meta, mereka bersorak atas putusan ini. Secara realistis, kita tidak bisa mendapatkan keduanya sekaligus

  • Keduanya terpisah. Verifikasi usia justru menimbulkan kerugian yang lebih besar. Itu juga tidak membantu menyelesaikan masalah yang sebenarnya
  • Ada dua kelompok penolak verifikasi usia. Mereka yang menolaknya secara prinsip, dan mereka yang menolaknya karena tahu implementasi nyata akan disalahgunakan
  • Tidak adanya kewajiban hukum tidak berarti semuanya bisa dijadikan tameng. Meta sebenarnya sudah mengetahui hampir semua usia penggunanya
    Jika pengguna berusia 40 tahun mengirim pesan setiap hari kepada anak berusia 13 tahun, penting untuk memahami apa yang terjadi. Meta tahu soal hal seperti ini tetapi hanya fokus pada menghindari tanggung jawab
    Lagi pula, E2EE milik Meta kemungkinan besar memang punya backdoor
  • Kurang jelas apa dasar untuk mengatakan bahwa kita tidak bisa memiliki keduanya sekaligus

• Meta mengetahui bahaya produknya melalui riset internalnya sendiri, tetapi tetap mengabaikannya. Sekarang ketika perlindungan Section 230 mulai melemah, saya khawatir perusahaan lain akan mengambil pelajaran “lebih baik jangan melakukan riset sama sekali”
  Meta berpura-pura menaruh perhatian pada ‘keamanan’ untuk menarik talenta, tetapi kenyataannya selalu pertumbuhan yang diutamakan
  Dalam beberapa tahun terakhir, baik Meta maupun X sama-sama memblokir akses peneliti eksternal dan menjadi makin tertutup soal data

• Denda seperti ini harus cukup besar untuk benar-benar mengubah perilaku perusahaan. 375 juta dolar bagi Meta pada skala seperti sekarang hanyalah urusan akuntansi biasa

  • Ini hanya putusan di negara bagian New Mexico. Meta dikenai denda hingga 5.000 dolar untuk ribuan pelanggaran, dan di Los Angeles juga sedang berlangsung gugatan kecanduan serupa
  • Benar, New Mexico hanyalah negara bagian kecil, dan gugatan serupa akan terus bermunculan di negara bagian lain

• Media sosial untuk anak harus diawasi langsung oleh orang tua. E2EE sudah ada, dan tidak mungkin dihapus. Siapa pun yang mau bisa membuat layanan obrolan terenkripsi sendiri

• Denda kali ini setara sekitar 0,6% dari laba tahunan Meta.
  Jika 50 negara bagian mengajukan gugatan dengan proporsi yang sama, dampaknya bisa mencapai 30%. Jika gugatan diajukan dengan nilai lebih besar, ini bisa menjadi sanksi bersejarah. Ini harus diperluas ke seluruh dunia

  • Benar, kenapa harus dibatasi hanya pada 50 negara bagian di AS. Seluruh dunia harus ikut

• Denda ini terlalu kecil. Ini seperti kurang beberapa nol

  • Secara teknis, ini lebih mirip biaya (fee) daripada denda