Menurut dokumen pengadilan, Meta dituduh mengecilkan risiko terhadap anak dan menyesatkan publik

• Dokumen pengadilan yang baru dibuka mengungkap indikasi bahwa Meta mengetahui masalah keselamatan anak tetapi mengecilkan atau menutupinya
• Menurut kesaksian internal, ada kebijakan longgar berupa ‘ditangguhkan setelah 17 kali pelanggaran’ untuk akun terkait prostitusi, dan prosedur pelaporan eksploitasi seksual anak juga rumit
• Dokumen itu mencakup berbagai hasil riset internal seperti memburuknya kesehatan mental remaja, kontak tidak pantas antara orang dewasa dan anak di bawah umur, serta algoritme yang adiktif
• Meta dituduh tidak mengungkap hasil riset ini ke Kongres maupun publik, serta menunda penerapan fitur perlindungan remaja selama bertahun-tahun
• Gugatan ini merupakan gugatan class action besar yang melibatkan lebih dari 1.800 penggugat dan sejumlah pemerintah negara bagian, yang memperluas perdebatan soal tanggung jawab Big Tech dalam melindungi remaja

---

Ringkasan gugatan

• Dokumen penggugat yang diajukan ke Pengadilan Distrik Federal California Utara menuduh Meta mengetahui dampak serius di platformnya sendiri tetapi mengecilkan atau menyembunyikannya
  • Klaim ini didasarkan pada dokumen internal, kesaksian eksekutif lama dan saat ini, serta materi riset internal
• Gugatan tersebut mencakup perusahaan induk dari Instagram, TikTok, Snapchat, YouTube, dengan lebih dari 1.800 penggugat ikut serta
• Para penggugat menuduh perusahaan-perusahaan ini mengabaikan kesehatan mental dan fisik anak demi “strategi yang mengutamakan pertumbuhan”

Tuduhan terkait prostitusi dan pelaporan eksploitasi seksual anak

• Instagram mengklaim menerapkan kebijakan ‘zero tolerance’ terhadap materi eksploitasi seksual anak, tetapi pihak penggugat menyatakan tidak ada cara yang sederhana bagi pengguna untuk melaporkannya
• Mantan petugas keselamatan Instagram bersaksi tentang kebijakan yang baru menangguhkan akun terkait prostitusi setelah 17 kali pelanggaran
• Juru bicara Meta membantah tuduhan itu dengan menyatakan akun yang diduga terkait perdagangan manusia atau eksploitasi selalu segera dihapus

Tuduhan menipu Kongres dan menyembunyikan riset kesehatan mental

• Riset internal menunjukkan bahwa penggunaan Instagram dan Facebook meningkatkan kecemasan serta depresi pada remaja
• Dalam ‘studi deaktivasi’ tahun 2019, kecemasan, depresi, dan kesepian menurun saat penggunaan dihentikan, tetapi Meta menghentikan riset itu dan tidak mempublikasikan hasilnya
• Dalam pertanyaan Senat tahun 2020, saat ditanya apakah ada korelasi antara depresi atau kecemasan remaja dan intensitas penggunaan, Meta menjawab “tidak (No)”
• Pihak penggugat menyebut hal ini sebagai “Meta berbohong kepada Kongres”

Tuduhan membiarkan kontak tidak pantas antara orang dewasa dan remaja

• Pada 2019, tim peneliti mengusulkan agar akun remaja dijadikan privat secara default, tetapi tim pertumbuhan menolak karena khawatir partisipasi menurun
  • Perubahan ke privat diperkirakan akan mengurangi 1,5 juta pengguna remaja per tahun
• Menurut analisis internal, penerapan pengaturan privat dapat menghilangkan 5,4 juta interaksi yang tidak diinginkan per hari
• Namun Meta baru menerapkannya secara menyeluruh pada 2024, dan selama itu miliaran kontak tidak pantas terjadi
• Meta membantah dengan mengatakan bahwa sejak 2021 akun di bawah 16 tahun sudah diubah menjadi privat

Strategi fokus merebut pengguna remaja

• Menurut dokumen internal, “mengamankan waktu penggunaan remaja” menjadi tujuan utama sejak 2017
• Meta menjalankan aktivitas promosi yang menargetkan siswa dengan bekerja sama dengan sekolah, PTA, dan Scholastic
• Riset internal menunjukkan Meta mengetahui adanya pengguna di bawah 13 tahun, dan pada 2018 sebanyak 40% anak usia 9–12 tahun menggunakan Instagram setiap hari
• Sejumlah karyawan mengkritik hal ini dengan mengatakan “menargetkan anak 11 tahun terasa seperti strategi perusahaan rokok”
• Per 2022 terdapat 216 juta pengguna dengan usia yang belum terverifikasi

Upaya ‘mengurangi dampak buruk’ Instagram yang kandas

• Fitur ‘menyembunyikan jumlah like’ (Project Daisy) pada 2019 berdampak positif pada harga diri pengguna, tetapi dihentikan karena kekhawatiran terhadap penurunan pendapatan iklan
• ‘Beauty filter’ terbukti berisiko memperburuk ketidakpuasan terhadap tubuh dan gangguan makan, tetapi diperkenalkan kembali karena dikhawatirkan metrik pertumbuhan turun
• Tim peneliti mengembangkan klasifikator AI untuk memblokir konten yang memicu perbandingan penampilan, tetapi manajemen menghentikan proyek tersebut

Penghapusan otomatis konten berbahaya yang tidak memadai

• AI Meta tidak menghapus otomatis konten bunuh diri, gangguan makan, atau eksploitasi seksual anak bahkan saat keyakinannya 100%
  • Konten yang mengglorifikasi menyakiti diri sendiri hanya dihapus jika tingkat keyakinan mencapai 94%
• Dalam penyelidikan internal tahun 2021, lebih dari 8% pengguna usia 13–15 tahun melaporkan terpapar unggahan terkait menyakiti diri sendiri dalam seminggu terakhir
• Meta menyatakan bahwa deteksi dan pelaporan materi eksploitasi seksual anak miliknya adalah yang terbesar di industri, serta menggabungkan AI dan peninjauan manusia untuk mencegah false positive

Tuduhan bahwa sifat adiktif disadari lalu dikecilkan

• Peneliti internal menggambarkan Instagram sebagai “seperti narkoba”
• Dalam survei 2018, 58% pengguna di AS mengalami ‘penggunaan bermasalah’, tetapi hanya 3,1% yang disebut dalam laporan publik
• Fitur pembatas penggunaan seperti ‘Quiet Mode’ ditunda karena dikhawatirkan berdampak buruk pada metrik pertumbuhan
• Tim peneliti menekankan bahwa “produk memanfaatkan psikologi manusia untuk menambah waktu penggunaan” dan meminta hal itu diungkapkan, tetapi Meta tidak melakukannya

Sikap resmi Meta

• Meta membantah seluruhnya dengan menyebut tuduhan tersebut sebagai “klaim yang terdistorsi dan didasarkan pada kutipan selektif serta kesalahpahaman”
• Perusahaan menegaskan telah lebih dari 10 tahun memperkuat fitur perlindungan remaja, menyediakan alat kontrol orang tua, dan memperkenalkan Teen Accounts
• Teen Accounts yang diperkenalkan pada 2024 mencakup akun privat otomatis untuk pengguna usia 13–18 tahun, pemblokiran notifikasi malam hari, pembatasan pesan dari orang dewasa, dan fitur persetujuan orang tua

Kesimpulan

• Dokumen pihak penggugat menyajikan bukti internal bahwa Meta mengutamakan pertumbuhan dan keuntungan daripada keselamatan remaja
• Meta membantah dengan menyatakan fitur keselamatan terus diperkuat
• Gugatan ini dipandang sebagai sengketa penting terkait tanggung jawab perusahaan media sosial dalam melindungi anak dan soal transparansi

[GN⁺]

Komentar Hacker News

• Meski juru bicara Meta mengatakan bahwa “selama lebih dari 10 tahun kami telah mendengarkan pendapat orang tua dan melakukan perubahan untuk melindungi remaja,” bagi saya itu terdengar seperti perusahaan rokok yang membuat filter sambil mengaku peduli pada kesehatan

  • Semua eksekutif perusahaan rokok berbohong di bawah sumpah, dan pada akhirnya hanya membayar denda uang

• Kebanyakan orang tahu bahwa Meta adalah perusahaan yang telah melakukan hal-hal mengerikan
  Tetapi saya penasaran apa yang sebenarnya sedang berubah. Sampai sekarang, yang ada hanya denda biasa dan sanksi formalitas. Saya ingin bertanya apakah ada rencana nyata untuk menghentikan situasi ini

  • Saya dulu pernah bekerja di perusahaan yang melakukan tindakan tidak etis dalam batas hukum. Pada akhirnya saya memahami strukturnya lalu pergi
    Alasan perusahaan seperti ini bisa ada pada akhirnya adalah karena para developer yang membuatnya mungkin secara teknis
    Jika kita tidak setuju, kita harus mengatakan kepada orang-orang untuk meninggalkan perusahaan seperti itu. Banyak uang tidak otomatis berarti bernilai
    Tetapi jika Amerika menutup semua perusahaan media sosial raksasa seperti Meta, banyak developer akan kehilangan pekerjaan
  • Ini pada dasarnya adalah masalah antimonopoli. Skala Meta terlalu besar sehingga strukturnya tidak memungkinkan perbaikan dari dalam
    Pada dasarnya struktur insentif sistem pemerintahan sudah mengeras dengan berpusat pada modal
    Bahkan jika masalah kesehatan atau perumahan diperbaiki, pada akhirnya perusahaan asuransi atau industri properti yang akan mengambil keuntungan
    Hubungan antara pengambilan keputusan dan kehendak warga terlalu lemah, sementara hubungan dengan modal terlalu kuat
    Jika ini tidak diubah, semua perubahan hanya akan berhenti pada tingkat pencitraan
    Saya pikir perlu ada transisi ke demokrasi langsung, tetapi kebanyakan orang menganggapnya tidak realistis
    Meski begitu, reformasi kelembagaan seperti ranked-choice voting bisa menjadi titik awal kecil
  • Saya ingin mengajukan pertanyaan, “Lalu apa tepatnya yang harus dilakukan?” Bukan sekadar kemarahan atau hukuman, melainkan alternatif yang nyata diperlukan
  • Selama modal jauh lebih kuat daripada tenaga kerja, cerita seperti ini akan terus terulang
  • Saya penasaran apakah di Amerika ada upaya nyata untuk mendorong sistem seperti hukuman mati korporasi (corporate death penalty)

• Seperti yang sudah diketahui banyak orang, pekerjaan perusahaan seperti ini adalah mengumpulkan data tanpa menganalisis dampak eksternal
  Artinya, keuntungan dan dampak negatif terhubung secara tak terpisahkan

  • Yang sangat mengejutkan adalah bahwa karyawan Meta mengetahui teknologi mereka memungkinkan eksploitasi seksual anak namun tetap menutup mata
    Mungkin bonus dan stock option menutupi rasa bersalah mereka

• Model bisnis Meta bertentangan langsung dengan kebahagiaan manusia

  • Itu benar, tetapi pada saat yang sama individu yang membuat keputusan berbahaya juga harus dimintai pertanggungjawaban

• Seseorang menyebut thread sebelumnya sambil bertanya, “Apakah ini isinya sama dengan postingan itu?”

  • Ya. Karena itu saya melaporkannya sebagai duplikat

• Saya terkejut mengetahui bahwa Meta memiliki kebijakan “akun terkait perdagangan manusia ditangguhkan setelah 17 pelanggaran”
  Ia mengkritik, “Sampai 16 kali hanya peringatan, ini aturan gila macam apa?”

  • Disebutkan bahwa komentar ini menuai kontroversi dan mendapat downvote

• Disarankan agar memeriksa dulu apakah sudah ada diskusi yang ada sebelum membuat postingan baru

• Sambil berkata, “Ini postingan duplikat,” seseorang membagikan tautan diskusi yang sudah ada

• Meta menurut saya adalah rokoknya zaman ini. Para karyawannya seharusnya malu
  Ini adalah salah satu organisasi terbesar yang merusak kesehatan mental remaja, khususnya gadis remaja

  • Tetapi mereka tidak peduli. Opportunis (grifter) memang akan terus hidup seperti itu

• Media sosial pada generasi mendatang akan dipandang sebagai sesuatu yang berbahaya seperti rokok atau alkohol
  Khususnya, kesehatan mental gadis remaja sedang memburuk dengan cepat
  Filter, platform penggemar, dan tekanan penampilan memperbesar kecemasan dan benar-benar mengancam nyawa