Dalam persidangan media sosial AS, Meta dan Google dituduh ‘merancang kecanduan’

• Persidangan juri pertama di AS atas tuduhan bahwa perusahaan media sosial memprioritaskan keuntungan di atas kesehatan mental anak dan sengaja merancang platform yang membuat kecanduan resmi dimulai di Los Angeles
• Pengacara penggugat menuduh Meta dan YouTube menjalankan strategi "addiction by design" dan menanamkan kecanduan di otak anak-anak
• Pengacara Meta membantah dengan menyatakan bahwa masalah mental penggugat berasal dari lingkungan keluarga dan perundungan di dunia nyata, bukan Instagram
• Persidangan ini merupakan gugatan bellwether, yang diperkirakan akan menjadi preseden untuk menentukan arah dan tingkat ganti rugi bagi ratusan gugatan serupa di seluruh AS
• Mark Zuckerberg akan naik ke kursi saksi minggu depan, sementara strategi litigasi industri tembakau pada 1990-an hingga 2000-an kini diterapkan secara serupa pada perusahaan media sosial

---

Gambaran persidangan dan isu utama

• Persidangan media sosial bersejarah dimulai di pengadilan California atas tuduhan bahwa Meta dan YouTube milik Google mendorong penggunaan aplikasi yang sangat adiktif kepada anak-anak
• Persidangan di hadapan juri Los Angeles ini dapat menetapkan preseden hukum tentang apakah raksasa media sosial secara sengaja merancang platform untuk memicu kecanduan pada anak
• CEO Meta Mark Zuckerberg dijadwalkan bersaksi minggu depan, dan pimpinan Instagram Adam Mosseri dijadwalkan hadir di pengadilan mulai Rabu
• Platform Meta mencakup Facebook dan WhatsApp selain Instagram

Argumen penggugat

• Dalam pernyataan pembuka, pengacara penggugat Mark Lanier mengatakan bahwa kasus ini adalah tentang dua perusahaan terkaya dalam sejarah yang merancang kecanduan ke dalam otak anak-anak
• Ia menyebutnya sebagai "kasus semudah A-B-C", sambil menumpuk balok mainan anak untuk menjelaskan bahwa A berarti Addicting, B berarti Brains, dan C berarti Children
• Ia juga menuduh bahwa "mereka tidak sekadar membuat aplikasi, tetapi membuat perangkap", sambil menggunakan Ferrari mainan dan mesin slot mini sebagai properti
• Ia berargumen bahwa Meta dan YouTube mengejar "addiction by design"
• Ia juga menuduh bahwa YouTube tidak memberi tahu ibu dari penggugat Kaley bahwa "tujuannya adalah membuat penonton kecanduan", serta mengabaikan risiko kecanduan yang "serius" sambil menargetkan bahkan balita berusia 2 tahun

Bantahan dari pihak Meta

• Pengacara Meta Paul Schmidt membantah dengan mengatakan bahwa masalah harga diri, citra tubuh, dan kebahagiaan penggugat berasal dari masalah keluarga dan perundungan di dunia nyata, bukan Instagram
• Ia bertanya kepada juri, "Jika Instagram dihilangkan tetapi semua hal lain dalam hidup Kaley tetap sama, apakah hidupnya akan benar-benar berbeda, atau ia akan tetap menderita karena masalah yang sama?"
• Ia juga menekankan bahwa tidak ada catatan medis dalam bukti yang menyebut kecanduan Instagram

Latar belakang kasus dan penggugat

• Persidangan yang dipimpin hakim Carolyn Kuhl membahas tuduhan dari seorang perempuan 20 tahun yang diidentifikasi sebagai Kaley G.M., yang disebut mengalami kecanduan media sosial sejak masa kanak-kanak dan menderita gangguan mental serius
• Dalam ratusan gugatan terhadap perusahaan media sosial, para pengguna muda menuduh mereka kecanduan konten hingga mengalami depresi, gangguan makan, rawat inap psikiatri, bahkan bunuh diri
• Kasus ini diklasifikasikan sebagai gugatan bellwether, sehingga hasilnya diperkirakan menjadi acuan bagi arah dan besaran kompensasi dalam gugatan serupa di seluruh AS

Kemiripan dengan litigasi industri tembakau

• Para pengacara penggugat mengadopsi strategi yang digunakan dalam gugatan terhadap industri tembakau pada 1990-an hingga 2000-an
  • Strukturnya serupa dengan argumen bahwa perusahaan rokok saat itu tetap menjual produk berbahaya meski mengetahui risikonya
• Matthew Bergman, pendiri Social Media Victims Law Center, mengatakan bahwa ini adalah "pertama kalinya perusahaan media sosial dihadapkan ke juri atas dampak terhadap anak-anak"
  • Tim dari pusat tersebut terlibat dalam lebih dari 1.000 gugatan serupa

Section 230 dan isu hukum

• Perusahaan internet besar selama ini berargumen bahwa Section 230 dari Communications Decency Act AS membebaskan mereka dari tanggung jawab atas konten yang diposting pengguna media sosial
• Namun gugatan ini berpendapat bahwa perusahaan justru bertanggung jawab atas model bisnis yang dirancang untuk mempertahankan perhatian pengguna dan mempromosikan konten yang dapat merusak kesehatan mental
• Pihak penggugat berencana menghadirkan saksi ahli yang akan menyatakan bahwa otak remaja belum cukup berkembang untuk menahan dampak algoritme Instagram dan YouTube

Respons masing-masing perusahaan

• Meta baru-baru ini menyinggung upayanya untuk memperkuat perlindungan keselamatan bagi pengguna muda dan mengatakan bahwa mereka "selalu berupaya menjadi lebih baik"
• Juru bicara YouTube Jose Castaneda membantah dengan mengatakan bahwa klaim dalam gugatan ini tidak benar
• Tim kuasa hukum YouTube dijadwalkan menyampaikan pernyataan pembuka kepada juri pada Selasa

Tergugat lain dan gugatan terkait

• Snapchat dan TikTok juga ditetapkan sebagai tergugat, tetapi mencapai penyelesaian sebelum persidangan dimulai, dan syarat penyelesaian tidak diungkap
• Termasuk gugatan yang diajukan distrik sekolah, perkara-perkara yang menuduh praktik berbahaya platform media sosial terhadap remaja sedang berlangsung di pengadilan federal California Utara dan pengadilan negara bagian di seluruh negeri
• Gugatan terpisah yang menuduh Meta memprioritaskan keuntungan di atas kesejahteraan pengguna remaja juga dimulai pada Senin di New Mexico

[GN⁺]

Komentar Hacker News

• Saat aku bekerja di perusahaan itu, setiap minggu ada selebaran baru ditempel di sisi dalam pintu bilik toilet
  Pada suatu minggu, isinya mengatakan bahwa “video di feed harus memikat pengguna dalam 0,2 detik”, dan menekankan bahwa dengan begitu mereka bisa menciptakan efek adiktif secara ilmiah
  Saat itu aku sadar — perusahaan melihat pengguna sebagai ‘mangsa’. Tujuan kami adalah meyakinkan pengiklan bahwa “kami punya alat untuk memprogram ulang otak pengguna”
  • Pada akhirnya ini juga bisa dilihat sebagai makna bahwa orang cepat kehilangan minat, jadi untuk menampilkan iklan, pesan inti harus disampaikan seketika
  • Ungkapan “pengguna adalah mangsa” memang menakutkan, tetapi secara realistis itu tidak terlalu jauh dari kenyataan
  • Orang nonteknis tidak benar-benar tahu seberapa terang-terangannya mereka dimanipulasi
    Aku pernah mengerjakan eksperimen statistik seperti A/B test dan algoritme penetapan harga dinamis, dan teman-teman yang mengetahui hal ini sering kali terkejut
    Melihat reaksi seperti “Amazon ternyata tidak menampilkan layar yang sama ke semua orang?” itu mengejutkan
    Manipulasi semacam ini bahkan bukan rahasia di dalam perusahaan, dan tak seorang pun merasa bersalah atas manipulasi yang diberi nama ‘optimisasi’
    Karena itu aku akhirnya meninggalkan bidang D2C. Aku sadar bahwa di sana kami tidak memberi nilai nyata kepada pengguna, malah justru merugikan mereka
    Di B2B, setidaknya masih ada hubungan yang lebih nyata, sehingga godaan manipulasi jangka pendek lebih kecil
  • Ironisnya, jika selebaran toilet sesederhana itu efektif terhadap karyawan, mungkin justru pegawai Facebook-lah yang paling mudah ‘diprogram’
  • Aku belum pernah bekerja di FAANG, jadi selebaran toilet terdengar agak aneh
    Rasanya seperti pengumuman perusahaan, tapi juga seperti tindakan personal. Kalau ada fotonya, aku benar-benar ingin melihatnya
• Sebagian besar industri teknologi bertumpu pada ekonomi perhatian
  Jika data terus dioptimalkan demi tujuan membuat pengguna tetap berada di aplikasi sepanjang hari, pada akhirnya akan tercipta produk yang mirip kecanduan
  • Aku tidak paham bagaimana orang-orang sepintar itu tidak menyadari bahwa mereka ikut membantu membangun sistem kecanduan
    Aku penasaran apakah ini sekadar soal moralitas, atau memang karena kurangnya kepekaan sosial
  • Dalam dunia yang ideal, perusahaan yang membuat anak-anak kecanduan seharusnya dipidana secara kriminal dan keuntungannya disita
    Tetapi kenyataannya tidak begitu. Karena tak ada regulasi, perusahaan tetap melakukan tindakan merugikan selama masih menghasilkan laba bersih
  • Ini mengingatkanku pada kisah “Umpty Candy” dari komik Judge Dredd tahun 80-an
    Itu bukan narkoba, melainkan permen yang dibuat adiktif hanya lewat optimisasi rasa
  • Sebenarnya, selama 5~6 tahun terakhir hal yang paling membuatku kecanduan adalah Hacker News
    Algoritme HN juga membuatku datang kembali beberapa kali sehari.
    Kalau diperbarui hanya sekali sehari, mungkin kecanduan seperti ini tidak akan ada.
    Pada akhirnya HN juga sedang melakukan ‘desain kecanduan’
  • Banyak masalah internet berasal dari “layanan gratis + model pendapatan iklan”
    Belakangan aku malah mulai berpikir bahwa yang dibutuhkan adalah internet berbayar.
    Dulu aku percaya ‘informasi harus bebas’, tetapi sekarang rasanya kita perlu tembok
• Bahkan jika kerugian nyata terbukti secara hukum, aku ragu apakah akan ada langkah perbaikan
  Dalam krisis opioid, keluarga Sackler pun pada akhirnya selesai hanya dengan negosiasi denda
  Melihat preseden seperti ini, rasanya perusahaan teknologi raksasa akan menghindari tanggung jawab selama puluhan tahun lewat banding
  • Dulu juga ada pola berulang dalam industri kecanduan seperti rokok, narkoba, dan makanan olahan
    Seperti kasus Philip Morris yang beralih dari rokok ke bisnis makanan ‘dari kotak ke mulut’
    Tetapi perusahaan media sosial saat ini tampaknya bahkan tidak punya rasa tanggung jawab seperti itu
  • Terutama jika kasus ini membahas desain kecanduan yang menargetkan anak di bawah umur, aku penasaran apakah penilaian hukumnya bisa berbeda
• Aku mendengar pengacara berkata “kasus ini sesederhana A-B-C” sambil menumpuk balok
  Sejujurnya itu terasa sangat kekanak-kanakan, tetapi bagi juri, pertunjukan teatrikal seperti ini mungkin efektif
  • Dalam proses pemilihan juri, orang yang terlalu antusias atau terlalu ahli sudah disingkirkan
    Pada akhirnya pengadilan menjadi semacam panggung, dan pengacara berakting seperti aktor
  • Pertunjukan properti semacam ini bisa jadi sinyal bahwa mereka sedang mencoba menutupi bukti yang lemah
    Pengacara Meta justru menekankan bahwa “masalahnya berasal dari lingkungan keluarga dan perundungan di sekolah”,
    serta bahwa tidak ada penyebutan kecanduan dalam catatan medis
    Seperti masa ketika video game disalahkan di masa lalu, kali ini juga terasa seperti pengulangan narasi bahwa ‘otak anak-anak dibuat kecanduan’
    Kita juga harus memikirkan bahwa gugatan seperti ini pada akhirnya mengarah ke regulasi seperti kebijakan verifikasi identitas Discord
  • Pertunjukan ala teka-teki kata seperti ini adalah strategi untuk menanamkan “kecanduan, otak, anak-anak” ke benak juri
  • Pada akhirnya slogan harus sederhana dan mudah diingat secara emosional
• Ungkapan “mereka tidak membuat aplikasi, melainkan membuat jebakan” terasa sangat kuat
  Untuk saat ini itu masih hanya pernyataan pembuka dari pengacara, jadi kita harus menunggu bukti nyata
  • Tetapi siapa pun yang pernah memakai YouTube Shorts mungkin sudah mengalami sendiri buktinya
  • Aku menunggu munculnya email internal yang menunjukkan bahwa pendapatan diprioritaskan di atas kesehatan pengguna
• Ketika A/B test dilakukan untuk meningkatkan engagement, tanpa sengaja bisa tercipta sistem yang adiktif
  Ini mirip dengan alasan makanan di Amerika semakin manis dari waktu ke waktu
  Pada akhirnya seperti tragedi milik bersama, semua orang sedikit bertanggung jawab tetapi tak seorang pun berhenti
  • Tetapi menurut dokumen internal, perusahaan menyadari kecanduan pada anak-anak dan tetap membiarkannya
    Itulah sebabnya gugatan ini diajukan
  • Membiarkan fenomena seperti ini terjadi adalah kegagalan kebijakan. Pemerintah seharusnya mengatur pola-pola yang secara statistik berbahaya
  • Karena eksekutif tidak meninggalkan bukti dalam email, membuktikan kesengajaan akan sulit
  • Untuk pertanyaan “siapa yang harus bertanggung jawab”, jawabannya jelas — bukan anak-anak, melainkan perusahaan
• Dulu aku pernah bertanya kepada seorang karyawan YouTube, “apakah anakmu memakai YouTube Kids?”
  Dia menjawab, “sama sekali tidak boleh, dilarang di rumah”
  Dengan satu kalimat itu aku langsung mengerti semuanya — jelas alasan mereka tidak mengonsumsi produk mereka sendiri
• “Bukankah restoran juga ingin pelanggan datang lagi, dan penulis juga menulis agar orang tak bisa meletakkan bukunya?”
  Pada akhirnya semua media bersaing untuk merebut perhatian
  Menurutku penting bagi individu untuk menjaga kebersihan informasi mereka sendiri
  • Tetapi ini berbeda. Restoran tidak mencampurkan kokain ke dalam makanan
    Kecanduan membaca justru positif
    Masalahnya adalah struktur yang melemahkan pengendalian diri selama proses konsumsi
    Mobil, obat-obatan, dan pendingin udara punya standar keselamatan, tetapi media sosial tidak punya regulasi sama sekali
    Intinya, belum ada mekanisme penyeimbang untuk melindungi konsumen
  • Dalam makanan, zat adiktif dilarang dan buku adalah pilihan sukarela,
    tetapi media sosial menimbulkan kecanduan yang tidak disengaja. Pada akhirnya tak ada cara selain berhenti total
  • Jika memahami mekanisme pelepasan dopamin, kita bisa tahu bahwa ini berbeda dari sekadar ‘mencari perhatian’
  • Jika aku diam-diam mencampurkan zat pembentuk kebiasaan ke minumanmu, itu jelas salah
  • Restoran bisa ditutup jika melanggar standar kebersihan, tetapi platform tidak menerima sanksi apa pun
• Pada akhirnya, seperti industri rokok, para CEO akan berkata “kami tidak tahu”
  Tetapi kali ini pun tampaknya hampir tidak akan ada pertanggungjawaban
  • Seperti ungkapan “bukan aku yang memakai narkoba lalu mabuk, narkobalah yang membuatku mabuk”,
    ada risiko bahwa kecanduan media sosial juga akan bergeser menjadi logika penghindaran tanggung jawab
• Jika algoritme rekomendasi dirancang untuk menahan perhatian setiap 1~2 detik, maka itu bukan lagi ‘engagement’ melainkan lebih dekat ke desain kecanduan
  Pengguna hampir tidak punya ruang untuk memilih secara sadar