TikTok Menyebabkan Dampak Buruk terhadap Anak dalam Skala Industri

• Jaksa agung dari 14 negara bagian di AS mengajukan gugatan dengan tuduhan bahwa TikTok menyebabkan dampak serius pada anak-anak dan remaja
• Melalui dokumen internal dan pernyataan karyawan, terungkap adanya algoritme adiktif, masalah kesehatan mental, eksploitasi seksual, serta paparan pornografi anak
• TikTok mengetahui masalah-masalah ini tetapi membiarkannya demi memprioritaskan pendapatan dan keterlibatan pengguna
• Sistem penyaringan konten dan fitur kontrol orang tua sangat tidak efektif, dan verifikasi usia untuk mencegah anak masuk juga gagal
• Banyak pengguna Gen Z juga memiliki kesadaran bahwa “saya kecanduan, tetapi tidak bisa berhenti”, dan secara keseluruhan manfaat bersihnya bagi masyarakat sangat negatif

Dampak Buruk TikTok terhadap Anak dalam Skala Industri

Antisipasi putusan Mahkamah Agung AS atas undang-undang pelarangan TikTok

• Mahkamah Agung AS akan memutuskan apakah akan turun tangan dalam undang-undang pelarangan TikTok
• Jika undang-undang itu berlaku, layanan TikTok di AS akan dihentikan kecuali ByteDance menjual TikTok
• Namun, bukti tentang dampak nyata seperti kesehatan mental, eksploitasi anak, dan kecanduan dikecualikan dari peninjauan hukum
• Karena itu, pentingnya penilaian publik (opini publik) semakin ditekankan

Kesaksian orang dalam TikTok dan dokumen yang bocor

Gugatan para jaksa agung dan dokumen utama

• Jaksa agung dari 14 negara bagian seperti Kentucky, Utah, Nebraska, dan New York mengajukan gugatan
• Banyak percakapan Slack internal, dokumen perencanaan, dan data eksperimen dipublikasikan
• Dikonfirmasi adanya desain dan strategi algoritme yang dengan sengaja menargetkan remaja
• Dalam kasus dokumen yang disensor, isinya hanya ditutupi kotak hitam sederhana sehingga mudah dipulihkan

Klaster dampak buruk 1: Adiktivitas dan dorongan penggunaan kompulsif

• TikTok secara eksplisit menyebut remaja sebagai target yang dapat memberikan waktu dan keterlibatan paling besar
• Melalui algoritme adiktif, infinite scroll, autoplay, dan desain notifikasi, TikTok mendorong penggunaan kompulsif
• Remaja sangat peka terhadap imbalan sosial (like, komentar, dan sebagainya) dan kurang memiliki kemampuan pengendalian diri
• Karyawan internal juga menyampaikan kekhawatiran bahwa “produk kami berbahaya bagi perkembangan anak”
• Laporan ‘TikTank’ menyebut bahwa pengguna remaja khususnya mengalami efek samping seperti gagal mengendalikan diri, gangguan tidur, dan penurunan kemampuan belajar

Klaster dampak buruk 2: Masalah kesehatan mental dan filter bubble

• Penggunaan kompulsif memicu kecemasan, depresi, merendahkan diri sendiri, menyakiti diri, dan dorongan bunuh diri
• Akun eksperimen hanya dalam 20 menit terjebak dalam filter bubble yang dipenuhi konten depresi, bunuh diri, dan gangguan makan
• TikTok membiarkan situasi ini meski mengetahui bahwa filter penampilan memicu distorsi citra diri dan rendahnya harga diri
• Moderator konten gagal memblokir konten menyakiti diri/bunuh diri dengan layak karena tidak mampu menafsirkan bahasa, kurang konteks, dan kaburnya standar

Klaster dampak buruk 3: Distribusi konten pornografi, kekerasan, dan narkoba

• Pornografi, iklan narkoba, dan video kekerasan direkomendasikan otomatis ke akun milik anak di bawah umur
• Sistem penyaringan konten TikTok tidak mampu menangani bahasa kode implisit dengan baik
• Dokumen internal menunjukkan bahwa TikTok mengetahui perdagangan narkoba, prostitusi, dan pencucian uang terjadi di TikTok LIVE
• Jaksa agung Utah dalam penyelidikannya mengajukan kasus anak yang langsung didekati pengedar narkoba
• Sebanyak 30~100% konten sangat berbahaya tidak tersaring dan tetap terekspos

Klaster dampak buruk 4: Eksploitasi seksual, CSAM, dan prostitusi seksual anak melalui siaran langsung

• TikTok dengan sengaja tidak mengadopsi teknologi deteksi materi eksploitasi seksual anak (CSAM)
• Anak usia 13~15 tahun menerima hadiah (mata uang virtual) dari orang dewasa di siaran LIVE sambil menyediakan konten seksual
• TikTok mengetahui hal ini tetapi membiarkannya demi menjaga profitabilitas dan keterlibatan
• Ada juga siaran yang menampilkan anak memegang pesan seperti “es krim = ereksi, luar angkasa = buka baju”
• Fitur LIVE sangat berbahaya bagi anak, tetapi di internal TikTok disebut “terlalu menguntungkan untuk dibatasi”

Klaster dampak buruk 5: Pengabaian batas usia dan minimnya respons

• TikTok memiliki batas usia, tetapi tetap tidak menindak meski mengetahui ada pendaftar di bawah 13 tahun dan penggunaan oleh anak-anak
• Verifikasi usia nyaris tidak berguna, dan anak di bawah umur bisa dengan mudah memalsukan usia
• Fitur kontrol orang tua (Family Pairing) juga hampir tidak digunakan dan tidak memberi perlindungan nyata
• Ada dokumen internal yang menyebut TikTok menggunakan fitur keamanan hanya sebagai ‘alasan formal’ untuk pemerintah dan media
• Mempertahankan DAU (pengguna aktif harian) dan tingkat keterlibatan adalah tujuan inti semua keputusan, sementara keamanan dikesampingkan dari prioritas

Penyesalan dan ketergantungan di kalangan pengguna muda

• Banyak pengguna TikTok menunjukkan respons “saya tahu saya kecanduan, tetapi tidak bisa berhenti”
• Dalam hasil eksperimen, banyak yang menjawab bahwa mereka mau berhenti jika semua orang berhenti bersama-sama
• Dalam survei Harris Poll, untuk TikTok 47% menjawab “lebih baik sejak awal tidak pernah ada”, tertinggi di antara media sosial
• TikTok adalah platform dengan sifat adiksi perilaku dan adiksi sosial sekaligus, dan penggunanya pun menyadari bahwa platform ini merugikan mereka

Kesimpulan: Perlunya regulasi TikTok untuk melindungi anak

• Dampak buruk yang terjadi di TikTok bukan sekadar kecelakaan, melainkan hasil dari desain
• Jutaan anak di AS mengalami kerusakan mental dan fisik yang serius hanya dari penggunaan normal
• Di bawah algoritme dan kebijakan konten saat ini, TikTok adalah platform yang merusak masa kanak-kanak itu sendiri
• Demi masyarakat AS secara keseluruhan, penghentian layanan TikTok pada 19 Januari dapat menjadi perubahan positif

[GN⁺]

Komentar Hacker News

• Haidt bukan orang yang paling hati-hati dalam analisis data, tetapi selama 10 tahun terakhir, klaim-klaim utamanya secara umum bergerak ke arah yang benar

  • budaya cancel tidak selaras dengan norma demokratis
  • media sosial memberi dampak negatif kecil pada banyak orang, dan dampak negatif besar pada sebagian orang
  • selalu membawa ponsel itu buruk untuk segala hal yang membutuhkan perhatian berkelanjutan, terutama hubungan romantis dan kencan
  • teknologi tidak akan menyelesaikan masalah ini. AI akan memperburuk keadaan. Bahkan jika TikTok dilarang dan versi yang lebih baik muncul, arahnya tetap salah. Perubahan budaya diperlukan, dan Haidt sedang berusaha sebaik mungkin untuk itu

• Saat kantor Jaksa Agung Kentucky mempublikasikan laporan tentang TikTok, mereka menutupi teks dengan kotak hitam, tetapi teks tersembunyi itu masih bisa dibaca dengan menyalin menggunakan kursor. Situasinya sangat lucu

• Tidak punya anak, tetapi membagikan pengalaman pribadi bahwa ada cara lain yang memungkinkan untuk menangani teknologi dan anak-anak

  • saat tinggal di Midwest pada 1980-an, ia meminta orang tuanya membelikan Encyclopedia Britannica edisi 1973 bekas. Itu memberikan rasa ingin tahu dan kegembiraan menemukan sesuatu yang juga bisa didapat dari sumber daring
  • bahkan saat bepergian, ia membawa ensiklopedia itu untuk dibaca. Ini menunjukkan bahwa ada cara bagi anak-anak untuk memenuhi berbagai kebutuhan tanpa bergantung pada teknologi

• Terkejut bahwa permintaan hadiah dan komentar yang bersifat seksual terhadap perempuan muda dan remaja adalah hal yang umum. Ini bisa berdampak besar pada orang-orang yang berusia di bawah 18 tahun

• Mempertanyakan mengapa laporan internal menuliskan hal-hal yang tidak ingin didengar manajemen

  • apakah mereka tidak menyadari apa yang tidak ingin didengar manajemen
  • apakah manajemen sebenarnya ingin mendengarnya, tetapi menginginkan penafsiran yang sengaja bias
  • apakah mereka mengira informasi itu akan digunakan secara konstruktif
  • apakah mereka hanya berusaha menjalankan perannya sebagai peneliti yang jujur
  • apakah ini bentuk perlindungan pekerjaan agar tidak dipecat
  • apakah mereka ingin meninggalkan rekam jejak dokumen untuk berjaga-jaga jika skandal itu terungkap

• Menganggap cara kantor Jaksa Agung Kentucky menangani penyensoran yang tidak tepat itu lucu

• Berpikir akan lebih baik jika orang tua memblokir situs tertentu di perangkat anak mereka. Tidak perlu memperluas penyensoran dan pengawasan

• Membagikan pengalaman bahwa media sosial begitu adiktif sehingga ia harus memblokirnya sendiri. Menonton video dari sudut pandang edukatif bisa berguna, tetapi lebih baik memahami isi yang bermanfaat melalui ringkasan LLM