- Pengadilan Banding Sirkuit Ketiga AS memutuskan bahwa dalam kasus algoritme rekomendasi TikTok yang menampilkan video “Blackout Challenge” kepada Nylah Anderson yang berusia 10 tahun, TikTok tidak dapat menghindari gugatan hanya dengan kekebalan Section 230
- Isu utamanya bukan apakah platform sekadar meng-hosting unggahan pihak ketiga, melainkan apakah tindakan menyeleksi dan merekomendasikan video di “For You Page” berdasarkan usia, interaksi, dan metadata merupakan ekspresi TikTok sendiri
- Putusan ini membalik dan memanfaatkan logika Moody v. NetChoice, dengan menyatakan bahwa jika platform mengklaim perlindungan First Amendment atas feed yang dikurasi, maka dalam konteks Section 230 pun kurasi tersebut dapat dipandang sebagai ujaran platform itu sendiri
- Dalam pendapat konkuren, Hakim Paul Matey menyatakan TikTok harus dipandang bukan sebagai penerbit video challenge, melainkan sebagai distributor, dan bahwa preseden awal Section 230 keliru karena menghapus perbedaan antara penerbit dan distributor
- Putusan ini membuka pintu bagi gugatan tanggung jawab rekomendasi algoritmik di Sirkuit Ketiga, dan dapat berdampak langsung pada banding ke Mahkamah Agung, legislasi Kongres, model bisnis platform, serta strategi litigasi pihak penggugat
Putusan Sirkuit Ketiga terkait algoritme rekomendasi TikTok
- Pengadilan Banding Sirkuit Ketiga AS menyatakan TikTok tidak dapat menghindari tanggung jawab berdasarkan Section 230, dan membatalkan putusan pengadilan tingkat bawah yang menolak gugatan
- Inti perkara ini adalah bahwa TikTok, melalui algoritmenya, merekomendasikan dan mempromosikan video yang diunggah pihak ketiga ke “For You Page” yang dipersonalisasi milik Nylah Anderson, anak berusia 10 tahun
- Video tersebut menampilkan “Blackout Challenge” yang mendorong penonton merekam diri mereka sendiri melakukan tindakan mencekik diri
- Setelah menonton video itu, Nylah meniru challenge tersebut dan meninggal karena secara tidak sengaja menggantung dirinya
- Ibu Nylah, Tawainna Anderson, menggugat TikTok dan perusahaan terkait ByteDance berdasarkan hukum negara bagian Pennsylvania atas tanggung jawab produk, kelalaian, dan wrongful death
- Pengadilan tingkat bawah menolak klaim tersebut karena menilai TikTok hanya meng-hosting ujaran orang lain, bukan membuat ujarannya sendiri
- Dalam putusannya, Hakim Paul Matey mengkritik TikTok karena membaca “Pasal 230 Communications Decency Act seolah-olah berarti perusahaan itu boleh bersikap tak peduli terhadap kematian seorang anak perempuan berusia 10 tahun”
Bagaimana Section 230 meluas
- Section 230 disahkan pada 1996 untuk menangani apakah layanan papan pesan online seperti Prodigy atau CompuServe bertanggung jawab atas komentar pengguna
- Struktur dasarnya adalah interactive computer service tidak bertanggung jawab atas ujaran orang lain ketika meng-hosting ujaran tersebut, dan hanya bertanggung jawab atas ujarannya sendiri
- Aturan ini juga membebaskan platform dari tanggung jawab ketika dengan itikad baik membatasi akses ke materi yang dianggap cabul, pornografis, sangat kekerasan, melecehkan, atau tidak pantas lainnya
- Sejak itu, internet berkembang hingga mencakup media sosial dan iklan pengawasan berbasis data yang belum ada pada 1996, dan pengadilan memperluas cakupan Section 230 ke perdagangan online serta situs reservasi hotel
- Setelah Zeran v. America Online di Pengadilan Banding Sirkuit Keempat pada 1997, delapan pengadilan banding sirkuit mengikuti tafsir yang ekspansif, membentuk preseden yang cenderung membebaskan platform dari tanggung jawab sekalipun platform tersebut memfasilitasi kerugian
Perlindungan ganda yang dinikmati platform
- Platform besar, ketika menghindari regulasi, mengklaim aktivitas mereka sebagai ujaran untuk meminta perlindungan First Amendment; namun ketika dimintai tanggung jawab atas pencemaran nama baik atau ujaran ilegal, mereka mengklaim hanya sebagai wadah ujaran orang lain dan meminta kekebalan Section 230
- Struktur ini dikritik karena menciptakan apa yang disebut salah satu pengadilan sebagai “lawless no-man’s-land”
- Kasus-kasus kerugian yang disebut dalam kaitannya dengan kekebalan Section 230 mencakup berbagai bidang
- Kasus Grindr yang disebut memudahkan kekerasan seksual
- Kasus lembaga pelaporan kredit yang mencoba menghindari regulasi atas kesalahan laporan kredit
- Kasus Facebook yang disebut menghasut kekerasan etnis
- Kasus pada 2023 ketika IRS menandai lebih dari 1 juta laporan pajak sebagai penipuan identitas, dan informasinya terutama dikumpulkan dari LinkedIn atau situs Meta
- Kasus penipu di Facebook yang menyamar sebagai tentara untuk melakukan penipuan asmara jarak jauh
- Kasus perusahaan media sosial yang menargetkan pecandu judi dengan aplikasi “social casino”
- Pada 2022, Clarence Thomas mengkritik tafsir ekspansif Section 230 dan menunjukkan bahwa Facebook tidak mencegah pelaku perdagangan manusia menggunakan layanannya karena alasan penurunan pengguna dan pendapatan iklan
Putusan yang mengembalikan logika NetChoice ke Section 230
- Dalam beberapa tahun terakhir, pengadilan mulai mempersempit Section 230 dengan menangani fitur berbahaya dari platform teknologi, seperti dalam perkara Lemmon v. Snap, dari perspektif hukum tanggung jawab produk alih-alih hukum ujaran
- Pada 2023, Mahkamah Agung menyidangkan Gonzalez v. Google dan Twitter v. Taamneh, tetapi tidak menetapkan posisi substantif tentang Section 230 itu sendiri
- Dalam Moody v. NetChoice, Mahkamah Agung menilai undang-undang Florida dan Texas yang berupaya mencegah platform besar melakukan diskriminasi sudut pandang politik kemungkinan besar inkonstitusional
- Pengadilan menyatakan bahwa diskresi editorial platform untuk mengecualikan ujaran politik dari feed yang dikurasi dilindungi oleh First Amendment
- Namun, pengadilan membedakan bahwa jika feed hanya merespons perilaku online pengguna dan memberikan konten yang diinginkan pengguna tanpa standar konten independen, maka itu bukan ujaran dan dapat diregulasi
- Pengadilan Banding Sirkuit Ketiga menerapkan logika ini pada Section 230
- Jika algoritme platform mencerminkan penilaian editorial yang mengelompokkan ujaran pihak ketiga dengan cara yang diinginkan platform, maka itu adalah ekspresi platform sendiri yang dilindungi oleh First Amendment sekaligus merupakan ujaran primer dalam konteks Section 230
- Karena algoritme TikTok mengurasi dan merekomendasikan kumpulan video yang dipersonalisasi di FYP berdasarkan usia pengguna, demografi, interaksi online, dan metadata lainnya, hal itu dapat diperlakukan sebagai ujaran TikTok sendiri
Logika tanggung jawab distributor Hakim Paul Matey
- Hakim Paul Matey setuju untuk membatalkan putusan pengadilan tingkat bawah, tetapi mengemukakan alasan terpisah yang akan mempersempit Section 230 secara lebih kuat
- Inti argumennya adalah bahwa TikTok harus dipandang bukan sebagai penerbit, melainkan sebagai distributor video challenge tersebut
- Secara tradisional, dalam konteks seperti penjualan materi cabul, tanggung jawab penulis atau penerbit yang membuat materi dibedakan dari tanggung jawab distributor seperti toko buku, perpustakaan, dan kios koran
- Preseden awal Section 230 menghapus perbedaan penerbit-distributor ini, dan Hakim Matey menilai preseden tersebut keliru
- Ia memandang TikTok yang melakukan amplifikasi algoritmik lebih tepat dipahami sebagai distributor dari sudut pandang common carriage tradisional, dan pendekatan ini juga sejalan dengan kekhawatiran Rohit Chopra serta beberapa hakim Mahkamah Agung
Lanskap regulasi lintas partisan dan dampak ke depan
- Isu kekuasaan Big Tech dan ujaran tidak terbelah secara sederhana menurut garis partisan
- Di Mahkamah Agung, Clarence Thomas dan Ketanji Brown Jackson kadang berada di kubu berbeda dari Brett Kavanaugh dan Elena Kagan, sementara Amy Coney Barrett digambarkan sebagai swing justice
- Trump maupun Biden sama-sama bersikap bermusuhan terhadap Section 230
- Pejabat regulator dari Partai Republik dan Demokrat seperti Brendan Carr, Rohit Chopra, dan Lina Khan selama bertahun-tahun telah mengkhawatirkan penyalahgunaan Section 230
- Dalam perkara Sirkuit Ketiga ini, Hakim Patty Shwartz yang ditunjuk Obama dan Hakim Peter J. Phipps yang ditunjuk Trump sepakat pada putusan substantif, sementara Hakim Paul Matey yang ditunjuk Trump menyatakan Section 230 harus lebih dipersempit
- Putusan ini membuat Sirkuit Ketiga menyimpang dari tafsir Section 230 yang dianut banyak pengadilan lain, dan perkara ini kemungkinan besar akan diajukan banding hingga Mahkamah Agung
- Jika Section 230 tidak lagi berfungsi sebagai tameng, peluang gugatan untuk meminta tanggung jawab platform akan meningkat dalam kasus seperti penipuan penyamaran tentara di Facebook, bantuan pelanggaran hukum perjudian negara bagian, pencurian identitas skala besar, kekerasan seksual, pelecehan anak, dan klaim pencemaran nama baik biasa
- Silicon Valley dapat bersiap melobi Kongres agar mengesahkan “reformasi” Section 230, dan sebagian eksekutif dapat mempertimbangkan penyesuaian model bisnis agar sesuai dengan lingkungan di mana platform bertanggung jawab atas tindakan mereka
1 komentar
Komentar Hacker News
Reaksi saat ini tampaknya mengarah pada anggapan bahwa putusan ini adalah akhir dari media sosial atau akan berujung pada sensor pemerintah, tetapi menurut saya belum tentu sesederhana itu
Intinya adalah bahwa media sosial tidak netral, dan mereka menyaring apa yang akan dilihat orang. Jika mereka bukan pihak netral yang sekadar meng-host konten, maka tanggung jawab tidak otomatis hilang hanya karena penyaringan itu dilakukan oleh algoritme
Dalam cakupan yang lebih luas, ini juga bisa dilihat sebagai semacam netralitas jaringan. Platform sosial saat ini mendorong sebagian konten dan menurunkan sebagian lainnya, dan jika orang kebanyakan berinteraksi melalui feed, maka ini menjadi fenomena yang mirip dengan persoalan prioritas antara ISP dan situs web
Secara pribadi saya ingin melihat perubahan apa yang akan dihasilkan putusan ini. Selain HN, saya bahkan tidak lagi punya situs sosial berbasis akun karena kebanyakan sudah menjadi mengerikan, dan mungkin saja media sosial bisa kembali jadi lumayan bisa ditoleransi
Namun kalau mengikuti putusan ini, tindakan moderasi itu sendiri bisa membuat HN bertanggung jawab atas semua tulisan, dan pilihannya mungkin hanya dua. Berhenti memoderasi dan menjadi seperti 4chan, atau memblokir akun anonim lalu lewat syarat layanan sangat menegaskan tanggung jawab pengunggah, atau memperketat moderasi jauh lebih keras seperti menyetujui semua komentar secara manual
Saya kurang paham bagaimana mungkin menjalankan situs web yang memoderasi konten pengguna sambil tetap menghindari tanggung jawab atas konten ilegal
Awalnya hukum membuat platform bisa bertanggung jawab atas semua yang diunggah pengguna hanya karena mereka melakukan sedikit moderasi, dan Section 230 dimaksudkan agar mereka bisa menghapus atau menurunkan spam, pornografi, dan trolling tanpa dituntut gara-gara konten lain yang terlewat tidak dihapus
Saya selalu sulit memahami anggapan bahwa kurasi itu sendiri adalah masalah. Tanpa media sosial, pilihan untuk menerbitkan langsung ke web selalu ada, tetapi orang terus-menerus memilih itu lebih jarang. Dalam bentuk ekstrem, putusan ini bisa saja menyisakan hanya pilihan itu
Meski begitu saya rasa kenyataannya tidak akan sampai sejauh itu, dan yang lebih mungkin adalah biaya operasional naik lalu dibebankan ke tarif iklan. Ekosistemnya mungkin menyusut, tetapi yang pasti jembatan angkat di parit pertahanan perusahaan sosial besar akan terangkat lebih tinggi sehingga persaingan berkurang
Daripada mencari media tanpa bias sebagai ideal, saya lebih ingin media yang mengungkapkan biasnya. Mereka harus cukup terbuka tentang diri mereka dan menjelaskan di mana letak biasnya agar saya bisa menilai sendiri
Ini juga tidak jauh berbeda dari cara berpikir pengadilan. Penyuntingan adalah ekspresi, dan halaman “For You” juga merupakan hasil penyuntingan, sehingga secara logika itu adalah ekspresi TikTok sendiri. Namun saya setuju dengan kritik yang lebih besar bahwa media sosial secara umum adalah ruang yang tidak menyenangkan
Kasus ini bergantung pada apa yang diketahui TikTok
Putusannya menyebut bahwa sebelum Nylah menonton video tersebut, TikTok mengetahui bahwa 1) Blackout Challenge yang mematikan sedang menyebar di aplikasi, 2) algoritmenya secara spesifik menyodorkan hal itu kepada anak-anak, dan 3) beberapa anak telah meninggal setelah melihatnya di For You Pages. Meski begitu, TikTok sama sekali tidak mengambil langkah untuk menghentikan penyebarannya dan mencegahnya terlihat oleh anak-anak, atau langkah yang diambil sepenuhnya tidak memadai, dan tetap merekomendasikannya kepada anak-anak seperti Nylah
Untuk melihat apa yang “diketahui” TikTok, lihat dokumen “App. 31–32”. Mungkin perlu akun Pacer, dan saya juga penasaran apakah mereka mengabaikan laporan penyalahgunaan
Isu serupa juga sampai ke Mahkamah Agung dalam Gonzales vs. Google (2023). Kasus itu membahas apakah rekomendasi video yang mendorong dukungan terhadap jihad Negara Islam menyebabkan seseorang ikut bertempur lalu tewas, dan pengadilan menolak klaim terkait terorisme tanpa membahas isu Section 230
https://en.wikipedia.org/wiki/Gonzalez_v._Google_LLC
Proses peninjauan ini dikembangkan untuk memenuhi standar ekspresi di pasar Tiongkok yang jauh lebih ketat, tetapi di sini justru membuka kemungkinan tanggung jawab yang lebih besar
Saya tidak bisa menemukan lagi artikel terkaitnya; sepertinya tertimbun di antara diagram alur seperti “cara membuat video menjadi viral”, dan materi-materi itu menghilangkan keputusan tentang “kapan video dilarang”
https://storage.courtlistener.com/recap/gov.uscourts.ca3.118...
Dokumen lainnya ada di sini
https://www.courtlistener.com/docket/67500541/tawainna-ander...
TikTok merekomendasikan dan mempromosikan video yang diunggah pihak ketiga ke “For You Page” yang dipersonalisasi milik Nylah Anderson, 10 tahun, melalui algoritmenya, dan salah satunya adalah “Blackout Challenge” yang mendorong penonton merekam tindakan mencekik diri sendiri
Setelah menonton video itu, Nylah mengikuti tantangan tersebut dan tanpa sengaja tewas karena gantung diri — https://cases.justia.com/federal/appellate-courts/…
Dalam arti tertentu, algoritme itu secara tak sengaja mengarahkan seorang anak untuk menggantung dirinya sendiri. Ada kode yang berjalan di berbagai situs web untuk merekomendasikan bacaan berdasarkan demografi pengguna, tetapi kode itu tidak memiliki mekanisme untuk mencegah artikel tentang pencekikan diri direkomendasikan kepada anak-anak
Pada akhirnya, ini bergantung pada asumsi bahwa pelanggan yang memakai perangkat lunak tersebut tidak akan mengunggah konten semacam itu, orang dengan demografi serupa tidak akan membacanya, dan meskipun seorang anak mendapat rekomendasi, ia tidak akan membaca lalu menirunya. Jika asumsi ini gagal, apakah saya atau pemberi kerja saya harus bertanggung jawab?
Jika Anda menerima imbalan untuk pekerjaan itu, Anda tidak bisa tak peduli pada akibatnya lalu berharap mendapat kekebalan otomatis hanya karena itu algoritme. Menikmati keuntungan sambil menghindari tanggung jawab adalah sikap pengecut dan kekanak-kanakan, dan perilaku kekanak-kanakan butuh pengawasan orang dewasa
Disebutkan bahwa sebelum Nylah menonton video itu, TikTok sudah mengetahui bahwa Blackout Challenge sedang menyebar di aplikasinya, bahwa algoritmenya menyalurkan konten itu kepada anak-anak, dan bahwa beberapa anak yang melihatnya di For You Pages telah meninggal. Meski begitu, TikTok tidak mengambil, atau tidak cukup mengambil, langkah untuk menghentikan penyebarannya atau menyembunyikannya dari anak-anak, dan tetap merekomendasikannya kepada anak-anak
Apakah perilaku seperti ini seharusnya legal? Jika saya tahu bahwa konten yang saya sediakan secara langsung membuat anak-anak mati, apakah saya akan diam saja?
Namun, platform itu mungkin tentang rekomendasi tulisan, bukan layanan untuk merekam diri saat mengikuti tren populer. Anak-anak mungkin bukan pengguna yang dituju, atau bahkan bukan pengguna sama sekali. Dalam banyak hal, situasinya berbeda dari TikTok
Pengadilan berpendapat bahwa jika algoritme platform mencerminkan penilaian editorial yang mengumpulkan ekspresi pihak ketiga dengan cara yang diinginkan, maka itu adalah “produk ekspresif” milik platform sendiri dan dilindungi Amandemen Pertama
Logikanya, jika Mahkamah Agung menganggap platform membuat ekspresi pihak pertama yang dilindungi saat menyeleksi kumpulan konten orang lain dengan algoritme yang bersifat ekspresif, maka wajar untuk menganggap itu juga sebagai ekspresi pihak pertama dalam konteks Section 230
Saya sudah lama setuju dengan hal ini. Ini bukan “hasil alami” seperti urutan kronologis, model thread, atau pengurutan berbobot berdasarkan rekomendasi/kurasi pengguna akhir di luar kendali situs, melainkan masalah pilihan
Jika forum saya membahas topik sempit seperti off-roading 4×4, dan saya menghapus posting yang jelas ditulis manusia tetapi sangat melenceng dari topik, misalnya tentang politik AS, apakah itu juga membuat saya bertanggung jawab atas semua posting yang tidak saya hapus?
Bagi orang-orang yang tidak punya tim hukum raksasa seperti perusahaan Silicon Valley, di mana batasnya?
Untuk membahas maksud Section 230 atau sejauh mana Section 230 berlaku pada rekomendasi bertarget berbasis algoritme, perlu melihat amicus brief yang diajukan salah satu penulis bersama Section 230, Ron Wyden dan Chris Cox, dalam Google v. Gonzalez (2023)
Menurut siaran pers Wyden, “Section 230 melindungi rekomendasi bertarget sama seperti cara lain dalam menampilkan konten, dan interpretasi ini mewujudkan tujuan Kongres untuk mendorong inovasi dalam penayangan dan kurasi konten.” Isinya juga menyatakan bahwa transmisi real-time atas konten buatan pengguna telah menjadi dasar aktivitas online, dan perlindungan Section 230 tetap sama pentingnya sekarang seperti saat diberlakukan
[PDF] https://www.wyden.senate.gov/download/wyden-cox-amicus-brief...
https://www.wyden.senate.gov/news/press-releases/sen-wyden-a...
Cox menulis bahwa yurisprudensi telah menetapkan bahwa jika sebuah situs web bersekongkol dalam penciptaan atau pengembangan konten ilegal dengan cara apa pun, maka Section 230 tidak bisa menjadi perisai. Dalam FTC v. Accusearch, yang membuat catatan telepon memang pihak lain, tetapi situs web yang mengubah informasi pribadi menjadi komoditas publik dianggap sebagai “pengembangan” informasi itu, sehingga kehilangan kekebalan
Ia lalu menjelaskan bahwa saat membuat Section 230, maksudnya adalah agar aturan hukum di dunia offline tetap berlaku juga di internet. Artinya, semua pelaku usaha harus bertanggung jawab atas kewajiban hukum mereka sendiri, baik secara online maupun di toko fisik
Namun pada akhirnya, dalam perkara ini niat awal tidak terlalu berarti, dan pihak yang menafsirkan hukum adalah pengadilan. Faktanya, Section 230 adalah bagian dari Communications Decency Act yang sebagian besarnya dibatalkan oleh Mahkamah Agung
https://jolt.richmond.edu/2020/08/27/the-origins-and-origina...
Saya tidak menentang pembuatan undang-undang baru yang diyakini masyarakat dapat mengurangi dampak buruk terhadap pengguna online, terutama anak-anak
Namun jika arahnya adalah menghapus Section 230, bukankah itu justru hanya akan menguntungkan perusahaan teknologi besar yang sudah memiliki sumber daya hukum raksasa serta kemampuan moderasi berbasis machine learning atau manual? Hambatan masuk bagi startup akan menjadi tak tertanggungkan
Kedengarannya seperti perusahaan-perusahaan lama pada dasarnya mendapat kartu bebas tanggung jawab atas konten buatan pengguna, lalu setelah tumbuh cukup besar, sekarang pemerintah menendang tangga itu
Tafsiran bahwa masalah dasarnya bukan apakah platform teknologi besar harus diatur sebagai pembicara cukup bagus. Mereka lebih merupakan perantara daripada subjek yang berbicara
Sudut pandang ini bertumpu pada konsep hukum pra-internet seperti distributor dan produsen. Ada pemikiran bahwa struktur hukum dan pemerintahan tidak dirancang untuk menangani era internet sehingga harus dibongkar total, tetapi isu ini juga relevan dan penting sebagai contoh tandingannya
Tulisan yang bagus. Penulis tampaknya membuat cukup banyak asumsi tentang bagaimana ini akan berkembang ke depan, tetapi saya setuju dengan semangat mengakhiri era “tanah tak bertuan tanpa hukum” di internet
Ini juga sangat cocok dengan momen sekarang, saat kita menunggu malapetaka besar konten AI generatif. Seolah-olah satu malapetaka diganti dengan malapetaka lain yang sedikit lebih ramah dan lebih manusiawi
Internet sudah ada sebelum CDA, dan setahu saya dulu juga cukup keren. Internet juga bisa tetap ada sesudahnya. Jika perusahaan raksasa tidak menghabiskan banyak uang sepanjang hari untuk memicu amigdala kita dengan omong kosong, mungkin internet akan menjadi ruang yang jauh lebih tidak sesak, tidak seberacun, tidak sestimulan, dan tidak seadiktif sekarang
Pokok perkara menurut Hakim Matey adalah bahwa Section 230 hanya memberi kekebalan untuk tindakan TikTok dalam meng-host video Blackout Challenge di servernya, dan tidak untuk hal lain
Jika didefinisikan seperti ini, muncul persoalan teknis rumit yang harus diurai pengadilan. Dari pengalaman saya bekerja di web, “hosting” dipahami sebagai tindakan menyimpan file di suatu tempat. Apakah pengadilan juga akan melihatnya seperti itu? Atau apakah itu mencakup serving, caching, indexing, linking, formatting, dan rendering? Jika penerbit bertanggung jawab atas sebagian saja dari itu, industrinya akan menuju tempat yang sangat berbeda dari tahun 1995
Putusan itu sendiri mengatakan bahwa ini bukan soal Section 230 secara keseluruhan, melainkan soal pemilihan dan pengemasan video tertentu oleh TikTok
TikTok bertanggung jawab bukan atas konten pengguna itu sendiri, melainkan atas bagian penyusunan area “For You”. Masuk akal dalam arti bahwa memanipulasi orang, entah untuk tujuan politik atau dengan cara seperti yang dilakukan Facebook atau Twitter, memang tidak baik. Jadi ini bukan akhir dari Section 230
Akan bagus jika “For You” atau rekomendasi YouTube hilang. Linimasa kronologis adalah yang terbaik, dan akan sedikit memulihkan kewarasan. Kalau tidak suka, ya jangan diikuti
Putusan itu menilai bahwa algoritme TikTok yang merekomendasikan Blackout Challenge ke FYP Nylah adalah “aktivitas ekspresif” milik TikTok sendiri, dan bahwa informasi yang menjadi dasar gugatan bukanlah informasi yang disediakan pihak ketiga, melainkan rekomendasi algoritme FYP TikTok, sehingga Section 230 tidak menghalangi klaim tersebut
Jika sama sekali tidak ada penyaringan, itu juga merupakan algoritme yang bisa dipakai untuk memanipulasi orang, dan yang terlihat nantinya hanya tumpukan halaman SEO. Membuka ruang tanggung jawab seperti ini adalah rawa yang sulit menghasilkan dampak baik bagi internet
Meskipun rekomendasi YouTube atau algoritme TikTok “memanipulasi” saya, secara pribadi saya sama sekali tidak keberatan
Pada dasarnya, ini tampak seperti semakin mendekati kontrol pemerintah atas jejaring sosial. Ini tampaknya menjadi tren global, dan pemerintah akan menetapkan aturan tentang bagaimana layanan komunikasi dan jejaring sosial beroperasi
Namun, jika Facebook berupaya memilih dan menonjolkan konten tertentu, saat itulah potensi tanggung jawab muncul
Tindakan yang dipermasalahkan dalam gugatan ini adalah bahwa TikTok mengetahui atau seharusnya mengetahui bahwa mereka menargetkan tantangan kepada anak di bawah umur yang kemungkinan besar akan membahayakan jika ditiru anak-anak. Ini jauh melampaui sekadar kurasi, dan juga merupakan jenis tindakan yang selama ini diklaim sendiri oleh banyak perusahaan media sosial di pengadilan sebagai bentuk ekspresi perusahaan mereka
Ini adalah pengakuan bahwa memilih apa yang akan ditampilkan bisa menjadi salah satu bentuk kebebasan berekspresi yang dapat menimbulkan konsekuensi, bukan upaya untuk mengendalikan ekspresi tersebut
Arahan tersebut adalah 2000/31/EC dan usianya sudah 24 tahun. Ini adalah pendahulu EU DSA, dan seperti DSA, 2000/31/EC juga memiliki cakupan ekstrateritorial
Misalnya, kita tidak mengizinkan iklan rokok, alkohol, dan ganja ditujukan kepada anak-anak. Sekarang perusahaan juga harus menanggung akibat karena mengirim hal bodoh seperti “Blackout Challenge” kepada anak-anak
“Ada orang bodoh yang mengunggahnya ke platform kami” dan kami mempromosikan/mengesahkannya lalu mengirimkannya ke semua orang adalah dua hal yang sama sekali berbeda. Perusahaan harus bertanggung jawab atas tindakannya sendiri