UE dorong penindakan terhadap ‘desain adiktif’ TikTok dan Instagram yang menyasar anak

• Komisi Eropa berencana mendorong langkah regulasi pada paruh akhir tahun ini yang menargetkan fitur desain adiktif di TikTok dan Instagram
• Sasarannya mencakup fitur seperti infinite scroll, autoplay, dan push notification di TikTok yang membuat anak-anak terus terpaku
• Meta dinilai gagal menegakkan standar usia minimum 13 tahun miliknya sendiri di Instagram dan Facebook
• UE sedang menyelidiki masalah lubang kelinci yang mengarah ke konten gangguan makan dan melukai diri sendiri, sambil mengembangkan aplikasi verifikasi usia yang mengedepankan standar perlindungan privasi
• Setelah keluarnya saran panel ahli keselamatan anak online dan hasil penyelidikan, draf legislasi terkait bisa disiapkan paling cepat pada musim panas

---

UE dorong regulasi perlindungan anak di media sosial

• Komisi Eropa berencana mengambil langkah pada paruh akhir tahun ini dengan menargetkan fitur desain adiktif di TikTok dan Instagram
• Presiden Komisi Eropa Ursula von der Leyen menyatakan pada European Summit on Artificial Intelligence and Children di Denmark bahwa mereka akan menyasar fitur tertentu pada platform media sosial
• Target regulasi mencakup fitur seperti infinite scroll, autoplay, dan push notification di TikTok yang membuat anak-anak terus terpaku
• Meta juga dinilai gagal menegakkan standar usia minimum 13 tahun miliknya sendiri di Instagram dan Facebook
• Komisi Eropa telah meminta komentar dari ByteDance dan Meta

Konten berbahaya dan verifikasi usia

• UE sedang menyelidiki struktur platform yang membuat anak-anak terjebak dalam lubang kelinci (rabbit holes) menuju konten berbahaya
• Contoh konten berbahaya yang disebutkan mencakup video yang mendorong gangguan makan atau melukai diri sendiri
• Komisi Eropa telah mengembangkan aplikasi verifikasi usia miliknya sendiri, dan von der Leyen mengatakan aplikasi itu memiliki “standar perlindungan privasi tertinggi di dunia”
• Negara anggota segera dapat mengintegrasikan aplikasi ini ke dalam dompet digital, dan platform online juga dapat menerapkannya dengan mudah
• von der Leyen mengatakan, “Tidak ada lagi alasan. Teknologi verifikasi usia sudah tersedia.”
• Komisi Eropa sedang menunggu saran dari panel khusus ahli keselamatan anak online dan hasil penyelidikan, dan bisa menyiapkan draf legislasi paling cepat pada musim panas

Penilaian pelanggaran DSA dan tekanan hukum

• Komisi Eropa baru-baru ini menilai bahwa Meta melanggar Digital Services Act UE karena gagal mencegah pengguna di bawah 13 tahun menggunakan Facebook dan Instagram
• Penyelidikan awal menyimpulkan bahwa anak di bawah umur dapat dengan mudah mengakali prosedur verifikasi
• Pengawasan hukum terhadap keselamatan anak di platform media sosial meningkat setelah Meta dan YouTube kalah dalam putusan pengadilan penting di AS pada Maret
• Putusan tersebut menilai bahwa fitur desain seperti infinite scroll dan autoplay berkontribusi pada kecanduan remaja dan dampak terhadap kesehatan mental

Penindakan terhadap Big Tech AS dan penyebaran internasional

• Selama setahun terakhir, UE telah memperluas penindakan terhadap Big Tech AS dalam proses penegakan hukum untuk memperkuat akuntabilitas perusahaan teknologi besar
• Serangkaian denda memicu kritik dari pejabat AS, yang memperingatkan bahwa UE berisiko kehilangan peluang untuk ikut serta dalam ekonomi AI
• Presiden AS Donald Trump merespons denda terhadap perusahaan-perusahaan AS yang totalnya telah melampaui 7 miliar dolar AS dalam dua tahun terakhir
• Apple, Meta, dan Google telah didenda karena pelanggaran aturan antimonopoli dan hukum persaingan UE, dan sedang menggugatnya
• Awal tahun ini, Komisi Eropa memulai penyelidikan terhadap X milik Elon Musk terkait penyebaran konten seksual eksplisit tanpa persetujuan yang melibatkan perempuan dan anak-anak yang dihasilkan chatbot Grok

Tren pembatasan media sosial untuk usia di bawah 16 tahun

• Pemerintah di berbagai negara sedang mempertimbangkan legislasi untuk melindungi anak-anak dari dampak buruk media sosial
• Australia menjadi negara pertama yang menerapkan larangan media sosial yang luas bagi mereka yang berusia di bawah 16 tahun pada Desember
• Setelah itu, tren larangan media sosial untuk usia di bawah 16 tahun semakin mendapat dukungan di kalangan pemerintah di seluruh dunia
• Di Eropa, Spain, France, dan U.K. mengusulkan legislasi mereka sendiri untuk membatasi akses anak-anak ke media sosial

[GN⁺]

Komentar Hacker News

• Jika data disajikan oleh algoritme, maka itu bukan lagi common carrier yang netral, dan harus bertanggung jawab atas konten yang disajikannya
  Jika pengguna dibiarkan memutuskan sendiri, cakupan tanggung jawabnya bisa berbeda seperti pada media sosial 1.0

  • Hacker News juga situs yang menyajikan data dengan algoritme, jadi menurut definisi itu Hacker News juga harus lenyap
    Lebih tepat kalau dianggap yang dibidik adalah algoritme rekomendasi yang dipersonalisasi, dan tidak jelas bahwa hanya karena menyediakan algoritme rekomendasi sebuah situs otomatis bukan common carrier yang netral
  • Saat pengguna membuka aplikasi, pertanyaannya jadi video apa yang harus ditampilkan pertama kali
    Dari jutaan hingga puluhan juta video, bagaimana pengguna bisa memilih sendiri? Bahkan kalau dibuat bisa dicari seperti YouTube, tetap perlu menentukan bagaimana peringkat hasil pencarian disusun, dan itu juga algoritme, jadi sama sekali bukan masalah yang mudah diselesaikan
  • Setelah diskusi ini berulang beberapa kali, orang-orang terus tersandung pada poin bahwa “kalau mau mengurutkan sesuatu, entah berdasarkan terbaru atau terpopuler, pada akhirnya tetap butuh algoritme seperti quicksort”
    Tentu “algoritme” yang dimaksud publik atau politisi bukan itu, tetapi apa tepatnya yang dimaksud memang agak kabur. Tampaknya EU cukup memahami titik ini, sehingga memilih berfokus pada istilah desain adiktif. Ini menunjukkan bahwa masalahnya bukan pada algoritme tertentu yang bisa ditunjuk secara tegas, melainkan pada wilayah abu-abu yang berkaitan dengan perilaku yang diarahkan
  • Ini masalah yang sulit dibawa ke ranah hukum. Pada akhirnya kita harus mendefinisikan apa itu algoritme
    Apakah menambahkan iklan juga algoritme? Memasukkan tombol like? Memutar video berikutnya secara otomatis setelah video sebelumnya selesai? Infinite scroll? Pertanyaan seperti ini terus muncul
  • Interactive computer service dalam CDA 230 tidak sama dengan common carrier
    Mengabaikan perbedaan ini lalu berkata “ini mudah diselesaikan” tidak terdengar seperti usulan yang benar-benar dipikirkan matang-matang

• Ini bukan hanya masalah anak-anak
  Banyak orang dewasa juga membutuhkannya. Aplikasi yang adiktif dirancang dengan sangat baik, sementara kebanyakan pemblokir terlalu mudah diabaikan atau terlalu merepotkan untuk dipakai terus-menerus. Karena mengalami masalah yang sama, saya membuat pemblokir kecil untuk iOS, dan tantangan utamanya adalah membuatnya cukup ketat agar benar-benar efektif tanpa sampai membuat orang membencinya

  • Saya mendengar di radio tentang kebijakan di Tiongkok saat masa ujian sekolah: semua sekolah menjalani ujian pada waktu yang sama, dan selama periode itu media sosial diblokir pada malam hari
    Saya tidak ingat jam pastinya, mungkin sekitar pukul 22.00 sampai 06.00. Secara umum rasanya itu bisa jadi kebijakan yang baik untuk semua orang. Saya juga seperti pernah dengar bahwa perusahaan AI ikut offline saat jam ujian, tetapi bisa jadi saya salah ingat pada bagian itu
  • Notifikasi toast adalah kesalahan besar, begitu juga badge
    Dalam dunia yang ideal, satu-satunya hal yang seharusnya terus memberi tahu pengguna bahwa seseorang mencoba menghubungi mereka hanyalah voicemail, dan itu pun seharusnya tunduk pada regulasi spam yang sama seperti yang lain
  • Saya orang dewasa yang membenci semua aplikasi ini, tetapi saya tidak ingin memberi pemerintah hak untuk mengambil keputusan itu atas nama saya
  • Jika perlindungan yang sama diterapkan juga pada orang dewasa, maka verifikasi usia pun tidak lagi diperlukan

• Saya tidak paham kenapa saat korbannya berusia 18 tahun, algoritme seperti ini tiba-tiba dianggap oke
  Ini merugikan semua orang, dan jika memang mau diatur, seharusnya dibuat ilegal untuk digunakan pada siapa pun

  • Orang dewasa bukan anak ternak yang harus dikendalikan, dan saya jauh lebih suka melihat hal-hal yang sesuai dengan minat saya daripada minat massa umum lewat algoritme rekomendasi
    Bahkan saya ingin bisa mengunggah model rekomendasi saya sendiri ke semua media sosial agar kurasinya lebih baik, menaruh black hole di sekitar topik yang ingin saya hindari, dan punya opsi untuk membuatnya sedikit kabur demi eksplorasi
  • Dari artikel ini saja, tidak jelas apakah metode seperti infinite scroll atau “tonton video berikutnya” diatur berdasarkan usia pengguna
    Yang disebut hanya bahwa platform yang memakai cara seperti itu sering membidik anak-anak
  • Ini seperti tembakau. Regulasi untuk anak-anak jauh lebih mudah karena ada kesepakatan sosial yang relatif kuat bahwa mereka perlu dilindungi
    Menerapkannya pada orang dewasa jauh lebih sulit karena kesepakatannya jauh lebih lemah
  • Gagasannya adalah bahwa otak yang belum berkembang penuh kurang mampu membuat pilihan yang benar
    Kalau begitu, pertanyaan yang sama juga berlaku: kenapa saat berusia 18 tahun seseorang tiba-tiba dianggap bertanggung jawab atas tindakannya sendiri?
  • Dalam masyarakat yang bebas, umumnya dianggap bahwa biaya ketika orang dewasa membuat pilihan buruk masih bisa ditoleransi, sedangkan anak-anak dianggap belum punya kematangan dan penilaian yang cukup untuk membuat pilihan seperti itu sendiri
    Memang kebanyakan orang dewasa juga kurang matang dan kurang bijak, tetapi biasanya lebih kecil bahayanya membiarkan orang dewasa membuat keputusan buruk daripada memberi seseorang kekuasaan untuk menentukan bahwa keputusan tertentu terlalu buruk untuk diizinkan

• Khususnya, membatasi infinite scroll menurut saya secara umum adalah hal yang baik untuk mengurangi sifat adiktif dan dampak buruk media sosial
  Saya sangat suka bahwa HN memakai halaman, bukan feed atau daftar tanpa akhir

  • Hal lain yang sangat bagus di HN adalah semua judulnya membosankan dan langsung ke intinya
    Panduan judul[1] sangat bagus, dan saya berharap lebih banyak situs web dan media lama melakukan hal yang sama. Hal-hal yang tidak saya minati tidak berusaha mencuri waktu dan perhatian saya
    [1] https://news.ycombinator.com/newsguidelines.html
  • Intinya adalah fitur-fitur seperti ini memang dirancang agar membuat ketagihan
    “Infinite scroll” hanyalah detail implementasi, jadi meskipun itu dilarang, mereka tetap akan membuatnya adiktif dengan semua teknik lain

• Saya mendengar di sebuah podcast bahwa algoritme media sosial disebut rokok modern, dan itu sangat mengena
  Perusahaan-perusahaan ini tahu produk mereka adiktif dan buruk bagi pengguna, tetapi tetap mendorongnya. Seperti rokok, ini buruk bukan hanya untuk anak-anak, tetapi untuk semua orang. Karena itu saya membuat pemblokir algoritme untuk Safari, dan mengejutkan betapa jauh lebih nyaman media sosial ketika algoritme rekomendasi benar-benar tidak ada. EU dan yurisdiksi lain juga seharusnya melihat masalah ini lebih luas, tidak terbatas pada anak-anak, meski saya paham kenapa mereka memulainya dari sana

  • Komentar ini adalah iklan aplikasi berbayar yang mencoba memanfaatkan kemarahan terhadap media sosial
    Usahanya saya hargai, tetapi karena ada kepentingan finansial, ini bukan pendapat yang netral tentang topik tersebut. Jika ingin memfilter feed media sosial, ada banyak plugin alternatif gratis juga
  • Menyamakan media sosial dengan rokok modern benar-benar sangat tepat
    Sekelompok perusahaan yang sangat kaya, sampai sulit dibayangkan, menyebarkan produk berbahaya ke seluruh dunia, membuatnya semaksimal mungkin adiktif, sambil aktif mengubur riset yang membuktikan bahayanya. Saya sungguh berharap suatu hari kita akan melihat media sosial dan penggunaan smartphone seperti kita memandang merokok
  • Sejak pindah ke Pixelfed dan Mastodon, waktu yang saya habiskan untuk media sosial tidak lagi sebanyak dulu
    Bukan karena saya tidak mengikuti orang-orang yang bagus, tetapi karena tidak ada algoritme yang menyusup ke otak reptil saya dan membuat saya terus swipe, jadi saya jadi tidak terlalu memikirkannya. Saat teringat lalu saya cek, hampir selalu menyenangkan, saya baca beberapa posting, satu tautan menarik, lalu 20 menit kemudian kembali ke dunia nyata. Dari sisi pengguna ini hebat, tetapi saya ragu bisa dibangun menjadi bisnis berbasis iklan. Saya ingin bilang saya cukup pintar untuk tidak tersedot ke puluhan video “menarik”, tetapi kalau satu jam habis di situ, waktu itu lenyap dan tidak meninggalkan apa-apa
  • Coba cari eu cigarettes boxes di Google Images
    Larangan mungkin hanya irisan tipis dari baji, tetapi saya rasa media sosial juga perlu sesuatu seperti label peringatan itu
  • Seperti industri tembakau, mereka punya memo internal tentang cara menargetkan anak-anak, sambil terus mengklaim bahwa mereka sama sekali tidak menargetkan anak-anak
    Lalu mereka mendorong keras undang-undang yang melempar tanggung jawab itu ke pihak lain. Ini mirip dengan bagaimana industri tembakau mendorong larangan penjualan rokok kepada anak di bawah umur lewat kampanye astroturf, sambil tahu dari riset internal mereka sendiri bahwa itu tidak banyak mengubah tingkat merokok remaja dan justru memperkuat citra “pemberontak”. Ini terasa sangat mirip dengan bagaimana Meta mendorong keras agar sistem operasi menjadi pihak yang menyatakan usia pengguna

• Saya tidak setuju. Kalau bukan soal zat kimia, sifat adiktif punya sisi subjektif
  Pada titik tertentu, buku, film, komik, dan sebagainya juga bisa dianggap adiktif. Untuk anak di bawah umur, seluruh jejaring sosial harus dilarang, dan seperti klub malam bertanggung jawab atas usia pengunjungnya, jejaring sosial itu sendirilah yang harus bertanggung jawab memverifikasi usia pengguna. Omong kosong seperti “verifikasi usia oleh sistem operasi” jelas bukan untuk melindungi anak-anak, melainkan untuk mengawasi mereka

  • Saya tidak paham kenapa orang bilang “kalau bukan zat kimia maka sifat adiktif itu subjektif”
    Sudah sangat dikenal bahwa pola kecanduan dari aplikasi-aplikasi ini merangsang dopamin dengan cara yang sama seperti obat-obatan. Dalam arti tertentu, dopamin adalah “zat kimia” yang menjadi pusat kecanduan, dan heroin maupun algoritme hanyalah dua cara berbeda untuk mendapatkannya
    https://med.stanford.edu/news/insights/2021/10/addictive-pot...
  • Sifat adiktif diukur lewat ekspresi gen ∆FosB
    “Sifat adiktif” suatu zat atau aktivitas dapat dinilai dari seberapa besar ∆FosB diekspresikan, jadi itu sama sekali bukan hal yang sepenuhnya subjektif. Buku, film, komik, dan sebagainya juga semuanya bisa diukur pada skala ini, dan secara umum segala sesuatu memiliki tingkat sifat adiktif tertentu
  • Alasan pendekatan ini dipilih adalah karena jauh lebih sulit menarik batas untuk media sosial, dan secara umum itu juga bukan objek yang dengan sendirinya dianggap berbahaya
  • Kecanduan setidaknya bisa dibedakan cukup jelas dari sekadar sesuatu yang membuat orang tenggelam, yakni dari apakah itu menimbulkan dampak merugikan yang signifikan
    Misalnya, Wikipedia menjelaskan bahwa “kecanduan adalah gangguan neuropsikologis berupa dorongan yang terus-menerus dan kuat untuk menggunakan obat atau melakukan perilaku yang memberi ganjaran psikologis langsung, meskipun menimbulkan bahaya besar dan konsekuensi negatif lainnya”. Maka, sesuatu yang adiktif berarti sesuatu yang cenderung menyebabkan kecanduan pada proporsi populasi yang berarti
  • Perbedaannya dengan buku adalah buku tidak dipersonalisasi untuk tiap pembaca
    Jadi menurut saya buku bukan contoh yang tepat

• Hal yang sangat bagus dari HN adalah kenyataan bahwa ini bukan infinite scroll
  Saya melihat sekilas layar pertama, kalau ada yang menarik saya buka. Kalau komentarnya banyak, itu tampak penting. Setelah selesai melihat-lihat dan membaca, ya selesai. Di media sosial tidak ada akhir

  • Karena itu ada /new dan tombol refresh
    Jujur saja, karena masalah menunda-nunda, HN juga bisa jadi alasan yang sama bagusnya seperti jejaring sosial lain

• Saya bahkan tidak memakai situs-situs seperti ini, dan juga bukan bagian dari kelompok usia itu
  Instagram penuh iklan sampai langsung membuat saya kesal, jadi saya tidak memakainya. Kalau dari sudut pandang orang yang ingin mempromosikan produk, saya bisa paham dorongan untuk meningkatkan engagement. Belakangan ini saya berhenti scroll Reddit atau bahkan login ke sana, dan berhenti menonton video YouTube, karena rasanya benar-benar tidak ada habisnya dan aneh. Kalau saya tidak sedang melakukan sesuatu, saya jadi cemas dan bosan, jadi saya sedang berusaha untuk tidak lagi multitasking seperti dulu, misalnya memutar video YouTube sambil scroll Reddit pada saat yang sama. Sekarang saya mencoba bekerja di komputer sambil mendengarkan musik, atau kalau menonton sesuatu ya hanya menonton itu saja. Saya juga jadi mencari interaksi sosial nyata dan ingin pergi ke tempat seperti kedai kopi, tetapi sayangnya saya tinggal di pinggiran kota jadi harus menyetir untuk pergi ke kedai kopi. Saat ini yang saya lihat cuma situs ini atau situs-situs motivasi terkait startup

  • Penasaran situs terkait startup apa yang kamu lihat
    Saya juga merasa sedang berada di tahap yang mirip dalam keseharian

• Saya tidak mengerti kenapa selalu ingin membuat pemerintah berperan sebagai orang tua
  Ibu saya dulu akan menyita komputer saya kalau saya tidak mematuhi aturan

  • Yang diusulkan adalah mengatur produk yang terbukti buruk bagi kesejahteraan dalam skala besar
    Apa hubungannya itu dengan berperan sebagai orang tua?
  • Ini bukan soal anak-anak

• Saya yang orang dewasa pun butuh perlindungan seperti ini

  • Penggunaan media sosial dipengaruhi oleh ekspresi ∆FosB, sehingga semakin sedikit seseorang memakai media sosial, semakin sedikit pula keinginan untuk memakainya
    Kurang lebih mengikuti rentang waktu sekitar 3 bulan