Meta harus segera menghentikan feed AI Discover yang invasif

• Meta memicu kekhawatiran pelanggaran privasi dengan mempublikasikan isi percakapan pribadi yang dihasilkan dalam chat AI ke feed Discover tanpa persetujuan pengguna
• Komunitas Mozilla menuntut penghentian feed Discover, pengaturan percakapan AI menjadi privat secara default, pengungkapan informasi berbasis persetujuan pengguna, dan transparansi
• Diperlukan pembangunan sistem opt-out menyeluruh yang mudah digunakan siapa saja, serta pemberian hak penghapusan permanen saat percakapan privat dipublikasikan
• Banyak orang tidak menyadari bahwa informasi pribadi mereka bocor secara publik
• Kampanye ini mendesak agar isi percakapan pengguna tidak dipublikasikan tanpa persetujuan awal yang jelas

---

Ringkasan isi

Kekhawatiran pelanggaran privasi

• Meta diam-diam mengubah isi percakapan pribadi yang terjadi saat menggunakan layanan kecerdasan buatan (AI)-nya menjadi konten publik melalui feed Discover
• Banyak pengguna berada dalam situasi tidak menyadari bahwa isi percakapan yang mereka masukkan dipublikasikan secara terbuka

Tuntutan komunitas Mozilla

1. Penghentian segera feed Discover
   • Mendesak agar feed Discover dihentikan sampai perlindungan privasi yang nyata benar-benar diterapkan
2. Percakapan AI privat secara default
   • Menuntut agar semua interaksi AI tetap diatur privat secara default, dan fitur publik tidak diizinkan tanpa informasi yang memadai serta persetujuan
3. Permintaan transparansi
   • Menuntut agar angka yang jelas tentang berapa banyak pengguna yang membagikan informasi pribadi tanpa pemberitahuan atau persetujuan sebelumnya dipublikasikan
4. Membangun sistem opt-out universal
   • Sistem opt-out yang mudah diakses siapa saja harus disediakan di seluruh platform Meta agar data pribadi tidak digunakan untuk pelatihan AI
5. Pemberian notifikasi dan hak penghapusan
   • Memberikan notifikasi segera kepada pengguna yang percakapan privatnya dipublikasikan, serta memberikan hak untuk menghapus konten tersebut secara permanen jika mereka menginginkannya

Batas antara kehidupan privat dan ruang publik yang makin kabur

• Perubahan kebijakan Meta membuat batas antara percakapan pribadi dan konten publik menjadi kabur
• Orang-orang percaya bahwa mereka sedang berbicara di ruang privat, padahal sebenarnya ada risiko informasi menyebar secara publik

Kampanye dan ajakan menandatangani

• Sedang berlangsung kampanye untuk menghentikan publikasi isi percakapan tanpa persetujuan pribadi, serta menjamin hak pilihan pengguna yang jelas
• Pengguna yang setuju dengan kampanye ini dapat mencantumkan nama mereka untuk ikut dalam gerakan tanda tangan yang mendesak perubahan kebijakan Meta

[GN⁺]

Komentar Hacker News

• Membagikan tautan artikel tentang aplikasi AI mandiri baru Meta, sambil menyebut bahwa percakapan menjadi publik terjadi karena kesalahan pengguna. Ditekankan bahwa secara default percakapan diatur privat, dan hanya menjadi publik jika tombol “Share” ditekan. Mereka menyatakan bahwa pilihan kata Mozilla yang keras bisa menimbulkan salah paham tentang pengalaman pengguna

  • Menyebut bahwa berbagai layanan seperti Google Docs, ChatGPT, dan Notion dengan jelas membedakan antara ‘dibagikan hanya kepada orang yang memiliki tautan’ dan ‘hasil yang dibagikan dapat dicari publik, sepenuhnya terbuka’. Jika Meta membuat konten langsung dapat dicari lewat tombol bagikan, atau bahkan tidak menyediakan pembedaan seperti itu, maka itu jelas merupakan dark pattern. Mereka juga mempertanyakan apakah klik ikon “Share” benar-benar bisa dianggap sebagai persetujuan yang layak
  • Meski belum mencoba aplikasinya secara langsung, mereka bingung karena artikel tersebut tidak menjelaskan bagaimana pengguna sampai menyetujui untuk berbagi. Biasanya di aplikasi lain, setelah menekan tombol bagikan akan muncul modal untuk memilih penerima dan metode berbagi. Jika menekan “Share” justru langsung mempublikasikan ke seluruh dunia, itu pasti akan mengejutkan siapa pun
  • Bersama tautan artikel, mereka menyayangkan bahwa petisi Mozilla hampir tidak memuat konteks yang benar-benar membantu
  • Mereka sendiri sedang memakai aplikasinya, tetapi mengaku tidak pernah didorong atau diberi notifikasi untuk membagikan apa pun
  • Mereka memberi masukan bahwa isi artikel yang dibagikan terasa sangat kabur, dengan penyebab dan pokok masalah yang tidak jelas

• Setelah mencoba aplikasinya sendiri, mereka merasa satu-satunya kesimpulan adalah Mozilla sedang menyebarkan informasi yang menyesatkan. Mekanisme berbagi di aplikasi ini sama persis seperti aplikasi media sosial lain. Ada tombol “Share” di kanan atas aplikasi, dan saat ditekan akan muncul tombol besar “Post” di bagian bawah. Jika ditekan, percakapan itu dibagikan secara publik.

  • Dijelaskan bahwa sebagian besar tuntutan Mozilla sebenarnya sudah terpenuhi: semua percakapan default-nya privat, status publik terlihat jelas, mereka tidak setuju bahwa Meta perlu secara transparan mengungkap berapa banyak data pribadi yang dibuka pengguna secara tidak sengaja, di Eropa sudah ada fitur opt-out, dan notifikasi serta penghapusan permanen untuk konten publik juga sudah tersedia
    • Mereka menyoroti masalah dark pattern karena tombol “Share” tidak bekerja untuk memilih penerima tertentu, melainkan untuk publikasi penuh. Bagi kebanyakan orang, “share” mengingatkan pada pengiriman antarindividu atau akses terbatas, sehingga bisa jadi mereka sama sekali tidak berniat mempublikasikannya ke seluruh dunia
    • Meski bukan pengguna aktif, mereka menilai inti masalahnya adalah salah paham bahwa konten yang dibagikan hanya akan terlihat oleh teman-teman
    • Mereka bertanya, “Apakah saya melihat layar yang sama dengan orang lain?” Menurut mereka, masalah mendasar Meta adalah UI yang tidak konsisten dan dark pattern, dengan tiap tim saling bersaing mendorong perilaku pengguna sehingga orang tanpa sadar membagikan teman atau postingan. Pengalaman juga berbeda menurut wilayah dan bahasa, dan Meta Business Suite khususnya penuh dengan dark pattern yang terasa seperti labirin
    • Mereka tidak setuju dengan tuntutan agar Meta mengungkap secara transparan berapa banyak pengguna yang membocorkan informasi secara tak sengaja. Menurut mereka, Meta tidak bisa tahu apakah pengguna memang keliru atau memang sengaja mempublikasikannya
    • Mereka memandang kebohongan Mozilla sebagai kelanjutan dari riwayat Mozilla yang sebelumnya juga berulang kali merusak kepercayaan lewat pemasangan add-on yang meragukan, integrasi layanan pihak ketiga, pengiriman riwayat penggunaan tanpa izin, dan pemaksaan pelacakan Google

• Karena tulisan Mozilla tidak menjelaskan masalahnya dengan baik, seseorang mencoba sendiri aplikasi Meta AI.

  • Di layar chat ada tombol “Share”; saat ditekan muncul tombol “Post” di bawah halaman draf; jika ditekan, chat itu menjadi publik di tab Discover; setelah itu tautannya bisa dikirim satu per satu lewat ikon “send”
  • Struktur seperti ini jelas merupakan dark pattern, dan mereka tidak suka karena tidak ada cara sederhana untuk membagikan tautan hanya kepada kerabat atau satu orang tanpa lebih dulu mempublikasikannya ke semua orang
  • Mereka benar-benar melihat bahwa posting foto paling atas di tab Discover adalah foto bayi, dan bahkan foto aslinya ikut diposting, sehingga mereka menduga pengguna tersebut kemungkinan hanya ingin mengirimkannya ke keluarga atau teman
  • Kesimpulannya, ini terasa seperti gaya khas Meta yang “jalan dulu baru pikir belakangan”, lebih mengutamakan minta maaf sesudahnya daripada persetujuan sebelumnya
    • Jika seseorang tidak benar-benar yakin sedang melakukan apa, maka seharusnya tidak melakukannya sama sekali. Mereka sendiri sadar saat menekan tombol “submit” di Hacker News bahwa itu akan dipublikasikan ke seluruh internet, dan menurut mereka pengguna internet memang harus memikul tanggung jawab itu

• Muncul pertanyaan soal kasus yang lebih konkret, tangkapan layar, atau kapan tepatnya kejadian yang dipermasalahkan Mozilla itu terjadi

  • Disebutkan bahwa penjelasannya sendiri memang sangat kurang, dan ini terkait aplikasi media sosial AI baru Meta. Diterangkan bahwa sebagian pengguna tanpa sadar mempublikasikan hasil chat AI mereka ke publik tautan pengenalan Meta AI
  • Dijelaskan tambahan bahwa lewat tab “Discover” di aplikasi, pertanyaan sensitif seperti penyakit atau putus cinta bisa terekspos untuk dilihat siapa saja, sambil menyertakan tautan artikel rinci

• Pesan kampanye Mozilla dikritik karena kurang konteks dan terdengar seperti perintah mutlak

• Frasa “Meta: shut down [...]” bisa terbaca seolah Meta yang mengatakan “shut down”, jadi ada masukan agar ditambah koma (,) atau memakai format “Dear Meta: ...” supaya lebih jelas

  • Ditambahkan bahwa pada aplikasi chat lama, menaruh titik dua (:) setelah nama panggilan adalah tata bahasa untuk menarik perhatian lawan bicara

• Ada pendapat bahwa platform Meta sebaiknya tidak dipakai sama sekali

  • Di sebagian besar negara di luar AS, WhatsApp adalah sarana komunikasi standar dan SMS dikenai biaya per pesan. Disebutkan pula bahwa interoperabilitas WhatsApp baru direncanakan di UE, sambil menyertakan tautan artikel terkait
  • Ini juga dikaitkan dengan artikel baru-baru ini bahwa Meta diam-diam melacak pengguna Android lewat web pixel Instagram dan Facebook. Dulu layanan onion Tor adalah satu-satunya cara privasi untuk menghindar, tetapi sekarang praktis mustahil menghindari pelacakan
  • Disarankan untuk tidak benar-benar keluar total dari Meta, tetapi hanya menjadi “parasit” yang sekadar mengonsumsi tanpa meninggalkan posting atau sinyal apa pun. Semua aplikasi Meta juga disarankan untuk dihapus dari perangkat
  • Karena efek jaringan, banyak orang terhubung secara setengah terpaksa. Sulit pergi jika ingin tetap mengikuti rencana teman atau mempertahankan komunitas, sehingga perlindungan privasi dan interoperabilitas adalah ranah pemerintah. Nasihat “ya tinggal jangan pakai” dinilai tidak realistis
  • Ditambahkan pula bahwa dampak bisnis Mozilla juga perlu diwaspadai

• Ada yang menyoroti ironi bahwa untuk mengirim formulir petisi soal privasi, orang justru wajib menyetujui kebijakan privasi Mozilla

• Dibagikan juga contoh bahwa situs tersebut tidak tampil dengan benar di FireFox Mobile, sambil meminta Mozilla memperbaikinya

• Pada akhirnya, ini dinilai sebagai artikel berlebihan yang memakai buzzword dan memancing kontroversi demi naik ke HN top, padahal intinya hanya soal hal yang sudah jelas: perusahaan media sosial membuat hasil AI bisa dibagikan