Meta harus segera menghentikan feed AI Discover yang invasif

 (mozillafoundation.org)
1 poin oleh GN⁺ 2025-06-07 | 1 komentar | Bagikan ke WhatsApp
  • Meta memicu kekhawatiran pelanggaran privasi dengan mempublikasikan isi percakapan pribadi yang dihasilkan dalam chat AI ke feed Discover tanpa persetujuan pengguna
  • Komunitas Mozilla menuntut penghentian feed Discover, pengaturan percakapan AI menjadi privat secara default, pengungkapan informasi berbasis persetujuan pengguna, dan transparansi
  • Diperlukan pembangunan sistem opt-out menyeluruh yang mudah digunakan siapa saja, serta pemberian hak penghapusan permanen saat percakapan privat dipublikasikan
  • Banyak orang tidak menyadari bahwa informasi pribadi mereka bocor secara publik
  • Kampanye ini mendesak agar isi percakapan pengguna tidak dipublikasikan tanpa persetujuan awal yang jelas

Ringkasan isi

Kekhawatiran pelanggaran privasi

  • Meta diam-diam mengubah isi percakapan pribadi yang terjadi saat menggunakan layanan kecerdasan buatan (AI)-nya menjadi konten publik melalui feed Discover
  • Banyak pengguna berada dalam situasi tidak menyadari bahwa isi percakapan yang mereka masukkan dipublikasikan secara terbuka

Tuntutan komunitas Mozilla

  1. Penghentian segera feed Discover
    • Mendesak agar feed Discover dihentikan sampai perlindungan privasi yang nyata benar-benar diterapkan
  2. Percakapan AI privat secara default
    • Menuntut agar semua interaksi AI tetap diatur privat secara default, dan fitur publik tidak diizinkan tanpa informasi yang memadai serta persetujuan
  3. Permintaan transparansi
    • Menuntut agar angka yang jelas tentang berapa banyak pengguna yang membagikan informasi pribadi tanpa pemberitahuan atau persetujuan sebelumnya dipublikasikan
  4. Membangun sistem opt-out universal
    • Sistem opt-out yang mudah diakses siapa saja harus disediakan di seluruh platform Meta agar data pribadi tidak digunakan untuk pelatihan AI
  5. Pemberian notifikasi dan hak penghapusan
    • Memberikan notifikasi segera kepada pengguna yang percakapan privatnya dipublikasikan, serta memberikan hak untuk menghapus konten tersebut secara permanen jika mereka menginginkannya

Batas antara kehidupan privat dan ruang publik yang makin kabur

  • Perubahan kebijakan Meta membuat batas antara percakapan pribadi dan konten publik menjadi kabur
  • Orang-orang percaya bahwa mereka sedang berbicara di ruang privat, padahal sebenarnya ada risiko informasi menyebar secara publik

Kampanye dan ajakan menandatangani

  • Sedang berlangsung kampanye untuk menghentikan publikasi isi percakapan tanpa persetujuan pribadi, serta menjamin hak pilihan pengguna yang jelas
  • Pengguna yang setuju dengan kampanye ini dapat mencantumkan nama mereka untuk ikut dalam gerakan tanda tangan yang mendesak perubahan kebijakan Meta

Bacaan terkait

1 komentar

 
GN⁺ 2025-06-07
Komentar Hacker News

  • Materi latar belakang:

    • “Meta has a new stand-alone AI app. It lets you see what other people are asking.” https://www.businessinsider.com/meta-ai-app-public-feed-warn... (Mei 2025)
    • “People are seemingly accidentally publishing their AI chat histories with Meta’s new AI app” https://www.crikey.com.au/2025/05/05/meta-ai-chatbot-discove... (Mei 2025)
      Tautan pertama mengatakan bahwa percakapan secara default bersifat privat, dan besar kemungkinan ada kesalahan pengguna yang terlibat[1]. Penekanan dari Mozilla sekilas juga bisa terbaca seolah menyatakan kebalikannya[2]
      [1]: “To be clear, your AI chats are not public by default — you have to choose to share them individually by tapping a share button. Even so, I get the sense that some people don't really understand what they're sharing, or what's going on.”
      [2]: Saat pertama melihatnya, saya memahami “Make all AI interactions private by default with no public sharing option unless explicitly enabled through informed consent.” seperti itu
    • Saya tidak tahu pasti situasinya sendiri, tetapi mulai dari Google Docs hingga ChatGPT dan Notion, “membuat tautan berbagi yang hanya bisa dilihat orang yang memiliki tautan” dan “membuat tautan berbagi itu bisa dicari/ditemukan oleh publik” jelas berbeda
      Jika Meta menyalakan kemampuan pencarian/penemuan secara default saat tombol berbagi ditekan di chat AI, atau lebih buruk lagi tidak memberikan opsi yang mendekati standar industri sama sekali, maka kebingungan itu bisa dijelaskan dan menjadi dark pattern yang sangat tak terduga. Seperti komentar induk, sekadar menekan ikon berbagi bukanlah persetujuan yang sudah diinformasikan dengan cukup
    • Saya belum memakai aplikasinya dan mungkin juga tidak akan memakainya, tetapi kedua artikel tersebut tidak menunjukkan mekanisme yang membuat pengguna memilih untuk “membagikan” interaksi. Apakah ada dark pattern?
      Di aplikasi lain, saat menekan “bagikan”, muncul modal untuk memilih cara seperti WhatsApp, SMS, email, dan sebagainya, lalu berbagi benar-benar terjadi setelah memilih cara dan penerima. Namun jika tindakan tombol “bagikan” adalah langsung memublikasikan, orang yang mengira akan memilih orang tepercaya tertentu pada langkah berikutnya bisa saja sangat terkejut
    • Saya memakai aplikasinya, tetapi tidak pernah sekalipun diminta untuk membagikan, jadi rasanya aneh

  • Setelah mencoba langsung aplikasinya, tulisan ini sulit ditafsirkan selain bahwa Mozilla sedang berbohong. Fitur berbagi di aplikasi ini sama seperti aplikasi media sosial lain
    Di kanan atas aplikasi ada tombol “Share”, dan saat ditekan muncul layar perantara dengan tombol besar “Post” di bagian bawah. Jika tombol itu ditekan, chat akan dibagikan
    Apakah orang lain melihat layar yang berbeda? Kenapa Mozilla mengatakan seperti ini? Sebagian besar tuntutannya sebenarnya sudah terpenuhi

    Shut down the Discover feed until real privacy protections are in place.
    Semuanya sudah privat secara default, dan bisa melihat apa yang bersifat publik
    Make all AI interactions private by default with no public sharing option unless explicitly enabled through informed consent.
    Ini sudah benar adanya
    Provide full transparency about how many users have unknowingly shared private information.
    Tidak ada alasan Meta harus melakukan ini
    Create a universal, easy-to-use opt-out system for all Meta platforms that prevents user data from being used for AI training.
    Sudah ada. Koreksi: tampaknya hanya berlaku untuk pengguna UE. Secara pribadi, saya tidak melihat ini terkait dengan klaim berbagi publik
    Notify all users whose conversations may have been made public, and allow them to delete their content permanently.
    Ini juga sudah ada

    • Ini masalah dark pattern. Banyak orang bermaksud membagikan ke orang tertentu, tetapi tanpa sengaja membagikannya ke publik umum. Itu salah satu masalah yang ditunjukkan di sini. Bagi banyak orang, “share” berarti “beri saya cara untuk membagikannya ke orang tertentu”, bukan “tampilkan agar bisa diindeks dan dicari oleh publik umum”
    • Saya bukan pengguna, tetapi bukankah bedanya ada pada fakta bahwa pengguna berharap item yang dibagikan hanya terlihat oleh teman, padahal sebenarnya publik?
    • Mungkin saja mereka melihat layar yang berbeda. Bisa hari ini, bisa besok
      Masalah inti Meta saat ini, seperti yang dikatakan orang lain, adalah dark pattern. Meta memindahkan, mengubah, dan menghapus elemen UI sesuai tindakan yang mereka ingin pengguna lakukan. Selalu mengejutkan ketika sesuatu diposting, dibagikan, atau diubah padahal tidak bermaksud melakukannya, atau bahkan tidak ingat pernah melakukan tindakan itu. Di produk Meta, bahkan pada akun yang tidak aktif pun, rasanya ada saja yang terjadi begitu saja
      Jika memakai produk Meta cukup lama, Anda akan menyadari bahwa dua pengguna tidak dijamin mendapatkan pengalaman yang sama. Tidak ada pengalaman standar. Pengalaman berubah berdasarkan wilayah dan bahasa, dan sejujurnya juga faktor-faktor lain yang tidak jelas. Mereka terus menguji dan mengoptimalkan dark pattern di lingkungan produksi. Coba pakai Meta Business Suite selama satu jam saja, dan Anda akan tahu bahwa seluruh platform itu lebih mirip labirin dark pattern berisi tautan rusak, fitur rusak, dan elemen UI yang tidak menuju ke mana-mana atau menuju fitur yang sudah ditinggalkan. Satu tim ingin membuat Anda melakukan X dan memakai fitur Y, sementara tim lain ingin membuat Anda melakukan Z dan memakai fitur W. Business Suite mencampur semuanya. Bahkan jika codebase dibekukan hari ini dan Business Suite dipelajari selama berbulan-bulan, Anda akan menemukan bahwa semuanya sampai ke dasarnya adalah dark pattern
    • Mengapa Mozilla mendistribusikan add-on adware tersembunyi dengan hak sistem untuk mengiklankan acara TV?
      Mengapa Mozilla mengintegrasikan layanan pihak ketiga sembarangan tanpa bertanya?
      Mengapa Mozilla mengirim riwayat penjelajahan ke Cliqz?
      Mengapa Mozilla mengintegrasikan pelacakan Google yang tidak bisa diblokir?
      Mengapa Mozilla menjual data?
      Mengapa Mozilla memasang layanan telemetri yang akan aktif lagi setelah pembaruan meski sudah dinonaktifkan?
      Mengapa Mozilla berbohong seperti ini?
      Karena Mozilla
    • Tuntutan “berikan transparansi penuh tentang berapa banyak pengguna yang tanpa sadar membagikan informasi pribadi” mungkin juga tidak bisa dipenuhi Meta. Bagaimana mereka tahu apakah pengguna tidak sadar saat membagikannya?

  • Tulisan Mozilla cukup buruk dalam menjelaskan apa yang salah, jadi saya langsung masuk ke aplikasi Meta AI:
    Di chat ada tombol “Share”
    Jika tombol ditekan, terlihat draf chat dan tombol “Post”
    Jika menekan “Post”, chat diposting secara publik dan Anda dibawa ke tab “Discover”
    Pada chat yang sudah diposting, Anda bisa menekan ikon “send” untuk mengirim tautan chat ke orang lain
    Secara pribadi, saya memang melihat ini sebagai dark pattern dan tidak sesuai dengan cara orang memahami tindakan “Share”. Fakta bahwa chat tidak bisa dibagikan tanpa membuatnya publik juga buruk
    Misalnya, postingan Discover teratas yang saya lihat sekarang adalah gambar bergaya dari foto bayi, dan jika membuka postingannya, foto aslinya juga bisa dilihat. Sangat mungkin pengunggahnya hanya ingin membagikan foto itu kepada kerabat atau teman
    Secara keseluruhan, Meta melakukan hal yang paling khas “Meta”. Lebih baik meminta maaf nanti daripada meminta izin dulu

    • Betul, tepat bagian ini. Di ponsel, saya selalu memakai share saat ingin membagikan foto, halaman web, dan sebagainya secara privat ke orang lain lewat aplikasi perpesanan. Itulah arti “share” bagi saya sekarang
    • Jika tidak yakin apa yang sedang dilakukan, sebaiknya jangan lakukan. Misalnya, saya baru saja memposting tulisan di Hacker News, dan tombol di aplikasi saya bertuliskan “submit” serta tidak memperingatkan bahwa itu akan dipublikasikan di internet. Apakah itu masalah? Tidak. Karena saya tahu apa yang saya lakukan, dan siapa pun yang menggunakan internet seharusnya juga begitu

  • Kedengarannya seperti masalah besar, tapi tidak bisakah Mozilla memberi informasi yang lebih rinci?
    Perlu contoh atau tangkapan layar. Setelah membaca pun saya tidak paham kapan dan bagaimana hal seperti ini terjadi

    • Penjelasannya sangat buruk. Sebenarnya bahkan tidak berusaha menjelaskan. Mungkin terkait dengan aplikasi media sosial AI baru dari Meta:
      https://about.fb.com/news/2025/04/introducing-meta-ai-app-ne...
      Saya dengar sebagian orang memakai AI di dalamnya tanpa sadar bahwa mereka membagikan prompt secara publik
    • Konteks terkaitnya begini:
      “Meta memperkenalkan fitur sosial ke aplikasi AI mandiri yang diluncurkan minggu lalu. Pertanyaan privat seperti ‘ruam memalukan ini apa?’ atau ‘bagaimana saya memberi tahu istri bahwa saya tidak lagi mencintainya?’ bisa segera terlihat oleh siapa pun yang menggulir tab Discover aplikasi itu.”
      https://www.fastcompany.com/91327812/metas-ai-social-feed-is...

  • Kurang konteks dan contoh untuk mengetahui apa yang dikhawatirkan
    Nadanya sangat sok benar dan memerintah, padahal tidak didukung oleh kasus konkret maupun penulis anonimnya
    “Mozilla: Improve your messaging. Now.”

    • “Mozilla: Improve your messaging. Now.” adalah hal pertama yang saya lihat. Sangat buruk sampai saya langsung ingin keluar, dan itu tanda yang jelas. Detektor omong kosong saya berbunyi, tetapi karena skornya di HN sangat tinggi, saya membaca sisanya juga, dan ternyata tidak salah

  • Tanda baca pada “Meta: shut down [...]” membuatnya terlihat seolah Meta yang mengatakan “shut down”. Seharusnya memakai koma, seperti “Meta, shut down your [...]”

    • Di aplikasi chat lama, titik dua dipakai untuk menarik perhatian seseorang. Misalnya di klien IRC, saat melengkapi otomatis nickname dengan tombol Tab, jika input diawali nickname, klien otomatis menambahkan titik dua
    • Meta: Shut down. You're invasive. (AI Discover feed)
    • Mungkin “Dear Meta: ...” lebih baik

  • I’m okay with Mozilla handling my info as explained in this Privacy Notice.
    Ada ironi ketika kotak centang ini diwajibkan untuk mengirim formulir protes privasi

  • Memang sebaiknya keluar saja dari platform Meta

    • Sebagian besar dunia di luar AS akan kembali ke WhatsApp
      SMS bukan pilihan. Sekali lagi, karena di luar AS orang membayar untuk setiap SMS yang dikirim
      Ada rencana interoperabilitas WhatsApp, tetapi mungkin hanya berlaku di UE
      https://www.wired.com/story/whatsapp-interoperability-messag...
    • Ini mengingatkan saya pada cerita beberapa hari lalu, “Meta found 'covertly tracking' Android users through Instagram and Facebook”. Kasusnya adalah permintaan STUN dari web pixel ke aplikasi Meta (FB/IG) di localhost
      Menurut saya sulit untuk benar-benar khawatir soal pelacakan sambil memakai Facebook/Instagram, terutama aplikasi mobile yang terus berjalan
      Apakah Facebook masih mengoperasikan layanan Tor onion? Dulu itu tampak seperti satu-satunya cara memakai produk-produk ini sambil menghindari pelacakan ekstrem
    • Karena efek jaringan, kebanyakan orang terikat pada setidaknya satu produk Meta. Jika teman-teman memakai Instagram/Facebook/WhatsApp untuk menghubungi dan membuat janji, meninggalkan platform itu mirip dengan memutus hubungan dengan komunitas
      Karena itu pemerintah punya peran untuk mengatur perlindungan privasi dan mewajibkan interoperabilitas antarplatform. “Jangan pakai saja” bukan tuntutan yang realistis
    • Jangan sepenuhnya meninggalkan Meta; cukup manfaatkan tanpa memberi makan. Jangan menyumbang postingan, komentar, atau sinyal perilaku. Pakai web app, dan jika memungkinkan gunakan dalam container penjelajahan privat yang terpisah. Semua aplikasi Meta harus dihapus dan dicabut dari perangkat
    • Harus keluar juga dari bisnis Mozilla

  • Mengapa situs web ini tidak berfungsi dengan benar di Firefox Mobile? Mozilla, tolong bereskan
    Viewport hanya menempati 1/4 layar ponsel, dan kita bisa menggulirnya di dalam kehampaan hitam

  • Perusahaan media sosial membuat aplikasi AI yang bisa membagikan hasilnya ke media sosial. Mengejutkan!
    Namun jika menulis artikel tanpa detail apa pun, hanya berisi buzzword secukupnya dan ajakan berpartisipasi, itu akan naik ke puncak HN dan menjaga siklus kemarahan hari ini tetap berjalan. Besok mungkin kembali lagi ke “Google itu jahat”