Bertanya kepada Microsoft: Apakah data pribadi kita digunakan untuk melatih AI?

 (foundation.mozilla.org)
1 poin oleh GN⁺ 2023-09-02 | 1 komentar | Bagikan ke WhatsApp
  • Perjanjian Layanan (Service Agreement) baru Microsoft ditinjau oleh 9 orang, termasuk pengacara, pakar privasi, dan aktivis kampanye, tetapi tak seorang pun dapat memastikan apakah data pribadi digunakan untuk melatih model AI
  • Cakupan peninjauan mencakup data pribadi seperti audio, video, chat, dan lampiran yang dikumpulkan dari 130 produk termasuk Office, Skype, Teams, dan Xbox
  • Jika bahkan 9 pakar privasi tidak dapat memahami ketentuan tersebut, maka pengguna biasa pada praktiknya hampir tidak mungkin memahaminya
  • Mozilla meminta Microsoft untuk memberikan jawaban yang jelas atas pertanyaan sederhana: "Apakah data pribadi digunakan untuk pelatihan AI?"
  • Kurangnya transparansi soal penggunaan data dianggap sebagai masalah utama

Inti persoalan yang diangkat kampanye

  • Perjanjian layanan baru Microsoft ditinjau oleh 4 pengacara, 3 pakar privasi, dan 2 aktivis kampanye
    • Tidak satu pun dari 9 pakar tersebut dapat memastikan apakah Microsoft berencana menggunakan data pribadi untuk melatih model AI
  • Karena ketentuan yang ambigu, tidak mungkin memastikan bagaimana data digunakan
    • Jika 9 pakar privasi pun tidak memahaminya, kecil kemungkinan orang biasa dapat memahami ketentuan tersebut

Cakupan data yang ditinjau

  • Data pribadi yang dikumpulkan dari 130 produk menjadi objek peninjauan
    • Contoh produk yang termasuk: Office, Skype, Teams, Xbox
    • Jenis data: audio, video, chat, lampiran

Tuntutan Mozilla

  • Meminta Microsoft untuk secara langsung menjelaskan apakah data pribadi digunakan untuk pelatihan AI
  • Menjalankan kampanye yang mendorong jawaban melalui partisipasi tindakan pengguna (penandatanganan)

Bacaan terkait

1 komentar

 
GN⁺ 2023-09-02
Komentar Hacker News

  • Struktur regulasi Big Tech benar-benar bencana
    Kita tidak boleh membiarkan, pada praktiknya, dua perusahaan menguasai titik kontak digital bagi begitu banyak orang di seluruh dunia
    Sama sekali tidak ada alasan untuk percaya bahwa mereka tidak akan menyalahgunakan posisi mereka dengan cara yang tidak transparan dan sulit dilacak. Mereka adalah perusahaan berorientasi laba dengan modal bernilai triliunan, memiliki pasukan pengacara dan pelobi yang bisa mengancam negara berukuran menengah sekalipun, dan akan memanfaatkan semua kelemahan sistem regulasi dan politik yang tidak kompeten, kacau, dan telah dikooptasi
    Mereka berada di bawah tekanan untuk melakukan itu demi pemegang saham, dan para pemegang saham itu hanya ingin punya beberapa “pemenang” teknologi dalam portofolio mereka, tak peduli apakah struktur duopoli monopolistik seperti ini merusak seluruh masa depan digital atau tidak. Semakin lama tindakan serius ditunda, semakin sulit nantinya

    • Bukankah ungkapan “secara hukum mereka harus melakukan itu demi pemegang saham” hanyalah mitos lama yang tidak punya dasar nyata?
    • Menurut saya, keinginan untuk memanfaatkan peluang tidak hanya ada pada perusahaan besar. Upaya merebut kekuasaan juga terlihat dalam perselisihan kecil di organisasi amatir seperti usaha kecil atau asosiasi pemilik rumah
      Hanya alatnya saja yang berbeda; sifat manusia yang mendorong perilaku seperti itu selalu ada. Tidak ada semacam sakelar yang tiba-tiba menyala ketika aset melewati tingkat tertentu
      Selain itu, saya juga tidak melihat perusahaan memiliki “kewajiban hukum” kepada seseorang, atau bahkan memiliki “kewajiban” itu sendiri. Para eksekutif mencoba mencapai tujuan mereka dengan alat yang ada dalam jangkauan, dan memang melakukannya
    • Saya juga menyalahkan perusahaan teknologi, tetapi saya juga menyalahkan para programmer, startup teknologi, dan ilmu komputer yang menciptakan semua ini. Mereka membangun sistem yang terlalu mudah dipakai sebagai mesin pemusat kekayaan super-efisien, dan perusahaan teknologi saat ini adalah hasilnya

  • Ini adalah thread paling absurd ala Kafka yang pernah saya lihat di Hacker News
    Jika data analitik termasuk data pribadi, Microsoft jelas menggunakan data analitik: https://www.microsoft.com/insidetrack/blog/microsoft-uses-an...
    Kalau pertanyaannya apakah Microsoft membaca akun Gmail, dokumen Word, dan aktivitas porno lalu memasukkannya ke OpenAI, menurut ketentuannya tidak: https://learn.microsoft.com/en-us/legal/cognitive-services/o...
    Namun, apakah Microsoft secara umum melakukan hal-hal yang tidak bisa diketahui orang, menurut saya ya

  • Sejak lama saya menentang kebijakan privasi Microsoft yang seperti labirin
    Dulu, sebelum asisten coding “AI” banyak dipakai, di forum lain saya pernah bertanya apakah kebijakan privasi Microsoft mengizinkan Microsoft mengunggah dan memanfaatkan kode saya jika telemetri di VS Code diaktifkan
    Saat itu pertanyaan itu tenggelam dengan tanggapan bahwa itu tidak masuk akal, tetapi tidak ada seorang pun yang menunjukkan bagian mana pun dalam ketentuan atau kebijakan privasi Microsoft yang secara jelas dan transparan mengecualikan pemrosesan semacam itu
    Sekarang, karena ada obsesi untuk melatih model machine learning dengan semua dataset berskala besar yang memungkinkan, kehati-hatian saya dulu mungkin tidak lagi terlihat begitu konyol

    • Dokumen kebijakan seperti ini bukan dibuat untuk memberi tahu apa yang dibatasi perusahaan atas dirinya sendiri. Dokumen itu ada sebagai alat pembelaan terhadap pengguna yang berusaha mencegah perusahaan melakukan sesuatu, dengan alasan pengguna telah menyetujui kebijakan tersebut karena terus menggunakan layanan
      Kecuali ada keuntungan komersial atau hukum dari mengatakan “kami tidak akan melakukan X”, perusahaan besar tidak akan secara sadar memasang batasan seperti itu pada dirinya sendiri

  • Sebagai referensi, teks lengkap Perjanjian Layanan Microsoft yang akan datang ada di sini
    https://www.microsoft.com/en-us/servicesagreement/upcoming.a...
    Ringkasan perubahannya ada di sini
    https://www.microsoft.com/en-us/servicesagreement/upcoming-u...

    • Masih ada kalimat bahwa “untuk meningkatkan produk dan layanan Microsoft, Anda memberikan kepada Microsoft lisensi hak kekayaan intelektual yang berlaku di seluruh dunia dan bebas royalti untuk menggunakan konten Anda”
      Batasan eksplisit tampaknya hanya untuk iklan bertarget. Kira-kira berbunyi, “kami tidak menggunakan apa yang Anda katakan dalam email, obrolan, panggilan video atau pesan suara, dokumen, foto, atau file pribadi lainnya untuk menargetkan iklan kepada Anda”
      Ringkasan perubahan tidak menyebut perubahan kebijakan privasi, dan kebijakan privasi itu juga tidak tampak mengecualikan pelatihan model AI dengan data pengguna

  • Saya pernah bekerja di industri periklanan, dan hukum terkait informasi identifikasi pribadi itu menarik. Di California ada CCPA, jadi setahu saya kalau saya meminta penghapusan informasi identifikasi pribadi saya lewat formulir, mereka harus menghapusnya sekitar 90 hari kemudian
    Tapi bagaimana kalau model dilatih dengan informasi identifikasi pribadi warga California, lalu ada permintaan penghapusan, dan 3 bulan kemudian seseorang bertanya tentang orang itu lalu model memuntahkan informasi identifikasi pribadi yang “sudah dihapus”?
    Pada akhirnya sepertinya ini akan diputuskan di pengadilan, tetapi kalau ada yang paham hukum California, saya penasaran kenapa belum ada upaya menargetkan hal seperti ini, bahkan sekadar untuk mengincar uang penyelesaian

    • Mereka akan menyangkal saja. Atau berargumen bahwa itu tidak mungkin dipulihkan dari model yang sudah dilatih
      Saya tidak tahu hukum California, tetapi cukup banyak undang-undang perlindungan data serupa yang memberi pengecualian untuk data agregat meskipun ada permintaan “hapus”
    • Saya tidak terlalu tahu CCPA, tetapi tahu hukum UE. Untuk saat ini, “hak penghapusan/hak untuk dilupakan” sangat kabur di bagian ini, dan tampaknya belum ada preseden yang mapan luas
      Secara umum, hukum berlaku pada catatan data mentah, bukan pada data atau metrik agregat, maupun model. Namun istilah model di sini, seingat saya, didasarkan pada satu putusan tertentu terkait industri asuransi atau penilaian kredit
      Model juga tidak perlu “memuntahkan” data yang sudah dihapus. Bisa saja itu bukan model generatif, melainkan classifier atau model regresi, dan idealnya sejak awal tidak dilatih dengan data saya
      Aspek teknisnya juga penting: ini sulit. Misalkan satu model dibuat dengan biaya sangat besar X dan biasanya dilatih ulang tiap 6 bulan. Namun jika permintaan penghapusan terus masuk, melatih ulang terlalu sering demi mematuhinya akan terlalu mahal
      Ada riset machine unlearning untuk menangani ini secara efisien, tetapi sejauh ini hasilnya cukup mengecewakan
    • Saya tidak mengerti kenapa dari awal diasumsikan informasi identifikasi pribadi saya ada di dalamnya, dan bagian yang bisa mengidentifikasi belum dihapus
      Kalau bagian personalnya sudah hilang, saya tidak yakin ada dasar untuk mengajukan klaim

  • Bagaimana tim hukum Microsoft bisa mencapai prestasi seperti ini? Apakah mereka membangun lapisan abstraksi linguistik yang begitu tebal sehingga hanya tim yang cukup besar, misalnya Microsoft atau dewan juri agung, yang bisa mengekstrak maknanya?
    Apakah ini kalimat umpan yang menyembunyikan jebakan di tempat yang tampak tidak berbahaya? Atau cara berbicara berputar-putar yang tidak pernah memberi jawaban tepat?

    • Di atas skala jutaan dolar, tim pengacara pada dasarnya menjadi red team hukum. Mereka ditugaskan mencari cara untuk memutari batasan yang ada, dan mereka benar-benar menemukannya
    • Bagaimana tim hukum Microsoft bisa melakukan hal seperti itu? Memangnya siapa yang akan menghentikan mereka?
    • Apa itu M$?

  • Jika suatu penggunaan tidak dikecualikan secara eksplisit, selama datanya berguna, anggap saja pada akhirnya data itu dipakai sebagai data pelatihan. Kalau bukan sekarang, suatu saat nanti. Ini berlaku untuk setiap perusahaan di bumi yang menimbun data
    Itulah asumsi dasar yang semestinya dimiliki semua orang, dan tanpa adanya hukum, asumsi itu umumnya akan benar. Bahkan jika ada hukum, karena celah yurisdiksi, hukum itu bisa tidak berdaya terhadap data lama, dan kemungkinan hanya melindungi data baru secara lemah
    Selamat datang di minyak baru

  • Privasi dan informasi identifikasi pribadi itu berbeda. Dalam banyak hal, penggunaan informasi pribadi tidak terhindarkan
    Input prediksi menggunakan informasi pribadi. Karena ia “belajar” dari semua orang. Apakah kalimat dan paragraf adalah informasi pribadi? Mesin pencari mencatat apa yang saya ketik. Apakah kata kunci pencarian akan diklasifikasikan sebagai “pribadi”? Saya juga bisa menyalin dan menempel komentar pertama di thread ini; apakah itu juga informasi pribadi?
    Saya mungkin sepenuhnya salah, dan mungkin memang sebaiknya tidak mengetik apa pun di halaman web
    Empat pengacara dan tiga pakar privasi juga tampaknya tidak bisa menyimpulkan apa itu informasi pribadi. Apakah Big Tech memasukkan data yang dibuat orang ke alat “AI”? Ya. Apakah perusahaan teknologi kecil juga melakukannya? Ya
    Saya siap mengangkat garpu rumput bersama Mozilla, tetapi saya ingin tahu untuk apa. Kita butuh orang yang menjelaskan dengan jelas bagaimana mereka melindungi kepentingan saya, bukan menghasut massa
    Penggunaan data, data apa pun, tunduk pada kontrak. Kalau membaca “dokumen hukum” yang Anda setujui saat menggunakan Hacker News, ada satu bagian penuh tentang bagaimana informasi pribadi digunakan. Apakah kita juga perlu mengangkat garpu rumput ke HN, atau yang ini tidak apa-apa?

    • Microsoft selama bertahun-tahun berusaha membunuh Linux, dan masih terus mengasah pisaunya

  • Yang mana dari semua ini yang termasuk “pelatihan AI”?
    Sistem deteksi penyalahgunaan yang dilatih dengan perilaku dan data pengguna agar bisa meneruskan pengguna jahat untuk ditinjau manusia; fungsi peringkat saat melakukan pencarian web yang dilatih dari perilaku semua pengguna; penulis email yang menyarankan penyelesaian berdasarkan riwayat input saya; antarmuka chat LLM publik yang dilatih dengan email pribadi saya
    “Pelatihan AI” dalam sebagian besar kasus lebih mirip detail implementasi yang tidak semestinya masuk ke kebijakan privasi. Saya berharap Mozilla menyebutkan lebih spesifik perilaku apa yang mereka khawatirkan

  • Ya, perusahaan-perusahaan raksasa memang melakukannya dan akan terus melakukannya. Kalau Anda percaya ada perusahaan besar yang memikirkan kepentingan terbaik kita dan juga punya tata kelola sempurna, haha, sungguh haha besar