Setelah Memicu Penolakan, Zoom Menyatakan Tidak Akan Menggunakan Data Pelanggan untuk Melatih Model AI
(darkreading.com)- Setelah peluncuran fitur AI generatif memicu penolakan karena hak penggunaan data dianggap berlebihan, Zoom merevisi syarat layanan dan produknya agar konten pelanggan tidak digunakan untuk melatih model AI
- Yang dikecualikan mencakup audio, video, chat, berbagi layar, lampiran, serta konten bernuansa komunikasi seperti hasil survei, whiteboard, dan reaksi
- Awal kontroversi berasal dari kebijakan lama yang memungkinkan sebagian data pelanggan digunakan untuk pelatihan demi fitur seperti Zoom IQ Meeting Summary dan Zoom IQ Team Chat Compose
- Setelah penolakan pelanggan, Zoom mula-mula menambahkan opt-out, tetapi kemudian pada 11 Agustus kembali merevisi syarat layanannya dengan menghapus sebagian besar ungkapan terkait penggunaan AI
- Syarat baru tetap mempertahankan hak atas data yang dihasilkan layanan seperti telemetri, penggunaan produk, dan data diagnostik, sehingga ketegangan antara fitur AI dan kepercayaan pengguna masih tersisa
Syarat layanan Zoom berubah: konten pelanggan dikecualikan dari pelatihan AI
- Setelah menerima masukan pelanggan, Zoom memperbarui Terms of Service dan menegaskan bahwa konten pelanggan tidak akan digunakan untuk pelatihan model AI milik Zoom maupun pihak ketiga
- Yang dikecualikan dari pelatihan AI adalah sebagai berikut
- audio
- video
- chat
- berbagi layar
- lampiran
- konten pelanggan bernuansa komunikasi seperti hasil survei, whiteboard, dan reaksi
- Di balik kontroversi ini ada fitur AI generatif Zoom
- Zoom IQ Meeting Summary: fitur ringkasan rapat otomatis berbasis AI
- Zoom IQ Team Chat Compose: fitur penulisan chat berbasis AI
- Kebijakan sebelumnya memberi Zoom hak untuk menggunakan sebagian data pelanggan dalam pelatihan model AI di balik fitur-fitur ini, dan fakta bahwa hal itu dimungkinkan tanpa persetujuan pelanggan memicu penolakan
Hak penggunaan data yang luas dan beban kepercayaan yang makin besar
- Syarat lama memberi Zoom hak yang sangat luas terkait penggunaan data pelanggan
- hak “perpetual, worldwide, non-exclusive, royalty-free, sublicensable, and transferable”
- tujuan yang sangat luas, termasuk machine learning, artificial intelligence, training, dan testing
- tindakan atas data seperti “redistribute, publish, import, access, use, store, transmit, disclose”
- Setelah penolakan pelanggan menyebar di media sosial, Zoom terlebih dahulu merevisi kebijakan ke arah “tidak akan menggunakan konten pelanggan berupa audio, video, dan chat untuk melatih model AI tanpa persetujuan pelanggan”
- Lalu pada 11 Agustus, syarat layanan itu kembali diubah dan pada praktiknya menghapus hampir semua ungkapan terkait penggunaan artificial intelligence
- Namun, syarat baru tetap mempertahankan hak Zoom atas data yang dihasilkan layanan
- data telemetri
- data penggunaan produk
- data diagnostik
- Shomron Jacob, kepala machine learning di iterate.ai, menilai bahwa perusahaan teknologi sudah lama memanfaatkan data pelanggan untuk meningkatkan pengalaman pengguna dan menghadirkan fitur baru
- Dalam konteks ini, Google, Facebook, dan Amazon telah menggunakan data pengguna untuk mempersonalisasi layanan dan meningkatkan algoritme AI
- Seiring meningkatnya pengawasan terhadap isu privasi, keamanan, dan etika AI, ekspektasi terhadap transparansi dan persetujuan pengguna juga ikut naik
- Dengan kerangka regulasi seperti GDPR dan CCPA California yang menetapkan standar pengumpulan dan penggunaan data, perusahaan teknologi harus menangani pemanfaatan data untuk peningkatan AI sekaligus kepatuhan regulasi dan perlindungan kepercayaan pengguna
1 komentar
Opini Hacker News
Jika data disimpan di database yang bisa dibaca dan diakses bebas oleh perusahaan, yakni jika bukan enkripsi end-to-end, pada akhirnya perusahaan akan mengubah ketentuannya dan mencoba memakai data itu untuk pelatihan AI
Menurut saya insentifnya terlalu kuat sehingga sulit ditahan
Pelanggan berbayar benar-benar tidak suka jika data mereka dipakai untuk melatih model AI tanpa izin, dan kasus Zoom ini adalah contoh terbaru
Perusahaan yang mencoba hal seperti ini akan terbakar hebat, dan Zoom pun sudah terbakar hebat. Secara pribadi, saya rasa Zoom sebenarnya tidak bermaksud melakukan itu, tetapi lebih karena mereka tidak cukup jelas menyatakan bahwa mereka tidak akan melakukannya, sehingga meledak menjadi bencana PR
Jika pelanggan berbayar tidak menyukainya, insentif bagi perusahaan justru jauh lebih kuat ke arah tidak melakukannya
Bagi perusahaan, ini akan merepotkan karena mereka harus melacak setiap potongan data disimpan di bawah versi ketentuan yang mana, tetapi memang harus dibuat serepot itu agar data diperlakukan seperti liabilitas, sebagaimana seharusnya
Tidak ada konteks dan tidak ada kontrol kualitas. Bahkan jika diasumsikan bahwa kebijaksanaan massa secara rata-rata mendekati jawaban yang benar, pada akhirnya itu berarti melatih AI agar memberikan jawaban yang biasa-biasa saja
Pada masa euforia big data, banyak perusahaan menyimpan semuanya sambil berkata data itu bernilai, tetapi sebagian besar bahkan tidak sebanding dengan biaya hard disk. Nilai baru muncul jika ada pembeli yang mau membayar biaya untuk memanfaatkannya
Di dunia ini ada banyak data, tetapi yang benar-benar bernilai adalah informasi dan pengetahuan
Zoom hanya kecewa karena perubahan ketentuannya menyebar luas, dan mungkin juga kecewa karena reputasi mereka dianggap cukup ramah privasi sampai hal ini menjadi kontroversi
Saya penasaran apakah Teams juga akan menghadapi reaksi serupa jika hal seperti itu belum tercantum dalam ketentuannya
Mungkin ada yang merasakannya berbeda, tetapi semua orang yang saya kenal sudah membenci Teams dan hanya memakainya ketika perusahaan memaksa mereka
Dulu saya pernah berbicara dengan seorang eksekutif Microsoft, dan ia mengatakan pernah ada ide untuk memasukkan iklan kontekstual seperti Gmail ke Hotmail, tetapi ditolak keras
Gagasan menggunakan data pelanggan, bahkan data pengguna gratis sekalipun, dengan cara seperti itu dianggap tabu. Microsoft menghasilkan uang dari kontrak korporat besar, dan jika data pelanggan dipakai dengan cara apa pun yang menguntungkan pesaing, kontrak-kontrak itu bisa terancam
Artikel terkait:
Zoom's TOS Permit Training AI on User Content Without Opt-Out - https://news.ycombinator.com/item?id=37038494 - Agustus 2023 (35 komentar)
How Zoom’s terms of service and practices apply to AI features - https://news.ycombinator.com/item?id=37037196 - Agustus 2023 (177 komentar)
Ask HN: Zoom alternatives which preserve privacy and are easy to use? - https://news.ycombinator.com/item?id=37035248 - Agustus 2023 (16 komentar)
Not Using Zoom - https://news.ycombinator.com/item?id=37034145 - Agustus 2023 (194 komentar)
Zoom terms now allow training AI on user content with no opt out - https://news.ycombinator.com/item?id=37021160 - Agustus 2023 (510 komentar)
Zoom jelas punya beberapa model AI, begitu juga Teams, Google Chat, dan lainnya
Model itu diperlukan untuk subtitle otomatis dan transkripsi rapat, juga untuk blur latar otomatis dan pemisahan latar. Mereka mungkin juga sedang mengerjakan produk “ringkasan rapat”
Fitur-fitur seperti ini disukai orang dan selalu dipakai. Saya penasaran bagaimana orang berharap Zoom meningkatkan fitur-fitur ini tanpa mengumpulkan data pengguna nyata dari platformnya
Sudah terlambat. Saya butuh satu jam untuk menjalankan instans Jitsi yang di-host sendiri, dan tidak ada alasan untuk kembali
Saya terkejut dengan performa dan stabilitas Jitsi
Beberapa orang yang saya kenal, termasuk saya, akan segera menempuh jalur ini
Saya sedang membuat daftar perusahaan AI yang melatih model dengan data pengguna: https://github.com/skiff-org/skiff-org.github.io/blob/main/b...
Saya akan memperbarui entri Zoom, tetapi tetap menganggapnya mencurigakan
Minggu lalu saya menyesuaikan model regresi dengan sebagian data pelanggan; apakah itu berarti saya melatih AI dengan data pelanggan? Apakah ini soal niat, soal apakah ditujukan untuk pengguna publik, atau soal apakah itu model generatif?
Jadi saya tidak yakin standar itu berlaku
Apakah Zoom menyimpan data video atau audio dari panggilan? Ini benar-benar pertanyaan utamanya
Kalau ada apa pun yang disimpan, itu tidak bisa dipercaya
Selain itu, jika menggunakan protokol streaming video seperti HLS atau MPEG-DASH, stream disimpan sebagai potongan-potongan video lalu dihapus kemudian
Mengecewakan lagi bahwa perusahaan-perusahaan besar mencoba mendorong kebijakan seperti ini tanpa terlalu terlihat
Orang macam apa yang menganggap ini baik-baik saja? Eksekutif yang hanya ingin mengeruk uang? Kita seharusnya bisa lebih baik dari ini
“Setelah mendapat penolakan, Zoom menyatakan tidak akan menggunakan data pelanggan untuk melatih model AI”
Untuk saat ini
Kalau sejak awal semuanya terenkripsi end-to-end, bagaimana mereka bisa melatihnya?
Tampaknya cukup jelas bagi semua orang mana yang lebih masuk akal, tetapi anehnya sepertinya pendapat akan terbelah soal mana yang tidak masuk akal
Zoom, seperti Meet, Teams, WebEx, dan banyak layanan lain yang saya tahu, memang “terenkripsi”, tetapi “enkripsi end-to-end” dalam pengertian umum bukanlah default. Sebagian punya opsi E2EE, tetapi terkubur jauh di pengaturan layanan dan tidak mudah dinyalakan
Jadi, secara desain, server bisa melihat audio dan video, dan memang melihatnya. Jika infrastrukturnya diretas, penyerang juga bisa melihatnya. Enkripsi dalam mode default hanya mencegah ISP melihat isi panggilan
Sebaliknya, panggilan Signal adalah E2EE. Bahkan panggilan yang dirutekan melalui server Signal pun tidak membuat Signal bisa melihat video atau audio yang sudah didekripsi. Namun dalam kasus ini pun, mereka bisa mengetahui peserta panggilan, hanya tidak tahu apa yang dikatakan
Sebagai catatan samping, itulah sebabnya kami membuat Booth.video. Tujuannya untuk menunjukkan bahwa ini bukan trade-off yang mendasar, dan bahwa konferensi video dengan E2EE serta keamanan metadata juga mungkin dilakukan di browser