- Menurut cuitan Kevin Bankston, layanan AI Gemini milik Google membaca dokumen Drive privat tanpa izin pengguna
- Ini tidak pantas untuk reputasi Google, dan pengguna sama sekali tidak memiliki kendali atas informasi pribadi yang sensitif
- Ini bukan pertanda baik bagi masalah privasi di masa depan akibat peluncuran AI yang dipaksakan
Apa sebenarnya yang sedang terjadi?
- Baik tim dukungan Google maupun Gemini AI sendiri tidak mengetahui dengan pasti, tetapi Kevin Bankston mengajukan beberapa teori
- Secara teknis, hal ini terjadi di seluruh Google Drive, bukan hanya pada Google Docs
Apa penyebab masalah ini?
- Menurut Gemini AI, pengaturan privasi yang seharusnya memberi tahu Gemini harus tersedia secara publik, tetapi kenyataannya tidak demikian
- Tampaknya AI sedang "berhalusinasi (berbohong)" atau ada malfungsi pada sebagian sistem internal di server Google
- Sekalipun data privat ini tidak digunakan untuk melatih Gemini AI, situasinya tetap terlihat buruk
Masalah pada toggle pengaturan yang ditemukan Bankston
- Fitur ringkasan Gemini ternyata sudah dinonaktifkan
- Bot Gemini ternyata berada di tempat yang sama sekali berbeda dari halaman web yang awalnya ditunjukkannya
Dalam kasus Bankston, masalah ini tampaknya terbatas pada Google Drive
- Setidaknya hanya terjadi setelah tombol Gemini ditekan pada satu dokumen
- Jenis dokumen yang cocok (dalam kasus ini PDF) akan memicu Google Gemini secara otomatis di masa mendatang untuk semua file dengan tipe yang sama yang dibuka di dalam Google Drive
- Penyebabnya mungkin karena mengaktifkan Google Workspace Labs pada 2023. Ini dapat mengabaikan pengaturan Gemini AI yang sebenarnya dimaksudkan
Walaupun masalah ini hanya terbatas pada pengguna Google Workspace Labs, ini tetap merupakan kelemahan serius
- Ini adalah harga yang harus dibayar karena membantu menguji teknologi terbaru
- Persetujuan pengguna pada tingkat yang terperinci tetap penting, terutama terkait informasi yang berpotensi sensitif
- Dengan gagal mematuhi prinsip ini, Google setidaknya telah gagal total terhadap sebagian basis penggunanya
Opini GN⁺
- Mengumpulkan dan menganalisis informasi pribadi tanpa persetujuan pengguna adalah pelanggaran privasi yang serius. Terlebih lagi jika menyangkut informasi sensitif seperti pengembalian pajak
- Seiring perkembangan teknologi AI, masalah seperti ini dapat menjadi semakin serius. Perusahaan harus menempatkan perlindungan privasi pengguna sebagai prioritas utama
- Diperlukan perlindungan yang lebih baik dan transparansi bagi pengguna yang berpartisipasi dalam program uji beta seperti Google Workspace Labs
- Saat mengadopsi teknologi AI, penting untuk menghormati persetujuan dan pilihan pengguna. Pendekatan yang memaksa akan membuat pengguna kehilangan kepercayaan
- Google perlu menjadikan insiden ini sebagai momentum untuk meninjau kebijakan privasi layanannya, termasuk Gemini AI, dan memperkuat komunikasi dengan pengguna
Belum ada komentar.