Krisis Kepercayaan terhadap Kecerdasan Buatan

Ketidakpercayaan terhadap fitur AI baru Dropbox

• Dropbox menambahkan fitur AI baru.
• Fitur-fitur ini menuai kritik karena mengirim data ke OpenAI.
• Dropbox membantah bahwa file pribadi digunakan sebagai data pelatihan model.

Detail penting

• Dropbox memiliki dokumen yang memuat prinsip bahwa data pelanggan tidak akan digunakan untuk melatih model AI tanpa persetujuan pelanggan.
• Ada kotak centang yang tersembunyi di pengaturan, dan tidak jelas apakah itu benar-benar mencerminkan persetujuan pengguna.

Orang-orang yang tidak mempercayai OpenAI

• OpenAI, mitra pihak ketiga Dropbox, mengklaim tidak menggunakan data untuk pelatihan model internal dan menghapusnya dalam 30 hari.
• Orang-orang tidak mempercayai klaim OpenAI, dan sedang mengalami krisis kepercayaan terhadap AI.

Facebook tidak menyadap Anda melalui mikrofon

• Teori bahwa Facebook menyadap pengguna melalui mikrofon mereka lalu menampilkan iklan dapat dengan mudah dibantah dari sisi teknis maupun nonteknis.
• Namun, orang-orang tidak mempercayai bantahan tersebut berdasarkan pengalaman mereka sendiri.

Ini benar-benar penting

• Kepercayaan itu penting, dan tuduhan bahwa perusahaan berbohong tentang cara menangani informasi pribadi adalah klaim yang serius.
• Peran pemerintah adalah memastikan hal seperti ini tidak terjadi.

Apa yang bisa kita lakukan

• Laboratorium AI besar dapat meningkatkan kepercayaan dengan berbagi informasi tentang data pelatihan.
• Interaksi dengan ChatGPT digunakan untuk meningkatkan model, tetapi detail tentang bagaimana data itu digunakan masih kurang.

Peluang bagi model lokal

• Orang lebih mempercayai model lokal yang berjalan di perangkat mereka sendiri daripada di cloud.
• Kualitas model lokal terus meningkat dan ukurannya semakin kecil.

Opini GN⁺

• Titik temu antara AI dan perlindungan privasi adalah isu penting, dan diperlukan percakapan yang transparan tentang hal ini.
• Ketidakpercayaan terhadap klaim Dropbox dan OpenAI berakar pada kurangnya pemahaman tentang teknologi dan absennya kepercayaan.
• Tulisan ini menarik karena menekankan pesatnya perkembangan teknologi AI dan pentingnya perlindungan privasi yang menyertainya, serta menjelaskan mengapa komunikasi yang transparan berbasis pemahaman dan kepercayaan itu diperlukan.

[GN⁺]

Komentar Hacker News

• Tangkapan layar itu diambil langsung dari akun saya. Diatur ke 'aktif', tetapi saya tidak pernah menyalakannya sendiri.

  • Ada juga krisis seputar 'persetujuan' terkait privasi situs web. Kita memerlukan definisi persetujuan yang dapat ditegakkan secara hukum, dan itu seharusnya berarti pengguna harus memberikan persetujuan afirmatif untuk pengiriman data mereka ke pihak ketiga. Ini artikel yang bagus, tetapi analogi antara 'ponsel saya menguping saya' dan 'OpenAI mungkin berbohong tentang bagaimana mereka menggunakan data saya' agak cacat. Karena pemeriksaan ketat terhadap aplikasi pihak ketiga yang mengakses mikrofon iPhone tidak setara dengan saat data dikirim ke pihak ketiga. Bagi orang awam mungkin terasa sama, tetapi pada kenyataannya kita terlindungi dari yang pertama. Bersikap seolah perjuangan untuk privasi dan kedaulatan data pengguna sudah kalah sepenuhnya sangat tidak produktif. Saya sering melihat orang-orang yang cukup melek teknologi bereaksi terhadap penyalahgunaan baru oleh perusahaan dengan sikap 'berita lama'. Orang-orang seperti ini seharusnya memberi contoh yang lebih baik. Rasa tak berdaya seperti ini merusak kepercayaan dan tidak memberi kesan bahwa dunia yang lebih baik itu mungkin. Kesalahan Dropbox tampaknya merupakan buah balik dari pola pikir ini: mereka mengira pengguna tidak akan peduli jika file pribadi mereka dikirim ke pihak ketiga tanpa ditanya. Saya sudah memindahkan sebagian besar data saya dari Dropbox, dan kemarin saya merasa perlu akhirnya membatalkan Dropbox. Terima kasih, Dropbox!

• Tulisan ini agak naif dan memberi kesan 'mengasumsikan niat baik'. Lihat saja apa yang terjadi di luar AI selama 10 tahun terakhir: semua orang melahap data seperti kolektor kompulsif. Bukan hanya Google dan Facebook, tetapi semua orang. Hari ini saya menemukan situs mini tentang masakan tradisional Swedia yang menambahkan video putar otomatis, banner persetujuan cookie dengan dark pattern, dan sebagainya. Hampir setiap aplikasi/situs baru dibangun di sekitar poros ekonomi ini. Lalu saat LLM mulai menjadi kuat, tiba-tiba terjadi pengetatan terkoordinasi terhadap API pihak ketiga. Sekarang kita punya ChatGPT/OpenAI dan para pesaingnya. Jika pemain lain memakan data seperti camilan rahasia tengah malam, maka AI generasi sekarang seperti zombie cepat dan lincah yang mengidam darah dan otak. Itu karena data memainkan peran yang lebih langsung dalam produk, tetapi juga karena mentalitas persaingan hype train khas VC teknologi akhirnya bangun lagi untuk pertama kalinya dalam beberapa dekade. Seluruh situasi mengarah ke kiamat zombie/demam emas/minta maaf belakangan, dan seterusnya. Karena itu saya sangat yakin inilah alasan mereka (semua) lebih menekankan retorika keamanan/tanggung jawab. Mereka sedang menimbun amunisi lebih awal untuk mengeruhkan air sebelum krisis PR terkait reputasi yang tak terelakkan datang. Sementara itu, kita para teknolog bermalas-malasan seolah tidak sungguh-sungguh mengalami 10 tahun terakhir, dan kali ini mengira akan berbeda karena AI punya dasar akademis, karena perusahaan-perusahaan baru yang mencolok, karena retorika keamanan, karena cuitan edgy para pendiri yang 'membumi'. Saya tidak tahu persis apa yang sedang terjadi, tetapi saya sudah cukup lama mengenal cara kerja manusia. Dan mereka tidak menjadi lebih baik.

• Saya rasa artikel Anda mengabaikan persoalan privasi yang melampaui sekadar pelatihan atas data saya.

  • Sebagai profesional, saya punya klien yang harus mematuhi perjanjian kerahasiaan dan regulasi tentang ke mana informasi saya pergi. Saya lebih memilih layanan yang membuat data saya tetap berada di server saya. Saya tidak mengerti mengapa data saya tidak selalu dienkripsi penuh sehingga hanya saya yang bisa melihatnya, tetapi mengirimkannya melalui internet untuk diproses oleh perusahaan lain tanpa persetujuan atau kepedulian saya itu mengerikan. Saat saya memakai fitur AI, saya setuju; tetapi mengirim file pribadi saya ke seluruh internet tanpa persetujuan saya itu gila. Sejujurnya, OneDrive punya alat migrasi, dan saya mendapat uji coba Dropbox Business lalu tadi malam memindahkan semua file saya secara otomatis. Ini adalah batas terakhir atas fakta bahwa perusahaan mereka terus melakukan hal-hal yang tidak saya minta, dan tidak menyediakan fitur yang terus saya minta... enkripsi end-to-end. Jika Anda ingin bermigrasi dari Dropbox Business ke akun Office 365 OneDrive dalam beberapa klik, ini dia: [tautan alat migrasi]

• Masalah inti di sini adalah orang-orang khawatir file pribadi Dropbox dipakai oleh OpenAI untuk pelatihan model.

  • Itu hanya sebagian dari masalahnya. Saya tidak ingin data saya dikirim ke mana pun kecuali saya menyetujuinya. Dalam kasus ini, kita tidak punya alasan untuk meragukan pernyataan mereka bahwa OpenAI tidak akan memakai file kita untuk pelatihan, tetapi kita tetap harus percaya bahwa mereka bisa menangani file kita dengan aman.

• Facebook bilang mereka tidak melakukan ini. Jika ketahuan berbohong, risiko terhadap reputasi mereka akan sangat besar.

  • Saya tidak percaya Facebook diam-diam menguping lewat mikrofon ponsel seseorang, tetapi klaim spesifik itu sama sekali tidak meyakinkan. Reputasi Facebook, setidaknya di kalangan orang awam nonteknis yang saya kenal, sudah seburuk mungkin. Saya tinggal di AS, dan orang-orang tahu bahwa Facebook membantu memicu kerusuhan 6 Januari 2021, lalu menghindari semua tanggung jawab setelahnya tanpa memperbaiki apa pun. Kerusakan reputasi yang akan mereka serap akibat hal ini, yang banyak orang sudah mengira mungkin mereka lakukan, tidak ada bandingannya.

• Dalam artikel ini, aspek kepercayaan terhadap mikrofon tampak seperti pengalih perhatian yang menyesatkan dari poin utama yang sebenarnya bisa dijelaskan dengan lebih jelas.

  • Facebook mengambil data Anda dari aplikasi mereka dan dari internet untuk melacak perilaku Anda di internet, lalu memasukkan data ini ke dalam <i>model</i> Anda. Model-model ini kadang cukup akurat hingga hampir bisa memprediksi apa yang Anda pikirkan. Karena itu, orang biasa lalu menyimpulkan bahwa mereka pasti menguping lewat mikrofon. Perusahaan LLM seperti OpenAI dan mitra-mitranya memakai model yang hampir persis sama. Mereka mengambil data dari mana pun mereka mau untuk meningkatkan model, agar Anda terus mengklik di tempat yang mereka ingin Anda klik, dan untuk memonetisasi Anda.

• Saya tidak 'mempercayai' OpenAI atau perusahaan besar lain tentang apa yang mereka katakan telah mereka lakukan, akan mereka lakukan, atau sedang mereka lakukan.

  • Tetapi saya percaya OpenAI tidak memakai data dari Dropbox untuk <i>pelatihan</i> tanpa persetujuan pengguna. Namun itu bukan masalahnya di sini. Masalahnya muncul saat data sedang berpindah; saat data dikirim ke pihak ketiga yang benar-benar bisa membacanya, dan bisa saja ada pegawai nakal yang tidak dapat dikendalikan Dropbox, data bisa muncul di log atau diproses di bawah kebijakan lain. Jika saya mengirim data pribadi ke Dropbox, mereka tidak boleh mengirimkannya ke pihak ketiga untuk alasan apa pun tanpa persetujuan saya yang eksplisit dan benar-benar terinformasi. Saya tidak paham bagaimana ini bisa dianggap bisa diperdebatkan. Jika Dropbox ingin meng-host model dan menyediakan pencarian RAG bagi pengguna yang setuju, itu satu masalah. Jika Dropbox mengirim semua data semua pengguna ke pihak ketiga sebelumnya tanpa memberi tahu siapa pun, itu masalah lain. Itu mengerikan.

• Krisis kepercayaan terhadap AI?

  • Apa yang terjadi setelah kita mendengar bahwa dewan/CEO sebuah perusahaan dipecat/diganti karena tuduhan kebohongan atau manipulasi? Jika Dropbox memindai dan memperoleh data turunan dari data pengguna, maka data 'turunan' itu bukan lagi 'data pengguna' melainkan data Dropbox dan bisa dibagikan. Mungkin sifatnya statistik dan tidak terkait langsung dengan pengguna individual, tetapi bukankah itu justru data pelatihan? Bukankah memang begitu cara kerjanya? Itu bukan kebohongan, melainkan permainan kata. Tidak, itu perilaku tidak etis, dan sudah menjadi standar bagi perusahaan besar.

• Saya rasa orang yang tidak mempercayai perusahaan AI kemungkinan juga punya perasaan serupa terhadap perusahaan di berbagai industri, organisasi nirlaba, bahkan lembaga pemerintah.

  • Bagi saya, tampaknya ada masalah kepercayaan yang jauh lebih besar daripada sekadar perusahaan berbasis AI. Jadi upaya sektor khusus ini untuk melawan ketidakpercayaan yang datang dari segala arah tampak seperti misi mustahil yang berada di luar cakupan bisnis-bisnis ini. Saya tidak yakin apa jawaban untuk masalah ini, apakah memang ada masalah nyata, atau ke mana kita akan menuju jika sinisme yang merajalela ini menyebar ke segala hal dan semua orang. Mungkin kita memang hanya dikutuk hidup di zaman yang menarik.