- Kontroversi fitur AI baru Dropbox membesar dari kekhawatiran bahwa file pribadi yang dipercayakan ke Dropbox dapat digunakan untuk pelatihan OpenAI, dan Dropbox membantahnya dengan tegas
- Fiturnya berupa ringkasan on-demand dan “chat dengan data” berbasis retrieval-augmented generation (RAG), tetapi dalam privasi AI, penjelasan yang garis besar saja sulit cukup untuk memperoleh kepercayaan
- Toggle AI yang tampak aktif secara default dan frasa prinsip “tidak digunakan untuk pelatihan tanpa persetujuan” berpadu sehingga berpotensi membuat pengguna bingung soal cakupan persetujuan
- Meski OpenAI mengatakan “data yang dikirim melalui API tidak digunakan untuk pelatihan”, banyak pengguna tidak mempercayainya; ini menciptakan struktur ketidakpercayaan yang mirip dengan keyakinan tentang Facebook menyadap mikrofon untuk iklan
- Perusahaan AI harus memulihkan kepercayaan dengan penjelasan yang transparan tentang data pelatihan dan cara pemrosesannya, sementara model lokal menjadi alternatif yang makin menarik di tengah kekhawatiran privasi
Inti kontroversi fitur AI Dropbox
- Setelah Dropbox menambahkan fitur AI baru, kritik meningkat bahwa file pribadi dapat diteruskan ke OpenAI dan digunakan untuk pelatihan model
- Kekhawatiran utamanya adalah apakah file privat yang disimpan di Dropbox digunakan sebagai data pelatihan OpenAI, dan Dropbox membantahnya dengan tegas
- Fiturnya terdiri dari ringkasan on-demand dan pendekatan retrieval-augmented generation (RAG) seperti “chat dengan data”
- Pada layanan yang menyimpan banyak data pribadi, penjelasan privasi AI yang sedikit saja ambigu dapat dengan mudah menghilangkan kepercayaan
Kebingungan yang ditimbulkan oleh persetujuan dan teks pengaturan
- Dalam AI principles Dropbox, tertulis bahwa mereka berlandaskan kepercayaan pelanggan dan privasi data, serta tidak menggunakan data pelanggan untuk melatih model AI tanpa persetujuan
- Di pengaturan akun terdapat toggle terkait AI, dan bahkan pada akun yang tidak pernah mengaktifkannya sendiri, toggle itu tampak dalam keadaan aktif
- Sekitar 4 jam setelah tulisan dipublikasikan, tautan pengaturan tersebut berhenti berfungsi
- Tidak jelas apakah toggle ini ditafsirkan sebagai persetujuan untuk pelatihan model
- Kata “persetujuan” menjadi sangat ambigu ketika digabungkan dengan kenyataan bahwa orang menerima syarat layanan tanpa membacanya
- Banyak pengguna memahaminya sebagai data pribadi yang mereka percayakan untuk dilindungi oleh Dropbox mengalir masuk ke proses pelatihan OpenAI
Pengguna yang tidak mempercayai OpenAI
- Teks pengaturan Dropbox menjelaskan bahwa terkait OpenAI sebagai mitra pihak ketiga, “data tidak pernah digunakan untuk melatih model internal dan akan dihapus dari server pihak ketiga dalam 30 hari”
- Namun banyak pengguna tidak percaya ketika OpenAI mengatakan bahwa data tidak digunakan untuk pelatihan
- Kontroversi ini melampaui masalah pengaturan Dropbox dan berujung pada krisis kepercayaan terhadap AI secara umum
- Persepsi bahwa “OpenAI melatih modelnya dengan semua data yang terlihat” berada di posisi yang mirip dengan keyakinan bahwa “Facebook menguping percakapan melalui mikrofon ponsel lalu menampilkan iklan”
Perbandingan dengan teori konspirasi penyadapan mikrofon Facebook
- Teori bahwa Facebook menguping percakapan pengguna melalui mikrofon ponsel lalu menampilkan iklan sudah ada sejak lama
- Secara teknis, ada beberapa alasan untuk membantahnya
- Sistem operasi mobile tidak mengizinkan aplikasi mengakses mikrofon secara tak terlihat
- Peneliti privasi dapat mengaudit komunikasi antara perangkat dan Facebook untuk memeriksa perilaku sebenarnya
- Menjalankan pengenalan suara berkualitas tinggi dalam skala besar secara terus-menerus sangat mahal
- Ada juga bantahan non-teknis
- Facebook membantahnya, dan jika kebohongan itu terbongkar, risiko reputasinya sangat besar
- Terlalu banyak orang harus terlibat, sehingga sulit untuk terus berlangsung tanpa whistleblower
- Facebook sudah memiliki metode penargetan iklan yang jauh lebih murah dan efektif tanpa perlu menyadap mikrofon
- Saat melihat ribuan iklan, bisa saja ada kasus yang secara kebetulan cocok dengan sesuatu yang baru saja dikatakan
- Jika pengguna merasa melihat iklan terkait tepat setelah mereka benar-benar mengatakannya, bantahan seperti ini kehilangan daya persuasinya
- Episode Reply All pada November 2017 “109 Is Facebook Spying on You?” menyimpulkan bahwa Facebook tidak menyadap melalui mikrofon, tetapi sulit meyakinkan orang yang sudah telanjur percaya
Dalam AI, black box memperbesar ketidakpercayaan
- Dalam kasus Facebook, pengguna percaya bahwa mereka tahu apa yang sedang terjadi berdasarkan pengalaman pribadi
- Dalam AI, situasinya hampir sebaliknya
- Model nyaris berupa black box dan dibangun secara rahasia
- Sulit mengetahui data pelatihan apa yang digunakan
- Sulit juga memahami bagaimana data pelatihan memengaruhi model
- Pengguna akhirnya bergantung pada suasana dan intuisi, bukan bukti, dan suasana saat ini di sekitar AI tidaklah baik
Mengapa krisis kepercayaan penting
- Tuduhan bahwa perusahaan berbohong tentang cara mereka menangani privasi adalah hal yang sangat serius
- Masyarakat yang membiarkan perusahaan besar terang-terangan berbohong tentang cara pemrosesan data tanpa konsekuensi bukanlah masyarakat yang sehat
- Salah satu peran penting pemerintah adalah mencegah hal semacam ini terjadi
- Jika OpenAI melatih model dengan data yang mereka katakan tidak akan digunakan untuk pelatihan, mereka harus berhadapan dengan regulator atau digugat
- Jika Facebook memantau lewat mikrofon ponsel, mereka juga harus menjadi sasaran regulasi dan gugatan
- Jika teori konspirasi tanpa dasar dipercaya sebagai fakta, intoleransi sosial terhadap pelanggaran hukum yang benar-benar dilakukan perusahaan juga bisa melemah
- Privasi itu penting tetapi mudah disalahpahami
- Orang kadang melebih-lebihkan sekaligus meremehkan apa yang dilakukan dan mampu dilakukan perusahaan
- Teknologi AI dengan cepat mengubah batas kemungkinan, sehingga bahkan bagi orang yang memahami bidang ini pun sulit untuk memahaminya
Hal yang bisa dilakukan OpenAI dan laboratorium AI
- Laboratorium AI besar dapat mengungkapkan cara pelatihan dengan lebih jelas
- Pertanyaan intinya adalah apa yang digunakan OpenAI sebagai data pelatihan
- Saat ini jawabannya tidak dapat diketahui, dan seluruh prosesnya sangat tidak transparan
- Dalam situasi seperti ini, sekalipun OpenAI mengatakan “data yang dikirim melalui API tidak digunakan untuk pelatihan”, orang sulit mempercayainya
- ChatGPT sendiri lebih rumit
- OpenAI menggunakan interaksi ChatGPT untuk meningkatkan model
- Pelanggan berbayar pun bukan pengecualian; pengecualiannya adalah ChatGPT Enterprise dengan “harga berdasarkan permintaan”
- Ketika pengguna menempelkan dokumen privat ke ChatGPT dan meminta ringkasan, untuk menilai apakah setelah pembaruan model berikutnya sebagian dokumen itu akan terekspos kepada pengguna lain, dibutuhkan lebih banyak penjelasan tentang bagaimana data ChatGPT digunakan untuk peningkatan model
- Seperti perusahaan platform berskala besar yang menerbitkan postmortem publik setelah insiden, perusahaan AI juga dapat memulihkan kepercayaan dengan penjelasan yang transparan
- Dan Luu mengumpulkan daftar contoh postmortem terkait
Peluang bagi model lokal
- Pola yang berulang dalam kontroversi ini adalah pengguna merasa lebih nyaman mempercayakan data kepada model lokal yang berjalan di perangkat mereka sendiri daripada model yang dihosting di cloud
- Kualitas model lokal terus membaik dan ukurannya juga menyusut
- Mixtral-8x7b-Instruct dapat dijalankan di laptop dan dinilai sebagai model lokal pertama yang tampak memiliki kualitas serupa dengan ChatGPT 3.5
- Phi-2 dari Microsoft adalah model 2,7 miliar parameter
- Banyak model lokal yang berguna dimulai dari 7 miliar parameter
- Phi-2 mengklaim performa mutakhir dibandingkan sebagian model yang lebih besar
- Biaya pelatihannya tampaknya sekitar 35.000 dolar AS
- Potensi model lokal besar, tetapi perlu dihindari situasi ketika kekhawatiran privasi yang keliru membuat orang kehilangan keunggulan model hosted yang lebih besar dan nyaman
Syarat diskusi AI dan privasi
- Persinggungan antara AI dan privasi adalah persoalan penting
- Untuk diskusi berkualitas tinggi, diperlukan transparansi semaksimal mungkin dan pemahaman tentang apa yang benar-benar terjadi
- Ketika orang tidak langsung mempercayai perkataan perusahaan, diskusi ini menjadi lebih sulit
- Perusahaan harus memperoleh kepercayaan pengguna dan membuat pengguna dapat memahami alasannya
1 komentar
Pendapat di Hacker News
Dalam perlindungan privasi situs web, perlu ada definisi yang dapat dijalankan dan jelas secara hukum tentang apa itu persetujuan
Jangan sampai pengguna dibuat seolah-olah secara aktif menyetujui pengumpulan, pemrosesan, dan transfer data ke pihak ketiga, padahal sebenarnya semuanya sudah diproses diam-diam sebelumnya lalu persetujuan direkayasa belakangan
Jika seseorang ditipu agar menandatangani kontrak, kontrak itu adalah penipuan; dan jika seseorang berkata akan meminta izin sebelum melakukan sesuatu, lalu diam-diam mengklaim bahwa izin itu sudah didapat dalam kontrak sebelumnya, itu juga penipuan
Entah sejak kapan sistem peradilan menjadi selemah ini, tetapi kesalahannya tidak bisa dibebankan kepada warga yang tidak terlindungi
Yang dibutuhkan adalah kemampuan untuk mengembalikan hukum ke arah era pembongkaran monopoli dan New Deal, menghancurkan pengaruh buruk, lalu membangunnya kembali
Saya mengirim email WTF ke tim dukungan, tetapi sepertinya saya akan menutup akun. Saya tidak bisa membayangkan jawaban seperti apa yang bisa membuat hal ini terasa baik-baik saja
Perusahaan besar punya terlalu banyak kekuasaan dan pengaruh
Tulisannya secara umum bagus, tetapi analogi antara “ponsel saya menguping saya” dan “OpenAI bisa berbohong tentang bagaimana mereka memakai data saya” terasa agak cacat
Ada mekanisme pemeriksaan yang kuat untuk akses aplikasi pihak ketiga ke mikrofon iPhone, tetapi tidak ada mekanisme setara ketika data saya dalam bentuk plaintext dikirim ke pihak ketiga. Bagi orang awam keduanya mungkin terlihat sama, tetapi dalam kasus yang pertama, mereka tetap terlindungi
Mempermasalahkan perbedaan ini mungkin tampak sepele, tetapi bertindak seolah-olah perjuangan untuk privasi dan kedaulatan data pengguna sudah kalah total justru sangat kontraproduktif. Saya sering melihat orang-orang sinis yang cukup paham teknologi bereaksi terhadap setiap penyalahgunaan baru oleh perusahaan seolah-olah “ini sudah kita tahu”, seakan-akan jika Anda belum memakai Tails Linux selama lebih dari 10 tahun, maka sama saja kalau direktori home Anda dikompresi lalu seluruhnya dikirim ke perusahaan teknologi mencurigakan dan broker data
Ketidakberdayaan yang dipelajari seperti ini tidak hanya merusak kepercayaan, tetapi juga memberi kesan bahwa dunia yang lebih baik itu mustahil. Kasus Dropbox tampak seperti contoh kembalinya pola pikir itu. Gila sekali jika mereka mengira pengguna tidak akan peduli meski memberi nuansa bahwa file pribadi mereka dikirim ke pihak ketiga tanpa ditanya
Sebagai catatan, sebagian besar data saya sebenarnya sudah saya keluarkan dari Dropbox dan pindahkan ke hosting sendiri, tetapi kejadian kemarin menjadi pukulan terakhir yang membuat saya menutup akun sepenuhnya. Terima kasih, Dropbox
Dalam contoh Facebook, orang-orang percaya bahwa mereka memahami apa yang terjadi berdasarkan bukti pribadi mereka sendiri, sementara AI hampir kebalikannya. Model AI adalah kotak hitam yang aneh, dibuat secara rahasia, dan tidak ada cara untuk memahami apa data latihnya atau bagaimana data itu memengaruhi model
Saya sepenuhnya setuju bahwa ancaman terbesar saat ini adalah rasa puas diri. Jika orang membangun model mental yang keliru lalu mengangkat bahu sambil berkata “memang begitu adanya”, masalah nyata akan makin sulit diperbaiki
Jelas ada pilihan yang lebih baik dan lebih buruk soal kepada siapa kita mempercayakan data dan privasi, tetapi karena kita bahkan tidak bisa tahu siapa mereka, atau apakah ada pihak yang “dapat dipercaya” dalam arti luas, kita akhirnya bergerak dengan asumsi bahwa tidak ada yang bisa dipercaya
Saya ingin tidak terlalu sinis, tetapi melihat 10–20 tahun terakhir, sinisisme tampak sepenuhnya dibenarkan. Jika sikap seperti ini salah, bagaimana cara memperbaikinya?
Akses aplikasi ke mikrofon dikendalikan oleh sistem operasi, dan ada alat yang disediakan sistem operasi agar pengguna bisa melihat aplikasi mana yang dapat memakai mikrofon dan kapan
Sebaliknya, akses data cloud sepenuhnya berbasis “percayalah pada saya”, dan sudah terbukti banyak perusahaan menyalahgunakan kepercayaan itu
Saya memang memakai Dropbox, tetapi semua yang saya masukkan ke Dropbox sudah dienkripsi atau tidak masalah jika bocor ke internet publik. Saya menghabiskan banyak waktu mengutak-atik solusi hosting sendiri, tetapi setelah titik tertentu saya menilai manfaat praktisnya tidak terlalu besar, dan lebih baik memakai waktu serta energi untuk hal lain
Bagi saya, tulisan ini terasa agak naif dan sangat bernuansa “mari berasumsi ada niat baik”
Kalau melihat apa yang terjadi di luar AI selama 10 tahun terakhir, semua orang melahap data seperti kolektor obsesif. Bukan hanya Google atau Facebook yang memakai data dalam produk inti mereka, hampir semuanya begitu. Hari ini pun saya melihat sebuah minisite resep tradisional Swedia yang biasa dipakai saat Natal menambahkan video autoplay dan banner persetujuan cookie berpola gelap
Hampir semua aplikasi dan situs baru bergerak di sekitar poros ekonomi ini, dan sekitar saat model bahasa besar mulai menjadi kuat, API pihak ketiga tiba-tiba ditutup secara serentak di mana-mana
AI generasi sekarang bukan sekadar pemain lain yang diam-diam menyantap data seperti camilan tengah malam, melainkan seperti zombi cepat yang lapar darah dan otak. Ini juga karena data berperan lebih langsung dalam produk, dan karena psikologi persaingan panas modal ventura teknologi, yang melihat kemungkinan pergeseran paradigma pertama dalam beberapa dekade, telah terbangun
Semua tanda mengarah ke kiamat zombi dan demam emas, dengan pola meminta maaf belakangan. Karena itu saya sangat percaya semua orang sedang memperkuat wacana keselamatan dan tanggung jawab sebelum krisis reputasi yang tak terelakkan. Mereka menimbun amunisi untuk mengeruhkan air lebih dulu
Namun para teknolog tampak santai seolah tidak benar-benar mengalami 10 tahun terakhir, dan berpikir kali ini akan berbeda karena AI berakar di akademia, karena ini perusahaan-perusahaan baru yang berkilau, karena ada wacana keselamatan, karena ada cuitan Twitter tajam dari para pendiri yang “realistis”
Saya tidak akan berpura-pura tahu persis apa yang terjadi di balik layar, tetapi saya sudah cukup lama berada di sini untuk tahu bagaimana manusia beroperasi. Dan manusia tidak menjadi lebih baik
Secara hukum mungkin memang begitulah kenyataannya, tetapi melakukan itu tetap membuat industri teknologi terlihat buruk
Tulisan ini terlalu meremehkan fakta bahwa selain dipakai untuk melatih dengan data saya, ada juga kekhawatiran privasi
Saya bekerja secara profesional, dan para pelanggan terikat perjanjian kerahasiaan serta regulasi terkait ke mana informasi mereka pergi. Saya lebih ingin memakai layanan yang datanya hanya tetap berada di server, daripada titik kebocoran data yang terus bertambah
Sejak awal saya tidak begitu paham mengapa data saya tidak selalu sepenuhnya terenkripsi dan hanya bisa saya lihat. Tetapi gagasan bahwa data itu secara aktif dikirim melintasi internet agar dimakan dan diproses perusahaan lain tanpa persetujuan atau perhatian saya terasa mengerikan
Saat saya memilih untuk menyalakannya, saya sering memakai fitur AI, tetapi perusahaan mengirim file pribadi saya ke sana kemari di internet tanpa persetujuan saya itu gila
Jujur saja, OneDrive punya alat migrasi, jadi saya mengambil trial Dropbox Business dan tadi malam memindahkan semua file secara otomatis. Itu adalah tetes terakhir dari perilaku seperti memasukkan rongsokan dan popup ke antarmuka desktop, sementara enkripsi end-to-end yang terus saya minta tidak disediakan
Kalau ingin memindahkan dari Dropbox Business ke akun Office 365 OneDrive dengan beberapa klik, ini tautannya: https://learn.microsoft.com/en-us/sharepointmigration/mm-dro...
Enkripsi homomorfik mungkin bisa menjadi solusi untuk komputasi terdistribusi, tetapi masih perlu beberapa tahun lagi sebelum menjadi kenyataan. Sementara itu, kita perlu menuju de-cloud, kembali ke on-premise, atau koperasi hybrid private cloud dalam kelompok tepercaya
Alasan lainnya adalah mencegah transfer kekayaan besar-besaran dari individu dan perusahaan kecil ke pihak big data
Menurunnya fantasi bahwa AI mahakuasa akan menguasai dunia, dan pemahaman yang lebih baik atas realitas yang lebih biasa, adalah hal yang patut disambut. AI hanya mempercepat ketimpangan kekuasaan konyol yang sudah ada. Hal yang privat harus tetap dijaga privat
Jika Anda percaya penyedia cloud mengutamakan kepentingan terbaik Anda, semoga beruntung. Ini Hacker News, dan menurut saya kepercayaan tidak diberikan begitu saja, melainkan harus diperoleh
Itu bukan enkripsi end-to-end, tetapi bisa mencegah perusahaan memakai data terenkripsi sebagai korpus pelatihan. Mungkin folder dan file bersama yang dibuat kolega atau keluarga tidak cukup paham teknologi untuk mengetahui soal enkripsi?
Jika ada perjanjian kerahasiaan dengan pelanggan, Anda tidak boleh memakai Dropbox tanpa enkripsi end-to-end, dan OneDrive juga sama
Intinya bukan hanya kekhawatiran apakah file pribadi di Dropbox akan berpindah menjadi data pelatihan model OpenAI
Apa pun penggunaannya, selama saya tidak mengizinkan, saya tidak ingin data saya dikirim ke mana pun
Dalam kasus ini, kita harus percaya bukan hanya bahwa OpenAI tidak melatih model dengan file kita, tetapi juga bahwa mereka bisa menangani file kita dengan aman. Tidak ada alasan untuk meragukan bahwa pernyataan mereka tidak akan melatih model itu benar, tetapi masalahnya tetap ada
Namun pada saat yang sama, mereka bisa saja melakukan semacam pemantauan terhadap keluaran model, dan khususnya jika menggunakan retrieval-augmented generation (RAG) pada file pribadi, kebocoran informasi pribadi yang jelas bisa terjadi
Cukup masuk akal untuk tidak percaya bahwa orang benar-benar memahami ketentuan rinci. Mungkin mereka memang tidak memahaminya, dan satu hal yang jelas ditunjukkan perusahaan AI adalah mereka merasa boleh menggunakan materi yang mereka inginkan dengan cara yang mereka inginkan, terlepas dari apakah kreatornya mengizinkan atau tidak
Jika ingin mencegah pihak ketiga atau pihak kedua membaca data, harus dipastikan bahwa data tersebut dienkripsi end-to-end di sisi klien
Artinya, kita harus memakai Syncthing, bukan Dropbox, dan memakai Signal, bukan Slack atau Discord
Terutama karena sebelumnya pernah ada beberapa masalah keamanan yang terdokumentasi
Cerita soal kepercayaan pada mikrofon dalam tulisan ini terasa seperti pengalihan isu dari inti yang bisa dibuat lebih jelas
Facebook secara harfiah mengambil data dari aplikasi dan internet, melacak perilaku di internet, lalu memasukkan data ini ke model tentang Anda. Model-model ini begitu akurat sehingga kadang hampir bisa memprediksi apa yang Anda pikirkan. Karena itu orang awam menyimpulkan bahwa mereka menguping lewat mikrofon
Perusahaan model bahasa besar seperti OpenAI dan para mitranya juga memakai model yang hampir persis sama. Mereka mengeruk data dari segala macam sumber untuk meningkatkan model, lalu memonetisasinya dengan memperbesar kemungkinan Anda terus mengklik tempat yang mereka inginkan
Secara mekanisme mereka keliru secara teknis, tetapi dalam hal intrusi ekstrem terhadap privasi, mereka tepat sekali. Bahwa intrusi itu datang bukan lewat mikrofon melainkan dalam bentuk model yang akurat hanyalah detail teknis, dan efek akhirnya sama
Mungkin karena saya tinggal dekat kampus besar, jadi mereka menebaknya dari IP. Sesekali muncul juga iklan Lexus atau Jaguar, dan itu tidak masalah
Saya tidak percaya Facebook diam-diam menguping seseorang lewat mikrofon ponsel, tetapi argumen bahwa “risiko reputasinya akan sangat besar jika kebohongan itu ketahuan” sama sekali tidak meyakinkan
Di antara orang Amerika nonteknis yang saya kenal, reputasi Facebook sudah sangat buruk. Orang-orang melihat bahwa Facebook berkontribusi dalam memicu pemberontakan 6 Januari 2021, lalu setelah itu menghindari tanggung jawab apa pun dan tidak memperbaiki apa pun
Jika terungkap bahwa mereka benar-benar melakukan sesuatu yang sudah diyakini banyak orang mungkin sedang mereka lakukan, kerusakan reputasi akibat hal itu akan jauh lebih kecil daripada itu
Baik OpenAI maupun perusahaan besar lain, saya tidak “percaya” pada apa yang mereka katakan telah mereka lakukan, akan mereka lakukan, atau sedang mereka lakukan.
Meski begitu, saya tidak percaya bahwa OpenAI menggunakan data Dropbox untuk melatih model tanpa persetujuan pengguna.
Namun masalahnya di sini bukan itu. Masalahnya adalah data dalam transit. Yang bermasalah adalah data yang dikirim ke pihak ketiga yang secara teknis bisa membacanya, ke tempat yang mungkin memiliki karyawan jahat di luar kendali Dropbox, ke tempat data bisa tersimpan di log atau tunduk pada kebijakan lain.
Jika saya mengirim data privat ke Dropbox, Dropbox tidak boleh mengirimkannya kepada siapa pun tanpa persetujuan yang eksplisit dan benar-benar terinformasi, untuk alasan apa pun termasuk “peningkatan produk”. Saya tidak mengerti mengapa ini bisa diperdebatkan.
Kalau Dropbox meng-hosting modelnya sendiri dan menyediakan pencarian berbasis retrieval-augmented generation kepada pengguna yang menyetujuinya, itu perkara lain.
Kalau Dropbox mengirim data semua pengguna ke pihak ketiga tanpa memberi tahu siapa pun sebelumnya, itu sama sekali berbeda, dan mengerikan.
Pelatihan itu entah termasuk fair use atau tidak. Dan perusahaan Silicon Valley yang tumbuh pesat bukan terkenal karena taat pada semangat hukum.
Bahkan kebijakannya juga mengatakan bahwa mereka bisa memperbaruinya kapan saja jika mau.
Kebijakan privasi bahkan tidak punya kekuatan mengikat secara hukum. Jika Anda berada di AS dan tidak punya kontrak dengan Dropbox, hak Anda nyaris tidak ada; dan untuk menegakkan hak yang Anda kira Anda miliki, Anda harus pergi ke pengadilan, sementara pengadilan pada praktiknya adalah sistem yang dimenangkan dengan uang, dan lawan Anda adalah perusahaan bernilai miliaran dolar.
Jika Dropbox secara terang-terangan mengkhianati kepercayaan yang Anda berikan, itu benar-benar buruk, dan bisa menjadi keputusan bisnis yang mengerikan karena tidak ada orang yang akan mempercayakan datanya ke Dropbox lagi. Namun jika suatu hari mereka menjadi sepenuhnya jahat dan mulai menyerahkan data kepada siapa pun yang membayar, rasanya hampir tidak ada yang bisa Anda lakukan.
Data yang Anda pedulikan tidak boleh dimasukkan ke cloud tanpa backup lokal dan enkripsi. Dengan begitu Anda tidak perlu khawatir apa pun yang dilakukan penyedia cloud, atau kepada siapa pun mereka menyerahkannya.
Justru saya ingin mereka mengenkripsi data saya sehingga fitur seperti ini tidak bisa disediakan. Saya memang ingin pemulihan data, tetapi fakta bahwa mereka bisa menyediakan “fitur” AI ini terasa seperti berarti mereka hampir tidak berusaha mencegah karyawan internal jahat atau pihak ketiga mengakses data saya.
Denda finansialnya sangat tinggi per insiden paparan dan per karyawan terkait, dan tanggung jawab juga jatuh pada individu karyawan yang secara langsung mengungkapkan atau membagikannya.
Jadi sekalipun mereka berbagi dokumen dengan pihak ketiga yang tidak diungkapkan tanpa pemberitahuan, saya yakin itu bukan “semuanya”. Data korporat mungkin aman. Kontrak seperti itu ditinjau dengan sangat ketat sebelum ditandatangani.
Krisis kepercayaan AI?
Bukankah itu makin terasa setelah melihat sebuah peristiwa ketika dewan direksi dan CEO sebuah perusahaan tampak dipecat atau diganti karena tuduhan kebohongan atau manipulasi, tetapi tidak ada yang benar-benar tahu jelas apa masalahnya?
Jika Dropbox memindai data pengguna dan membuat data turunan, maka data “turunan” itu bukan lagi “data pengguna”, melainkan data Dropbox, dan bisa dibagikan. Mungkin hanya bersifat statistik dan tidak berkaitan langsung dengan pengguna individu, tetapi bukankah itu tepatnya data pelatihan? Bukankah memang begitu cara kerjanya? Kalau begitu, bukankah itu bisa dibagikan untuk melatih model AI?
Itu bukan kebohongan, melainkan permainan kata. Tidak, itu perilaku tidak etis, dan sudah menjadi standar perusahaan teknologi besar.
Saya tidak punya kepentingan dalam pertarungan ini. Saya tidak memihak Altman maupun OpenAI. Dan saya punya kekhawatiran cukup besar tentang ke mana dunia baru yang gemerlap ini membawa kita. Sekalipun tujuannya tidak menarik sama sekali, saya juga tidak tahu apakah ada pilihan yang bisa dipercaya untuk turun dari komidi putar ini.
Tindakan Dropbox yang digambarkan di sini hanyalah salah satu dari antrean sangat panjang perusahaan teknologi yang merusak kepercayaan.
Dalam contoh yang diberikan penulis, Dropbox hanya mengirim data ke OpenAI ketika pengguna secara eksplisit menjalankan fitur terkait AI, seperti ringkasan dokumen. Namun reaksi kerasnya tampak mengasumsikan, tanpa bukti, bahwa mereka memindai dan mengunggah dokumen orang secara massal.
Perilaku tidak etis jelas ada di perusahaan AI. Secara pribadi, saya menahan penilaian apakah proporsinya lebih tinggi atau lebih rendah daripada tingkat dasar perilaku tidak etis di populasi umum. Bagaimanapun, jika ingin membahas perilaku buruk, gunakan contoh konkret dengan bukti yang bisa dikutip, bukan menebar ketakutan.
Orang yang tidak percaya pada perusahaan AI kemungkinan besar punya perasaan serupa terhadap berbagai perusahaan di lintas industri, organisasi nirlaba, bahkan lembaga pemerintah.
Tergantung siapa yang ditanya, tampaknya ada masalah kepercayaan yang lebih besar, jauh melampaui lingkup perusahaan berbasis AI. Jadi meminta hanya bidang tertentu ini untuk melawan ketidakpercayaan terhadap mereka berarti meminta mereka menghadapi ketidakpercayaan dari segala arah, yang tampak seperti tugas mustahil di luar jangkauan perusahaan-perusahaan ini.
Saya juga tidak tahu apa jawaban untuk masalah ini, apakah ini benar-benar masalah, atau ke mana kita menuju jika sinisme menyeluruh seperti ini menyebar ke segala hal dan semua orang. Mungkin kita memang sekadar dikutuk untuk hidup di masa yang menarik.
Seluruh industri kita menyalahgunakan kepercayaan sampai tingkat yang sulit dipercaya, dan tidak tampak ada tanda-tanda akan berubah dalam waktu dekat.