- Setelah pengadilan AS memerintahkan OpenAI menyimpan semua log ChatGPT tanpa batas waktu, termasuk chat yang telah dihapus, dua pengguna mencoba ikut campur dengan mengklaim adanya 'pengawasan massal', namun ditolak
- Salah satu pengguna berargumen bahwa perintah ini setara dengan program pengawasan massal di seluruh Amerika Serikat, dengan alasan ia pernah memasukkan informasi pribadi sensitif dan informasi komersial
- Hakim menegaskan bahwa perintah pelestarian bukti semata bukanlah program pengawasan, dan lembaga peradilan bukan aparat investigasi
- Kelompok hak digital (EFF) juga menyatakan kekhawatiran atas risiko privasi pengguna dan potensi penyalahgunaan di masa depan
- Para pengguna menunjukkan kecemasan terhadap sikap keras OpenAI dalam merespons serta ketidakpastian soal kemungkinan pengungkapan data atau transparansi di masa mendatang
Latar belakang dan perintah pengadilan
- Baru-baru ini pengadilan memerintahkan OpenAI untuk menyimpan semua log ChatGPT tanpa batas waktu, termasuk chat yang sudah dihapus
- Langkah ini diambil untuk mengamankan bukti dalam gugatan hak cipta yang diajukan perusahaan media berita
- Sejumlah pengguna menyuarakan kekhawatiran bahwa perintah ini juga mencakup chat yang dihapus dan anonim, serta diterapkan tanpa pemberitahuan kepada pengguna
Upaya intervensi pengguna dan kontroversi privasi
- Seorang pengguna meminta intervensi dengan alasan ia telah memasukkan informasi pribadi dan komersial yang sensitif, dan berargumen bahwa perintah tersebut mengarah pada pengawasan massal berskala nasional di AS
- Ia mempersoalkan bahwa chat yang dihapus dan anonim disimpan tanpa pemberitahuan sebelumnya, serta menuntut pengecualian untuk chat bertopik sensitif seperti medis, keuangan, dan hukum
- Pengadilan dengan jelas menyatakan alasan penolakannya: "Perintah pelestarian dokumen tidak ada kaitannya dengan pengawasan, dan pengadilan bukan lembaga investigasi."
Sudut pandang kelompok hak digital
- Corynne McSherry, direktur hukum Electronic Frontier Foundation (EFF), menyatakan kekhawatiran bahwa "perintah ini menimbulkan risiko nyata bagi privasi pengguna dan dapat berdampak buruk pada gugatan serupa"
- Ia menyoroti kemungkinan bahwa ini dapat menjadi preseden bagi aparat penegak hukum atau pihak yang berperkara untuk meminta OpenAI menyerahkan riwayat pengguna
- Ia juga menekankan bahwa jika kendali pengguna atas riwayat mereka dan kewajiban pemberitahuan tidak memadai, chatbot AI dapat menjadi vektor pengawasan baru
Logika putusan pengadilan
- Hakim menilai bahwa "perintah pelestarian dokumen adalah langkah untuk menjaga bukti dalam perkara tertentu", sehingga dugaan pelanggaran hak konstitusional dan sejenisnya tidak terkait dengan pokok perkara gugatan ini
- Upaya intervensi dianggap tidak relevan dengan penjelasan fakta maupun isu pokok gugatan, dan hanya akan menunda proses persidangan, sehingga hak untuk campur tangan tidak diakui
- Untuk saat ini belum ada kasus data benar-benar diserahkan kepada perusahaan berita, sehingga jika data nantinya dibagikan, diskusi tambahan masih dimungkinkan
Kecemasan pengguna dan isu ke depan
- Pengguna khawatir bahwa "OpenAI bisa saja memprioritaskan kepentingan lain seperti biaya litigasi dan pengelolaan reputasi daripada perlindungan privasi"
- EFF dan pihak lain menekankan perlunya perusahaan aplikasi chat AI benar-benar menghapus catatan saat diminta menghapus, serta memberikan pemberitahuan yang transparan atas permintaan data
- Pada akhirnya, transparansi proses penyimpanan dan pengungkapan data pengguna, prosedur pemberitahuan, serta mekanisme pemulihan setelah kejadian akan menjadi isu utama ke depan
1 komentar
Opini Hacker News
Dari pernyataan hakim yang dikutip dalam artikel, saya merasa hakim itu tidak benar-benar memahami inti keberatan yang diajukan, dan alasan putusannya juga terasa aneh
Logikanya seperti, "jika pertanyaan seperti ini dipertimbangkan, itu hanya akan menimbulkan penundaan yang tidak semestinya dalam menyelesaikan isu hukum yang sebenarnya harus ditangani"
Jadi karena ini gugatan terkait hak cipta, apakah masalah konstitusional boleh diabaikan?
Selain itu, langsung menolak permintaan hanya karena tidak ditulis oleh pengacara menurut saya bertentangan dengan peran seorang hakim
Sepertinya ada hal yang terlewat bahwa gugatan bisa diajukan tanpa pengacara
Kalau membaca putusan lengkap yang dilampirkan pada artikel(di sini), situasinya jadi lebih jelas
Pihak yang mengajukan keberatan mengirim jenis tertentu dari "permintaan intervensi", yang punya syarat ketat
Syarat itu tidak terpenuhi
Soal ditolak karena diajukan tanpa pengacara juga disebut dalam putusan
Individu boleh mewakili dirinya sendiri, tetapi badan hukum(perusahaan) wajib diwakili pengacara
Karena awalnya diajukan atas nama perusahaan, tampaknya hakim memprosesnya sesuai hukum
Saya juga punya kesan serupa, dan yang lebih mengkhawatirkan adalah banyak sekali layanan serupa yang bisa terdampak oleh isu privasi seperti ini
Kita butuh undang-undang privasi yang kuat untuk mencegah perintah pengadilan yang berlebihan seperti ini, tetapi itu belum ada
Misalnya, bisa saja ada perintah pengadilan untuk menyimpan semua pesan dari layanan kencan, menyimpan semua SMS di operator telekomunikasi, atau menyimpan miliaran Google Docs yang dibuat
Saya heran kenapa pemerintah belum meminta layanan seperti Signal menambahkan backdoor dan menyimpan semua pesan teks
Menurut saya, untuk benar-benar melakukan itu dibutuhkan justifikasi yang sangat kuat
Saya bertanya-tanya apakah pemerintah AS mungkin sebenarnya sudah melakukan pengawasan seluas ini di layanan komersial biasa
Dulu saat bocoran Edward Snowden, ada juga penyadapan komunikasi Google
Hakim umumnya berasal dari latar belakang pengacara atau punya pengalaman hukum
Hakim ini juga punya pengalaman sebagai pengacara, dan uniknya hampir menyelesaikan program doktor zoologi
Sangat wajar bila kelompok yang terlindungi dalam masyarakat tidak sungguh-sungguh memperlakukan kelompok yang tidak terlindungi secara setara
Saya juga tidak melihat ada isu konstitusional dalam perkara ini, dan kalaupun ada, ini bukan forum untuk menentukannya
Kritik bahwa hal ini diabaikan karena diajukan tanpa pengacara adalah kesalahpahaman 100%
Pro Se (beracara sendiri) sudah punya aturan yang jelas
Jika seseorang mengajukan gugatan mewakili badan hukum lain yang bukan dirinya, maka pengacara wajib ada
Jadi ini bukan soal "karena topik gugatannya hak cipta maka masalah konstitusi bisa diabaikan", melainkan menurut hakim isu konstitusionalnya memang tampaknya tidak akan terbentuk dan hanya membuang waktu
Soal bagian "apakah karena ini gugatan hak cipta maka masalah konstitusi boleh diabaikan?"
Saya penasaran isu konstitusional apa yang sebenarnya dianggap ada
Klaim bahwa "bisa tanpa pengacara" juga tidak benar secara hukum, karena perusahaan memang wajib diwakili pengacara
Kalau individu mengajukan sendiri mungkin masih ada kelonggaran tertentu, tetapi perusahaan tidak
Kalau logikanya goyah di dasar sesederhana ini, saya jadi sulit percaya pada poin-poin lainnya
Perkara ini tampaknya bukan berita yang begitu besar
OpenAI sebentar lagi akan mengajukan argumen lisan untuk secara langsung menentang perintah penyimpanan data itu, dan dua permintaan yang diajukan lebih dulu oleh pengguna ChatGPT biasa bukanlah perkara yang akan menentukan hasil akhir
Hakim tampaknya tidak benar-benar memahami dampak nyata dari perintah "simpan semua data" terhadap perusahaan, dan juga tidak terlihat punya niat untuk segera meninjaunya kembali
Ada argumen bahwa dampak dari putusan awal itulah yang justru bernilai berita
Belakangan ini saya percaya bahwa bahkan ketika kesimpulan yang diambil sangat jelas, itu tetap punya nilai berita yang sangat besar
Dari sini kita menegaskan bahwa pengguna memang punya hak untuk ikut terlibat
Seperti yang dilakukan penggugat, mereka juga bisa mengajukan gugatan sendiri
Terlepas dari apa hasil akhirnya nanti, hak itu sendiri tetap ada
Karena hakim tampak tidak tertarik pada isu ini, saya sampai pada kesimpulan bahwa upaya membujuknya tidak ada gunanya
Jadi saya bertanya-tanya apa alternatif atau pilihan yang dimiliki OpenAI dan para pengguna
Ini bukan jawaban langsung, tetapi menurut saya menggunakan LLM lokal akan menjadi alternatif paling realistis ke depan
Saya sedang mencobanya sendiri akhir-akhir ini, dan memang masih ada keterbatasan dalam penyimpanan konteks maupun performa tinggi, tetapi 1~2 tahun lagi LLM lokal yang benar-benar praktis sepertinya bukan mimpi
Bagi saya, daya tariknya bahkan lebih pada kegunaan offline daripada privasi
Dalam hukum AS, tidak ada pilihan
Ini adalah contoh khas dari 'Third Party Doctrine'
Bahkan jika itu data milik Anda sendiri, ketika Anda secara sukarela memberikannya ke pihak ketiga (OpenAI), data itu bukan lagi dianggap milik Anda dan ekspektasi privasinya tidak lagi berlaku
Pengecualian hanya mungkin diakui jika secara khusus dibuat lewat undang-undang baru, dan untuk OpenAI saat ini tidak ada dasar seperti itu dalam hukum yang berlaku
Putusan ini juga berada dalam kerangka hukum AS tersebut, jadi privasi atas data percakapan yang dikirim ke OpenAI saat ini memang tidak terlindungi
Sebaiknya berhenti berharap ada privasi dari pihak ketiga
Informasi perbankan pun bisa dibuka jika ada perintah penyelidikan
Banyak programmer yang salah paham karena hanya terpaku pada isu yang sedang panas saat ini
Apa pun hasil putusan ke depan, banding mungkin bisa menjadi opsi
Untuk pertanyaan "apa pilihan yang dimiliki OpenAI dan para pengguna?"
Salah satu caranya adalah mencari layanan dari negara yang tidak menyerahkan data ke AS
Jika ada yang berpikir OpenAI tidak akan menyimpan semua yang dimasukkan ke chat atau API, saya sarankan benar-benar melihat kondisi dewan direksi OpenAI saat ini
Bahkan jika penyedia LLM seperti OpenAI dilarang secara hukum untuk menyimpan data, saya tetap sulit percaya mereka akan benar-benar mematuhi kebijakan itu dengan baik
Saya menyarankan data sensitif harus selalu dimasukkan langsung ke LLM lokal
Tolong sadari ada negasi ganda di situ
Dunia sekarang punya kemampuan teknis untuk mengawasi hampir semua aspek kehidupan sehari-hari, jadi persoalannya adalah bagaimana kita menanganinya
Di masa depan, saya pikir data dalam jumlah besar ini bisa melahirkan bidang-bidang baru seperti kedokteran, epidemiologi, psikologi skala besar (saya menyebutnya Massive open online psychology, moop), dan pemerintah juga mungkin bisa melayani warga yang terpinggirkan dengan lebih baik lewat big data real-time
Tetapi untuk masa depan seperti itu, kita mutlak membutuhkan kerangka hukum yang bisa dipercaya, dan menurut saya hal ini sulit diwujudkan secara sepotong-sepotong lewat putusan per kasus
Secara pribadi, saya merasa perlu ada prinsip bahwa data yang tidak mungkin tercipta tanpa tindakan langsung manusia harus selalu menjadi milik orang tersebut, dan penitipan data hanya boleh diizinkan jika digunakan demi kepentingan manusia itu sendiri
Jika standar tinggi berupa "kepentingan pengguna/warga" diterapkan, cara berpikir perusahaan data akan berubah total
Saya penasaran bagaimana pendapat orang lain soal ini
Arah seperti ini memang masih cenderung ditabukan di HN dan tempat serupa, tetapi saya rasa hanya jika data dikunci dengan berpusat pada pengguna dan didistribusikan alih-alih disimpan dalam silo terpusat, kita bisa mengejar privasi sekaligus manfaat big data
Hakim dalam perkara ini sebenarnya adalah magistrate judge dengan sisa masa jabatan sekitar satu tahun
Dulu juga pernah ada contoh magistrate judge yang membuat putusan lemah seperti ini lalu tidak diperpanjang masa jabatannya, dan saya berharap hal yang sama terjadi kali ini
Tautan pengumuman perpanjangan masa jabatan
Saya tidak paham kenapa gelar hakim perlu diberi tanda kutip
Magistrate judge tetaplah hakim
Referensi: jenis-jenis hakim federal AS
Saya tidak melihat bahwa penerapan biasa dari Third Party Doctrine seharusnya merusak masa jabatan atau reputasi magistrate judge ini
Referensi diskusi sebelumnya tentang topik yang sama OpenAI menentang perintah pengadilan untuk menyimpan semua log ChatGPT, termasuk percakapan yang dihapus
Tidak ada hakim yang bisa menghentikan program pengawasan massal yang sudah berjalan lebih dari 10 tahun
Sekarang ini sudah jadi bahan lelucon dan kontroversi yang hampa
OpenAI, seperti perusahaan lain, mengumpulkan sebanyak mungkin informasi dan membuat profil tentang kita
Saya merasa aneh bahwa banyak orang begitu terkejut atau marah dengan situasi ini
Kebanyakan tampaknya tidak tahu atau mengabaikan fakta bahwa layanan online yang mereka pakai setiap hari pun menyimpan data dengan cara yang sama
Secara praktis, kecuali layanan seperti Signal yang E2EE, semua layanan besar seperti Gmail, operator telekomunikasi, Reddit, Xitter, dan lainnya menyimpan data serta metadata
Terlepas dari apakah itu benar atau salah, itulah realitas layanan online saat ini
Orang marah karena mereka merasa kenyataan ini sudah melewati batas yang tidak bisa diterima
Terlepas dari syarat layanan atau kebijakan, OpenAI kini berada dalam situasi harus menyimpan secara paksa bahkan data yang sebenarnya ingin dihapus demi pengguna
Justru saya tidak heran orang-orang menyatakan sikap mereka secara aktif
Saya rasa kebanyakan orang sama sekali tidak tahu soal ini
Coba tanyakan teman nonteknis di sekitar Anda atau orang acak di jalan, banyak yang sebenarnya tidak menyadari kenyataan ini