Respons OpenAI terhadap Pelanggaran Privasi Pengguna oleh The New York Times

• OpenAI menjadikan perlindungan data percakapan pribadi ChatGPT, yang digunakan oleh lebih dari 800 juta orang, sebagai prioritas utama
• The New York Times meminta pengadilan untuk menyerahkan 20 juta catatan percakapan pribadi ChatGPT, yang dinilai sebagai tindakan yang melanggar privasi pengguna
• OpenAI sebelumnya juga pernah menolak permintaan 1,4 miliar catatan percakapan, dan kali ini pun terus mendorong perlindungan data pengguna melalui proses hukum
• Perusahaan sedang mengembangkan fitur keamanan yang diperkuat seperti client-side encryption serta membangun sistem otomatis yang meminimalkan akses ke data sensitif
• Kasus ini dinilai sebagai titik balik penting terkait standar perlindungan data pribadi di era AI

---

Permintaan data dari The New York Times dan posisi OpenAI

• The New York Times, dalam proses gugatan terhadap OpenAI, meminta penyerahan 20 juta catatan percakapan pengguna ChatGPT
  • Alasannya, menurut mereka, adalah “untuk memastikan apakah pengguna memakai ChatGPT guna melewati paywall The New York Times”
• OpenAI menyatakan bahwa permintaan ini melanggar prinsip perlindungan privasi dan praktik keamanan yang telah lama dijaga
• Perusahaan meminta pengadilan menolak permintaan tersebut dengan menyatakan bahwa “permintaan ini mencakup percakapan pribadi puluhan juta orang yang tidak terkait dengan gugatan ini”

Permintaan serupa di masa lalu dan responsnya

• The New York Times sebelumnya juga pernah mencoba membatasi fitur penghapusan percakapan milik pengguna, tetapi OpenAI mencegahnya dan memulihkan hak penghapusan
• Setelah itu ada pula permintaan penyerahan 1,4 miliar catatan percakapan, namun OpenAI menolaknya
• OpenAI menegaskan bahwa “percakapan pribadi pengguna adalah milik pengguna, dan tidak boleh dijadikan korban dalam sengketa akses terhadap konten online”

Langkah OpenAI untuk memperkuat keamanan dan privasi

• OpenAI menyatakan dirinya sebagai salah satu organisasi yang paling banyak diserang di dunia, dan sedang melakukan investasi besar untuk melindungi data dari kejahatan terorganisasi serta upaya peretasan yang didukung negara
• Roadmap ke depan mencakup fitur client-side encryption, yang dirancang agar bahkan OpenAI tidak dapat mengakses pesan pengguna
• OpenAI juga sedang merancang sistem deteksi keamanan otomatis agar hanya kasus penyalahgunaan serius seperti ancaman terhadap nyawa, bahaya terhadap orang lain, atau risiko keamanan siber yang secara terbatas diteruskan ke tim peninjau manusia

Rincian terkait permintaan data (ringkasan FAQ)

• Cakupan data yang diminta: 20 juta percakapan ChatGPT konsumen yang dipilih secara acak dari periode Desember 2022 hingga November 2024
• Pihak yang tidak terdampak: ChatGPT Enterprise, ChatGPT Edu, ChatGPT Business (sebelumnya Team), dan pelanggan API tidak termasuk
• Langkah perlindungan privasi: semua percakapan melalui proses penghapusan informasi identitas pribadi (PII) serta informasi sensitif seperti kata sandi
• Hak akses data: hanya sebagian personel dari tim hukum dan keamanan OpenAI serta pengacara eksternal dan penasihat teknis pihak The New York Times yang dapat mengakses
• Metode penyimpanan: disimpan secara terisolasi dalam sistem keamanan terpisah untuk memenuhi kewajiban hukum, dan tidak dapat diakses secara umum

Pertimbangan hukum dan internasional

• OpenAI menyatakan telah mengambil langkah yang diperlukan untuk mematuhi regulasi privasi internasional seperti GDPR, tetapi menegaskan bahwa permintaan The New York Times tidak sesuai dengan standar privasi perusahaan
• Perusahaan terus menggugat permintaan tersebut melalui proses hukum, dan pada setiap tahap akan tetap menempatkan perlindungan privasi pengguna sebagai prioritas utama
• OpenAI berjanji akan memberikan pembaruan yang transparan terkait keputusan pengadilan dan perubahan dalam pemrosesan data di masa mendatang

Rencana dan visi ke depan

• OpenAI menekankan bahwa semakin dalam AI terintegrasi ke dalam kehidupan pribadi, semakin kuat pula tingkat keamanan dan perlindungan privasi yang dibutuhkan
• Tujuannya adalah mewujudkan masa depan di mana percakapan AI paling pribadi milik pengguna tetap aman dan rahasia
• Dalam jangka pendek, perusahaan berencana segera mengumumkan penguatan keamanan dan langkah mitigasi jangka pendek
• Dalam jangka panjang, OpenAI tengah mendorong pembentukan kerangka perlindungan teknis dan hukum untuk membangun lingkungan AI yang tepercaya