Respons OpenAI terhadap Pelanggaran Privasi Pengguna oleh The New York Times

• OpenAI menjadikan perlindungan data percakapan pribadi ChatGPT, yang digunakan oleh lebih dari 800 juta orang, sebagai prioritas utama
• The New York Times meminta pengadilan untuk menyerahkan 20 juta catatan percakapan pribadi ChatGPT, yang dinilai sebagai tindakan yang melanggar privasi pengguna
• OpenAI sebelumnya juga pernah menolak permintaan 1,4 miliar catatan percakapan, dan kali ini pun terus mendorong perlindungan data pengguna melalui proses hukum
• Perusahaan sedang mengembangkan fitur keamanan yang diperkuat seperti client-side encryption serta membangun sistem otomatis yang meminimalkan akses ke data sensitif
• Kasus ini dinilai sebagai titik balik penting terkait standar perlindungan data pribadi di era AI

---

Permintaan data dari The New York Times dan posisi OpenAI

• The New York Times, dalam proses gugatan terhadap OpenAI, meminta penyerahan 20 juta catatan percakapan pengguna ChatGPT
  • Alasannya, menurut mereka, adalah “untuk memastikan apakah pengguna memakai ChatGPT guna melewati paywall The New York Times”
• OpenAI menyatakan bahwa permintaan ini melanggar prinsip perlindungan privasi dan praktik keamanan yang telah lama dijaga
• Perusahaan meminta pengadilan menolak permintaan tersebut dengan menyatakan bahwa “permintaan ini mencakup percakapan pribadi puluhan juta orang yang tidak terkait dengan gugatan ini”

Permintaan serupa di masa lalu dan responsnya

• The New York Times sebelumnya juga pernah mencoba membatasi fitur penghapusan percakapan milik pengguna, tetapi OpenAI mencegahnya dan memulihkan hak penghapusan
• Setelah itu ada pula permintaan penyerahan 1,4 miliar catatan percakapan, namun OpenAI menolaknya
• OpenAI menegaskan bahwa “percakapan pribadi pengguna adalah milik pengguna, dan tidak boleh dijadikan korban dalam sengketa akses terhadap konten online”

Langkah OpenAI untuk memperkuat keamanan dan privasi

• OpenAI menyatakan dirinya sebagai salah satu organisasi yang paling banyak diserang di dunia, dan sedang melakukan investasi besar untuk melindungi data dari kejahatan terorganisasi serta upaya peretasan yang didukung negara
• Roadmap ke depan mencakup fitur client-side encryption, yang dirancang agar bahkan OpenAI tidak dapat mengakses pesan pengguna
• OpenAI juga sedang merancang sistem deteksi keamanan otomatis agar hanya kasus penyalahgunaan serius seperti ancaman terhadap nyawa, bahaya terhadap orang lain, atau risiko keamanan siber yang secara terbatas diteruskan ke tim peninjau manusia

Rincian terkait permintaan data (ringkasan FAQ)

• Cakupan data yang diminta: 20 juta percakapan ChatGPT konsumen yang dipilih secara acak dari periode Desember 2022 hingga November 2024
• Pihak yang tidak terdampak: ChatGPT Enterprise, ChatGPT Edu, ChatGPT Business (sebelumnya Team), dan pelanggan API tidak termasuk
• Langkah perlindungan privasi: semua percakapan melalui proses penghapusan informasi identitas pribadi (PII) serta informasi sensitif seperti kata sandi
• Hak akses data: hanya sebagian personel dari tim hukum dan keamanan OpenAI serta pengacara eksternal dan penasihat teknis pihak The New York Times yang dapat mengakses
• Metode penyimpanan: disimpan secara terisolasi dalam sistem keamanan terpisah untuk memenuhi kewajiban hukum, dan tidak dapat diakses secara umum

Pertimbangan hukum dan internasional

• OpenAI menyatakan telah mengambil langkah yang diperlukan untuk mematuhi regulasi privasi internasional seperti GDPR, tetapi menegaskan bahwa permintaan The New York Times tidak sesuai dengan standar privasi perusahaan
• Perusahaan terus menggugat permintaan tersebut melalui proses hukum, dan pada setiap tahap akan tetap menempatkan perlindungan privasi pengguna sebagai prioritas utama
• OpenAI berjanji akan memberikan pembaruan yang transparan terkait keputusan pengadilan dan perubahan dalam pemrosesan data di masa mendatang

Rencana dan visi ke depan

• OpenAI menekankan bahwa semakin dalam AI terintegrasi ke dalam kehidupan pribadi, semakin kuat pula tingkat keamanan dan perlindungan privasi yang dibutuhkan
• Tujuannya adalah mewujudkan masa depan di mana percakapan AI paling pribadi milik pengguna tetap aman dan rahasia
• Dalam jangka pendek, perusahaan berencana segera mengumumkan penguatan keamanan dan langkah mitigasi jangka pendek
• Dalam jangka panjang, OpenAI tengah mendorong pembentukan kerangka perlindungan teknis dan hukum untuk membangun lingkungan AI yang tepercaya

[GN⁺]

Opini Hacker News

• Saya mendengar bahwa The New York Times meminta OpenAI menyerahkan 20 juta rekaman percakapan ChatGPT
  Sebagai penggugat, itu tentu permintaan yang wajar, tetapi gugatan seperti ini mungkin tidak terbatas hanya pada masalah hak cipta
  Justru masalahnya adalah mengapa OpenAI mengumpulkan dan menyimpan data percakapan privat sebanyak ini
  Permintaan NYT hanya digunakan dalam proses hukum, informasi rahasia akan disamarkan saat diserahkan, dan akan dimusnahkan setelah gugatan selesai
  Sebaliknya, OpenAI menyimpan data tanpa batas waktu demi kepentingan komersial
  Bahkan tidak jelas untuk model bisnis seperti apa data sebanyak itu ditumpuk. Saya menganggap ini sebagai praktik pengumpulan data yang serampangan
  • Sebenarnya yang diperintahkan pengadilan bukan untuk ‘mengumpulkan’ data, melainkan mempertahankan (preserve) data yang sudah disimpan
    Dokumen terkait: Perintah pengadilan 1, Perintah pengadilan 2
  • Namun orang lain berpendapat bahwa ini pada praktiknya adalah perintah pengadilan yang memaksa pengumpulan data
    Lihat artikel Ars Technica
  • Alasan OpenAI menyimpan percakapan itu jelas. Karena antarmuka ChatGPT menyediakan fitur riwayat percakapan
    Masalahnya, meskipun pengguna menekan tombol hapus, data tetap harus dipertahankan karena perintah pengadilan
  • Seperti Google Photos menyimpan foto, ChatGPT juga harus menyimpan riwayat percakapan. Itu fitur inti produknya
  • Jika pernah memakai ChatGPT, Anda pasti tahu ada riwayat percakapan di panel kiri
• Jika OpenAI tidak menggunakan data NYT tanpa izin, hal seperti ini tidak akan terjadi
  Pada akhirnya saya rasa pelanggaran hak cipta adalah akar masalahnya. NYT benar karena melawan
  • Namun orang lain membantah bahwa dua hakim sudah memutuskan pelatihan AI adalah fair use (penggunaan wajar)
    Ringkasan putusan terkait
  • Ada juga pendapat bahwa data seharusnya diperlakukan sebagai barang publik. Masalahnya justru ketika perusahaan tertentu mengklaim kepemilikan atas data
  • NYT dikritik sebagai pihak yang mencemari internet dengan paywall yang tertutup
    Dianggap munafik karena tidak berkontribusi pada budaya terbuka tetapi tetap ingin mendapat perhatian
  • Sam Altman dan pimpinan OpenAI dikritik karena menyebarkan FUD (ketakutan, ketidakpastian, dan keraguan) hanya untuk menarik investasi
    Janji tentang AGI dianggap bohong dan hanya membuat orang cemas
• Saya tidak menganggap OpenAI sebagai ‘pihak yang baik’
  Tetapi saya tetap tidak nyaman jika percakapan pribadi orang jatuh ke tangan pengacara NYT
  Karena NYT tidak bisa membuktikan kerugian secara jelas, ini tampak seperti fishing expedition
  • Namun orang lain menjelaskan bahwa NYT memang sudah menunjukkan bukti pencurian konten, dan untuk memverifikasinya diperlukan keseluruhan log
    Diibaratkan seperti meminta catatan penjualan toko buku bajakan
    Pengguna disebut akan sulit menuntut hak privasi secara hukum
  • Orang lain lagi menjelaskan bahwa NYT sedang menuntut ganti rugi berdasarkan ketentuan undang-undang (statutorily defined damages) sehingga tidak perlu membuktikan kerugian nyata
    Intinya adalah apakah pelatihan AI merupakan pelanggaran hak cipta, dan apakah itu termasuk fair use
    Juga disorot bahwa OpenAI tidak kooperatif selama proses gugatan
  • Klaim bahwa “NYT tidak bisa membuktikan kerugian” dibantah sebagai salah, dan disuruh membaca gugatan (complaint) yang sebenarnya
    PDF gugatan NYT
  • Ada yang menilai pertarungan ini pada akhirnya akan menguntungkan Tiongkok dan model open source
    Pihak yang bisa mengabaikan hak cipta akan memperoleh keunggulan kompetitif
  • Sebenarnya sebagian besar syarat layanan sudah menyatakan bahwa log bisa diserahkan jika ada perintah pengadilan
    Hanya saja kebanyakan orang tidak pernah membacanya
• Belakangan ini tampaknya sedang tren bagi perusahaan untuk menulis surat terbuka kepada pelanggan demi membentuk opini publik
  ESPN vs YouTube, kali ini OpenAI vs NYT
  Saya tidak ingin mendukung keduanya. Namun jika OpenAI memang benar-benar tidak mengeluarkan kalimat NYT secara verbatim, seharusnya tidak ada alasan untuk takut diverifikasi
  Saya mengusulkan verifikasi oleh pihak ketiga yang netral — pihak ketiga membandingkan artikel NYT dan log ChatGPT, sementara kedua pihak tidak melihat data asli secara langsung
  • Tetapi secara realistis, mustahil menemukan lembaga yang sepenuhnya netral
    Pada akhirnya masing-masing pihak hanya bisa menghadirkan ahli dan bertarung soal kredibilitas di pengadilan
  • Ada juga yang sinis bahwa kedua organisasi sama-sama berada di bawah kepemimpinan otoriter, jadi biarkan saja mereka bertarung
• OpenAI bermula sebagai organisasi nirlaba, tetapi sekarang dianggap melakukan perang PR (spin) yang benar-benar menyimpang
• Seperti saat Google bicara soal privasi, klaim OpenAI juga sama sekali tidak terasa tulus
  Meski begitu, saya berharap kasus ini membuat orang sadar akan bahaya membagikan terlalu banyak data pribadi
  • Slogan “data Anda adalah milik Anda” terasa seperti propaganda
    Pada kenyataannya, sesuai syarat layanan, OpenAI memiliki dan memanfaatkan data tersebut
    Komunikasi yang terkesan mendistorsi niat NYT juga sulit dipercaya
  • Situasi ini terjadi karena OpenAI mengikis data dari seluruh dunia tanpa pandang bulu
    Saya rasa mereka menuai akibat dari perbuatannya sendiri
  • Ironisnya, Google dulu pernah menyadari masalah riwayat lokasi (Local Timeline) dan mengubahnya menjadi penyimpanan lokal
    OpenAI sama sekali tidak menunjukkan tanggung jawab seperti itu
  • Bahkan ada yang sampai berkata bahwa dunia akan lebih baik jika OpenAI bangkrut
• Saya tidak mengerti mengapa OpenAI di pengadilan berkata, “kami tidak tertarik pada data pengguna”
  Kalau begitu, mengapa sekarang privasi dijadikan tameng?
• Begitu mereka berkata “gugatan ini tidak berdasar”, tingkat kepercayaannya langsung turun
  Klaim seperti itu biasanya tanda sikap defensif
• Ironisnya, OpenAI sejak awal adalah perusahaan yang mengais data pribadi untuk melatih model
  Jadi terasa kontradiktif jika sekarang mereka khawatir soal privasi
• Saya penasaran mengapa OpenAI tidak menerapkan enkripsi (encryption) saat menyimpan percakapan
  Secara teknis tampaknya memungkinkan, tetapi mungkin mereka memilih penyimpanan plaintext untuk analisis internal
  Jika karyawan bisa mengaksesnya, itu terasa lebih tidak nyaman daripada dilihat pengacara NYT
  Saya menganggapnya tidak berbeda dari penyidik yang membuka dan membaca surat karena perintah pengadilan
  • Namun pada praktiknya, kemungkinan sistemnya tidak memasukkan ulang seluruh percakapan ke model pada setiap permintaan, melainkan melanjutkannya secara efisien dengan sistem cache K-V
  • Lagi pula, meskipun dienkripsi, jika kuncinya dipegang OpenAI maka perintah pengadilan tetap tidak bisa dihindari