FTC menyatakan OkCupid memberikan 3 juta foto aplikasi kencan kepada perusahaan pengenal wajah

• FTC menyatakan bahwa OkCupid memberikan sekitar 3 juta foto pengguna kepada perusahaan pengenal wajah Clarifai, dan menyoroti adanya klaim palsu terkait cara data tersebut digunakan
• Clarifai pada 2014 mengirim email kepada salah satu pendiri OkCupid untuk meminta akses ke data foto skala besar, dan para pendiri OkCupid juga merupakan investor di Clarifai
• Operator OkCupid, Humor Rainbow, menyerahkan data demografis dan lokasi bersama foto-foto itu kepada Clarifai tanpa kontrak resmi
• Clarifai menggunakan data tersebut untuk mengembangkan layanan yang mengidentifikasi usia, jenis kelamin, dan ras dari wajah, dan CEO-nya menyebut teknologi itu bisa dijual kepada pemerintah, militer, dan lembaga kepolisian
• FTC mengumumkan bahwa OkCupid dan induknya, Match, telah mencapai penyelesaian tanpa denda, sementara rincian syarat penyelesaian tidak diungkapkan

---

Penyelidikan FTC atas pembagian foto pengguna OkCupid

• FTC (Federal Trade Commission AS) mengumumkan bahwa OkCupid memberikan sekitar 3 juta foto pengguna aplikasi kencan kepada perusahaan pengenal wajah Clarifai
  • OkCupid tetap beroperasi dengan nama badan hukum Humor Rainbow setelah diakuisisi oleh Match.com pada 2011
  • FTC menyatakan bahwa OkCupid membuat klaim palsu dan menyesatkan tentang cara data pelanggan digunakan
• Latar hubungan dengan Clarifai bermula pada 2014
  • CEO Clarifai mengirim email kepada salah satu pendiri OkCupid untuk meminta akses ke dataset besar foto pengguna
  • Para pendiri OkCupid merupakan investor finansial di Clarifai
  • Humor Rainbow memberikan sekitar 3 juta foto pengguna beserta data demografis dan lokasi kepada Clarifai tanpa kontrak resmi

• Pemanfaatan data oleh Clarifai

  • Clarifai menggunakan gambar OkCupid untuk membangun layanan yang mengidentifikasi usia, jenis kelamin, dan ras dari wajah
  • CEO Clarifai, Zeiler, menyebut teknologi ini dapat dijual kepada pemerintah asing, militer, dan lembaga kepolisian

• Pernyataan dari pihak OkCupid

  • Seorang juru bicara menjelaskan bahwa pada 2014 Clarifai mengusulkan kerja sama untuk mengembangkan AI yang tidak bias dan teknologi pengenal wajah, tetapi tidak ada kontrak komersial yang ditandatangani dan kini tidak ada hubungan lagi
  • OkCupid tidak menyebutkan apakah Clarifai mengakses foto OkCupid tanpa izin
  • Menurut dokumen FTC, Humor Rainbow menjawab pertanyaan pengguna dengan mengatakan bahwa “anggapan bahwa OkCupid memberikan informasi kepada perusahaan tersebut adalah tidak benar”

• Isi penyelesaian FTC

  • FTC mengumumkan bahwa OkCupid dan Match telah mencapai penyelesaian tanpa denda finansial
  • Rincian syarat penyelesaian tercantum dalam dokumen FTC, tetapi tidak ada penjelasan tambahan dalam artikel

[runableapp]

Rasanya praktik ini sudah begitu merajalela sampai-sampai sulit membayangkan ada produk atau perusahaan yang tidak memonetisasi data pengguna.

Sepertinya Gmail yang paling banyak dipakai justru yang paling berbahaya. Karena ini organisasi raksasa yang bahkan tidak perlu menjualnya ke pihak ketiga, jadi mungkin tidak akan pernah muncul dalam berita seperti ini.

[GN⁺]

Komentar Hacker News

• Saat ini, hampir semua layanan online harus dianggap sebagai pihak yang berpotensi bermusuhan
  Jika ada keuntungan sekecil apa pun, kemungkinan besar mereka akan menjual data pribadi atau perhatian pengguna
  Tentu ada pengecualian, tetapi bersikap hati-hati pun kadang terasa berlebihan
  Meski begitu, kenyataannya sekarang hampir tidak ada alternatif

  • Dengan perlombaan pelatihan LLM belakangan ini ditambah tekanan pemerintah untuk verifikasi identitas, anonimitas sedang menghilang
    Ini masa yang suram bagi orang-orang yang mengutamakan kedaulatan digital
  • Saranku sederhana — hapus semua akun yang pernah dibuat sampai sekarang
    Seiring waktu, peluang kebocoran data mendekati 100%
    Cloud perusahaan adalah ruang yang berbahaya, dan membangun budaya di atasnya berarti berdiri di fondasi yang rapuh
  • Sudah lama aku penasaran dengan skala pasar aplikasi yang berfokus pada privasi
    Jika ada cukup banyak aplikasi yang tidak ingin menguasai dunia dan tidak menjual data pengguna,
    rasanya mungkin membangun layanan tepercaya yang berjalan di server murah
    Kadang aku juga bertanya-tanya apakah aku terlalu idealis
  • Aku menyarankan untuk ikut serta di komunitas teknologi tepercaya trustworthy.technology
  • Ungkapan “semua layanan online” perlu diberi syarat
    Khususnya jika modelnya gratis (free/freemium), atau berupa kotak hitam yang membuat pelanggan tidak bisa keluar, maka perlu waspada
    Budaya yang mengabaikan layanan berbayar berbasis FOSS juga merupakan masalah

• “Hukuman karena melanggar hukum ternyata cuma janji bahwa ke depannya akan mematuhi hukum”
  Bentuk penyelesaian FTC seperti ini pada dasarnya sama saja dengan tanpa sanksi

  • Tapi kali ini katanya janjinya permanen, cuma bisa tertawa
  • Aku juga berpikir begitu, ini benar-benar hukuman yang terasa seperti lelucon

• Kalau harus memilih satu saja sarana verifikasi identitas, menarik untuk tahu orang akan memilih yang mana

  • Pembayaran kartu kredit (tidak termasuk kartu prabayar)
  • Foto kartu identitas atau paspor yang diterbitkan pemerintah
  • Rekaman video secara langsung

• Kasus ini mengingatkanku pada penjualan data DNA 23andMe
  Artikel terkait: liputan NPR

  • Yang itu adalah cerita tentang 23andMe menjual data kepada dirinya sendiri
  • Dulu pernah ada peringatan bahwa 23andMe hampir bangkrut dan datanya akan dijual
    Orang-orang mengabaikannya dengan berkata “kebijakan privasi akan melindungi kita”
    Tetapi kebijakan privasi tidak mengikat secara hukum, dan bisa berubah kapan saja
    Pada akhirnya perusahaan bisa menjual data jika mereka mau
  • Namun pada kenyataannya, penjualan itu pada akhirnya tidak terjadi

• Sepertinya para pengacara di seluruh Chicago sedang membuka sampanye
  Hukum terkait: Biometric Information Privacy Act

  • Dendanya 1.000 dolar per pelanggaran, atau 5.000 dolar jika disengaja atau karena kelalaian berat
    Bagian pentingnya adalah “per pelanggaran” — jumlahnya bisa menjadi sangat besar

• Kejadian ini berasal dari tahun 2014
  Sulit membayangkan apakah karyawan atau pemegang saham saat itu masih ada sekarang
  Jika orang yang berbuat salah sudah pergi, aku tidak tahu apa makna menghukum perusahaan

  • Pada kenyataannya mereka hanya “berjanji akan mematuhi hukum” dan tidak ada denda
    Menurut dokumen penyelesaian dengan FTC, OkCupid dan Match tidak mengakui maupun membantah tuduhan tersebut

• Kemungkinan besar OkCupid tidak “memberikan” foto-foto itu kepada perusahaan pengenal wajah, melainkan menjualnya
  Karena satu-satunya aset mereka adalah foto pengguna dan data PII

  • Menurut artikel, CEO Clarifai mengirim email langsung kepada pendiri OkCupid
    untuk meminta akses ke data foto dalam jumlah besar dengan alasan hubungan investasi
    Tidak ada kontrak resmi, tetapi hal itu dimungkinkan karena para pendiri berinvestasi di Clarifai
  • Dari isi artikelnya, ada juga pendapat bahwa ini bukan sekadar “memberikan”
  • Karena anggota dewan OkCupid menjalankan Clarifai, besar kemungkinan data itu diserahkan secara internal

• OkCupid dan Match menutup kasus ini tanpa denda finansial

• Dalam pasar bebas, perusahaan yang memaksimalkan keuntungan punya keunggulan untuk bertahan hidup
  Seiring waktu, hanya perusahaan seperti itu yang tersisa, dan yang lain tersingkir
  Satu-satunya kekuatan yang bisa menahan ini adalah regulasi, tetapi AS memuja deregulasi, maka keluarlah hasil seperti ini

  • Namun “memberikan data secara cuma-cuma” tidak cocok dengan logika itu
    Meski tidak ada uang yang berpindah tangan, perusahaan tetap bisa memperoleh keuntungan melalui data