Meta menghentikan program pelacakan karyawan setelah kebocoran data internal

 (wired.com)
1 poin oleh GN⁺ 5 jam lalu | 1 komentar | Bagikan ke WhatsApp
  • Meta menghentikan sementara Model Compatibility Initiative (MCI) setelah data yang dikumpulkan dari input komputer karyawan terekspos secara berlebihan di dalam perusahaan
  • MCI diperkenalkan pada bulan April untuk karyawan AS, dan memicu penolakan karena mengumpulkan informasi seperti pergerakan mouse, posisi klik, input keyboard, dan isi layar
  • Pihak manajemen menilai data karyawan diperlukan agar AI bisa mempelajari cara manusia menggunakan perangkat lunak, tetapi kekhawatiran soal privasi dan keamanan berujung pada masalah paparan internal yang nyata
  • Stephane Kasriel memberi tahu karyawan bahwa masalah keamanan yang ditemukan pada 18 Juni ditangani dalam 4 jam, tetapi karena perbaikan awal tidak bertahan, akses data dibatasi lebih lanjut
  • Meta menjelaskan bahwa MCI hanya akan dilanjutkan kembali jika mereka yakin kontrol perlindungan data bekerja efektif, dan bahwa data untuk menilai nilai jangka panjangnya sudah cukup terkumpul

Penghentian MCI dan paparan data internal

  • Meta menghentikan sementara program pelacakan karyawan MCI
  • Penghentian dilakukan setelah data yang berpotensi sensitif dan dikumpulkan lewat MCI terekspos ke karyawan lain di dalam perusahaan
  • Juru bicara Meta Tracy Clayton menjelaskan bahwa program ini dirancang dengan perlindungan privasi, dan meski saat ini tidak ada indikasi karyawan Meta mengakses data secara tidak semestinya, program dihentikan selama investigasi berlangsung

Data yang dikumpulkan dan penolakan karyawan

  • MCI adalah alat yang diluncurkan untuk karyawan AS pada bulan April
  • Data yang dikumpulkan, sebagaimana disorot karyawan dalam petisi penolakan, meliputi:
    • pergerakan mouse
    • posisi klik
    • input keyboard
    • isi layar
  • Saat pertama dirilis, karyawan tidak bisa melakukan opt-out dari MCI, tetapi setelah protes aturan itu diubah secara terbatas
  • Karyawan telah mengkhawatirkan bahwa MCI dapat melanggar privasi, keamanan, dan kebebasan pribadi

Alasan Meta mendorong MCI

  • Manajemen Meta berulang kali membela pengumpulan data MCI sebagai hal yang diperlukan untuk melatih sistem AI
  • Tujuannya adalah agar AI mempelajari cara manusia mengoperasikan perangkat lunak komputer
  • Manajemen menilai karyawan adalah contoh terbaik yang bisa dipelajari AI

Pemberitahuan keamanan internal dan reaksi karyawan

  • Pada hari Senin, seorang insinyur Meta memberi tahu dalam pengumuman keamanan internal bahwa basis data berisi informasi yang dikumpulkan MCI terekspos ke siapa pun di dalam perusahaan
  • Seorang mantan karyawan yang pernah terlibat dalam aktivitas penolakan terhadap MCI menyebut masalah ini sebagai “a mess” dan mengatakan inilah yang sudah diperkirakan karyawan
  • Mantan karyawan itu mengkritik bahwa pimpinan memaksakan program ini meski ada kekhawatiran dari karyawan, dan tidak mengakui risiko terhadap keamanan serta privasi data pekerja dan pelanggan
  • Pada forum internal hari Senin, komentar-komentar kritis mengenai masalah keamanan membanjir, dan setelah itu Meta menghentikan seluruh MCI, langkah yang cukup mengejutkan bagi sebagian karyawan
  • Beberapa karyawan mengatakan mereka bingung karena alat tersebut masih terus berjalan di laptop mereka hingga sebelum pengumuman penghentian

Pemberitahuan Kasriel dan syarat pelanjutan kembali

  • Stephane Kasriel, wakil presiden yang mengawasi riset AI Meta, memberi tahu karyawan tentang penghentian MCI pada Senin malam
  • Menurut Kasriel, masalah keamanan itu ditemukan pada 18 Juni dan ditangani dalam 4 jam
  • Namun, karena perbaikan awal tidak bertahan, akses ke data harus kembali dikunci lebih ketat
  • Masalah ini membuat “sebagian data turunan MCI” dapat diakses oleh lebih banyak orang daripada yang dimaksudkan, tetapi penjelasan rinci tidak diberikan
  • MCI hanya akan diaktifkan kembali ketika Meta yakin akan efektivitas kontrol perlindungan data
  • Meta mengatakan telah mengumpulkan cukup data untuk mengevaluasi nilai jangka panjang MCI, dan akan membagikan lebih banyak informasi tentang masa depan MCI ke depan

Bacaan terkait

1 komentar

 
GN⁺ 5 jam lalu
Komentar Hacker News

  • Meta tetap merupakan perusahaan paling tak tahu malu, dan hampir terasa seperti perusahaan yang memalukan untuk dijadikan tempat bekerja
    Sulit memikirkan satu pun produk mereka yang tidak secara nyata membuat dunia menjadi lebih buruk
    Bahkan ekspansi mereka ke hardware belakangan ini juga menemukan arah seperti pria yang merekam perempuan mabuk dengan Ray-Ban, pengawasan, dan merusak kepercayaan dalam interaksi sehari-hari
    Beberapa kenalan di laboratorium frontier yang lebih “penuh pertimbangan” katanya langsung menyaring pelamar dari Meta hanya karena alasan ini

    • Facebook, misalnya, menghasilkan banyak uang untuk para pemegang saham, dan kita tahu itu sama saja dengan membuat dunia menjadi tempat yang lebih baik
    • Kalau bicara produk yang tidak secara nyata membuat dunia lebih buruk, ada zstd
      Untuk React dan PyTorch, penilaiannya agak terbelah
    • Meta seperti penjara emas untuk remaja yang bahkan tidak bisa tumbuh apa pun yang mereka lakukan. Memalukan
    • Produk Meta memang buruk bagi masyarakat, tapi menurutku perusahaan yang lebih memalukan untuk dijadikan tempat kerja adalah Palantir
    • Facebook pada 2004~2005 benar-benar bagus
      Menyebar seperti api dan sangat menyenangkan dipakai. Itu saat yang ada hanya aku, teman-teman kampusku, dan teman dari teman mereka

  • Kalau bahkan terhadap karyawan yang ingin mereka pertahankan dengan uang pun mereka berani berbuat seperti ini, lalu apa yang akan mereka coba lakukan terhadap data pengguna
    Dan apa lagi yang akan mereka coba lakukan lewat sistem mereka yang terhubung ke sistem pengguna
    “Dumb f*cks” ternyata memang sudah menjadi nada dasar sejak hari pertama perusahaan ini

  • Aku makin yakin kebocoran seperti ini adalah satu-satunya bentuk perlawanan yang efektif terhadap masyarakat pengawasan yang sedang kita masuki
    Meta akan terus seperti ini, perusahaan lain mungkin akan ikut meniru, dan pemerintah akan menambahkan data itu ke map mereka sendiri lewat “proses hukum yang semestinya”
    Perluasan kamera pengawas, pengendalian chat, penghapusan anonimitas, semua itu sedang terjadi secara real-time
    Ketika data seperti ini bocor, semua orang jadi jelas melihat betapa besarnya risiko tanggung jawab yang ditimbulkan. Data eksekutif Meta juga ada di tumpukan itu, dan tentara serta anggota parlemen masuk ke database Flock
    Kira-kira ada berapa senator yang profil preferensi seksualnya sudah dipetakan dengan akurat oleh PornHub
    Tentu kebocoran data seperti ini menimbulkan kerugian. Tapi benarkah kerugian itu lebih besar daripada semua orang diawasi oleh semua orang di mana-mana

    • Saat tidak bocor, kerugiannya justru bisa lebih besar
      Karena data itu bisa dipakai untuk memeras orang yang berkuasa. Bahkan tanpa melakukan hal yang ilegal, ucapan yang kontroversial atau preferensi seksual yang tidak biasa saja bisa cukup untuk menjatuhkan seseorang
      Tentu bisa juga ada hal yang ilegal, dan bahkan kalau tidak ada unsur ilegal sama sekali pun, itu mungkin sudah cukup untuk membangun penyidikan lewat parallel construction

  • Kalau membaca artikel yang ditautkan, disebutkan bahwa data yang bocor mencakup screenshot yang tampak memperlihatkan percakapan pribadi sebagian karyawan dalam teks biasa serta informasi kinerja
    Menjalankan perekaman layar penuh lalu berharap anonimisasi akan berjalan baik adalah pilihan yang cukup nekat

  • Orang-orang yang berkata “kalau tidak melanggar aturan, tidak ada yang perlu ditakuti” perlu memikirkan bahwa sebagian besar perusahaan menganggap bekerja persis sesuai aturan sebagai semacam bentuk protes
    Bahkan jika Anda hanya mengikuti aturan apa adanya, pengawasan ini tetap akan dipakai untuk mengidentifikasi dan menghukum Anda

  • Sistem itu tampaknya akan jadi mimpi buruk dalam proses discovery

    • Justru terdengar seperti ide yang bagus
      Aku penasaran apakah mereka sudah memikirkan itu dan mengecualikan dari pengawasan pekerjaan yang paling mungkin menghasilkan “bukti penentu”

  • Perusahaan sampah ini sedang masuk ke spiral kematian

    • Sayangnya, berkat cadangan kas mereka dan Facebook sebagai angsa bertelur emas, mereka masih akan bertahan cukup lama

  • Mereka hanya menghentikannya sementara, dan jelas berniat menyalakannya lagi
    Aku tidak tahu kenapa komentar ini di-downvote. Artikel itu secara harfiah memang mengatakan begini
    “We will only re-enable MCI when we are confident in the effectiveness of our data protection controls,” Kasriel said.

  • Sepertinya Meta benar-benar membayar sangat mahal

  • Mungkin utilitas itu ditulis dengan AI. AI yang gagal menjaga keamanan dengan baik bukanlah hal yang terlalu mengejutkan