- Meta memperkecil rencananya untuk memakai ketikan keyboard dan klik mouse karyawan guna melatih model AI, serta menambahkan kontrol untuk menghentikan pengumpulan data hingga maksimal 30 menit sekali jalan
- Kontrol baru ini memungkinkan karyawan menjeda pengumpulan data MCI atau meminta pengecualian penuh, sementara Meta menolak memberikan komentar resmi
- Penolakan karyawan telah berlangsung selama beberapa minggu, dan petisi yang menentang penerapan pelacakan ini telah mengumpulkan lebih dari 1.500 tanda tangan
- Meta menyatakan bahwa untuk membuat agen yang membantu tugas sehari-hari di komputer, dibutuhkan contoh penggunaan nyata, dan data tersebut tidak dipakai untuk tujuan lain serta memiliki perlindungan untuk konten sensitif
- Memo internal mengakui kekhawatiran karyawan soal data pribadi, daya tahan baterai, dan kontrol atas waktu pengambilan tangkapan, serta menyebut tim MCI telah menerapkan optimasi untuk mengurangi dampak pada baterai laptop
Meta memperkecil rencana pelacakan aktivitas karyawan
Meta pada hari Selasa melalui memo internal memperkecil rencana pelacakan aktivitas komputer karyawan. Rencana ini terkait alat yang mencatat ketikan keyboard dan klik mouse karyawan untuk dipakai melatih model AI.
Menurut Reuters, kontrol baru ini memungkinkan karyawan menghentikan pengumpulan data “hingga 30 menit sekaligus”, dan juga meminta dikecualikan sepenuhnya dari program ini. Meta menolak memberikan komentar resmi.
Model Capability Initiative dan penolakan
Nama alat ini adalah Model Capability Initiative (MCI). Saat pengumuman awal, Meta menyatakan bahwa “untuk membuat agen yang membantu menyelesaikan tugas sehari-hari dengan menggunakan komputer, model membutuhkan contoh nyata yang menunjukkan bagaimana orang benar-benar menggunakan komputer.”
Meta menambahkan bahwa data tersebut “tidak digunakan untuk tujuan lain”, dan alat itu memiliki “pengaman untuk melindungi konten sensitif.”
Penolakan dari karyawan telah berlangsung selama beberapa minggu, dan sebagian karyawan memulai petisi yang menentang langkah tersebut. Petisi itu kini telah mengumpulkan lebih dari 1.500 tanda tangan.
Kekhawatiran yang diajukan karyawan
Seorang karyawan Meta mengatakan bahwa situasi di mana perilakunya dipakai untuk melatih model AI terasa “sangat distopia.” Para karyawan saat itu juga tengah memperkirakan akan ada pemutusan hubungan kerja tambahan.
Meta telah memberhentikan sekitar 2.000 orang tahun ini. Pada April, perusahaan juga memberi tahu karyawan bahwa mereka berencana memangkas 10% dari total tenaga kerja, sekitar 8.000 orang.
Orang lain yang baru-baru ini meninggalkan Meta menyebut alat pelacakan itu sebagai “cara terbaru untuk memaksakan AI kepada semua orang.”
Penyesuaian dalam memo internal
Memo internal yang dilihat Reuters dilaporkan ditulis oleh Stephane Kasriel, wakil presiden divisi Meta Superintelligence Labs.
Kasriel mengatakan tim MCI telah menerapkan “berbagai optimasi” untuk mengurangi dampaknya terhadap daya tahan baterai laptop. Perubahan ini muncul setelah karyawan melaporkan bahwa alat tersebut membuat penggunaan data meningkat tajam dan pemakaian internet bertambah saat bekerja dari rumah.
Dalam memo itu, Kasriel mengatakan bahwa ia tetap yakin pada langkah-langkah perlindungan privasi yang telah melalui beberapa tahap peninjauan risiko saat peluncuran, tetapi ia juga mendengar kekhawatiran yang menginginkan kontrol lebih besar atas data pribadi di perangkat kerja, daya tahan baterai, dan waktu pengambilan tangkapan.
1 komentar
Komentar Hacker News
Ini mengingatkanku pada bagian luar biasa di Snow Crash yang menggambarkan pekerjaan di “Fed Land”
Ibu Y.T. membuka memo baru dan mulai membacanya, dengan perkiraan waktu baca 15,62 menit. Nanti manajer akan melihat berapa lama tiap karyawan menghabiskan waktu untuk membaca memo itu; jika kurang dari 10 menit akan kena konseling sikap, 10–14 menit dianggap berpotensi tidak sungguh-sungguh, tepat 15,62 menit berarti “sok pintar” dan juga kena konseling sikap, sedangkan lebih dari 18 menit akan memicu pemeriksaan rekaman keamanan karena dicurigai mengambil istirahat ke toilet tanpa izin atau semacamnya
Ibu Y.T. memutuskan untuk membacanya dalam 14–15 menit, menekan Page Down pada interval tetap dan kadang kembali ke halaman sebelumnya untuk pura-pura membaca ulang. Komputer juga mencatat perilaku seperti ini, menilai membaca ulang sebagai hal yang positif, dan diceritakan bahwa kebiasaan-kebiasaan kecil seperti itu akan terlihat jelas dalam ringkasan kebiasaan kerja setelah sekitar 10 tahun
Seperti komentar di bawah, tidak mungkin tahu pengawasan dilakukan sampai level seperti apa. Kalau ada CEO yang membaca ini, halo
Selalu sulit mengetahui seberapa keras pelacakan yang benar-benar dilakukan, dan para profesional IT juga cenderung tidak banyak membicarakan hal seperti ini
Di AS ada anggapan bahwa jika memakai perangkat yang diberikan perusahaan, semua aktivitas di atasnya bisa diawasi dan dicatat sepenuhnya lalu digunakan merugikan karyawan untuk alasan apa pun. Dalam praktiknya, banyak juga orang yang tidak terlalu khawatir soal sedikit browsing, membaca Hacker News, atau mengurus keperluan pribadi di komputer kerja
Tetapi AI mengubah situasinya secara besar-besaran. Sekarang, atas nama “pelatihan”, robot bisa mengklasifikasikan setiap tindakan kecil dan menelitinya secara rinci, jadi sepertinya kita harus bersiap menghadapi tingkat pelacakan yang benar-benar keras dalam waktu dekat
Di tengah-tengah itu, banyak perusahaan yang hanya mewajibkan keamanan dasar dan menyisakan hak untuk menyelidiki kalau ada masalah. Kalau bicara dengan para pemimpin perusahaan soal ini, meski sulit dipercaya, banyak juga yang dengan tegas menolak metode pelacakan yang paling invasif
Namun, untuk bentuk pengawasan apa pun, kebangkitan AI menjadi peluang berbahaya yang memungkinkan observasi jauh lebih terarah. Tidak perlu lagi manusia meluangkan waktu untuk melihat langsung; cukup suruh AI terus memantau dan mencari hal-hal yang menarik perhatian
Salah satu risiko nyata ketika karyawan biasa mengurus urusan pribadi di komputer kerja adalah ancaman dari orang dalam berupa admin IT jahat yang bisa mengakses perangkat perusahaan tanpa pengawasan memadai
Anehnya, di HN ini cukup kontroversial. Setiap kali kusarankan melakukan itu, banyak respons marah yang aneh, seolah membawa ponsel pribadi ke kantor untuk urusan perbankan atau menulis di HN adalah ketidaknyamanan besar. Sekarang justru jauh lebih mudah memisahkan dua dunia itu dibanding sebelum era smartphone
Tidak ada alasan pemberi kerja tahu urusan pribadi apa yang perlu kuurus di siang hari, dan sebaliknya perusahaan juga pasti tidak akan menyetujui jika aku menangani pekerjaan rahasia di perangkat pribadi, jadi ini menguntungkan kedua belah pihak
Dalam akuntansi, perbankan, perdagangan saham, dan sebagainya, secara teori kita bisa membuat sistem yang mencegah penipuan 100%, tetapi sistem itu akan sangat merepotkan sampai tidak ada yang mau memakainya. Kalau untuk membeli satu taco harus 15 kali pemindaian retina, ambil darah, dan minta pengawas persetujuan bank, jelas tidak akan jalan
Di sini juga sama. Dengan AI dan model bahasa besar, orang bisa mencoba memahami dan mengoptimalkan seberapa banyak seseorang bekerja sampai ke hitungan detik. Amazon sudah melakukan hal seperti ini di gudangnya, dan terus muncul kasus di mana ada pekerja meninggal di lantai kerja sementara orang lain harus tetap bekerja di samping jenazahnya
Untuk mendapatkan orang yang mau bekerja dalam sistem seperti itu, Amazon harus menguras komunitas satu per satu, dan dalam pengungkapan ke SEC mereka menulis bahwa habisnya populasi merupakan ancaman nyata terhadap tenaga kerja
Jadi bahkan bagi perusahaan raksasa yang jahat sekalipun, jumlah pengawasan yang optimal bukanlah 100%. Amazon tampaknya sudah melewati titik seimbang itu dan sedang terdorong kembali ke arah titik optimal. Titik itu mungkin jauh lebih ekstrem daripada yang selama ini kita bayangkan
Perusahaan yang akan sukses dalam 10 tahun ke depan kemungkinan adalah perusahaan yang menghormati martabat dasar karyawannya dan memperlakukan mereka sebagai profesional yang kompeten serta bertanggung jawab. Aku berpikir sama ketika dulu mendengar teman-teman di perusahaan besar memasang penggerak mouse agar perangkat lunak pemantau laptop tetap menganggap mereka aktif saat mereka meninggalkan meja
Ini mirip dengan tes narkoba. Kalau bukan untuk pekerjaan pemerintah atau yang butuh izin keamanan, aku selalu menganggap tes narkoba sebagai sinyal bagus bahwa budaya perusahaan itu tidak menghormati karyawannya dan bahwa industrinya berstatus rendah
Meta sudah menunjukkan dengan sangat jelas ke mana mereka menuju, dan ini terasa mirip seperti mengambil pekerjaan di Cisco tahun 2012. Semoga mereka berhasil merekrut talenta yang dibutuhkan untuk AI dan teknologi baru dari Gen Z yang kini sudah berusia 20-an
Aku paham itu mungkin secara hukum, tetapi aku tidak akan pernah bekerja di tempat seperti itu
Saya memang tidak bekerja di Meta, tetapi saya bertanya-tanya berapa tahun lagi saya masih harus bekerja di industri teknologi. Saya sudah berusia 40-an dan anak-anak saya masih kecil. Saya sudah membuat akun 529 untuk anak-anak dan juga sedang menjalankan renovasi rumah yang mahal.
Setelah itu selesai dan saya punya dana penyangga, mungkin sisa 5–10 tahun masa kerja saya bisa saya habiskan dengan pindah ke industri lain. Penasaran apakah ada orang lain yang punya rencana serupa
Saya sangat, sangat merekomendasikan meninggalkan industri teknologi. Kadar kortisol saya jauh lebih rendah daripada dulu, dan saya tidak perlu lagi menyesuaikan hidup dengan rapat EMEA dan APAC di luar jam kerja normal. Saya hanya bekerja lebih dari 40 jam jika saya memang mau, dan kadang saya memang begitu. Sekarang karena pekerjaannya benar-benar menyenangkan.
Saya bisa membuat perbedaan yang terlihat nyata bagi orang-orang, dan mengerjakan sesuatu yang saya pedulikan. Alih-alih memuaskan investor atau pemodal ventura, kami fokus setiap tahun pada memaksimalkan dampak dan mencapai titik impas.
Ada bagian kompensasi dan tunjangan yang memburuk, tetapi saya tidak terlalu peduli. Pasangan saya punya asuransi kesehatan yang lumayan jadi kami memakai itu, dan selama bekerja di industri teknologi saya sudah melunasi cicilan rumah serta menabung cukup banyak. Saya memang tidak kaya dalam pengertian orang-orang industri teknologi, tetapi kalau mau saya bisa menjual apa yang saya punya dan hidup sangat baik di suatu pantai di Amerika Latin tanpa perlu bekerja lagi.
Saran praktisnya adalah: luangkan waktu untuk menghitung berapa uang yang Anda butuhkan agar bisa berhenti. Saya sudah terbiasa dengan gaji enam digit, tetapi pengeluaran hidup saya sebenarnya tidak pernah melampaui level lima digit, jadi jumlah yang saya butuhkan ternyata jauh lebih kecil dari perkiraan
Kita juga harus bisa mengikat kepemimpinan perusahaan pada semacam kode etik. Saya tidak ingin bekerja di perusahaan yang membuat robot pembunuh atau membalikkan komitmen iklim
Rasa jijik yang terang-terangan terhadap karyawan, dari atas sampai bawah, makin parah dan tidak terlihat ujungnya. Saat usia 50, apakah Anda akan menjadi sasaran penyisiran tahunan terhadap tenaga senior atau tidak, itu nyaris cuma soal keberuntungan.
Sekarang sudah tidak ada lagi alasan untuk pura-pura tidak tahu bagaimana industri ini berjalan. Topengnya sudah terlepas sejak beberapa tahun lalu
Kita benar-benar bisa membuat ponsel dumbphone yang cerdas dan berguna bagi pengguna, TV open-source, model AI lokal, browser yang tidak memata-matai, dan semacamnya
Saya suka membuat perangkat lunak, tetapi saya tidak tahan bekerja di industri ini.
Ini perpaduan yang tidak suci antara budaya perusahaan yang buruk dan prinsip moral yang meragukan
Saya sungguh ingin bertanya kepada siapa pun yang membaca ini sambil bekerja di Meta: bagaimana Anda masih bisa bekerja di perusahaan ini?
Saya benar-benar tidak mengerti kenapa orang tidak keluar saja dari perusahaan setoksik ini lalu pindah ke tempat lain atau memulai usaha sendiri. Biarkan saja Meta mati
Mengejutkan melihat betapa banyak orang yang lebih menghargai uang dalam jumlah besar daripada melakukan hal yang benar. Semua orang yang rela menanggalkan nilai-nilainya demi uang tunai adalah bagian dari masalah. Menjijikkan
Ada juga realitas bahwa orang perlu menghidupi keluarga dan mempersiapkan pensiun. Memang tidak sempurna, tetapi di mana batas sebuah perusahaan disebut toksik? Sejauh mana kompromi bisa diterima ketika ada keuntungan-keuntungan lain? Jawaban atas pertanyaan-pertanyaan ini berbeda bagi setiap orang. Ada orang yang akan bilang bahwa bekerja di industri teknologi sama sekali pun salah karena isu lingkungan.
Secara pribadi saya rasa saya akan dengan senang hati bekerja di Meta. Banyak orang memakai dan menyukai layanan mereka. Mungkin itu bukan pekerjaan terbaik bagi masyarakat, tetapi Netflix, Amazon, dan Apple juga sama
Dengan bekerja di Meta, perusahaan itu sedang mengkhianati Anda. Mereka merekam layar Anda secara terbuka untuk melatih pengganti AI Anda. Bekerja di tempat lain itu mirip seperti Anda mengkhianati Meta.
Jika disederhanakan secara ekstrem, mana yang lebih baik? Dibayar 400 ribu dolar per tahun selama 5 tahun lalu dipecat, sambil menanggung risiko bahwa Anda ikut membantu Meta membangun teknologi pengganti sehingga pekerjaan hampir lenyap? Atau dibayar 200 ribu dolar per tahun sepanjang karier Anda, sementara peluang kerja tidak mengering karena Anda tidak ikut membantu membangun teknologi pengganti itu?
Tentu saya berharap ini contoh yang sangat ekstrem dan jarang terjadi, tetapi ada banyak situasi di mana uang membuat perbedaan yang sangat besar. Juga ada perbedaan besar tergantung apakah dampak keputusan itu hanya ditanggung oleh saya sendiri atau juga oleh orang lain.
Saat memilih posisi seperti ini, implikasi praktis semacam itu juga wajar dipertimbangkan dengan serius
Wawancara Meta umumnya dianggap tidak terlalu sulit, dan ini malah memperparah sindrom penipu. Karena merasa masuknya mudah, muncul kesan bahwa mereka dibayar terlalu tinggi. Sampai-sampai rasanya seperti strategi yang disengaja
Para pegawai yang pekerjaannya melacak semua orang di dunia sekarang ternyata juga dilacak; sulit membayangkan ada hal yang lebih ironis dari ini :)
Perusahaan-perusahaan seperti ini sudah melacak perilaku pengguna sangat banyak, dan sebagian besar di antaranya cukup masuk akal dari sudut pandang keamanan. Jadi saya penasaran, apa lagi yang belum dilacak dan masih bisa bernilai
Sulit membayangkan bagaimana ketukan tombol individual dan gerakan mouse bisa lebih bernilai daripada hasil kerja yang selama ini sudah banyak dilacak dalam satuan nilai yang semestinya
Mungkin saja mereka memang sama sekali tidak peduli kehilangan talenta sungguhan dan justru ingin lebih banyak orang mengundurkan diri
Seluruh MAG-7 tampaknya ingin memindahkan belanja litbang dari gaji ke belanja modal pusat data AI, sampai rela melihat 90% talenta yang menciptakan 99% nilai nyata pergi
Bukan karena mereka bodoh dan tidak tahu apa yang benar-benar terjadi di lapangan. Ini lebih karena kepercayaan diri yang arogan bahwa mereka boleh melakukan apa saja, serta keyakinan bahwa dengan posisi pasar yang mereka miliki, semua orang akan tetap menanggung keputusan mereka betapapun bencananya
Kalau modelnya jelek, mereka bisa melobi parlemen agar model bobot terbuka dinyatakan ilegal; kalau orang tidak suka harganya, pemerintah bisa dipaksa membayar biaya produknya; kalau Tiongkok atau Eropa lebih baik, kompetisi tinggal dilarang atas nama keamanan nasional
Jadi teringat artikel satire The Onion tahun 2015, “HR Director Reminds Employees That Any Crying Done At Office Must Be Work-Related”
Tapi opt-out itu sendiri tentu juga akan dilacak. Kalau dipilih, itu bisa masuk ke penilaian kinerja
Mengingatkan pada adegan O’Brien mematikan telescreen
“Anda...”
“Ya... kami memang diizinkan memiliki hak istimewa itu”
Orang-orang yang membuat kebijakan ini hampir pasti dikecualikan dari penerapannya
Winston bisa tetap berada di luar jangkauan telescreen setidaknya dari sisi pandangan jika ia duduk di ceruk dinding dan bersandar ke belakang. Tentu saja suaranya masih bisa terdengar, tetapi selama tetap di posisinya saat itu, ia tidak akan terlihat. Susunan ruangan yang tidak biasa itulah yang membuatnya terpikir untuk melakukan apa yang hendak ia lakukan sekarang