Pesan error pengenalan wajah di mesin penjual otomatis University of Waterloo picu kekhawatiran privasi

• Munculnya error aplikasi pengenalan wajah pada mesin penjual otomatis pintar di kampus University of Waterloo memicu kekhawatiran mahasiswa bahwa deteksi biometrik dan demografis mungkin dilakukan tanpa pemberitahuan
• Perangkat yang dipermasalahkan adalah mesin penjual cokelat dan permen berdesain M&M, yang dipasang di beberapa lokasi kampus seperti gedung Modern Languages dan Hagey Hall
• Setelah foto error tersebut menyebar secara online, mahasiswa mulai menganggap lubang kecil pada mesin sebagai kamera atau sensor dan menutupinya dengan sticky tack, permen karet, Post-it, dan lain-lain
• Penyedia layanan pasokan Adaria membantah memiliki atau memproduksi perangkat tersebut maupun memiliki akses ke data, sementara produsen Invenda menyatakan perangkat lunaknya hanya melakukan pemrosesan lokal dan tidak menyimpan atau mengirim gambar maupun informasi pengenal pribadi
• University of Waterloo meminta agar mesin penjual otomatis tersebut segera mungkin dipindahkan, dan sampai saat itu perangkat lunak terkait dinonaktifkan

---

Kontroversi mesin penjual otomatis kampus yang terungkap lewat pesan error

• Mesin penjual otomatis pintar di University of Waterloo akan dihapus dari kampus setelah muncul kekhawatiran privasi dari mahasiswa
• Mesin tersebut menampilkan gambar M&M dan menjual cokelat serta permen lainnya
  • Lokasi pemasangannya termasuk gedung Modern Languages dan Hagey Hall
• Pada awal Februari, seorang mahasiswa menemukan pesan error pada mesin penjual otomatis di gedung Modern Languages
  • Pesan itu tampak menunjukkan masalah pada aplikasi pengenalan wajah
  • Mahasiswa tingkat empat River Stanley mengatakan bahwa tanpa error ini, mahasiswa mungkin tidak akan pernah tahu, dan tidak ada peringatan di lokasi

Reaksi mahasiswa dan penyebaran online

• Setelah foto pesan error diunggah ke internet, gambar itu cepat menyebar di kalangan mahasiswa
• Banyak mahasiswa menganggap lubang kecil pada mesin sebagai posisi kamera dan mencoba menutupinya
  • Benda yang digunakan antara lain sticky tack, permen karet, dan Post-it
• Mahasiswa Dilpreet Sandhu mengatakan ia terkejut karena menurutnya mesin penjual otomatis tidak perlu memakai pengenalan wajah
• Sandhu menambahkan bahwa setelah mengetahui hal ini, ia mulai bertanya-tanya apakah teknologi serupa juga digunakan di tempat lain
  • Ia juga mengatakan bahwa pengguna umum di campus university adalah orang dewasa muda berusia akhir belasan hingga awal dua puluhan

Sikap Adaria, MARS, dan Invenda

• Penyedia mesin penjual otomatis Adaria Vending Services Limited menyatakan lewat email bahwa mereka adalah fulfillment service provider
  • Mereka tidak memiliki atau memproduksi perangkat tersebut
  • Mereka tidak dapat mengakses jenis data yang dihasilkan perangkat itu
• Mesin penjual otomatis tersebut dimiliki oleh MARS, dan produsennya adalah Invenda
• MARS tidak menanggapi permintaan komentar dari CTV
• Invenda juga tidak menanggapi permintaan komentar dari CTV, tetapi dalam email kepada Stanley menyatakan bahwa perangkat lunak deteksi demografis di mesin penjual otomatis beroperasi sepenuhnya secara lokal
  • Tidak menyimpan gambar atau informasi pengenal pribadi
  • Tidak mengomunikasikan atau mengirim gambar maupun informasi pengenal pribadi

Penjelasan fitur deteksi di situs web Invenda

• Menurut situs web Invenda, Smart Vending Machines dapat mendeteksi keberadaan seseorang, perkiraan usia, dan gender
• Situs web itu menyatakan perangkat lunaknya memproses peta gambar digital dari sensor optik USB secara lokal dan real-time
  • Data tersebut tidak disimpan pada media penyimpanan permanen
  • Data tersebut tidak dikirim ke cloud melalui internet
• Invenda memberi tahu Stanley bahwa perangkat lunak tersebut mematuhi GDPR, undang-undang perlindungan data pribadi Uni Eropa
• Stanley mempertanyakan apakah teknologi ini legal digunakan di Kanada

Kasus privasi di Kanada dan langkah pihak kampus

• Dalam penyelidikan Komisaris Privasi Federal Kanada pada 2020, ditemukan bahwa kamera tertanam di kios informasi digital milik Cadillac Fairview merekam lebih dari 5 juta gambar pelanggan mal tanpa sepengetahuan atau persetujuan mereka
  • Kios tersebut menggunakan teknologi pengenalan wajah
• Stanley menilai mahasiswa perlu diberi tahu soal kasus yang bisa menjadi pelanggaran aturan privasi jika tidak ada persetujuan yang jelas dan bermakna
• University of Waterloo menyatakan sedang menangani situasi ini
  • Pihak kampus meminta agar mesin penjual otomatis tersebut dihapus dari kampus sesegera mungkin
  • Sementara itu, mereka meminta agar perangkat lunaknya dinonaktifkan
• Stanley mengatakan bahwa jika pihak kampus tidak benar-benar menghapus mesin penjual otomatis itu, ia akan mengajukan pengaduan ke Komisaris Informasi dan Privasi Ontario

[GN⁺]

Opini Hacker News

• Saat mencari brosur vendor, ternyata cukup terang-terangan dijelaskan untuk apa mesin penjual otomatis memakai informasi ini
  Mereka mengumpulkan informasi demografis tentang siapa membeli apa, berdasarkan gender, usia, dan sebagainya, lalu menggunakannya untuk penargetan iklan. Disebutkan juga bahwa informasi itu dipakai bersama “broker media mitra”
  Mereka juga membanggakan bahwa jika pengguna memasang aplikasi, penjualan bisa meningkat lewat “gamifikasi”: https://a.storyblok.com/f/184550/x/e7435c019e/brochure-svm_g...

  • Mesin penjual otomatis yang tertutup layar besar melambangkan semua hal yang saya benci dari teknologi modern
    Dari sudut pandang pembeli, tidak ada yang menjadi lebih baik. Kita tidak bisa melihat seluruh stok sekaligus, tidak tahu berapa yang tersisa, dan mesinnya pun tidak bisa mengetahuinya dengan andal. Semua interaksi lambat, dan sebagai gantinya kita mendapat iklan serta mini-game
    Sudah larut malam, saya lapar, kereta berangkat 2 menit lagi, dan saya cuma ingin membeli satu Snickers. Perusahaan-perusahaan seperti ini nyaris seperti membawa mudarat
  • Brosurnya luar biasa. Poin penjualan favorit saya adalah bagian bahwa mereka bisa menampilkan dan menjual produk yang sebenarnya tidak ada di dalam mesin, lalu memberi pelanggan IOU digital alih-alih minuman

    "Customizable UI design - Product selection can be extended to include products not physically in the machine. Consumers can store them in Invenda Wallet [a mobile app] and redeem them somewhere else."
    Pembelian impulsif yang seharusnya berbasis kemudahan malah diubah menjadi pekerjaan tambahan yang harus ditagih lagi nanti
    Pada akhirnya sepertinya memang ada sudut bisnis yang belum saya pahami. Kalau tidak, fitur seperti ini tidak mungkin benar-benar menaikkan penjualan. Saya penasaran apakah mereka ingin menjual barang digital, atau ingin mendorong kunjungan ke toko sekitar dengan kupon digital tertarget. Saya juga penasaran apakah ada orang yang benar-benar pernah melihatnya

  • Deteksi gender dengan pengenalan wajah di kampus universitas Amerika abad ke-21; kira-kira apa yang bisa salah sampai memicu ledakan besar di media?
  • Di Jepang, sejak 2010 mesin penjual otomatis dengan pengenalan wajah sudah digunakan untuk rekomendasi produk dan pengumpulan statistik: https://www.youtube.com/watch?v=S2hwnGrn3go
  • Bahkan untuk membeli satu Mars bar saja, dunia berusaha mengirimiku iklan tertarget

• Saya rasa ini sungguhan, tapi untuk lucu-lucuan saya juga bisa membayangkan ada orang yang sedang iseng. Judul kotak dialog maupun nama aplikasinya tampak seperti sengaja dibuat begitu
  Pada akhir 2000-an, perusahaan tempat saya bekerja pindah ke kantor yang punya urinal otomatis; saat itu benda seperti itu cukup baru. Ada perangkat plastik hitam doff dengan tuas flush, serta jendela mengilap dari plastik gelap yang tembus inframerah
  Jelas itu sensor kedekatan untuk flush otomatis, tapi seseorang menempelkan tulisan seperti pengumuman resmi, “Jangan sentuh kamera”, dan berhasil membuat beberapa orang benar-benar gelisah

• Melihat frasa di situs web mereka, “memproses secara lokal secara real-time peta gambar digital yang diturunkan dari USB optical sensor”, saya curiga USB optical sensor sebenarnya berarti kamera tersembunyi, dan “digital image maps” berarti gambar dari kamera itu
  Kalau begitu, sisa kalimat bahwa mereka “tidak menyimpan data itu ke media penyimpanan permanen atau mengirimkannya ke cloud melalui internet” juga bisa jadi ungkapan yang menyisakan celah

  • Mungkin itu semacam sensor Face ID milik Apple. Dalam arti ketat, itu memang “kamera”, tapi alih-alih mengambil foto, perangkat itu menangkap peta kedalaman
    Saya bisa percaya jika mereka mengatakan tidak mengirim gambar atau peta kedalaman mentah ke internet. Ukuran datanya juga besar, dan saya tidak langsung bisa membayangkan kegunaan data mentah seperti itu
    Namun upaya mengaitkan informasi demografis, bahkan mungkin pengguna individual, dengan pola pembelian tertentu tampak hampir pasti

• Pada 2018, Renesas mengadakan kontes “Facial Expression Kit Giveaway” dan saya menerima salah satunya. Namanya “RZ Omron Facial Expression Kit giveaway”, dan RZ waktu itu adalah salah satu lini mikrokontroler yang relatif baru
  Untuk menerima hadiahnya, saya harus menandatangani pernyataan, dan saya memang menandatanganinya, tetapi akhirnya tidak saya pakai dan kemudian berpindah tangan di Hamfest lokal. Kode contohnya adalah mesin penjual otomatis
  Materi terkait yang bisa saya temukan hari ini hanya sekitar ini: “OMRON Develops Real-Time Facial Expression Estimation Technology” https://www.omron.com/media/press/2012/10/e1023.html

• Mesin penjual otomatis di tempat kerja saya meminta kami memasukkan empat digit terakhir SSN. Saya sangat membencinya

  • Tolong jelaskan seperti kepada anak lima tahun

• Apakah pengenalan wajah belum tersebar luas di AS?
  Di Inggris, ini sudah dipakai di mana-mana. Ada di sebagian besar toko dan sistem kasir, digunakan juga di CCTV nasional, dan polisi memakainya untuk mengidentifikasi pengunjuk rasa. Sekolah-sekolah di wilayah tempat saya tinggal bahkan memasang spyware di ponsel anak-anak untuk memantau anak-anak dan keluarga mereka
  Di sini saya sulit membayangkan masih ada orang yang peduli kalau mesin penjual otomatis mengidentifikasi saya. Apa risikonya?

  • Ini bukan orang dewasa menyebalkan yang meneriaki orang lewat tentang apa yang kamu beli
    Ini adalah alat pengumpul untuk menjual iklan dengan lebih baik, menghimpun informasi yang bisa menyebar ke seluruh dunia
    Bisa saja dibuat kategori seperti apakah kamu membeli minuman bersoda setiap Jumat pukul 05.00. Semacam “tukang pesta”. Atau mungkin tidak, tapi sulit dipercaya mereka mengeluarkan biaya tambahan untuk software dan kamera karena benar-benar ingin rugi
  • Saya tahu Inggris memburuk dengan cepat karena omong kosong negara pengawas, tapi apakah sudah sejauh itu?
    Saya jadi makin menghormati orang-orang yang mempertaruhkan nyawa demi kepentingan publik untuk merusak dan menyingkirkan kamera pengawas pemerintah
  • Risikonya adalah banyak potongan kecil informasi yang dikumpulkan teknologi seperti ini jatuh ke tangan diktator genosidal berikutnya. Saya penasaran indikator apa yang akan mereka pakai untuk melakukan pembersihan
  • Uni Eropa meloloskan GDPR beberapa tahun lalu, jadi saya tidak mengerti bagaimana Inggris bisa berada dalam kondisi seperti ini

• Hal-hal seperti ini benar-benar bikin kesal, tetapi akhir artikelnya tidak seputus asa yang dibayangkan. Senang melihat mahasiswa melawan dari akar rumput, universitas kemungkinan mengambil tindakan, dan orang-orang merasa bisa melakukan sesuatu di bawah hukum
  Kita harus terus mendorong agar hal semacam ini makin tidak dinormalisasi, dan hukumannya juga harus makin berat. Dengan begitu orang-orang akan merasa lebih berdaya dan berani melawan
  Hukum juga harus memperjelas bahwa kita punya hak untuk “merusak” perangkat seperti ini. Secara pribadi, menurut saya tindakan menghancurkan benda seperti ini dengan tongkat bisbol setidaknya harus bisa dibela di pengadilan

• Saya penasaran di mana batas ketika orang merasa suatu bentuk pelacakan itu “boleh” dan pelacakan lain “tidak boleh”
  Di sini, tampaknya hampir semua mahasiswa membenci pengenalan wajah. Sebaliknya, saya juga sering melihat orang berkata mereka tidak peduli dengan pelacakan online
  Mungkin orang jadi lebih sensitif ketika pelacakan masuk ke dunia nyata dan terasa lebih “nyata”

  • Ada yang namanya persetujuan implisit. Saat membuat akun Gmail, kita tahu Google bisa mengakses semua email kita. Kita juga cukup tahu bahwa jika memakai Gmail, Google membuat profil iklan tentang kita, dan dalam arti tertentu kita menyetujuinya secara implisit
    Namun jika ternyata mereka mengumpulkan PDF hasil tes darah yang dikirim dokter dan menjualnya ke perusahaan asuransi, itu secara objektif sudah berada di luar lingkup persetujuan yang wajar
    Dalam konteks menjual M&M, ambang pengumpulan data yang saya anggap dapat diterima sangat rendah
  • Saya tidak terlalu mempermasalahkan penargetan online. Jika iklan “smoothie acai berry” berubah menjadi iklan “liburan pantai”, berarti dari sesuatu yang tidak saya minati menjadi sesuatu yang saya minati, sehingga pengalamannya membaik. Saya juga memahami syarat pertukarannya saat memakai produk gratis seperti Google Maps atau Facebook
    Namun dalam kasus ini, perusahaan mesin penjual otomatis atau salah satu bagian dari jaringan distribusinya memakainya untuk menampilkan iklan berbasis demografi kepada pelanggan mesin penjual otomatis. Saya tetap harus membayar harga produknya, dan ini juga bukan sekadar mengganti iklan non-tertarget yang sudah ada menjadi iklan tertarget. Sejak awal memang tidak ada iklan
    Mereka juga tidak mungkin mengembalikan sebagian pendapatan iklan kepada saya, dan kemungkinan besar mesin penjual otomatis di sekitar dimiliki perusahaan yang sama, jadi tidak ada persaingan. Pada akhirnya ini hanya sumber pendapatan tambahan bagi perusahaan, tanpa manfaat apa pun bagi pengguna

• Ke mana perginya para vandal yang dibutuhkan pada saat seperti ini?

• Sedikit lem instan saja sudah cukup menyelesaikan masalah ini