Mikrofon pendeteksi tembakan Flock kini mulai mendeteksi suara manusia

• Mikrofon pendeteksi baru dari Flock kini menambahkan kemampuan untuk mendengar suara manusia dan sinyal penderitaan
• Perangkat ini sebelumnya digunakan untuk deteksi suara tembakan, tetapi kini juga mulai mencoba mendeteksi situasi darurat warga
• Muncul potensi persoalan hukum seperti pelanggaran privasi dan kontroversi penyadapan ilegal
• Di beberapa kota, sudah ada pemutusan kontrak dengan Flock dan perintah pembongkaran, sementara pemasangan ulang berulang memicu konflik
• Kekhawatiran atas meningkatnya risiko bagi warga tak bersalah dan pelanggaran kebebasan sipil makin besar

---

Mikrofon pendeteksi tembakan Flock menambahkan fungsi deteksi suara manusia

Flock Safety dan pengenalan fitur baru

• Flock Safety adalah perusahaan teknologi kepolisian yang memiliki jaringan automatic license plate reader (ALPR) di seluruh Amerika Serikat
• Produk baru yang diperkenalkan kali ini adalah seri mikrofon Raven, yang diklaim menggunakan deteksi akustik di ruang publik untuk mengidentifikasi sinyal “penderitaan manusia”
• Sebelumnya perangkat ini digunakan untuk mendeteksi suara tembakan dan memberi tahu polisi, tetapi belakangan juga dipromosikan dengan fitur deteksi “situasi darurat (seperti teriakan)”

Ketidakpastian dan kekhawatiran atas fitur baru

• Dalam materi promosi Flock, ditunjukkan bahwa peringatan dikirim ke polisi ketika suara penderitaan seperti “jeritan” terdeteksi
• Namun, metode deteksi dan klasifikasi suara yang sebenarnya tidak dijelaskan dengan jelas, sehingga cara kerjanya tetap tidak transparan
• Sistem deteksi tembakan berbasis akustik yang sudah ada pun kerap salah mendeteksi suara ledakan mobil, kembang api, dan semacamnya
• Ada kemungkinan benturan hukum dengan aturan seperti larangan penyadapan dan perekaman percakapan pribadi (yang dikenal sebagai eavesdropping law)

Masalah hukum dan trial-and-error yang sudah terjadi

• Di Illinois, Flock sebelumnya pernah digugat karena melanggar hukum negara bagian dan membagikan data kendaraan dengan ICE
• Pada 2023, di negara bagian North Carolina, perusahaan ini mengoperasikan perangkat tanpa lisensi, sehingga keluar perintah larangan pemasangan
• Di kota Evanston, bahkan setelah kontrak dengan Flock diputus, perusahaan disebut memasang ulang perangkat secara sepihak, dan perangkat tersebut untuk sementara ditutup dengan pita hitam

Pertanyaan atas efektivitas teknologi

• Menurut laporan dewan pengawas warga di wilayah Illinois, lebih dari 99% peringatan Flock tidak berujung pada tindakan nyata dari polisi
• Risiko terhadap warga tak bersalah akibat polisi merespons peringatan tembakan yang keliru sudah menjadi kenyataan (contoh: kasus ShotSpotter di Chicago)
• Dengan perluasan fitur deteksi penderitaan, ada kemungkinan risiko hukum, hak asasi, dan fisik yang tak terduga ikut meningkat

Ringkasan keseluruhan

• Perluasan teknologi deteksi audio milik Flock Safety menjadi penyebab utama membesarnya pelanggaran privasi yang tidak disengaja dan kontroversi sosial
• Karena isu hukum dan etika, di sejumlah komunitas lokal sedang berlangsung pemutusan kontrak dan pembongkaran perangkat
• Tuntutan akan penjelasan teknis yang jelas dan transparansi atas fitur baru juga semakin meningkat
• Suasana kritik terhadap efektivitas produk dan kontribusinya yang nyata dalam pencegahan kejahatan juga kian meluas

[GN⁺]

Komentar Hacker News

• Sangat menyedihkan melihat bagaimana utilitarianisme yang berpusat pada keuntungan kini menggantikan nilai-nilai Amerika yang lama; di industri teknologi, diskusi tentang nilai atau masyarakat seperti apa yang ingin kita bangun juga hampir lenyap, seolah yang tersisa hanya "sedikit memperbaiki masalah dan menghasilkan uang", dan inilah dunia yang pada akhirnya akan kita hadapi
  • Saya menyebutnya utilitarianisme yang berpusat pada keuntungan, tapi itu pun rasanya terlalu baik; menurut saya ini nyaris seperti korupsi kriminal, perusahaan-perusahaan seperti ini sebenarnya bahkan tidak bisa menghasilkan uang sehingga dipaksa bertahan hidup lewat kontrak pemerintah, dan jika harus bersaing di pasar swasta mereka mungkin bangkrut tahun ini juga, di balik gerakan seperti ini juga ada arah yang sangat jelas, mereka punya visi yang tegas dan siap melakukan apa pun untuk mencapainya, itulah sebabnya saya pikir penegakan hukum antimonopoli itu penting, sekarang perusahaan yang "terlalu besar untuk gagal" sudah jadi keadaan default
  • Ini mengingatkan saya pada contoh 'detektor rokok elektrik' yang dipakai di sekolah, yang bisa diatur untuk mendeteksi kebisingan atau kata-kata tertentu, tetapi kenyataannya mereka mengelak dari isu pelanggaran hukum penyadapan dengan mengatakan bahwa itu hanya pencocokan pola menggunakan audio yang disimpan sebentar di memori
  • Rasanya begitu sesuatu benar-benar diterapkan, tidak ada lagi ruang untuk perdebatan atau diskusi, dan kenyataannya diskusi baru mulai susah payah setelah hasilnya sudah muncul
  • Saya penasaran apakah ada yang sudah membaca <i>The Technological Republic</i>; pendapat yang baru saja disampaikan hampir sama dengan argumen CEO Palantir di buku itu, dia mengatakan bahwa kita perlu mendiskusikan apa itu 'kehidupan yang baik', meski ironisnya dia tampaknya mengambil kesimpulan yang agak berbeda soal pengawasan
• Saya membaca pernyataan di X dari Garry Tan (CEO YC) yang mengatakan, "Anda tampaknya membayangkan pengawasan ala Tiongkok, tetapi pengawasan ala Amerika bisa membantu korban"; saya menghormati Garry, tetapi saya tidak mengerti mengapa dia menganggap garis yang melampaui pokok persoalan ini sebagai garis yang akan disetujui bersama, pada akhirnya semua senjata dipakai untuk menyakiti manusia
  • Selama beberapa tahun saya bekerja sangat keras untuk mencegah Flock diterapkan di komunitas setempat, tetapi opini di dalam komunitas benar-benar terbelah, bahkan meski tempat saya tinggal adalah salah satu dari sedikit yurisdiksi paling progresif di Amerika, perdebatan seputar Flock bukan sekadar soal menarik garis, kenyataannya orang-orang sangat bertentangan soal teknologi ini
  • Saya pernah melihat iklan berlebihan bahwa "Flock Safety menyelesaikan 10% kejahatan nasional"; tidak ada data pendukungnya, saya sendiri juga pernah menerima surat tilang ngebut gara-gara sistem ini jadi saya penasaran apakah itu juga dihitung sebagai kejahatan yang berhasil diselesaikan, memang benar pengawasan bisa membantu korban tetapi pada saat yang sama juga bisa mengancam hak-hak sipil, pada akhirnya kita perlu punya hak untuk menentukan sendiri sejauh mana kebebasan kita akan dikorbankan, entah kenapa rasanya saya terlalu banyak menonton Person of Interest tautan
  • Saya tidak tahu dan tidak peduli siapa Garry, tetapi logika seperti itu cuma sofisme, ini perdebatan yang lahir dari kontradiksi mendasar dalam bisnis yang dia geluti, kalau dia benar-benar bijak seharusnya dia diam saja
  • Tadi saya bilang saya menghormati Garry, tapi makin sulit mempertahankan itu setelah mendengar retorika seperti ini, logika "bom saya hanya membunuh orang jahat" pada dasarnya naif atau jahat
  • Logika ini bisa diterapkan ke dua arah, ada contoh bahwa kebijakan penangkalan nuklir (MAD) justru sangat mengurangi perang dan malah menyelamatkan lebih banyak nyawa, saya mengakui risiko fat tail dari kekerasan, tetapi saya tidak menganggap logika Tan irasional, bahwa masyarakat masih bisa tetap rasional meski diawasi sampai tingkat tertentu juga bisa dilihat dari Inggris yang penuh CCTV
• Seperti ungkapan "hari ini penderitaan manusia, besok seluruh hal tentang manusia", Flock pada akhirnya akan mengawasi segalanya begitu keterbatasan teknisnya teratasi, perusahaan ini hanya mengejar uang dan standar moralnya sudah dimatikan, mereka siap menjual apa pun yang diinginkan polisi dan pemerintah, setiap kali saya melihat berita seperti ini saya selalu menyumbang $20 ke EFF atau ACLU
  • Masalahnya juga bahwa "pemerintah membebani kita lalu pada akhirnya membeli ini dengan uang kita sendiri", biaya itu dipaksakan kepada kita
  • Saya memperkirakan ke depan kita akan mendengar alasan seperti "kalau percakapan biasa disadap, kejahatan serius bisa dicegah", kasus-kasus seperti ini selalu dimulai kecil-kecilan dan bertahap
• Lereng licin menuju neraka sangat curam, dan rasanya zaman yang lebih gelap akan datang; saya ingin bertanya kepada para pembela teknologi, NSA dan Palantir sudah mengawasi kita semua, jadi kenapa tingkat teror acak justru meningkat, bukankah tujuan inti sistem pengawasan seperti ini memang untuk mencegahnya sebelumnya
  • Saya ragu apakah benar "tingkat teror acak meningkat setelah pengawasan NSA dan Palantir"; menurut saya justru dari era 90-an sampai sebelum 2020 kejahatan malah menurun, setelah 2020 dunia berubah begitu banyak sehingga sulit membandingkannya
  • Saya penasaran dengan skenario alternatifnya, selama kita tidak tahu berapa banyak serangan yang berhasil dicegah sebelumnya oleh alat-alat seperti ini, kita juga tidak tahu baseline-nya
  • Harapan atas privasi di ruang publik itu tidak masuk akal, termasuk untuk rekaman video maupun audio
  • Saya juga merasa istilah stochastic terrorism itu sendiri agak aneh, pada dasarnya terorisme memang merupakan kekerasan acak itu sendiri
• Perlu ditegaskan bahwa ini adalah Flock (YC 2017)
  • Sekarang gelombang YC hampir tidak pernah lagi dicantumkan di judul kiriman, kecuali untuk Launch HN
  • Banyak ide yang buruk bagi masyarakat secara keseluruhan tetapi bagus bagi perusahaan, bagi YC bisnis memang selalu yang utama
• Negara pengawasan dalam novel 1984 justru terasa jinak, jika teknologi terus berkembang maka tak lama lagi setiap gerak-gerik semua orang akan diawasi secara real-time, dan sekarang pertanyaan kuncinya adalah siapa yang akan punya akses dan kendali atas data ini
• Menarik juga bahwa jelas ada orang yang benar-benar percaya teknologi seperti ini sama sekali tidak akan disalahgunakan
  • Mereka benar-benar berjanji, mungkin bahkan janji kelingking, (para peretas juga berjanji untuk sama sekali tidak mencuri data)
• Langkah logis berikutnya adalah menggantinya dengan mikrofon di saku yang kita bawa setiap hari tautan YouTube
  • Pada 1960 semua orang bilang usulan "setiap warga membawa pelacak radio" itu mustahil, tetapi pada 2012 kenyataannya jadi "dua iPhone cukup kan?"
• "Sekarang semua orang selalu diawasi dan direkam, jadi semua orang akan selalu berperilaku terbaik" tautan YouTube
• Kita direkam di jalan, di lampu lalu lintas, oleh mobil polisi dan drone, di taman, bahkan oleh kamera bel pintu, saya tidak bermaksud menjadikannya lelucon, tetapi rasanya era layar raksasa 1984 yang mengawasi kita sudah tidak lama lagi
  • Sekarang LLM yang benar-benar hebat sudah muncul sehingga manusia tidak perlu lagi mengawasi atau mendengarkan secara langsung, aliran data bisa dianalisis dan diringkas secara otomatis untuk mendeteksi perilaku atau kata-kata yang tidak diinginkan, tanda-tanda mencurigakan, bahkan delusi, di zaman ketika agen bertopeng menculik warga secara paksa di dalam dan luar negeri, dan ada pengeboman drone otonom di luar negeri, masa depan tidak terlihat cerah, setidaknya untuk saat ini masih semi-otonom
  • Setidaknya agak melegakan bahwa belum ada alat penyadap di dalam rumah
  • Rasanya kita membutuhkan alat pertahanan sipil yang lebih damai
  • Berbagai taipan teknologi termasuk Larry Ellison mengajukan logika negara pengawasan bahwa "kalau semua tindakan selalu direkam dan diawasi, semua orang akan berperilaku baik", Ellison, Vance, Musk, Thiel, Luckey, Zuckerberg dan lainnya ingin membangun negara pengawasan versi mereka sendiri, dan ini sudah berjalan cukup jauh, jadi apa yang akan kita lakukan untuk menghentikannya artikel terkait
  • Kita bahkan memasuki era ketika sinyal Wi‑Fi saja bisa mendeteksi detak jantung, jadi premi asuransi pun nantinya bisa bergerak per detik, "kalau pemerintah dan perusahaan besar bersama-sama mengawasi lewat pelacakan invasif, itulah distopia yang positif!" (setengah bercanda setengah serius) artikel pengukuran detak jantung via Wi‑Fi