ICE akan menggunakan kecerdasan buatan untuk memantau media sosial

• Immigration and Customs Enforcement (ICE) AS menandatangani kontrak senilai US$5,7 juta untuk mengadopsi perangkat lunak pemantauan media sosial berbasis AI, dan sedang memperluas jaringan pengawasan yang menganalisis aktivitas online secara real-time
• Kontrak tersebut ditujukan untuk platform Zignal Labs yang disediakan melalui Carahsoft Technology, yaitu sistem analisis data berbasis AI dan machine learning yang sudah digunakan oleh militer Israel dan Departemen Pertahanan AS
• Zignal menganalisis lebih dari 8 miliar posting per hari dan menyediakan ‘feed deteksi terpilih’, yang akan digunakan untuk penyelidikan kriminal dan strategi penegakan imigrasi ICE
• Teknologi ini memicu kekhawatiran soal pelanggaran kebebasan berekspresi dan perlindungan privasi, dan serikat pekerja serta kelompok masyarakat sipil telah mengajukan gugatan dengan menyebutnya sebagai program pengawasan politik pemerintah
• Seiring ICE terus memperluas kemampuan pengawasan AI, sistem pengawasan digital pemerintah meluas ke seluruh masyarakat, melampaui ranah sipil dan pertahanan

---

Kontrak pengawasan AI baru ICE

• ICE menandatangani kontrak lima tahun senilai US$5,7 juta dengan Carahsoft Technology untuk memperoleh lisensi penggunaan platform pemantauan media sosial Zignal Labs
  • Kontrak itu diungkap pada September 2024, dan akan digunakan oleh divisi Homeland Security Investigations (HSI) di bawah ICE untuk analisis data real-time
  • Zignal adalah platform yang sudah digunakan oleh militer Israel dan Departemen Pertahanan AS, yang menganalisis lebih dari 8 miliar posting per hari dan menyediakan feed deteksi ancaman
• Zignal menggunakan AI dan machine learning untuk menganalisis data online berskala besar secara otomatis, membantu lembaga penegak hukum mengidentifikasi ancaman dengan cepat
  • Perusahaan mempromosikannya sebagai cara untuk memungkinkan “respons ancaman yang lebih jelas dan lebih cepat”
• Kontrak terbaru ICE ini merupakan bagian dari strategi jangka panjang untuk memperkuat jaringan pemantauan media sosial, dan merupakan bentuk perluasan setelah Secret Service pertama kali mengadopsi Zignal pada 2019

Latar belakang Zignal Labs dan penggunaan militernya

• Zignal Labs didirikan di Silicon Valley pada 2011 dan pada awalnya menyediakan layanan analisis data untuk humas dan kampanye politik
  • Setelah itu perusahaan mengalihkan bisnisnya ke pasar pertahanan dan intelijen, lalu pada 2021 membentuk dewan penasihat sektor publik dan secara resmi menandai ekspansinya ke bidang keamanan nasional
• Dalam brosur perusahaan yang diterbitkan pada 2025, tercantum kerja sama dengan militer Israel, dan dijelaskan bahwa perusahaan menyediakan tactical intelligence untuk operasi lapangan di Gaza
  • Brosur itu juga mencakup contoh kerja sama dengan Korps Marinir AS dan Departemen Luar Negeri AS
• Zignal menolak memberikan tanggapan resmi atas pertanyaan mengenai kontraknya dengan ICE maupun keterkaitannya dengan militer Israel

Alat pengawasan ICE yang sudah ada dan langkah ekspansinya

• ICE sudah memiliki beragam alat pengawasan digital seperti ShadowDragon dan Babel X
  • ShadowDragon menggunakan situs web publik untuk membuat peta aktivitas online seseorang
  • Babel X menganalisis keterkaitan antara profil media sosial, data lokasi, dan nomor jaminan sosial
• Baru-baru ini ICE menandatangani kontrak senilai US$7 juta dengan SOS International LLC (SOSi) untuk mengadopsi layanan ‘skip tracing’ (pelacakan lokasi)
  • SOSi merekrut mantan pejabat intelijen ICE, Andre Watson, untuk mendorong perluasan kerja sama dengan lembaga penegak hukum
• Kontrak-kontrak ini menunjukkan bahwa ICE terus memperluas kemampuan pengawasan berbasis AI

Penolakan dari kelompok masyarakat sipil dan serikat pekerja

• Wakil direktur American Civil Liberties Union (ACLU), Patrick Toomey, mengkritik bahwa “pemerintah yang menggunakan AI untuk memantau ucapan warga di internet adalah pelanggaran hak sipil”
  • Ia juga menyoroti bahwa menjalankan teknologi black box semacam ini secara diam-diam menunjukkan kurangnya akuntabilitas
• Koalisi serikat pekerja mengajukan gugatan dengan menyebut pengawasan media sosial oleh pemerintah sebagai program pengawasan massal berdasarkan pandangan politik
  • Gugatan itu menuduh pemerintah menggunakan AI dan alat otomatis untuk memantau orang-orang dengan pandangan tertentu
  • Electronic Frontier Foundation (EFF) dan klinik kebebasan pers milik Yale Law School memperingatkan bahwa pengawasan semacam ini memperparah chilling effect terhadap kebebasan berekspresi

Contoh pengawasan politik dan dampak sosialnya

• ICE diketahui secara langsung menggunakan data media sosial dalam strategi penegakan imigrasi di bawah pemerintahan Trump
  • Aktivis pendukung Palestina seperti Mahmoud Khalil ditangkap setelah identitas pribadinya diungkap secara online (doxing) oleh situs sayap kanan pro-Israel
  • Belakangan ini juga ada kasus penertiban pedagang kaki lima di jalanan New York yang langsung dilakukan setelah video dari influencer sayap kanan diposting
• Kasus-kasus ini menunjukkan kaburnya batas antara pengawasan swasta dan penindakan pemerintah
  • Muncul kekhawatiran bahwa pemerintah dapat menggabungkan informasi online dari pihak swasta dan analisis AI untuk digunakan sebagai alat kontrol politik dan sosial

Kesimpulan: institusionalisasi pengawasan AI dan risikonya

• Adopsi Zignal oleh ICE melambangkan institusionalisasi pengawasan AI, dan rencana pembentukan tim pemantauan 24 jam nonstop juga sedang berjalan
• Perluasan pengawasan AI oleh pemerintah berisiko membatasi kebebasan berekspresi kelompok rentan seperti imigran, aktivis, dan pekerja
• Para ahli memperingatkan bahwa perluasan pengawasan AI tanpa transparansi, pengawasan, dan regulasi hukum dapat menyebabkan kekosongan kontrol demokratis

[GN⁺]

Komentar Hacker News

• Rasanya baru sekarang alasan sebenarnya di balik dorongan AI mulai terlihat
  Seperti di 1984 karya George Orwell, terasa seperti kita hidup di dunia di mana setiap suara diawasi dan setiap tindakan diamati

  • Sekarang bahkan katanya orang bisa terlihat lewat sinyal Wi-Fi, jadi rasanya kita sudah masuk era pengawasan bahkan dalam gelap
    :(
  • Kalau mau bermain sebagai pengacara setan, ada juga pikiran bahwa apakah benar menghukum orang yang melanggar hukum itu sesuatu yang begitu buruk
    Bahkan untuk pelanggaran sepele seperti menyeberang sembarangan, rasanya wajar jika dihukum dalam batas yang ditetapkan hukum

• Rasanya adegan seperti ini bisa saja muncul di pengadilan
  Saya membayangkan situasi di mana seorang agen ICE bertanya, “Apakah orang ini imigran ilegal?”, lalu AI menjawab, “Benar!” dan itu dijadikan bukti

  • Tetapi penangkapan yang setara dengan penculikan acak sudah terjadi, jadi ini berbahaya terlepas dari status kewarganegaraan
  • Dalam praktiknya sering terjadi deportasi tanpa proses hukum yang semestinya, jadi dalam situasi seperti itu sidangnya sendiri tidak pernah dibuka
  • Pada akhirnya ICE hanya menggunakan AI sebagai dalih untuk membenarkan hasil yang mereka inginkan

• Jika masalah perusahaan yang mempekerjakan imigran ilegal tidak diselesaikan, penindakan ICE hanya akan menjadi permainan whack-a-mole
  Selama masih ada pekerjaan, orang-orang akan terus datang ke AS

  • Perusahaan yang mempekerjakan pekerja ilegal dalam skala besar punya pengaruh politik yang kuat, jadi deportasi massal pada praktiknya mustahil
    Tindakan ICE belakangan ini menurut saya hanya pertunjukan untuk mengelabui pemilih
  • Saya juga melihat kemungkinan ICE disalahgunakan bukan sekadar untuk penegakan imigrasi, tetapi seperti polisi rahasia
  • Dalam banyak kasus, orang bekerja dengan identitas curian dan dokumen palsu, dan perusahaan tahu itu tetapi memilih tutup mata
    Dalam struktur seperti ini, menurut saya lebih penting menuntut tanggung jawab pihak manajemen daripada sekadar penindakan ICE
  • Jika dilihat dari sudut pandang POSIWID (“The Purpose Of a System Is What It Does”), sistem saat ini adalah struktur untuk mempertahankan eksploitasi tenaga kerja
    Pekerja ilegal tidak mendapat perlindungan hukum ketenagakerjaan, dan pemberi kerja karena itu bisa mempertahankan upah rendah dan minim tanggung jawab
  • Pada akhirnya kebijakan seperti ini tidak lebih dari pertunjukan politik untuk menenangkan kecemasan pemilih kulit putih

• Mengejutkan melihat Partai Republik begitu cepat melepaskan perlindungan kewarganegaraan dan kedaulatan yang dulu menjadi bagian dari identitas mereka

  • Sebenarnya istilah “hak negara bagian” sejak dulu hanyalah dalih untuk menindas kelompok minoritas
    Pemerintah federal justru sering berperan sebagai garis pertahanan terakhir dari penindasan semacam itu
    Terkait hal ini saya merekomendasikan buku Freedom’s Dominion
  • Logika “kedaulatan” versi Partai Republik pada akhirnya hanyalah prinsip selektif yang diakui kalau menguntungkan kubu sendiri
  • Pada kenyataannya ini bukan soal “kedaulatan”, melainkan kekuasaan dan kontrol
    Trump adalah sosok yang memperlihatkan wajah asli Partai Republik, dan nasionalis Kristen sedang bergerak ke arah menjadikan Amerika sebagai negara teokratis satu partai
  • “States’ rights” pada akhirnya hanyalah kode untuk perbudakan dan rasisme, sama sekali tidak ada hubungannya dengan kebebasan

• Menurut artikel The Guardian, seorang jurnalis Inggris ditangkap ICE di AS setelah mengkritik Israel

  • Tetapi sebenarnya alasan penangkapannya tidak jelas
    The Guardian hanya mengutip dugaan dari organisasi pihak terkait, dan tidak memverifikasi posisi ICE
    Judulnya mungkin benar, tetapi menulis “jurnalis ditangkap setelah sarapan sereal” pun akan setara saja sebagai dugaan
  • Saya tidak mendukung tindakan ICE, tetapi terasa kontradiktif ketika CAIR dan jurnalis itu memprotes atas nama ‘kebebasan berpendapat’
    Di sebagian besar negara Islam, kebebasan berpendapat tidak ada
    Organisasi yang mewakili kepentingan negara-negara seperti itu tidak terasa meyakinkan ketika hanya menuntut kebebasan di Amerika
  • Sekarang sepertinya cara terbaik adalah jangan pergi ke Amerika
    Bahkan kalau dibayar pun saya tidak akan pergi saat ini

• Ada yang bercanda, bagaimana kalau seseorang berulang kali memasukkan “Saya berencana mempekerjakan imigran ilegal” untuk membakar GPU milik ICE

  • Ini mengingatkan pada spook.el milik Emacs dan proyek Spook milik Tom7
  • Bagaimanapun juga biaya GPU itu ditutup dengan pajak yang kita bayarkan
    Warga Amerika membayarnya langsung lewat pajak, sementara orang luar negeri membayar tidak langsung dalam bentuk tarif

• Dalam demokrasi, kekuasaan pemerintah harus selalu dibatasi
  Jika satu kubu merebut kekuasaan lalu menindas lawannya, pada akhirnya kekuasaan itu tetap akan diwariskan ke pemerintahan berikutnya dan dipakai untuk penindasan lain
  Fakta bahwa sekarang ada petugas penindakan bermasker dan kendaraan dengan pelat nomor ditutupi adalah tanda yang sangat berbahaya
  Jika presiden berikutnya adalah sosok seperti Putin, itu berarti kita sudah menyerahkan kunci pengawasan dan kontrol

  • Demokrasi yang sejati hanya mungkin ketika pemerintah melindungi warga, sambil tetap menjaga keseimbangan agar warga dapat melindungi diri dari pemerintah

• Sekarang ini kita hidup di era di mana siapa pun bisa menjadi pengawas dengan AI
  Bukan hanya ICE atau polisi, warga biasa pun bisa saling mengawasi lewat media sosial
  “Googling someone” sekarang sedang berubah menjadi “ChatGPTing someone”
  Dalam lingkungan seperti ini, ucapan bebas jadi tersensor sendiri, dan web menjadi makin kurang menarik

• Pemerintah dan kepolisian di seluruh dunia sedang bergerak ke arah menggunakan AI untuk mengendalikan dan menghukum warga
  AI telah berubah bukan menjadi alat pembebasan, melainkan teknologi yang dipersenjatai, dan karena itu rasanya para CEO teknologi kini menjadi bagian dari sistem militer

• Akan lucu kalau ada hadiah bounty bagi orang yang berhasil membuat ICE melakukan tindakan paling bodoh dan memalukan karena tertipu misinformasi di media sosial

  • Saya juga membayangkan peringatan dengan nama kode satir seperti “HIZONNER CAT3-SDA-HN: DISSIDENT DEPORTATION ALERT”