Aplikasi ‘ELITE’ yang digunakan Palantir untuk membantu ICE memilih wilayah penggerebekan

• ‘ELITE’ adalah alat internal Palantir yang digunakan oleh U.S. Immigration and Customs Enforcement (ICE) untuk mencari orang yang menjadi target deportasi, dan memvisualisasikan kepadatan target di wilayah tertentu melalui antarmuka berbasis peta
• Aplikasi ini memiliki bentuk yang mirip Google Maps dan menandai ‘wilayah dengan banyak target’ menggunakan data termasuk kepadatan imigran
• Saat pengguna memilih orang tertentu, akan ditampilkan profil pribadi (dossier) yang mencakup nama, foto, Alien Number, tanggal lahir, dan alamat
• Menurut materi internal, sistem ini bahkan menyediakan confidence score untuk keandalan alamat saat ini milik target, dan digunakan untuk profil rasial dalam skala besar
• Tulisan ini menyoroti bahwa teknologi semacam ini berkontribusi pada penguatan kekuasaan administratif untuk mendeportasi orang tanpa proses hukum, serta mengangkat persoalan tanggung jawab etis para pengembang

---

Kerja sama teknologi antara ICE dan Palantir

• Menurut dokumen internal ICE dan kesaksian pihak terkait, terdapat keterkaitan langsung antara infrastruktur teknologi yang dibangun Palantir untuk ICE dan aktivitas penindakan di lapangan
• Menurut laporan 404 Media, sistem ELITE digunakan ICE untuk mengidentifikasi wilayah operasi deportasi skala besar
• Alat ini menampilkan calon target deportasi di peta dan memberikan confidence score untuk alamat tiap individu

Fungsi dan antarmuka ELITE

• ELITE dibangun di atas antarmuka peta yang mirip Google Maps, dan memvisualisasikan ‘wilayah kaya target’ melalui data termasuk kepadatan imigran
• Saat pengguna mengklik orang tertentu di peta, sistem menampilkan profil pribadi (dossier) yang mencakup nama, foto, Alien Number, tanggal lahir, dan alamat lengkap
• Data ini digunakan ICE untuk melacak lokasi target dan merencanakan operasi penangkapan

Masalah etika yang diangkat

• Tulisan ini menyebut sistem tersebut sebagai “profil rasial dalam skala besar” dan mengkritik penggunaan teknologi untuk mendeportasi orang tanpa proses hukum
• Penulis menggambarkan konflik moral yang mungkin dirasakan karyawan Palantir saat mengembangkan produk semacam ini
  • Melalui ungkapan “setiap hari datang bekerja dan membuat perangkat lunak untuk mendeportasi orang,” tulisan ini menekankan jurang antara keseharian pengembang dan etika
• Tulisan ini juga menyoroti bahwa meski karyawan Palantir menikmati gaji, stock option, dan tunjangan, teknologi yang mereka buat berkontribusi pada tindakan kekerasan oleh aparat bersenjata

Keterkaitan antara teknologi dan kekerasan

• Tulisan ini menyebut ICE sebagai kekuatan bersenjata yang menculik warga sipil dan melakukan penembakan, serta menyatakan bahwa ELITE mendukung aktivitas itu lewat “antarmuka peta yang indah dan modern”
• Dengan menyinggung contoh kekerasan seperti kasus seorang perempuan yang ditembak di wajah oleh ICE, tulisan ini mengkritik bagaimana teknologi digunakan sebagai alat untuk mengefisienkan penegakan administratif yang penuh kekerasan

Teknolog dan tanggung jawab sosial

• Tulisan ini menggambarkan bahwa karyawan Palantir bisa saja merasa “menyenangkan bekerja dengan tim ini” sekaligus mengalami konflik batin bahwa mereka “harus mencari pekerjaan lain”
• Tulisan ini mempertanyakan apakah ketika hasil kerja seorang teknolog berkontribusi pada kekerasan sosial, hal itu bisa dibenarkan hanya dengan alasan nafkah atau karier
• Pada akhirnya, ELITE dipaparkan sebagai sistem yang menopang secara teknis penindakan keras ICE, serta menjadi contoh yang memperlihatkan masalah tanggung jawab etis pengembang teknologi

[GN⁺]

Komentar Hacker News

• Saya belum pernah bekerja di Palantir, tetapi kalau kita singkirkan sandiwara tampil sebagai penjahat dari kepemimpinan mereka yang suka bikin gaduh, perusahaan ini terasa seperti vendor enterprise yang sangat biasa
  Produknya biasa saja, tetapi dijual secara berlebihan kepada pembeli institusional, lalu pada akhirnya dipaksakan kepada staf lapangan
  Masalahnya adalah keputusan kebijakan yang membuat alat seperti ini dipakai, serta struktur yang membuat data yang seharusnya dikendalikan bisa diakses secara luas
  Daripada memberi citra “orang jahat” pada Palantir, fokusnya seharusnya pada latar kebijakan yang membuat alat seperti ini diinginkan

  • Saya juga melihat Palantir dengan cara serupa. Pada akhirnya ini perusahaan konsultan, layanan yang dibungkus dengan peta, graph DB, dan embel-embel “AI”
    Mereka menjual forward deployed engineer yang mahal dan menyesuaikan sistem secara khusus untuk tiap pelanggan
    Sulit menyebut mereka perusahaan yang etis, tetapi bukan mereka yang langsung mengumpulkan informasi pribadi. Datanya disediakan oleh pelanggan
    Perubahan harus terjadi di pihak pelanggan itu
  • Mengejutkan bahwa ada yang namanya “kejahatan palsu”. Seperti “kesalehan palsu” di tahun 1600-an, sekarang yang sedang tren adalah kepura-puraan jahat
    Jika ada budaya di mana perusahaan harus berpura-pura lebih jahat daripada kenyataannya, itu adalah kebangkrutan moral masyarakat
  • Saya tidak setuju. Masalahnya adalah Palantir dan pelanggan mereka sekaligus
    Ada pilihan untuk tidak membuat alat itu, dan ada pilihan untuk tidak menggunakannya
  • Masalah sebenarnya adalah pemerintah menggunakan layanan Palantir untuk menghubungkan data dan memungkinkan pengawasan massal
  • Karp membenarkan ini sebagai “membantu pemerintah bekerja lebih baik”
    Tetapi pada akhirnya yang mengendalikan pemerintah adalah para pemilih

• Akhir-akhir ini rasanya orang kehilangan kemampuan untuk berpikir kompleks
  Seseorang bisa percaya bahwa ICE dapat memiliki misi yang jelas dan etis, sambil tetap menganggap cara pelaksanaan misinya salah
  Seseorang juga bisa percaya bahwa menaati prosedur hukum itu penting, tanpa melabeli imigran ilegal sebagai “secara inheren ilegal”
  Dunia ini bukan hitam-putih, jadi saya tidak tahu kenapa sekarang orang hanya berpikir dalam dua kutub. Mungkin karena pengaruh media sosial

  • Tetapi pihak yang memegang kekuasaan dan senjata hanya ingin memaksakan ‘satu keyakinan yang benar’, yaitu ‘nilai-nilai Amerika’
    Ini bukan pertarungan ideologi yang simetris. Gelombang biru pada pemilu sela yang akan datang mungkin adalah harapan terakhir
    Jika itu pun gagal, keputusasaan dalam sastra Rusia akan terasa makin relevan
  • “Bisa dilakukan” tidak berarti “benar”
    Tugas hukum ICE tidak jelas, dan dalam praktiknya dijalankan dengan cara yang tidak etis dan ilegal
    Sesuatu tidak otomatis sah hanya karena itu adalah ‘keyakinan yang mungkin dipegang orang’
  • Mengatakan “melompati antrean imigrasi itu tidak bermoral” adalah klaim yang tidak paham realitas
    Bagi orang miskin, antrean itu sendiri tidak ada. Mereka bahkan tidak bisa mengajukan visa legal
  • Intinya bukan orang tidak bisa berpikir kompleks, melainkan kerumitan itu tidak diberi ganjaran
  • Ada juga respons yang menyuruh orang berhenti berpura-pura peduli (trolling)

• Saya ingin mengatakan kepada para pemimpin atau perekrut di perusahaan lain
  Saya berharap mereka secara terbuka menyatakan akan mewawancarai insinyur yang ingin keluar dari Palantir karena alasan moral
  Akan bagus jika menurunkan hambatan pindah kerja dan memberi tempat berlindung bagi orang-orang seperti itu menjadi norma baru di industri

  • Tapi saya justru berpikir sebaliknya. Saya tidak ingin membawa orang yang pernah membuat sistem yang meragukan secara etis ke perusahaan saya
  • Reputasi Palantir sudah buruk sejak 10 tahun lalu
    Kalau baru menyadarinya sekarang, rasanya orang itu kurang punya prinsip
  • Menurut saya lebih baik mengerjakan proyek yang berdampak positif bagi masyarakat dan membangun reputasi yang baik
    Anehnya saya belum pernah melihat CV mantan karyawan Palantir. Mungkin tersaring otomatis, atau mungkin mereka memang tidak tertarik pada perusahaan seperti ini
  • Apakah mereka benar-benar salah? Ada juga pikiran bahwa menggunakan bakat untuk melacak penjahat justru merupakan kewajiban moral

• Sejak didirikan, Palantir telah menerima sekitar 10 miliar dolar AS dari uang pajak pemerintah AS

  • Pemerintahan saat ini pada dasarnya bergerak seperti negara korporat. Semua orang hanya menghitung seberapa banyak yang bisa mereka kuras
  • (Komentar ini berbentuk lirik lagu, tetapi dihilangkan karena masalah hak cipta)

• Agar thread ini tidak dihapus, dibutuhkan diskusi yang lebih mendalam
  Harus dibahas secara spesifik lini produk Palantir mana yang digunakan, bagaimana FOIA berlaku, dan data apa saja yang disediakan

• Sepertinya tim manajemen citra Palantir masuk jauh lebih cepat di thread kali ini

  • Mungkin mereka menjalankan pasukan bot online untuk memanipulasi opini publik
    Bahkan mungkin mereka menjual itu sebagai layanan kepada pelanggan
    Untuk mencegah masalah seperti ini, situs-situs perlu memperkuat verifikasi identitas untuk akun anonim

• Saat saya berusia 19 tahun, seorang karyawan Palantir datang untuk memberi ceramah tentang TDD, tetapi para mahasiswa melakukan boikot
  Waktu itu saya pikir itu terlalu ekstrem, tetapi sekarang justru rasanya mereka benar
  Saya tidak akan pernah bekerja di perusahaan seperti Palantir. Kalau bisa kembali ke masa lalu, saya juga akan ikut boikot
  Logika “Tiongkok juga melakukan ini, jadi kita juga harus melakukannya” itu menjijikkan secara etis
  Solusi untuk dunia yang rusak bukanlah menjadi lebih rusak lagi. Logika seperti itu menghapus tanggung jawab, menghilangkan kemanusiaan, dan memperbesar konflik
  Kita harus melawan kerusakan moral seperti ini

  • Kenyataannya, kalau mengkritik hal seperti ini, kita akan kena downvote dari bot

• Ini bukan sekadar soal “imigran ilegal”
  Infrastruktur pengawasan massal sudah dibangun. Sekarang mungkin menargetkan kelompok tertentu, tetapi sebentar lagi semua orang akan menjadi sasaran
  Sistem pengawasan seperti Flock, Ring, bersama AI dan integrasi data, menjadi fondasinya
  Orang-orang yang membangun teknologi seperti ini harus memikul tanggung jawab moral, dan kita membutuhkan platform yang bisa ditelusuri

  • Jika pemerintah bisa menemukan orang yang selama puluhan tahun nyaris tak punya catatan, maka melacak pembayar pajak akan jauh lebih mudah
  • Tetapi kalau “moralitas” dijadikan standar, maka pegawai FAANG juga semuanya harus dikritik

• Artikel asli: 404 Media - ELITE: the Palantir app ICE uses to find neighborhoods to raid
  Tautan arsip: archive.ph/wa32f