- Sistem rumah sakit publik New York memutuskan untuk tidak memperpanjang kontrak dengan Palantir Technologies dan beralih ke sistem internal
- Kontrak tersebut mencakup klausul yang memungkinkan penggunaan data pasien yang telah dideidentifikasi di luar riset, sehingga memicu kekhawatiran para pakar privasi data
- Palantir membantah dengan menekankan bahwa mereka tidak memiliki data pelanggan dan menggunakan kerangka perlindungan yang independen
- Sementara itu, Palantir terus berekspansi di Inggris dengan menandatangani kontrak senilai £330 juta dengan NHS, di tengah kontroversi soal risiko reidentifikasi data dan potensi penyalahgunaan kekuasaan
- Pengakhiran kontrak di New York dinilai sebagai hasil kampanye koalisi aktivis, dan turut memengaruhi gerakan “No Palantir in our NHS” di Inggris
Rumah sakit publik New York putuskan akhiri kontrak dengan Palantir
- Lembaga layanan kesehatan publik New York, NYC Health + Hospitals, memutuskan untuk tidak memperpanjang kontraknya dengan Palantir Technologies
- Kontrak tersebut ditandatangani pada November 2023 dengan nilai sekitar $4 juta, dan dirancang sebagai proyek jangka pendek untuk pemulihan klaim asuransi
- Setelah kontrak berakhir, rumah sakit akan beralih ke sistem yang dikembangkan secara internal dan menghentikan berbagi data maupun penggunaan aplikasi Palantir
- Disebutkan bahwa teknologi Palantir hanya digunakan untuk optimisasi revenue cycle, dan tidak ada berbagi informasi dengan ICE
- Dokumen kontrak mencakup klausul yang menyatakan bahwa Palantir, dengan izin dari lembaga kota, dapat mendeidentifikasi (de-identify) informasi kesehatan pasien dan menggunakannya untuk tujuan di luar riset
- Klausul ini memicu kekhawatiran di kalangan pakar privasi data
- Para pakar menunjukkan bahwa kemajuan AI meningkatkan risiko reidentifikasi terhadap data yang telah dideidentifikasi
- Palantir menyatakan bahwa perangkat lunaknya tidak memiliki data pelanggan, dan bahwa setiap lingkungan pelanggan dilindungi secara independen
- Perusahaan juga menekankan bahwa pelanggan dapat menjalankan kontrol keamanan dan audit secara langsung
Ekspansi dan kontroversi Palantir di Inggris
- Palantir memperluas pengaruhnya di Inggris lewat kontrak senilai £330 juta dengan National Health Service (NHS)
- Otoritas kesehatan Inggris khawatir kontroversi terkait Palantir dapat menunda penerapan sistem data nasional
- Hingga musim panas 2025, kurang dari separuh otoritas kesehatan Inggris telah mengadopsi teknologi Palantir
- Organisasi keadilan kesehatan Medact memperingatkan bahwa perangkat lunak Palantir dapat memungkinkan penyalahgunaan kekuasaan berbasis data
- Mereka menyoroti risiko yang mirip dengan model penegakan ICE di AS
- Palantir membantah dan menyatakan penggunaan seperti itu melanggar hukum dan kontrak
- Palantir juga memiliki kontrak dengan Kementerian Pertahanan Inggris, dan baru-baru ini memperoleh akses ke data investigasi kejahatan finansial milik Financial Conduct Authority (FCA)
- Sejumlah anggota parlemen meminta pemerintah menghentikan kontrak, sementara Partai Demokrat Liberal mendesak dimulainya penyelidikan
- Perdana Menteri Keir Starmer membantah bahwa pemerintah terlalu bergantung pada perusahaan teknologi AS, tetapi tetap menyinggung perlunya memperkuat kapasitas teknologi domestik
- Medact menyatakan bahwa tingkat perlindungan atas data yang telah dideidentifikasi di NHS masih belum memadai
- NHS menjelaskan bahwa data dideidentifikasi saat berpindah melalui Federated Data Platform (FDP)
- Namun, Medact memperingatkan bahwa data tersebut masih memiliki kemungkinan tinggi untuk direidentifikasi
- Juru bicara NHS menegaskan bahwa vendor FDP ditunjuk sesuai aturan kontrak publik, dan bahwa seluruh akses data berada di bawah kendali NHS
Kontroversi privasi data
- Ahli hukum Sharona Hoffman menyatakan bahwa ada risiko jika Palantir mengakses data warga New York yang telah dideidentifikasi untuk tujuan di luar riset
- Yang menjadi masalah adalah cakupan akses Palantir ke data pemerintah dan kemampuan AI untuk menggabungkan data
- Ia memperingatkan bahwa “deidentifikasi bukan lagi jaminan penuh, dan AI membuat reidentifikasi semakin mudah.”
- Profesor Ari Ezra Waldman menekankan bahwa perusahaan seperti Palantir selalu patut dikhawatirkan ketika mengumpulkan informasi tentang kelompok rentan
- Secara khusus, ia menilai klausul kontrak tentang “penggunaan untuk tujuan di luar riset” menunjukkan lemahnya posisi tawar pemerintah
Tanggapan organisasi sipil dan para aktivis
- Pengakhiran kontrak di New York dinilai sebagai hasil dari kampanye tekanan para aktivis
- Kampanye nasional “Purge Palantir”, yang melibatkan kelompok perawat, kelompok solidaritas Palestina, dan kelompok keadilan sosial serta iklim, memainkan peran utama
- Mereka mempersoalkan bahwa AI Palantir adalah sistem yang sama dengan yang digunakan untuk penindakan imigran dan operasi militer
- American Friends Service Committee memperoleh kontrak rumah sakit melalui permintaan keterbukaan informasi dan membagikannya kepada The Intercept dan The Guardian
- Serikat perawat nasional dan gerakan BDS juga ikut dalam kampanye
- Kelompok gerakan “No Palantir in our NHS” di Inggris menjadikan keputusan New York sebagai sumber dorongan bagi perjuangan mereka
- Medact dan Amnesty International UK mendesak agar NHS mengakhiri kontraknya dengan Palantir
- Rhiannon Mihranian Osborne dari Medact mengatakan bahwa “seperti dalam kasus New York, warga dan pekerja dapat membuat institusi layanan kesehatan lebih akuntabel,” sambil menuntut pembatalan kontrak NHS
1 komentar
Komentar Hacker News
Saya pikir sangat berbahaya jika perusahaan seperti Palantir memiliki akses ke data medis pribadi
Jadi sangat melegakan bahwa NYC mengambil langkah untuk menghentikannya
Saya tidak mengerti kenapa begitu banyak institusi berbisnis dengan Palantir
Menurut saya mereka adalah racun bagi pelanggan mereka
Jika Anda meminta mereka “membuat sistem pengelolaan rekam medis pasien”, mereka akan mengirim tim insinyur yang baru lulus dan menagih biaya mahal
Kontrak pemerintah atau militer mereka dapatkan berkat lobi dan pengaruh, tetapi yang terlihat online kebanyakan hanyalah pemasaran
Alasannya sama seperti dulu memakai Deloitte, EY, KPMG, atau PwC
Palantir hanya sedikit di atas mereka dalam hal kualitas talenta dan kemampuan pengiriman
Di luar komunitas HN, kebanyakan orang bahkan tidak peduli Palantir dipakai untuk apa
Jadi sekarang Palantir adalah perusahaan AI? Dulu saya mengenalnya sebagai perusahaan pengumpulan data atau spyware
Ada perusahaan spyware sungguhan seperti Pegasus
Menyamaratakan Palantir, Snowflake, dan Databricks itu tidak akurat
Palantir juga tidak terkecuali
Saya ingin memohon kepada pemerintah Inggris
Tolong jauhkan Palantir dari data saya
Jika Palantir sudah cukup lama menjadi vampir pengisap darah, lebih baik diusir sekarang meskipun sudah terlambat
Sangat berbahaya jika perusahaan swasta merasuk terlalu dalam ke sistem layanan kesehatan publik
Pada akhirnya perusahaan swasta memang diperlukan
Bahkan sistem publik pun tidak terkecuali
Dinas Pendidikan NYC juga baru-baru ini merilis pedoman AI
Isinya melarang pelatihan dengan informasi identitas pribadi (PII) siswa, melarang penilaian otomatis, dan sebagainya
Tetapi dibandingkan sistem raksasa, itu hanyalah langkah kecil
Menurut saya Palantir saat ini adalah perusahaan paling jahat di dunia
Palantir bisa memasang backdoor data kapan saja
Jika perusahaan secara terang-terangan melanggar privasi dan Anda tidak menyadarinya, berarti Anda tidak memberi perhatian
Selain itu saya juga tidak percaya pada sistem peradilan
Ada rumor bahwa Palantir, yang dipimpin J.D. Vance dan Peter Thiel, memenangkan kontrak perangkat lunak untuk sistem senjata orbital Golden Dome buatan Elon Musk
Mengerikan membayangkan perusahaan pengawasan mengendalikan senjata yang bisa menyerang di mana pun di Bumi
namun menurut saya ini hanya penipuan pajak belaka