Perusahaan teknologi tidak boleh diintimidasi untuk melakukan pengawasan

• Menteri Pertahanan AS menyampaikan ultimatum kepada Anthropic agar menyediakan teknologi AI mereka tanpa pembatasan militer
• Departemen Pertahanan mengancam akan menetapkan Anthropic sebagai perusahaan ‘risiko rantai pasok (supply chain risk)’ jika menolak
• Anthropic sebelumnya telah menyatakan secara terbuka prinsip bahwa mereka melarang penggunaan untuk sistem senjata otonom dan tujuan pengawasan
• Pada Januari 2026, Anthropic menegaskan kembali prinsip tersebut setelah mencurigai adanya indikasi bahwa AI mereka digunakan dalam serangan ke Venezuela dalam kerja sama dengan Palantir
• EFF menekankan bahwa meskipun ada tekanan dari pemerintah, perusahaan teknologi tidak boleh berubah menjadi alat pengawasan

---

Tekanan dari Departemen Pertahanan dan posisi Anthropic

• Menteri Pertahanan AS menekan Anthropic dengan menuntut penyediaan teknologi tanpa batasan militer
  • Jika Anthropic menolak, perusahaan itu dapat ditetapkan sebagai ‘risiko rantai pasok’ sehingga transaksi dengan Departemen Pertahanan bisa diblokir
  • Penetapan ini dijelaskan sebagai tindakan yang umumnya diterapkan pada perusahaan yang bertransaksi dengan negara yang diawasi lembaga federal seperti Tiongkok
• Anthropic tetap pada posisinya bahwa mereka tidak akan mendukung penggunaan untuk sistem senjata otonom dan tujuan pengawasan
  • Ini disebut CEO Dario Amodei sebagai “dua garis merah yang tidak boleh dilanggar”, dan dinyatakan perlu adanya peninjauan ketat serta pengaman untuk mencegah penyalahgunaan
  • Prinsip inti keselamatan AI Anthropic dan Constitution milik Claude dipublikasikan di situs web perusahaan

Latar belakang kontroversi

• Pada 2025, Anthropic dikenal sebagai perusahaan AI pertama yang diizinkan menangani informasi rahasia
• Pada Januari 2026, kontroversi dimulai ketika Anthropic menyadari adanya indikasi bahwa AI mereka digunakan dalam serangan ke Venezuela saat bekerja sama dengan Palantir
  • Setelah itu, Amodei merilis surat yang menegaskan kembali larangan atas penggunaan untuk pengawasan dan senjata otonom
• Saat ini pemerintah AS sedang menuntut perubahan kebijakan Anthropic melalui ancaman pemutusan kontrak

Klaim EFF

• EFF menekankan bahwa tekanan pemerintah tidak boleh membuat perusahaan meninggalkan prinsip hak asasi manusia dan kebebasan sipil
  • Banyak perusahaan teknologi gagal menjaga prinsip karena berbagai alasan seperti keuntungan, tetapi paksaan pemerintah tidak boleh menjadi alasannya
• Pelanggan korporat, publik, dan para engineer berharap Anthropic tetap memegang prinsipnya
  • EFF memperingatkan bahwa penting agar perusahaan teknologi secara umum tidak jatuh menjadi alat sistem pengawasan

Topik terkait

• Diklasifikasikan sebagai isu terkait artificial intelligence (AI) dan machine learning
• EFF memosisikan kasus ini sebagai persoalan batas antara etika AI dan pengawasan pemerintah

[GN⁺]

Komentar Hacker News

• Saat ini rasanya seperti rubah sudah masuk semua ke kandang ayam
  Pada akhirnya, tanpa orang-orang bangkit dan memaksa perubahan, sepertinya sulit berharap situasinya akan membaik
  Meski begitu, Anthropic tampak seperti satu-satunya perusahaan besar yang setidaknya masih membahas isu keselamatan, seperti menyatakan tidak akan menggunakan AI untuk pengawasan atau teknologi pembunuh untuk perang
  Namun pemerintahan saat ini sedang mendorong perusahaan ke arah yang antidemokratis, jadi saya tidak yakin Anthropic bisa bertahan sampai akhir. Saya akan melihat apa yang terjadi Jumat ini
  • Saya bahkan tidak yakin masih ada ayam yang tersisa. Sekarang rasanya hanya ada rubah
    Pemerintahan ini terpilih berkat dukungan para miliarder teknologi, dan saya rasa mereka mungkin sengaja menciptakan situasi seperti ini demi akses data dan pengamanan dana publik
  • Anda bilang “orang-orang harus bangkit”, tapi mereka sebenarnya sudah bangkit
    Hasilnya justru pengawasan yang makin diperketat. Dari sudut pandang korban, seruan untuk mengurangi pengawasan bisa terasa tidak realistis
• Banyak perusahaan teknologi memang ingin melacak orang
  Pada akhirnya mereka adalah perusahaan pengawasan, dan itu sendiri bagian dari masalahnya
  • Ini poin yang diremehkan. Perusahaan menjadikan pengawasan sebagai keunggulan kompetitif, dan sistem memberi insentif ke arah itu
  • Keserakahan korporasi dan penyalahgunaan kekuasaan pemerintah adalah dua masalah yang berbeda
    Pemerintah seharusnya bekerja untuk rakyat, dan alih-alih memperluas pengawasan, justru harus membatasinya lewat hukum. Konstitusi adalah pedoman untuk itu
• Pada masa perang Irak, ketika pelanggaran privasi oleh pemerintah sangat parah, perusahaan teknologi masih cenderung berpihak pada rakyat dan berusaha menjaga Amandemen Keempat
  Tapi sekarang, selain Anthropic, semuanya tampak sudah berubah. Bahkan Apple pun rasanya tidak akan lagi melawan tuntutan pemerintah
  Saya sudah memakai Apple selama 25 tahun, tapi kini kepercayaan saya benar-benar runtuh. Saya berharap setidaknya Anthropic tetap memegang prinsip dan keberanian
  • Dulu platform-platform menyerahkan data ke pemerintah atas nama “pencegahan terorisme”, lalu membenarkan pengawasan dan sensor terhadap pengguna
    Namun Anthropic juga mendorong pendanaan PAC untuk RUU KOSA
    Jika RUU ini lolos, kebebasan berekspresi anonim akan hilang, dan semua konten harus melewati verifikasi wajah atau identitas
  • Anthropic pada akhirnya juga ingin mengendalikan akses ke LLM
    Tulisan ini menunjukkan dorongan ke sentralisasi atas nama keselamatan dan kekayaan intelektual
    Menurut saya, dunia seharusnya memungkinkan siapa pun menjalankan AGI open-source langsung di PC mereka sendiri
  • Saya akan menunda penilaian saya atas Anthropic sampai setelah Jumat
    Hanya terus mengulang frasa “dialog konstruktif” dengan pemerintah terlihat seperti kurangnya transparansi
  • Saat Apple menolak permintaan pemerintah untuk membuka enkripsi, saya dengar bahkan secara internal pun ada banyak penolakan
    Itu terjadi saat kasus San Bernardino
  • Sebagai catatan, program PRISM dimulai pada 2007. Itu beririsan dengan masa perang Irak
• Tujuan keberadaan perusahaan teknologi bukan sekadar memberi kemudahan
  Mereka menghasilkan uang dari pengumpulan telemetri, dan mengumpulkan data dengan dalih menyelesaikan masalah di lingkungan multi-tenant
  Pada akhirnya, pengguna ditarik masuk lewat layanan gratis lalu menjadi korban yang terjebak dalam vendor lock-in
• Menyebut mereka “diganggu pemerintah” itu berlebihan
  Dari yang saya lihat selama 20 tahun terakhir, kebanyakan adalah transaksi yang disepakati, dan pada akhirnya tetap bisnis
• Saya tidak paham kenapa SecDev H ingin mengintegrasikan Anthropic ke teknologi pengawasan dan drone
  “Kalau tidak mau patuh, sambungkan AI-mu ke sistem saya” itu seperti perampok bank yang menyerahkan pistolnya kepada teller bank
  • Ya. Sangat jelas Hegseth tidak punya kompetensi yang cukup untuk diberi tugas seperti ini
• Perusahaan teknologi diintimidasi agar melakukan pengawasan? Sama sekali tidak
  Sebagian besar nilai perusahaan mereka sudah bertumpu pada kemampuan bekerja sama dalam pengawasan pemerintah. Mereka bukan korban, melainkan kaki tangan
  • Seperti meme “Torment Nexus”, perusahaan membangun teknologi berbahaya lalu pemerintah bertanya, “kenapa itu tidak kalian bagikan kepada kami?”
• Saya berharap Anthropic bisa bertahan kali ini, tapi dalam jangka panjang mungkin itu pun tidak banyak berarti
  Laju pertumbuhan kecerdasan AI terlalu cepat, sehingga pada titik tertentu manusia akan kehilangan kendali
  Riset keselamatan dan kebijakan scaling yang bertanggung jawab saat ini pada akhirnya hanya membeli waktu, bukan mengubah arahnya. Itulah bagian yang paling menakutkan
• Saya ragu perusahaan teknologi dan industri militer-pengawasan benar-benar terpisah
  Menurut ceramah Steve Blank, sebelum era 1980-an kebanyakan startup Silicon Valley dimulai dengan dana militer
  Bahkan sekarang pun teknologi strategis seperti internet, pencarian, dan AI tetap menjadi objek kontrol. Kita memberikan data ke Facebook atau Google, tapi tidak ke pemerintah. Padahal pada akhirnya informasinya sama
  • Dulu pemisahannya memang sedikit lebih jelas
    Budaya pengembang saat itu berpusat pada semangat hacker, privasi ala cyberpunk, dan gerakan open-source, sehingga berbenturan dengan budaya militer
  • Terkait itu, buku Surveillance Valley juga membahas dengan baik akar militer dari industri teknologi
• Perusahaan teknologi seharusnya tidak punya wewenang untuk melakukan pengawasan