Pentagon Resmi Menetapkan Anthropic sebagai Risiko Rantai Pasok, Konflik Makin Memanas

• Departemen Pertahanan AS secara resmi menetapkan Anthropic sebagai risiko rantai pasok dan mengambil langkah untuk memblokir transaksi dengan kontraktor yang bekerja sama dengan Pentagon
• Penetapan ini biasanya diterapkan pada perusahaan dari negara musuh asing, dan menjadi salah satu kasus pertama yang dikenakan pada perusahaan AS
• Sementara Departemen Pertahanan ingin AI dapat digunakan untuk semua penggunaan yang sah, Anthropic menuntut jaminan eksplisit bahwa teknologinya tidak akan digunakan untuk senjata otonom dan pengawasan domestik skala besar
• Ada potensi dampak luas terhadap mitra dan investor Anthropic seperti Lockheed Martin, Amazon, dan Google
• Anthropic telah memberi sinyal akan melakukan langkah hukum atas penetapan ini, yang dinilai dapat menimbulkan efek mendinginkan hubungan antara industri AI dan pemerintah

---

Penetapan resmi dan latar belakang

• Pada Kamis, Departemen Pertahanan secara resmi memberi tahu eksekutif Anthropic dan menilai perusahaan beserta alat AI-nya sebagai ancaman keamanan
• Seorang pejabat senior Departemen Pertahanan mengatakan, "Kami tidak bisa membiarkan vendor ikut campur dalam rantai komando untuk membatasi penggunaan sah atas kemampuan inti dan menempatkan personel militer dalam bahaya"
• Menteri Pertahanan Pete Hegseth pekan lalu telah mengisyaratkan penetapan risiko rantai pasok, tetapi kedua pihak terus melanjutkan negosiasi untuk mencapai kesepakatan

Perbedaan posisi kedua pihak

• Pentagon menuntut Anthropic untuk mengizinkan penggunaan AI dalam semua penggunaan yang sah
• Anthropic menuntut jaminan eksplisit bahwa teknologinya tidak akan digunakan untuk senjata otonom dan pengawasan domestik skala besar
• Anthropic pekan lalu mengumumkan akan menggugat penetapan ini di pengadilan

Cakupan penetapan dan kontroversi hukum

• Penetapan risiko rantai pasok dapat diterapkan secara sangat luas maupun sempit
• Pengumuman Hegseth pekan lalu menginstruksikan bahwa semua perusahaan yang bekerja sama dengan militer tidak boleh bertransaksi dengan Anthropic, dan sejumlah analis menilai ini melampaui kewenangan hukum Pentagon
  • Menurut para analis tersebut, Departemen Pertahanan hanya bisa memerintahkan perusahaan agar tidak menggunakan Claude untuk pekerjaan Pentagon
• Sebagai salah satu kasus pertama penetapan ini diterapkan pada perusahaan AS, muncul peringatan bahwa langkah ini dapat menimbulkan efek mendinginkan bagi perusahaan lain yang ingin berbisnis dengan pemerintah

Memo internal CEO Anthropic

• Menurut laporan The Information, dalam memo yang dikirim CEO Dario Amodei kepada karyawan pekan lalu, ia menulis bahwa alasan pemerintah menargetkan Anthropic adalah karena perusahaan tidak mengirimkan "pujian bergaya diktator kepada Trump" dan menentang agenda AI pemerintah
• Memo tersebut juga mengkritik pesaingnya, OpenAI, yang telah menandatangani kontrak dengan Departemen Pertahanan untuk penggunaan sistem rahasia
  • OpenAI pekan ini secara eksplisit menambahkan klausul larangan pengawasan pada kontrak tersebut setelah muncul penolakan dari karyawan

Status penggunaan militer yang sudah ada

• Claude milik Anthropic sebelumnya merupakan satu-satunya AI yang disetujui untuk digunakan di lingkungan rahasia, dan baru-baru ini xAI milik Elon Musk juga memperoleh persetujuan
• Claude saat ini digunakan militer dalam operasi Iran, dan sebelumnya juga pernah digunakan dalam operasi penangkapan mantan pemimpin Venezuela Nicolás Maduro
• Anthropic memiliki kemitraan dengan perusahaan data mining Palantir, yang memasok perangkat lunak ke Departemen Pertahanan

Dampak terhadap mitra dan investor

• Langkah ini berpotensi menimbulkan konsekuensi luas bagi mitra dan investor Anthropic seperti Lockheed Martin, Amazon, dan Google

[GN⁺]

Komentar Hacker News

• Penetapan seperti ini biasanya diterapkan pada perusahaan asing yang bermusuhan, jadi cukup mengejutkan ketika ini diterapkan pada perusahaan AS hanya karena sengketa kontrak
  Tindakan seperti ini tampaknya akan membuat perusahaan-perusahaan AS takut menandatangani kontrak dengan pemerintah
  Jika pemerintah mau, alih-alih membatalkan atau menegosiasikan ulang kontrak yang ada, mereka bisa langsung mendorong larangan bertransaksi dengan seluruh industri tertentu
  • Terasa ada nuansa ancaman seperti, “Bisnis yang bagus, sayang sekali kalau sesuatu terjadi…”
  • Fasisme pada dasarnya adalah penyatuan kekuasaan negara dan kekuasaan industri
    Banyak teknolog berusaha menghindari pembicaraan politik, tetapi ini menunjukkan bahwa pada akhirnya politik akan kembali menghantam industri teknologi seperti bumerang
• Mengerikan bahwa perusahaan bisa hancur karena alasan politik
  Masyarakat sipil seharusnya sangat khawatir terhadap serangan seperti ini
  • Preseden seperti ini dapat membuka jalan bagi pemerintahan Demokrat untuk menjatuhkan sanksi pada pemasok karena alasan politik mereka sendiri
    Sekali kekuasaan seperti ini ada, pada akhirnya akan berbalik juga ke kubu lawan
  • Mengatakan “mengkhawatirkan” saja tidak cukup
    AS sudah bergerak menuju masyarakat yang dikendalikan setingkat Jerman Nazi, dan lebih dari separuh warga mendukungnya
  • Jika masyarakat sipil sudah kebal terhadap undangan kepada Putin, aksi militer tanpa persetujuan Kongres, ancaman penyitaan wilayah sekutu, dan pembunuhan warga sendiri oleh ICE
    maka penetapan sebagai ‘risiko rantai pasok’ kali ini pun tidak akan membangkitkan kewaspadaan apa pun
• Pemerintahan ini tampaknya tidak punya kemampuan untuk mempertimbangkan efek orde kedua dan ketiga
  Mereka melintasi garis merah yang dulu tidak dilewati pemerintahan sebelumnya tanpa konsekuensi apa pun, jadi sekarang sepertinya mereka bahkan tidak peduli lagi
  • Sudah berkali-kali terlihat bahwa kemampuan seperti itu memang tidak ada
    Penutupan USAID adalah contoh utamanya, ketika demi alasan sederhana “jangan habiskan pajak untuk membantu orang asing”, mereka malah ikut membuang kepentingan AS sendiri
  • Melampaui tabu pemerintahan sebelumnya kini tampaknya telah menjadi tujuan itu sendiri
• Untuk latar belakang terkait, ada
  tweet tentang Departemen Pertahanan yang menetapkan Anthropic sebagai risiko rantai pasok dan
  artikel Reuters tentang Anthropic yang mengisyaratkan langkah hukum
• Anthropic sejak awal tidak seharusnya bekerja sama dengan militer dan badan intelijen
  Masalahnya adalah mereka membuat kesepakatan dengan iblis sambil mencoba mengendalikan syarat-syaratnya
  Meski begitu, patut diapresiasi bahwa mereka tetap mencoba menjaga garis merah internal mereka soal penggunaan teknologinya
  • Menurut legenda, iblis selalu mematuhi isi kontrak dengan tepat
    Masalahnya ada di pihak manusia yang tidak membaca detail klausulnya
  • Militer bukan sekadar organisasi yang melakukan pengeboman
    Mereka juga melakukan banyak hal di bidang non-tempur, jadi bekerja sama di area seperti itu belum tentu buruk
• Departemen Pertahanan bertindak seperti yang sudah diperingatkan, dan OpenAI bergerak memanfaatkan celah itu
  Menarik untuk melihat pilihan apa yang akan diambil para penanda tangan notdivided.org sekarang
  • Bisa jadi OpenAI bukan sekadar memanfaatkan peluang, melainkan menurut tulisan Gary Marcus
    juga mungkin telah secara langsung merekayasa situasi ini
  • Perubahan nama Departemen Pertahanan adalah hal yang memerlukan persetujuan Kongres, jadi bertindak seperti ini tanpa persetujuan adalah tidak pantas
    Hal itu juga tertulis jelas di artikel Wikipedia
  • Sulit rasanya menanggapi serius standar moral para pengembang seperti ini
    karena mereka sudah punya riwayat bekerja dengan perusahaan-perusahaan yang terkenal buruk
• Saya menutup akun ChatGPT dan beralih ke Claude
  Memang hanya untuk tes-tes sederhana secara gratis, tetapi sejauh ini saya jauh lebih puas
  • Saya juga sudah memakai Le Chat selama beberapa bulan karena alasan serupa
    Fiturnya sudah cukup untuk kebutuhan saya, jadi berhenti berlangganan ChatGPT adalah keputusan yang mudah
  • Secara pribadi, saya merasa antarmuka CLI Claude jauh lebih praktis
    Bisa memakai file lokal seperti memori dan diakses langsung hanya dengan satu kata perintah
  • Tetapi jika Claude ditetapkan sebagai risiko rantai pasok, maka cloud seperti AWS, Azure, dan GCP juga akan ikut berisiko
    Pada akhirnya mereka bisa jadi tidak dapat berbisnis di AS dan mungkin harus pindah ke luar negeri
• Saya bertanya-tanya apakah peristiwa ini harus dicatat sebagai hari ketika demokrasi liberal berubah menjadi demokrasi tidak liberal
  Jika nanti ada keputusan lain untuk menyita aset perusahaan, saat itulah itu akan menjadi bukti yang jelas
  • Jika Anda bertanya kepada orang Amerika, “sejak kapan menurut Anda AS bukan lagi demokrasi?”,
    jawabannya sangat beragam, dan menarik melihat rentang penyangkalan yang begitu luas
  • Jika kasus seperti ini terulang beberapa kali lagi saja, rasanya kita harus mengakui bahwa ada sesuatu yang sangat salah sedang terjadi
  • Bukankah kita seharusnya sudah sadar sejak polisi rahasia mulai menculik orang?
• Artikel terkait: archive.ph/IVDtq
• Perundungan oleh kekuasaan seperti ini hanya bisa dipatahkan jika semua orang melawannya bersama-sama
  Tetapi jika sebagian pihak menyerah (misalnya OpenAI), itu akan menjadi standar baru dan memunculkan target berikutnya
  • Tetapi cara berpikir para miliarder mungkin tidak sesederhana itu