Sejauh mana perang mendorong prinsip etika perusahaan AI?

• Peristiwa kali ini menunjukkan bahwa Claude milik Anthropic telah digunakan untuk analisis intelijen militer AS, identifikasi target, dan simulasi melalui sistem Maven milik Palantir, yang menandakan bahwa AI generatif sudah masuk jauh ke dalam infrastruktur militer.

• Titik awalnya adalah Project Maven dari Departemen Pertahanan AS pada 2017, dan pada 2018 Google mundur setelah mendapat penolakan internal, tetapi setelah itu kekosongan tersebut diisi oleh Palantir dan Anthropic.

• Pada awal 2026, Anthropic mengajukan dua syarat kepada Departemen Pertahanan: larangan pengawasan massal terhadap warga negara AS dan larangan senjata otonom sepenuhnya, tetapi syarat tersebut tidak diterima.

• Dalam proses ini, pemerintahan Trump berupaya secara efektif mengecualikan Anthropic, dan Departemen Pertahanan menetapkan perusahaan itu sebagai risiko rantai pasok.

• Namun bahkan pada saat itu, Claude tetap digunakan dalam operasi terkait Iran, dan di internal Departemen Pertahanan muncul penilaian bahwa penggantiannya bisa memakan waktu berbulan-bulan.

• Ini berarti bahwa begitu model AI terintegrasi secara mendalam ke dalam sistem militer, ia bukan lagi sekadar perangkat lunak, melainkan infrastruktur yang sulit diganti.

• Pada saat yang sama, OpenAI memperluas kontraknya dengan Pentagon, dan Google pada 2025 menghapus frasa larangan senjata dan pengawasan dari prinsip AI-nya, menunjukkan pergeseran standar di seluruh industri.

• Isu intinya adalah, “meski AI tidak langsung menarik pelatuk, jika ia terlibat secara mendalam dalam rekomendasi target dan penentuan prioritas, sampai sejauh mana itu masih bisa dianggap sebagai kendali manusia?”

• Pada akhirnya, kasus ini memperlihatkan bahwa prinsip etika di masa damai mudah goyah di masa perang, dan bahwa daya tawar nyata lahir dari kedalaman integrasi dan biaya transisi, bukan dari prinsip itu sendiri.

• Karena itu, pertanyaannya tidak lagi sekadar “apakah senjata AI harus diizinkan,” melainkan bergeser menjadi siapa yang akan menggantikan penilaian manusia dengan rekomendasi AI, dan seberapa cepat hal itu akan terjadi.