Masalah Pentagon dengan Silicon Valley

Masalah Pentagon di Silicon Valley

• Ron Bar, kepala Shin Bet, badan keamanan internal Israel, mengumumkan platform kecerdasan buatan yang dikembangkan secara internal.
• Teknologi ini digunakan untuk menganalisis informasi tentang teroris, memprediksi risiko, dan memicu peringatan.
• Serangan Hamas benar-benar mengejutkan sistem pertahanan Israel, dan ini terjadi meskipun Hamas melakukan persiapannya secara terbuka.

Big Tech yang tertinggal dalam perang masa depan

• Michèle Flournoy menekankan pentingnya hubungan antara Silicon Valley dan pemerintah Amerika Serikat.
• Pentagon sering dipersepsikan resistan terhadap teknologi baru, tetapi sebenarnya berinvestasi dalam banyak proyek AI.
• Teknologi AI dapat memengaruhi cara operasi militer dijalankan, tetapi juga mendorong mitos bahwa para idealis industri teknologi sedang merevolusi mesin perang.

Keyakinan bahwa perangkat lunak dapat menyelesaikan konflik manusia

• Peran perangkat lunak dalam pelaksanaan perang oleh Amerika Serikat memiliki sejarah panjang.
• Pada masa Perang Vietnam, Operasi Igloo White menempatkan sensor untuk mendeteksi aktivitas musuh, tetapi gagal.
• Silicon Valley berkembang dari industri elektronik yang membantu kemenangan dalam Perang Dunia II, dan mendapat dukungan Pentagon selama Perang Dingin.

Hubungan antara Silicon Valley dan Pentagon

• Industri teknologi Silicon Valley pada awalnya memiliki hubungan erat dengan industri pertahanan, dan internet berkembang dari ARPANET milik Pentagon.
• Peter Thiel memiliki tujuan untuk mengembalikan Silicon Valley menjadi kompleks industri militer.
• Pentagon berupaya memanfaatkan teknologi Silicon Valley untuk mempertahankan keunggulan teknologi Amerika Serikat.

Teknologi pertahanan Silicon Valley

• Perusahaan-perusahaan Silicon Valley memperluas aktivitas mereka di bidang pertahanan, menambahkan pemain baru ke kompleks industri militer yang sudah ada.
• Google mengembangkan teknologi untuk pemrosesan video drone melalui Project Maven, tetapi menarik diri dari proyek ini karena penolakan karyawan.
• Perusahaan-perusahaan Silicon Valley terus memperluas perannya di bidang pertahanan, yang tampak sebagai sumber pendapatan stabil dari anggaran pertahanan.

Opini GN⁺

• Artikel ini memberikan wawasan menarik tentang bagaimana perkembangan teknologi pertahanan dan kecerdasan buatan diterapkan dalam operasi militer nyata.
• Artikel ini mempertanyakan apakah teknologi AI benar-benar dapat memahami dan merespons kompleksitas di medan perang secara penuh.
• Artikel ini memicu diskusi penting tentang bagaimana kerja sama antara industri teknologi dan sektor pertahanan dapat memengaruhi keamanan nasional.
• Artikel ini menyoroti masalah etika yang dapat muncul ketika perusahaan Silicon Valley terlibat lebih dalam di bidang pertahanan.
• Artikel ini mengingatkan bahwa kemajuan teknologi tidak selalu berujung pada keberhasilan militer, dengan mencontohkan proyek-proyek gagal di masa lalu sebagai pendukung argumen tersebut.

[GN⁺]

Opini Hacker News

• Contoh-contoh yang disebut dalam artikel tampaknya dipilih secara selektif. Kegagalan di Vietnam tidak bisa semata-mata disalahkan pada komputer IBM 360. Serangan Hamas mungkin mengejutkan Israel, tetapi dalam beberapa tahun terakhir Iron Dome telah bekerja dengan baik. Amerika Serikat telah memperingatkan serangan Rusia terhadap Ukraina, tetapi banyak orang tidak mendengarkannya. Dan bom atom dibuat oleh para fisikawan teoretis.
• Seperti banyak media lainnya, artikel ini juga menjelaskan kecerdasan buatan secara terlalu umum. Kemampuan prediktif machine learning (ML) telah digunakan di militer modern selama beberapa dekade. Pembukaan artikel mengisyaratkan bahwa LLM memainkan peran besar dalam kegagalan intelijen pada serangan 7 Oktober, tetapi kenyataannya tidak demikian. ML akan terus berperan, terus mengalami keberhasilan dan kegagalan, dan menjadi semakin tidak sempurna sambil menghadapi adversarial ML. Menyalahkan alat yang tidak sempurna tidaklah berguna.
• Sistem kecerdasan buatan mengetahui segalanya tentang Hamas, tetapi para anggota Hamas memberikan data yang ingin didengar AI. Ketika pihak lawan dapat melihat setiap tindakan dan ucapan, satu-satunya pertahanan adalah privasi. Dalam novel "The Three-Body Problem", privasi hanya ada di dalam pikiran manusia, dan hanya manusia yang dapat mengambil keputusan berdasarkan strategi yang tidak pernah mereka ucapkan. Fiksi ilmiah menjadi kenyataan.
• Hampir mustahil merancang sistem yang baik tanpa use case yang jelas. Ukraina memiliki use case seperti itu, dan punya motivasi tinggi untuk menyelesaikannya. Ukraina mengendalikan medan perang dengan komputer biasa, dan telah menenggelamkan beberapa kapal perang Rusia dengan drone laut jarak jauh. Baru-baru ini, mereka juga mulai menguji secara besar-besaran drone terbang murah yang dilengkapi pengenalan target berbasis computer vision. Namun Amerika Serikat sedang dalam keadaan damai, yang dengan sendirinya merupakan hal baik, tetapi dalam praktiknya itu memudahkan pemborosan miliaran dolar pada teknologi yang tidak berguna.
• Ungkapan 'secara mengejutkan' terasa aneh. Media Israel berulang kali memberitakan bahwa para analis garis depan telah membunyikan alarm tetapi diabaikan. Ini bisa jadi karena seksisme, ageisme, diskriminasi terkait wajib militer, atau karena kelompok pemukim di pemerintahan memiliki keinginan kuat untuk memukimkan kembali Gaza. Bagaimanapun, sinyalnya ada, dan persiapan serta latihan telah diamati selama sekitar satu tahun. Sekalipun kelompok-kelompok perlawanan menjaga kerahasiaannya, perwira intelijen atau militer biasa seharusnya pada akhirnya dapat menyimpulkan bahwa akan ada respons yang keras.
• Saya tidak terlalu tahu soal teknologi Israel, tetapi Pentagon punya masalah citra di Silicon Valley. Tampaknya mereka tidak merekrut talenta terbaik atau mempekerjakan orang di perusahaan kontraktor seperti Palantir. Generasi kita lebih dekat ke Irak dan Vietnam daripada Perang Dunia II, dan banyak pikiran brilian adalah imigran generasi pertama. Baru-baru ini ad tech juga mengalami masalah citra (karena orang-orang semakin melihat proses pembuatannya), tetapi bekerja di perusahaan konsumen besar masih lebih menarik daripada di industri pertahanan. Untuk membuat rekan-rekan saya mau bekerja untuk pemerintah AS, bahkan secara tidak langsung sekalipun, Anda harus membayar lebih banyak. Sebaliknya, sering kali mereka justru dibayar lebih sedikit dan memiliki kebebasan yang lebih kecil untuk aktivitas di luar jam kerja.
• Menjelang akhir artikel, Cockburn mengeluh bahwa ketika ia bertanya kepada ChatGPT tentang pekerjaan IDF dan Palantir, ia mendapat jawaban yang fantastis. Jika Anda mencari "IDF Palantir" di DuckDuckGo.com, Anda akan mendapatkan tautan ke berbagai artikel berita. Jika poinnya adalah bahwa LLM saat ini tidak bisa diandalkan, ya benar, tetapi jika maksudnya adalah bahwa kita tidak bisa tahu apakah Palantir bekerja sama dengan IDF, buktinya sudah ada.
• Tidak bisa lepas dari kebenaran abadi tentang pengukuran dan penanggulangannya... orang bodoh yang memegang alat tetaplah orang bodoh...
• Tampaknya personel operasional kewalahan oleh false alarm dari kewajiban on-call. Cara terbaik untuk memperbaiki kesalahan adalah... abaikan saja. Sistem kompleks yang harus dijalankan oleh staf birokratis memang ditakdirkan untuk gagal.