Kepala mata-mata tertinggi Israel mengungkap identitas aslinya lewat kelalaian keamanan online
(theguardian.com)- Identitas komandan Unit 8200 milik intelijen militer Israel, yang dijaga sangat rahasia, terungkap lewat jejak digital yang tertinggal pada e-book Amazon tahun 2021
- Buku yang diterbitkan dengan nama samaran Brigadier General YS memuat alamat email anonim, dan alamat ini terhubung ke akun Google atas nama Yossi Sariel beserta profil Maps dan Calendar
- Buku The Human Machine Team membahas penggabungan personel militer dan AI, serta terkait dengan cetak biru sistem rekomendasi target berbasis AI yang diandalkan IDF selama enam bulan perang Gaza
- IDF mengatakan email tersebut bukan akun pribadi melainkan akun khusus terkait buku, tetapi kemudian mengakui kebocoran informasi pribadi Sariel sebagai sebuah “kesalahan” dan menjanjikan peninjauan untuk mencegah kejadian serupa
- Kebocoran ini menambah beban bagi Sariel di tengah perdebatan soal tanggung jawab Unit 8200, yang gagal mencegah serangan Hamas pada 7 Oktober 2023, serta kritik atas bias teknologi
Identitas komandan Unit 8200 terungkap
- Identitas komandan Unit 8200 Israel diperlakukan sebagai salah satu rahasia paling sensitif bahkan di dalam militer
- Unit 8200 dikenal sebagai lembaga pengawasan yang begitu kuat hingga kerap dibandingkan dengan NSA Amerika Serikat
- Komandannya dipastikan adalah Yossi Sariel, yang telah beroperasi tanpa dipublikasikan selama lebih dari 20 tahun
- Identitas Sariel terungkap melalui jejak digital yang terhubung dengan buku yang diterbitkannya di Amazon
- Alamat email anonim yang tercantum dalam e-book itu mengarah ke akun Google yang dibuat atas nama Sariel
- Akun tersebut terhubung dengan ID unik serta tautan ke profil Google Maps dan Calendar
- Juru bicara IDF menjelaskan bahwa email itu bukan email pribadi Sariel, melainkan akun khusus untuk urusan terkait buku
- Setelah itu, IDF mengakui kepada media Israel bahwa kebocoran informasi pribadi itu adalah sebuah “kesalahan”, dan menyatakan akan meninjau masalah tersebut untuk mencegah kasus serupa terulang
The Human Machine Team dan strategi militer AI
- Sariel menerbitkan The Human Machine Team pada 2021 dengan nama samaran Brigadier General YS
- Nama samaran itu dibentuk dari inisialnya
- Menurut verifikasi dari berbagai sumber, Sariel adalah penulis tersembunyi buku tersebut
- Buku itu memuat gagasan tentang bagaimana AI dapat mengubah hubungan antara personel militer dan mesin
- Sariel menilai dalam perang modern, machine learning harus berpindah dari pinggiran ke panggung utama
- Arah utamanya adalah human-machine teaming, yang mengejar sinergi manusia dan AI alih-alih sistem yang sepenuhnya otonom
- Pembaca sasarannya adalah para komandan militer senior dan pejabat keamanan
- Sariel diketahui menulis buku itu setelah menghabiskan satu tahun sebagai peneliti tamu di National Defense University di Washington DC, dengan izin dari IDF
Gagasan mesin penargetan AI
- Salah satu bagian buku membahas konsep “targets machine” berbasis AI
- Konsep ini mirip dengan penjelasan tentang sistem rekomendasi target yang disebut digunakan IDF dalam pemboman Gaza
- Sariel menilai bahwa untuk membangun mesin penargetan yang efektif dibutuhkan big data yang tidak bisa diproses oleh otak manusia
- Contohnya meliputi data medan perang, informasi populasi, informasi visual, data telepon seluler, koneksi media sosial, foto, dan kontak ponsel
- Pandangannya adalah semakin banyak dan semakin beragam datanya, semakin baik
- Mesin penargetan menggunakan model kompleks yang memprediksi dengan menggabungkan banyak karakteristik kecil
- Contohnya mencakup orang yang berada di grup WhatsApp yang sama dengan anggota Hezbollah, orang yang menerima ponsel baru setiap beberapa bulan, dan orang yang sering berganti alamat
- AI diposisikan sebagai sarana untuk mengurangi bottleneck yang timbul karena petugas intelijen manusia atau tentara dalam proses menghasilkan target militer potensial
- Pencarian target baru dan pengambilan keputusan persetujuan
- Pemrosesan data dalam jumlah besar
- Penghubung antara intelijen dan daya tembak
Sistem AI dalam perang Gaza
- Di bawah komando Sariel, Unit 8200 milik IDF mengerahkan berbagai sistem pendukung keputusan berbasis AI yang dikembangkan dan disempurnakan dengan cepat selama enam bulan perang Gaza
- Sistem yang telah diketahui publik mencakup the Gospel dan Lavender
- Kedua sistem itu diketahui melalui media Israel-Palestina +972 magazine, media berbahasa Ibrani Local Call, dan Guardian
- IDF menjelaskan bahwa sistem AI tersebut dimaksudkan untuk membantu perwira intelijen manusia
- Perwira intelijen manusia harus memastikan apakah seorang tersangka militer merupakan target yang sah menurut hukum internasional
- Juru bicara mengatakan militer menggunakan berbagai alat dan metode, termasuk alat berbasis AI yang membantu para peneliti intelijen
Kontroversi Unit 8200 setelah 7 Oktober
- Kesalahan keamanan Sariel terungkap di tengah kritik bahwa Unit 8200 gagal memprediksi dan mencegah serangan Hamas pada 7 Oktober 2023
- Dalam serangan itu, kelompok bersenjata Palestina membunuh sekitar 1.200 warga Israel dan menculik sekitar 240 orang
- Unit 8200 pernah sangat dipuji di Israel dan luar negeri karena kemampuan intelijennya yang dianggap setara dengan GCHQ Inggris
- Unit itu diyakini membangun perangkat pengawasan besar-besaran untuk memantau wilayah Palestina secara rinci
- Setelah serangan tersebut, muncul kritik bahwa kecongkakan teknologi Unit 8200 telah mengorbankan teknik pengumpulan intelijen yang lebih tradisional
- Surat kabar Israel Maariv pada Februari 2024 membahas saling lempar tanggung jawab internal di Unit 8200 setelah 7 Oktober
- Sariel disebut bukan dengan nama lengkapnya, melainkan sebagai komandan Unit 8200 “Y”
- Para pengkritik menilai unit di bawah komando Sariel memprioritaskan teknologi yang “adiktif dan menarik”, sehingga berujung pada bencana
- Sariel dikutip mengatakan kepada rekan-rekannya bahwa 7 Oktober akan menghantuinya sampai hari terakhir hidupnya, dan bahwa ia menerima tanggung jawab dalam arti yang paling dalam serta berkata, “kami kalah. saya kalah”
1 komentar
Komentar Hacker News
Saya makin penasaran apa tepatnya sifat kesalahan keamanan yang disebut dalam kutipan itu
Apakah Amazon punya bug yang membocorkan alamat email akun penulis yang menerbitkan sendiri, atau apakah ia tidak tahu bahwa saat membagikan konten Google Maps atau Google Calendar di dalam buku, fitur-fitur itu akan menampilkan email asli?
Sepertinya ada akun Gmail yang dibuat untuk menerima masukan, koreksi, ulasan, dan kontak pers; akun itu seharusnya nyaris anonim, tetapi terdaftar dengan nama asli
Setidaknya nama itu mungkin terlihat oleh orang yang menerima balasan, dan mungkin juga terungkap lewat keterkaitan dengan akun lain
Entah itu semacam nomor identitas kependudukan, nomor dinas militer, atau pengenal lain
Di sini tampaknya tidak ada kegagalan keamanan
Sebagian orang memakai nama pena untuk menyembunyikan identitas asli, tetapi sebagian lain memakainya untuk memisahkan persona publik dari kehidupan pribadi
Kasus ini jelas lebih dekat ke yang kedua
Ia menerbitkan buku dengan kombinasi inisial dan petunjuk yang mengisyaratkan pekerjaannya, dan wajar dalam alur itu jika ia tidak benar-benar berusaha keras menyembunyikan emailnya
Ini sama tidak pentingnya seperti memberitakan bahwa seseorang menemukan nama asli JJ Lehto
Setelah dipikir lagi, itu sekaligus nama tempur dan nama pena
Keamanan operasional itu sulit
Dan sebesar apa pun optimisme terhadap potensi AI, memakai AI untuk menentukan siapa yang akan dibunuh itu mengerikan dan jelas tidak etis
Ini memungkinkan kekejaman tanpa pihak yang bertanggung jawab
Fakta bahwa orang ini sejak awal anonim juga tampak sebagai tanda bahwa tujuannya bukan akuntabilitas
https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai...
Namun dalam artikel itu, sebagian besar bagian yang menakutkan berasal dari operator manusia
Tampaknya ada ketidakpedulian yang cukup kuat untuk mencari alasan agar tidak memercayai mesin
Saya setuju dengan sentimen bahwa “menggunakan AI untuk menentukan siapa yang akan dibunuh itu tidak etis”, tetapi sulit menerima proposisi sekuat itu
Misalnya ada kelompok berisi 10 orang yang menentukan target, dan AI mengurangi beban kerja sehingga 10 orang itu bisa meninjau ulang lebih lama; itu juga bisa disebut “menggunakan AI untuk menentukan siapa yang akan dibunuh”, tetapi hasilnya justru bisa membaik
Masalahnya, dalam kenyataan, besar kemungkinan orang akan melempar tanggung jawab ke mesin lalu mengangkat bahu
Menurut saya sulit menjawab pertanyaan ini dengan benar sekaligus menghasilkan jawaban yang mudah
Justru komentar dan cara berpikir seperti ini memungkinkan penghindaran tanggung jawab
Ada manusia yang memutuskan memakai AI, dan manusia itu harus bertanggung jawab
Jika tidak sanggup memikul tanggung jawab itu, jangan memakai AI
Meski identitasnya bocor, itu tidak terlalu penting
Jika seseorang adalah pejabat setingkat direktur, apa pun yang ia lakukan akan lebih mudah terlihat, dan ia tidak bisa bersembunyi
Di ranah militer, perwira tinggi mewakili militer sehingga identitas mereka tidak dilindungi
Tentu saja prajurit dan personel tingkat bawah hingga menengah harus selalu dilindungi identitasnya karena merekalah yang menjalankan perintah dan menanggung risiko nyata
Memang lebih baik jika identitasnya tidak dipublikasikan karena ia bisa terpapar risiko pembunuhan saat bepergian, tetapi jujur saja ini bukan cerita besar
Sepertinya hanya akan memunculkan komentar kebencian dari kelompok-kelompok anti-Israel
Di permukaan, ia memang berusaha menyembunyikan identitasnya, dan karena gagal cukup parah, itu menjadi layak diberitakan
Bukunya ada di sini:
https://www.amazon.com/Human-Machine-Team-Artificial-Intelli...
Secara pribadi saya tidak peduli dengan identitasnya, tetapi artikel ini juga membahas isi buku yang ia terbitkan, dan bagian itu jauh lebih menarik
Langkah catur 4 dimensi yang cerdik dari Yossi Sariel
Sepertinya ia mencoba keluar dari jabatan tanpa mengundurkan diri secara resmi, dengan berpura-pura melakukan kesalahan
“Kesalahan” ini memberi atasannya alasan untuk menyingkirkannya, sekaligus membantunya menghindari peristiwa 7 Oktober
Melihat hal-hal yang terjadi setelah 7 Oktober, kedua pihak tidak tampak cakap dalam bentuk penyusunan strategi apa pun
Apalagi “catur 4 dimensi yang cerdik”
Maksudnya ia sengaja membuat kesalahan waktu itu untuk menyiapkan cara keluar tanpa mengundurkan diri 3 tahun kemudian?
Sepertinya itu memang tidak benar-benar dimaksudkan untuk dirahasiakan
Kalau mau, ia juga bisa menjadi pengungkap fakta seperti Snowden
Anehnya agak menenangkan mengetahui bahwa hal seperti ini sulit bahkan bagi para ahli
“Para pengkritik Sariel menilai bahwa Unit 8200 lebih memprioritaskan teknologi yang ‘adiktif dan menarik’ daripada metode pengumpulan intelijen yang lebih kuno, dan itu berujung pada bencana”
Apakah mereka juga memakai Kubernetes dan framework frontend terbaru?
Sebuah loop useEffect() raksasa yang mengendalikan semua robot pembunuh satu per satu dengan nama yang di-hardcode
Masih agak lambat karena belum ada anggaran untuk meneliti memoization, tapi di hardware yang cukup kuat itu berjalan baik-baik saja
Semua perhitungan balistik dilakukan dengan WebGL, sehingga menyebabkan kelangkaan GPU global selama beberapa tahun terakhir
Kadang ukuran viewport-nya salah sehingga menimbulkan collateral damage :(
Setelah mengambil pelajaran, proyek AI Israel berikutnya akan mengikuti metode yang sudah teruji, dan seluruhnya akan ditulis dengan CSS
Analogi yang lebih masuk akal adalah memecat developer senior lalu merekrut junior yang punya langganan ChatGPT, sambil berharap kecepatan pengembangan meningkat besar
Mereka membobol komputer acak di ruang bawah tanah dan mengirimkan fungsi-fungsi kecil untuk diproses secara terdistribusi
Datanya terlalu kecil untuk bisa direkonstruksi apa yang sedang dilakukan
Ini SETI@HOME ala Soviet
Tanpa sadar Anda ikut memproses data mereka
Satu-satunya hal yang bisa Anda lakukan adalah memformat sistem untuk menghapus backdoor, meski harus berharap semuanya berjalan lancar
Keamanan operasi itu sulit
Meski 99.999 kali semuanya dilakukan dengan benar, sekali saja keliru maka selesai