'Lavender': Mesin AI Israel yang Mengarahkan Pengeboman di Gaza

'Lavender': Sistem AI Israel yang Mengarahkan Pengeboman di Gaza

• Militer Israel mengembangkan program berbasis kecerdasan buatan bernama 'Lavender' dan program ini memainkan peran penting dalam pengeboman membabi buta terhadap warga Palestina di Gaza.
• Sistem ini menandai puluhan ribu warga Gaza sebagai target pembunuhan tanpa pengawasan manusia, dengan kebijakan toleransi korban yang longgar.
• Lavender dirancang untuk menandai anggota sayap militer Hamas dan Jihad Islam Palestina (PIJ) sebagai calon target pengeboman.

STEP 1: Membuat target

• Lavender menganalisis informasi yang dikumpulkan melalui sistem pengawasan massal atas sebagian besar penduduk Gaza, lalu menilai dan memberi peringkat kemungkinan tiap individu sebagai anggota sayap militer Hamas atau PIJ.
• Sistem AI ini mempelajari karakteristik anggota organisasi militer yang sudah diketahui, lalu mencari dan menilai karakteristik tersebut di tengah populasi umum.
• Lavender menandai sekitar 37.000 warga Palestina sebagai 'anggota organisasi militer' Hamas yang dicurigai dan menjadikan mereka target pembunuhan.

STEP 2: Menghubungkan target dengan rumah keluarga

• Militer Israel menggunakan sistem otomatis untuk menghubungkan target ke rumah keluarga mereka, serta sistem otomatis tambahan seperti 'Where's Daddy?' yang memberi sinyal pengeboman saat target memasuki rumah keluarga.
• Sistem-sistem ini memungkinkan pemantauan terus-menerus atas target dan serangan segera begitu mereka menginjakkan kaki di rumah keluarga.

STEP 3: Memilih senjata

• Setelah ditandai sebagai target pembunuhan oleh Lavender, para tentara memeriksa apakah target tersebut laki-laki, lalu ketika perangkat lunak pelacak menemukan target di rumah, mereka memilih amunisi yang akan digunakan untuk pengeboman.
• Bom 'bodoh' berbiaya rendah dapat menimbulkan kerusakan tambahan yang lebih besar dibanding bom berpemandu presisi, dan terutama digunakan untuk membunuh anggota tingkat bawah.

STEP 4: Menyetujui korban sipil

• Selama minggu-minggu awal perang, militer Israel mengizinkan hingga 15 atau 20 warga sipil terbunuh dalam pembunuhan setiap anggota tingkat bawah yang ditandai oleh Lavender.
• 'Tingkat kerusakan tambahan' ini diterapkan secara luas pada semua anggota tingkat bawah yang dicurigai, tanpa memandang pangkat, pentingnya secara militer, atau usia mereka.

Pendapat GN⁺

• Sistem Lavender merupakan contoh penerapan teknologi AI dalam operasi militer, yang menunjukkan bahwa peran AI dalam perang di masa depan akan meningkat.
• Terdapat persoalan etis yang besar dari ketergantungan pada daftar target pembunuhan yang ditentukan oleh kecerdasan buatan, serta tingginya kemungkinan korban sipil akibat salah sasaran.
• Diperlukan pembahasan mendalam tentang bagaimana teknologi ini akan mengubah wajah perang, sekaligus menuntut penafsiran baru terhadap hukum internasional dan aturan perang.
• Penerapan sistem seperti Lavender dapat meningkatkan efisiensi militer, tetapi pada saat yang sama memiliki sisi ganda karena dapat membahayakan nyawa warga sipil yang tidak bersalah.
• Perlu disiapkan regulasi atau langkah tanggapan terkait dampak teknologi ini terhadap masyarakat internasional di masa mendatang.

[GN⁺]

Opini Hacker News

• Para peneliti sudah sejak lama menyuarakan kekhawatiran tentang penargetan individu berdasarkan keterkaitan tidak langsung. Sistem semacam ini awalnya digunakan untuk tujuan pengawasan, tetapi kini telah melampaui sekadar pengawasan dan digunakan untuk benar-benar membunuh orang.

  Hukum humaniter internasional melarang pembunuhan terhadap orang-orang yang bukan "kombatan" dari kelompok bersenjata. Hanya orang-orang yang "secara terus-menerus terlibat langsung dalam tindakan permusuhan" yang dapat menjadi sasaran serangan. Warga sipil lainnya hanya dapat dijadikan target saat mereka ikut serta langsung dalam tindakan permusuhan.

• Menyatakan kekhawatiran terhadap gagasan kecerdasan buatan (AI) yang membuat keputusan terlebih dahulu untuk membunuh orang. Dalam kasus ini memang ada persetujuan manusia, tetapi ditunjukkan bahwa ini hanya selangkah lagi dari situasi di mana orang dibunuh oleh robot tanpa campur tangan manusia.

  Merenungkan alternatif apakah tanpa AI Israel akan memilih target secara lebih acak, atau justru tidak akan menjatuhkan bom sama sekali. Dalam situasi perang, kematian orang tak bersalah adalah sesuatu yang tak terhindarkan.

• Menunjukkan bahwa banyak orang hanya akan membaca judul tanpa membaca isinya, dan menyarankan agar memperhatikan paragraf kedua artikel tersebut.

  Bersamaan dengan penggunaan sistem AI bernama Lavender, para pejabat militer Israel dituduh mengizinkan kematian massal warga sipil Palestina.

• Menyarankan untuk mendengarkan musim terbaru podcast Serial.

  Cara AI memproses data untuk dengan cepat mengidentifikasi operator "junior" agar dapat ditargetkan tidak berbeda dengan cara yang digunakan pada tahun 2001. Keputusan tetap dibuat oleh manusia, bukan AI.

• Meskipun ini adalah kisah yang menggambarkan tindakan Israel secara negatif, tetap dapat dibaca sebagai upaya untuk setidaknya menyerang target militer.

  Israel menargetkan jurnalis, tenaga medis, pekerja bantuan, dan lainnya dengan tujuan membuat kehidupan di Gaza menjadi mustahil.

• Mempertanyakan akurasi teknologi ini, dan menunjukkan bahwa tampaknya ada ketertarikan yang lebih besar pada kesan sebagai teknologi canggih daripada pada hasilnya.

  Ini membuktikan bahwa pihak yang berkuasa lebih tertarik pada pembenaran untuk mengukuhkan bias mereka sendiri daripada pada sesuatu yang "akurat".

• Menyebut bahwa Pasukan Pertahanan Israel (IDF) tidak hanya tertarik membunuh operator Hamas di gedung militer atau saat sedang melakukan aktivitas militer.

  IDF tidak ragu mengebom rumah keluarga mereka, dan sistem itu dibangun untuk menemukan mereka dalam situasi seperti itu.

• Mempertanyakan keuntungan apa yang diberikan penggunaan AI terhadap pencapaian tujuan IDF.

  Penggunaan AI yang berkelanjutan mungkin didukung karena memberikan perlindungan bagi individu yang terlibat dalam kejahatan perang.

• The Guardian juga menjadikan kisah ini sebagai artikel utama dan telah diberi rincian sebelumnya.

  Kisah-kisah seperti ini merupakan kepentingan publik, dan diharapkan ada diskusi mengenainya.

• Seorang sumber menyebut bahwa staf manusia hanya berperan sebagai "stempel karet" terhadap keputusan mesin.

  Hal ini mengingatkan pada makalah tentang ironi otomatisasi: ketika sebagian besar pekerjaan telah diotomatisasi, pengawasan manusia menjadi hampir tidak berguna.