Kisah tentang mode otomatis rudal Patriot
(cnas.org)Beberapa waktu lalu, kecelakaan jatuhnya Ukraine International Airlines Penerbangan 752 di dekat Teheran, Iran, tampaknya sangat mungkin terjadi akibat peluncuran misil salah identifikasi oleh Iran. Saat itu, karena gesekan dengan Iran, Amerika Serikat sedang menempatkan maju 6 pesawat pengebom strategis B-52 di dekat Iran, dan akibat meningkatnya ketegangan ini, ada kemungkinan unit pertahanan udara Iran salah mengira pesawat sipil yang lepas landas dari wilayahnya sendiri sebagai pesawat militer AS yang hendak menyerang bandara Iran. Kebetulan, situasi yang mirip di wilayah yang mirip ini mengingatkan pada [insiden penembakan jatuh Iran Air Penerbangan 655 oleh USS Vincennes], ketika pesawat sipil Iran ditembak jatuh akibat kesalahan pihak militer AS; penyebab insiden itu antara lain disebut sebagai rangkaian kesalahan manusia dalam kondisi tegang secara psikologis serta antarmuka pengguna yang tidak memadai.
Seperti ini pula, ketika manusia berada dalam keadaan tegang atau situasi mendesak yang tak terduga, mereka mudah bingung dan cenderung mengambil keputusan yang salah. Karena itu, banyak orang mengajukan otomatisasi oleh mesin atau otonomi dengan intervensi manusia yang diminimalkan sebagai solusinya. Artinya, dalam situasi ketika manusia salah menilai atau tidak sempat bereaksi, mesinlah yang harus secara otomatis mengambil tindakan tertentu lebih dulu. Ini memang terdengar masuk akal, tetapi masalahnya adalah manusia yang membuat mesin itu tetaplah makhluk yang tidak sempurna. Karena itu, mesin tersebut juga sangat mungkin tidak sempurna. Dengan demikian, tindakan otomatis yang dilakukan mesin bisa saja sebenarnya salah. Selain itu, jika orang yang mengoperasikan mesin itu tidak memahami otomatisasi dengan benar, otomatisasi tersebut justru bisa menjadi penyebab masalah membesar.
Saya menemukan sebuah tulisan yang menjelaskan sisi negatif sistem otonom melalui kasus peluncuran salah rudal darat-ke-udara Patriot. (Bahasa Inggris) Rudal Patriot memang memiliki kemampuan mencegat rudal balistik musuh, tetapi karena terlalu rumit dan waktunya terlalu sempit untuk dioperasikan manusia secara langsung, diperkenalkanlah [mode otomatis] yang akan langsung menembak secara otomatis dan mencoba melakukan intersepsi begitu radar mendeteksi rudal balistik, cukup dengan menyalakan sakelarnya. Mode otomatis ini tampak seolah berhasil menembak jatuh rudal Scud dengan baik dalam Perang Teluk, sehingga militer AS pun menjadi terlalu percaya padanya. Namun dalam Perang Irak, rudal Patriot yang berada dalam mode otomatis sampai dua kali menembak jatuh pesawat tempur kawan sendiri. Ketika radar mendeteksi rudal balistik yang sebenarnya tidak ada akibat interferensi gelombang radio, Patriot otomatis diluncurkan; lalu karena misil itu tidak dapat menemukan target yang ditentukan, ia menganggap objek terdekat, yaitu pesawat tempur, sebagai target dan menembaknya jatuh.
Kasus mode otomatis rudal Patriot memperlihatkan dengan sangat jelas masalah senjata otonom mematikan (Lethal Autonomous Weapon: senjata otonom yang dirancang untuk memilih dan menyerang target sendiri tanpa campur tangan manusia). Dalam situasi dunia nyata yang serba ambigu, kemampuan sistem yang diotomatiskan untuk membuat penilaian yang benar ternyata lebih rendah dari yang dibayangkan. Bukan hanya senjata otonom mematikan, sistem yang diotomatiskan pun semakin memengaruhi kehidupan sehari-hari kita. Misalnya, YouTube secara otomatis mengidentifikasi konten anak-anak dengan machine learning dan mengundang keluhan dari para YouTuber yang salah diklasifikasikan; di Korea, mulai Juli mendatang akan dimungkinkan untuk merilis mobil dengan fitur partial autonomous driving level 3. Kita sedang memasuki era mesin dengan campur tangan manusia yang semakin berkurang, tetapi kita harus tetap ingat bahwa dalam keadaan darurat, campur tangan manusia masih tetap diperlukan.
Referensi - ringkasan kutipan dalam bahasa Korea untuk tulisan di atas:
2 komentar
Videonya sudah muncul, dan sepertinya memang benar terkena misil sungguhan.
https://www.nytimes.com/2020/01/09/video/iran-plane-missile.html
Akhirnya Iran mengakui bahwa insiden kali ini terjadi akibat salah tembak yang keliru dikira sebagai target oleh rudal militer mereka sendiri. Semoga para korban meninggal beristirahat dengan tenang.
https://www.yna.co.kr/view/AKR20200111031354009
https://www.yna.co.kr/view/AKR20200111041651111