Asumsi bahwa komputer berfungsi dengan benar
(emptycity.substack.com)- Skandal penuntutan Post Office Horizon di Inggris merupakan contoh salah vonis massal di Britania modern, yang menunjukkan bukan hanya kegagalan individu dan organisasi, tetapi juga peran hukum dan prosedur pengadilan
- Pengadilan mengasumsikan bahwa perangkat mesin berfungsi normal jika tidak ada bukti yang bertentangan, dan titik awal ini juga berlaku pada catatan komputer
- Di bawah asumsi pembuktian ini, fakta seperti kekurangan akuntansi dapat dianggap terbukti hanya dari catatan komputer, sehingga terdakwa harus membuktikan adanya kesalahan
- Section 69 dari Police and Criminal Evidence Act 1984 menetapkan aturan kebalikan, yaitu jaksa harus menunjukkan bahwa komputer berfungsi normal, tetapi ketentuan ini dihapus pada 1999
- Jika Section 69 tetap berlaku, cara penuntutan Post Office berjalan mungkin akan berbeda, dan setelah penghapusan itu beban kembali dialihkan ke pihak terdakwa
Tanggung jawab skandal Post Office Horizon dan prosedur hukum
- Post Office prosecutions scandal dianggap sebagai salah satu kasus salah vonis massal terbesar di Britania modern
- Kasus ini merupakan gabungan kegagalan personal dan institusional, dengan dokumen hukum dan bukti yang sangat banyak sehingga sulit dipahami secara utuh
- Putusan kunci Mr Justice Fraser tahun 2019 terdiri dari lebih dari 1.000 paragraf, bahkan tanpa lampiran
- Buku terkait karya Nick Wallis dan penyelidikan publik menelusuri jalannya peristiwa dan cara mencegah terulangnya kasus serupa
- Banyak analisis berfokus pada kegagalan manajemen Post Office, para pengacara, dan penyedia perangkat lunak Fujitsu
- Namun hukum dan prosedur yang diterapkan juga merupakan bagian dari kasus ini, dan tanggung jawabnya tidak menjadi lebih ringan hanya karena para pengambil keputusan mengetahui atau seharusnya mengetahui bahwa hal itu dapat bekerja secara keras terhadap terdakwa
Asumsi pembuktian “komputer berfungsi normal”
- Presumption yang dimaksud para ahli hukum adalah mekanisme ketika pengadilan menerima kondisi tertentu sebagai nilai default jika tidak ada bukti yang bertentangan
- Rumusan klasiknya adalah: “jika tidak ada bukti yang bertentangan, pengadilan mengasumsikan bahwa perangkat mesin berada dalam kondisi baik pada waktu yang relevan”
- Di sini, perangkat mesin juga mencakup komputer
- Asumsi ini tidak berarti pengadilan harus selalu mempercayai komputer dalam semua situasi, melainkan titik awal yang dapat dibantah dengan bukti
- Selama keadaan sebaliknya tidak dibuktikan, pengadilan dapat menerima keadaan tersebut sebagai fakta
Mengapa asumsi diperlukan dan apa risikonya
- Penggunaan asumsi oleh pengadilan bukan masalah pada dirinya sendiri; tanpa asumsi, banyak perkara akan sulit ditangani secara praktis
- Asumsi membantu mempersempit isu perkara ke ruang lingkup yang dapat dikelola
- Kontrak dapat dianggap bukan dokumen curang kecuali terbukti palsu
- Terdakwa dapat diperlakukan tidak mengalami gangguan jiwa kecuali terbukti sebaliknya
- Intinya adalah kondisi mana yang dijadikan nilai default, dan pihak mana yang harus mematahkan default tersebut
- Jika isi asumsi tidak realistis atau syarat untuk membantahnya terlalu sulit, asumsi itu bukan lagi alat bantu peradilan melainkan alat yang menghasilkan salah vonis
Struktur ketika catatan komputer menjadi dasar vonis bersalah
- Aturan yang menganggap komputer berfungsi normal termasuk asumsi pembuktian
- Jika tidak ada bukti bahwa komputer tidak berfungsi dengan baik, pengadilan dapat menganggap fakta terkait telah terbukti hanya dari catatan komputer
- Misalnya, jika catatan komputer menunjukkan adanya kekurangan dana pada kepala kantor pos atau pegawai perempuan kantor pos, pengadilan dapat menerimanya sebagai bukti adanya kekurangan yang nyata
- Untuk menggoyahkan premis itu, terdakwa harus menunjukkan bahwa komputer tidak berfungsi normal
- Ketika bukti inti penuntutan adalah catatan komputer, strukturnya pada akhirnya menjadi “computer says guilty”
Pengenalan dan penghapusan Section 69
- Asumsi pembuktian ini tidak selalu bekerja ke arah yang sama
- Police and Criminal Evidence Act 1984 Section 69, yang diberlakukan pada 1984, membalik arah asumsi tersebut
- Di bawah Section 69, bukan terdakwa yang harus menunjukkan kesalahan komputer, melainkan jaksa yang harus menunjukkan bahwa komputer berfungsi normal
- Ketentuan ini menggantikan posisi common law sebelumnya, yaitu “jika tidak ada bukti yang bertentangan maka perangkat mesin dianggap berada dalam kondisi baik”
- Jika Section 69 masih berlaku saat Post Office menuntut para kepala kantor pos dan pegawai perempuan kantor pos, jalannya perkara mungkin akan berbeda
- Section 69 dihapus pada 1999, dan asumsi common law sebelumnya kembali berlaku
- Sejak saat itu, bukan lagi jaksa yang harus lebih dulu menunjukkan bahwa komputer berfungsi normal, melainkan terdakwa yang harus menunjukkan bahwa komputer tidak berfungsi normal
- Bagaimana Section 69 dihapus dan apakah alasannya masuk akal menjadi topik untuk tulisan berikutnya
1 komentar
Pendapat Hacker News
Kesan yang saya dapat saat terakhir kali menelusuri skandal Post Office adalah bahwa pernyataan “kita terlalu percaya pada sistem IT” lebih mirip alasan yang nyaman
Para petinggi sudah tahu betul ada masalah, dan tampaknya tetap memaksakannya untuk menutupi kegagalan mereka sendiri meski tahu mereka menuntut orang-orang tak bersalah. Kalau begitu, perlu ada hukuman penjara nyata yang cukup berat. Menghalangi proses peradilan bukan kejahatan ringan, dan bahkan ada dugaan bahwa Paula Vennells sengaja berbohong di parlemen
Karena itu, dewan Post Office punya hambatan psikologis akibat rasisme yang membuat mereka gagal menghubungkan petunjuk-petunjuk yang ada, dan setelah dihadapkan pada bukti telak berupa ratusan vonis bersalah palsu, mereka malah bertahan lebih keras karena tidak punya moralitas. Ini memang kisah kegagalan teknologi yang menyedihkan, tetapi juga dakwaan terhadap budaya dewan direksi di Inggris. Majalah Private Eye telah meliput bencana ini selama lebih dari 10 tahun
Bukankah lebih tepat berargumen untuk menghapus kekuasaan itu secara struktural?
Setelah seumur hidup memperbaiki bug, fakta bahwa sistem komputer überhaupt bisa berjalan saja sering kali terasa mengejutkan
Saya juga pernah mengalami sesuatu yang mirip dengan sistem gagal Post Office dalam kehidupan pribadi; meski saya menunjukkan bukti, semua orang menolak kemungkinan bahwa sistem komputerlah yang salah. Karena terlalu merepotkan untuk menggali dan memahaminya
Karena saya sudah melihat bagaimana perangkat lunak dibuat, saya tidak paham bagaimana mungkin semuanya bisa berjalan. Jawaban saya atas paradoks ini adalah: sebenarnya tidak semuanya berjalan. Kita telah melatih diri sendiri untuk menerima hal-hal yang tidak berjalan sebagai sesuatu yang lain. Orang memandang sistem komputer sebagai sosok mahatahu dan bebas salah, atau sebaliknya memperlakukannya sebagai kambing hitam
Misalnya, berdasarkan pengalaman saya selama dua tahun terakhir, situs web maskapai seperti TAP, Vueling, dan KLM sering memiliki bug yang membuat orang tidak bisa memesan tiket atau masuk ke akun, dan menurut saya lebih sering tidak berfungsi daripada berfungsi. Instagram dan Google pernah menonaktifkan akun secara otomatis tanpa alasan jelas; di Instagram, setelah mengalaminya 3 kali dalam dua bulan, saya akhirnya menyerah dan berhenti memakainya. Untuk Skype, orang yang menggunakannya pasti tidak perlu penjelasan; Teams gagal dengan cara-cara mengejutkan, seperti tombol mute yang tidak benar-benar membisukan suara meski sudah berkali-kali “diperbarui”, urutan huruf dalam kalimat terbalik saat mengetik chat, atau tiba-tiba tertutup di tengah panggilan lalu tidak merespons. Kehilangan produktivitas seperti ini pasti cukup besar secara global, dan biaya tenaga kerja yang dibuang perusahaan kemungkinan lebih besar daripada biaya lisensi yang mereka bayarkan ke Microsoft. Telegram tidak menangani monitor eksternal dengan benar sehingga skalanya kacau dan harus direstart, sementara iCloud membutuhkan waktu beberapa detik hingga sekitar satu jam untuk menyinkronkan file meski semua perangkat punya koneksi yang baik
Mereka tetap begitu meski terus melihat bukti sebaliknya, tetapi sebagai engineer saya melihat ini wajar dan efisien. Kita harus menentukan prioritas, dan sebagian bug memang kurang penting dibanding bug lain. Menurut saya, lebih baik mencurahkan lebih banyak upaya ke pendidikan, kesehatan, dan riset dasar daripada memperbaiki semua bug di semua perangkat lunak
Jadi ketika mulai gagal pada 1% kasus, orang mengabaikannya karena pada 99% sebelumnya ia bekerja. Mereka terlatih untuk memercayai hasilnya, sehingga kecurigaan bahkan tidak muncul. Saya teringat buku Systemantics: https://www.amazon.com/Systemantics-Systems-Work-Especially-...
Salah satu proposisi utama buku itu adalah kekeliruan operasional bahwa “sistem sebenarnya tidak melakukan apa yang dikatakannya dilakukan.” Bukan hanya orang awam, engineer pun sering lupa. Hanya karena sebuah sistem mengatakan melakukan X, bukan berarti ia benar-benar melakukan X. Kita perlu menumbuhkan skeptisisme yang sehat terhadap sistem IT yang kompleks. Mungkin ia tidak gagal sebagian besar waktu, tetapi pada akhirnya suatu saat ia akan gagal
Setidaknya begitulah rasanya
Salah satu masalah besar dalam penuntutan ini adalah bahwa pihak yang berwenang menuntut adalah Post Office sendiri
Sebelum kasus ini, saya tidak tahu bahwa Post Office punya kewenangan seperti itu. Praktisnya, Post Office sekaligus menjadi pengadu dan lembaga penuntut. “Post Office Investigation Branch (IB) adalah organisasi investigasi kriminal resmi tertua di dunia. Selama lebih dari 335 tahun, organisasi ini telah mengungkap kejahatan terkait pos dan menuntut para pelakunya.”
https://www.postalmuseum.org/blog/the-post-office-investigat...
Secara teori ini adalah sarana untuk meminta pertanggungjawaban orang berkuasa, tetapi biayanya sangat mahal, sehingga hampir semua penuntutan privat pada praktiknya diajukan oleh perusahaan
Saya baru pertama kali mendengar skandal ini
Saya penasaran apa masalah utama pada perangkat lunak yang menyebabkan ketidaksesuaian itu. Apakah semacam koneksi terputus? Di Wikipedia tidak dijelaskan secara rinci. Saya menemukannya di sini: https://www.benthamsgaze.org/2021/07/15/what-went-wrong-with...
Saya ingin menyarankan untuk mempelajarinya lebih lanjut, tetapi Anda harus kuat mental. Banyak orang yang menggali kasus ini akhirnya mencari ember di dekatnya. Isinya benar-benar sulit ditonton
Sistem besar hampir selalu mengalami bug selama pengembangan, tetapi biasanya ditemukan dan diperbaiki. Di sini bug ditemukan, tetapi tidak diperbaiki
Premis dasar saya adalah komputer tidak bekerja dengan benar
Karena saya sudah melihat terlalu banyak kasus ketika komputer memang tidak bekerja dengan benar. Saat mengemudi pun saya tidak langsung percaya Google Maps, melainkan mengecek apakah rutenya masuk akal dan melihat lagi nama jalan serta nomor exit di titik yang diminta untuk berbelok. Saya sudah terlalu sering kena
Dari pengalaman saya sebagai programmer, komputer itu sendiri biasanya bekerja dengan benar
Jarang sekali kasusnya berupa bug perangkat keras. Namun perangkat lunak selalu salah, dan perangkat keras komputer hanya menjalankan secara membabi buta apa yang diperintahkan oleh perangkat lunak
“Tinggal diperbaiki di software” sudah pantas menjadi slogan resmi industri perangkat keras
Di sini “komputer” berarti sistem yang terdiri dari perangkat keras dan perangkat lunak, dan kata “komputer” hampir selalu dipakai seperti itu. Masalahnya adalah pengadilan menganggap komputer berfungsi normal jika tidak ada bukti sebaliknya. Artinya, pengadilan dapat merasa puas bahwa fakta terkait sudah terbukti hanya dengan catatan komputer, dan jika terdakwa tidak dapat menunjukkan bahwa komputer tidak bekerja dengan benar, maka mereka menerima bahwa kepala kantor pos mengalami kekurangan dana. Singkatnya, jika inti perkara penuntutan adalah catatan komputer, maka itu berarti komputer yang mengatakan bersalah
Perangkat lunak yang menyentuh perangkat keras secara langsung pada level sangat rendah sering diharapkan untuk mengompensasi tonjolan-tonjolan semacam ini
Sebagai contoh lama, CPU Intel Pentium memiliki dua bug terkenal yang ditemukan setelah rilis. Yang pertama adalah bug FDIV pada pembagian floating-point yang berujung pada penarikan kembali produk pada 1994, dan yang kedua adalah bug F00F yang ditemukan pada 1997, yang membuat prosesor berhenti sampai reboot.
https://en.m.wikipedia.org/wiki/Hardware_bug
Karena biasanya bekerja, maka hampir selalu dianggap sebagai masalah pengguna. Jika tidak tahu apa yang harus dicari, orang hanya menyingkirkan contoh kesalahan yang sudah mereka kenal, lalu berakhir pada salah putus yang mengerikan seperti dalam tulisan di atas
Asumsi ini terutama menjadi masalah ketika operator komputer berada di pihak yang sama dengan pihak yang melakukan penindasan
Ini memang soal apa yang seharusnya diasumsikan oleh pengadilan, tetapi layak juga menanyakan apa yang diasumsikan atau tidak diasumsikan oleh pengembang perangkat lunak
Pengembang perangkat lunak akan mengasumsikan perangkat lunak yang digunakan luas bekerja dengan benar. Meski ada 3.500 bug pandas di issue GitHub, JavaSDK atau library pandas tetap dianggap bekerja dengan benar. Namun jika mengintegrasikan library yang kurang dikenal atau memakai perangkat lunak yang kurang dikenal, keyakinan terhadap cara kerjanya akan berkurang
Maksudnya, ribuan orang akan mengeluh selama bertahun-tahun. Dengan nada yang tidak terlalu sinis, kita bisa berharap bahwa fitur yang banyak digunakan dari perangkat lunak yang banyak digunakan sudah diuji dalam kondisi nyata, sehingga jika ada bug, setidaknya besar kemungkinan bug itu sudah diketahui. Namun bahkan state space perangkat lunak dengan kompleksitas sedang pun membutuhkan pengujian luar biasa besar untuk mencakup semuanya. Lihat saja seberapa besar rangkaian pengujian SQLite. Satu-satunya pendekatan yang tampaknya benar-benar berhasil untuk membuat perangkat lunak dengan sedikit bug adalah menggabungkan komponen-komponen yang kecil, mandiri, terisolasi, dan dipahami dengan baik sehingga keseluruhannya lebih mudah dinalar. Itulah filosofi asli Unix, filosofi pemrograman fungsional, dan juga bagian dari filosofi sistem aktor, meski penalaran interaksi asinkron memang lebih sulit. Saya berharap pendekatan seperti ini makin sering terlihat di dunia nyata
Judulnya mungkin justru mendekati kebalikan dari clickbait
Tulisannya membahas skandal Post Office, dan itu benar-benar mengambil topik besar
Tautan arsip: https://archive.ph/wip/AJl8i