- Para operator cabang Post Office di Inggris harus menanggung defisit yang sebenarnya tidak ada akibat kesalahan pada sistem akuntansi Horizon buatan Fujitsu, dan antara 1999–2015 ratusan orang mengalami vonis bersalah, kebangkrutan, pemenjaraan, serta rusaknya reputasi
- Horizon diperkenalkan pada 1999 untuk menggantikan akuntansi berbasis kertas, tetapi di banyak cabang sistem ini menampilkan defisit palsu bernilai ribuan hingga puluhan ribu pound; dalam beberapa kasus, jumlahnya bertambah ketika perhitungan yang sama dikirim ulang
- Secara kontrak, operator cabang memikul tanggung jawab atas kerugian, sementara Post Office memperburuk dampaknya dengan mengatakan kepada mereka yang melaporkan masalah bahwa “hanya Anda yang mengalaminya” atau menghalangi akses yang dibutuhkan untuk membuktikan ketidakbersalahan
- Dalam gugatan perdata pada 2019 yang diajukan lebih dari 500 orang, bug, error, dan cacat Horizon diakui; Post Office telah membayar kompensasi lebih dari £138 juta, tetapi dari 700 vonis bersalah baru 93 yang dibatalkan
- Setelah drama ITV “Mr Bates vs The Post Office”, kemarahan publik meledak dan pemerintah mulai mendorong undang-undang pembatalan vonis; tanggung jawab kompensasi Fujitsu dan kemungkinan tanggung jawab pidananya masih diselidiki
Kekeliruan peradilan besar-besaran yang diciptakan oleh kesalahan Horizon
- Para sub-postmaster yang mengoperasikan cabang Post Office di Inggris mengalami hukuman pidana, kebangkrutan, dan rusaknya reputasi akibat defisit yang ditampilkan Horizon pada 1999–2015
- Pemerintah Inggris memiliki Post Office dan menyebut kasus ini sebagai salah satu kekeliruan peradilan terbesar dalam sejarah Inggris
- Dampaknya meluas ke ribuan orang; 700 di antaranya divonis bersalah atas tindak pidana, dan sebagian dipenjara
- Horizon dibuat oleh Fujitsu dari Jepang dan diperkenalkan pada 1999 untuk menggantikan akuntansi berbasis kertas
- Tak lama setelah diperkenalkan, para manajer cabang mulai melaporkan bahwa perangkat lunak itu membuat seolah-olah ribuan pound atau lebih menghilang dari akun Post Office
Defisit yang tidak ada berubah menjadi kejahatan pribadi
- Jo Hamilton mengatakan bahwa pada 2003, saat mengelola kantor pos di sebuah desa kecil di Inggris selatan, komputer Horizon menampilkan defisit £2.000, dan ketika perhitungan yang sama dilakukan ulang, jumlahnya berlipat dua di depan matanya
- Hamilton membiayai ulang rumahnya untuk menutup defisit yang tidak pernah ada; ketika Post Office menuntutnya pada 2007 atas tuduhan pencurian dan pembukuan palsu, defisit itu telah membengkak menjadi £36.000
- Ia mengakui tuduhan pembukuan palsu dengan syarat tuduhan pencurian dicabut, tetapi proses itu menjadi pengalaman yang menghancurkan dirinya
- Wendy Buffrey juga pada 2008 mengalami situasi ketika defisit Horizon yang tak dapat dijelaskan berlipat dua setiap kali ia mengirim ulang perhitungan yang sama
- Para penyelidik Post Office mengatakan kepada Buffrey bahwa hanya dialah yang mengalami masalah seperti itu
- Buffrey mengira dirinya bertanggung jawab atas £36.000 dan menggunakan kartu kredit hingga batas maksimal untuk memasukkan £10.000 ke akun tersebut
- Pengacaranya saat itu mengatakan bahwa jika ia mengaku tidak bersalah, besar kemungkinan ia akan menerima hukuman 3 tahun penjara; Buffrey mengakui tuduhan pembukuan palsu dengan syarat tuduhan pencurian dicabut
- Buffrey mengatakan bahwa sejak itu ia menderita nyeri terus-menerus akibat fibromialgia terkait stres
Kontrak dan cara penyelidikan yang merugikan operator cabang
- Kontrak Post Office mirip dengan perjanjian waralaba, dan operator cabang harus bertanggung jawab atas kerugian finansial yang terjadi di cabang mereka sendiri
- Sebagian operator yang kontraknya berakhir dilarang memasuki tempat usaha oleh penyelidik Post Office, sehingga sulit mencari bukti untuk membuktikan ketidakbersalahan mereka
- Setiap kali Hamilton menelepon helpline Horizon, para konsultan menjawab bahwa hanya dialah yang mengalami masalah sistem
- Pengacara Neil Hudgell mengatakan ia mendengar langsung tentang sub-postmaster dan keluarga yang bunuh diri setelah dituduh secara keliru atau kehilangan bisnis dan reputasi mereka
- Istri Martin Griffith menyatakan dalam pernyataan korban bahwa suaminya jatuh ke depresi mendalam setelah Post Office memutuskan untuk mengakhiri kontraknya, lalu berjalan ke depan sebuah bus
- Griffith meminjam uang dari orang tuanya untuk menutup defisit akun, dan kemudian juga mengalami perampokan di cabangnya
Kompensasi dan pembatalan vonis tetap lambat setelah menang di pengadilan
- Dalam gugatan perdata pada 2019 yang diajukan lebih dari 500 sub-postmaster, diputuskan bahwa Horizon memiliki “bugs, errors and defects”
- Post Office hingga kini telah membayar kompensasi lebih dari £138 juta dan menyatakan akan memperbaiki kesalahan masa lalu, termasuk mendukung pembatalan vonis bersalah yang keliru
- Setelah kemenangan hukum pada 2019, semakin banyak sub-postmaster maju dan mengatakan Horizon menampilkan defisit yang salah
- Dari 700 orang yang divonis bersalah, sejauh ini 93 orang, termasuk Hamilton dan Buffrey, telah dinyatakan tidak bersalah
- Hingga saat ini lebih dari 2.700 orang telah mengajukan kompensasi, tetapi banyak sub-postmaster mengatakan kompensasi yang mereka terima tidak cukup dan menuntut pertanggungjawaban pihak-pihak terkait kasus ini
Penyelidikan polisi dan cakupan tanggung jawab Fujitsu
- Metropolitan Police London pada 2020 memulai penyelidikan pidana atas kemungkinan tindak pidana penipuan yang dilakukan Post Office
- Polisi juga menyelidiki Fujitsu atas kemungkinan tindak pidana terkait penuntutan terhadap sub-postmaster
- Dua menteri pemerintah Inggris mengatakan, tergantung hasil penyelidikan publik independen, Fujitsu dapat diminta membayar kompensasi kepada para korban
- Fujitsu menyatakan berkomitmen mendukung penyelidikan untuk memahami dan memetik pelajaran dari kejadian tersebut
- Fujitsu mengatakan penyelidikan telah mengonfirmasi dampak destruktif terhadap kehidupan para postmaster dan keluarga mereka, serta meminta maaf atas peran perusahaan dalam penderitaan mereka
Drama yang memicu respons politik
- Kasus ini telah bertahun-tahun dibahas di pengadilan dan media Inggris, tetapi setelah drama ITV “Mr Bates vs The Post Office” ditayangkan, kesadaran dan kemarahan publik meningkat tajam
- Drama tersebut mengisahkan kampanye panjang para sub-postmaster untuk membuktikan ketidakbersalahan mereka dan memperoleh kompensasi
- Alan Bates adalah mantan sub-postmaster yang memimpin upaya tersebut
- Setelah drama itu dirilis, pemerintah Inggris menunjukkan respons dalam hitungan hari dengan kecepatan yang selama bertahun-tahun dituntut oleh para sub-postmaster
- Perdana Menteri Rishi Sunak mengumumkan bahwa parlemen akan dengan cepat meloloskan undang-undang terobosan untuk membatalkan vonis bersalah ratusan sub-postmaster
- Dalam sistem politik dan peradilan Inggris, masih tersisa pertanyaan tentang siapa mengetahui apa dan kapan, apakah ada individu yang harus memikul tanggung jawab pidana, dan sejauh mana Fujitsu harus bertanggung jawab atas kompensasi korban
Trauma yang berlangsung hampir 20 tahun
- Siema Kamran dan suaminya, Kamran Ashraf, membeli sebuah cabang kantor pos di London utara pada 2001, dan tiga tahun kemudian audit Post Office menemukan defisit £25.000 yang tak dapat dijelaskan
- Ashraf merasa tertekan oleh pengacaranya untuk mengakui tuduhan pencurian, dijatuhi hukuman 9 bulan pada 2004, dan vonis bersalahnya dibatalkan pada 2020
- Pada minggu-minggu awal masa hukumannya, Ashraf menghabiskan 23 jam sehari dalam kurungan di penjara berkeamanan tinggi, lalu dipindahkan ke penjara dengan tingkat keamanan lebih rendah
- Ia dibebaskan setelah 4 bulan, tetapi selama 5 bulan berikutnya memakai gelang elektronik untuk pelacakan lokasi
- Kamran mengatakan suaminya mengalami gangguan stres pascatrauma akibat pengalaman ini, dan bahwa suaminya, dirinya sendiri, serta tiga anak mereka semuanya membutuhkan terapi
- Kamran, yang kini bekerja sebagai makeup artist wiraswasta, mengatakan jika Post Office bisa melakukan hal seperti ini, ia tidak tahu apa yang bisa dilakukan merek lain, dan ia tidak bisa lagi bekerja untuk perusahaan besar
1 komentar
Opini di Hacker News
Ini adalah tulisan baru yang merangkum kasus nyata, dan karena kasus ini saya akhirnya menempuh program doktoral sistem informasi
Saya ingin tahu mengapa ketidakmampuan TI pada level seperti ini masih mungkin terjadi, padahal praktik baik TI dan perangkat lunak sudah terakumulasi selama puluhan tahun, tetapi saya segera menyadari bahwa riset sistem informasi sudah menjelaskan sebagian besarnya
Pada akhirnya manusia tetap manusia, organisasi buruk tetap organisasi buruk, dan selama distribusi berbentuk lonceng ada pada hampir segala hal, mungkin ini tidak akan pernah sepenuhnya hilang
Jika semua orang altruistis, rendah hati, cerdas, kompeten, dan jujur, banyak masalah dunia akan hilang, bukan hanya di TI, tetapi manusia, organisasi, dan masyarakat masing-masing rusak dengan caranya sendiri
Meski begitu, riset organisasi berusaha menunjukkan jalan yang lebih baik, tetapi sepertinya ada sebagian orang yang sampai akhir tetap tidak peduli
Saya tidak lagi berfokus pada topik ini karena tampaknya sudah cukup banyak diteliti, tetapi menarik bahwa kasus ini masih terus muncul berulang kali di berita
Sistem penting harus memiliki akuntabilitas, dan akuntabilitas itu harus membebankan kewajiban kepada pembuat dan pemiliknya untuk membuat pengaman, pemeriksaan, dan perlindungan
Mengapa prinsip ini tidak diterapkan dengan baik pada rekayasa perangkat lunak adalah cerita tersendiri, tetapi menurut saya prinsip itu harus diterapkan
Terus terang saya tidak ingin mendengar slogan “bergerak cepat dan rusakkan sesuatu”
Kasus ini menjadi sorotan publik dan ada upaya pemulihan karena skalanya besar, melibatkan ratusan atau ribuan orang
Kita harus bertanya, di antara kasus-kasus yang tersebar terpisah, berapa banyak kehidupan yang hancur dan orang tak bersalah membusuk di penjara
Entah ada sesuatu dalam organisasi ini yang menarik orang-orang yang luar biasa kejam, atau mungkin organisasi ini berubah menjadi seperti itu dalam beberapa dekade terakhir
Dalam iklan TV “The People’s Post Office” pada awal 2000-an, peran kepala kantor pos cabang diperankan oleh John Henshaw, aktor yang dikenal lewat peran penjahat kuat dan polisi korup, jadi casting-nya aneh tetapi entah bagaimana terasa pas
Bergantung pada “jika semua orang cerdas dan bertindak dengan niat baik” adalah desain yang memang sudah rusak
Jika Anda tertarik pada dunia akademis, saya sangat menyarankan untuk meninjau kembali desain sistem yang tetap berfungsi meski ada inkompetensi dan bahkan adversary
Sebaliknya, penipu pembual yang memiliki hubungan lentur dengan kebenaran justru lebih mudah naik di mana saja
Ada lebih banyak informasi tentang apa yang sebenarnya terjadi secara teknis di balik layar: https://www.theguardian.com/uk-news/2024/jan/09/how-the-post...
David McDonnell dari tim pengembang mengatakan dalam penyelidikan bahwa “dari 8 orang di tim pengembang, 2 sangat bagus, 2 masih bisa diajak bekerja sama, tetapi 3–4 orang kurang kompeten sehingga tidak mampu membuat kode profesional”
Saya tidak bermaksud menyalahkan developer; tanggung jawabnya jelas ada pada manajemen
Orang-orang yang membuat bug kode tidak seharusnya ikut bertanggung jawab sampai-sampai orang lain masuk penjara karenanya
Manajer tidak benar-benar tahu apa yang sebenarnya dilakukan engineer
Hanya engineer yang benar-benar memahami trade-off rekayasa, dan jika nyawa atau kehidupan orang dipertaruhkan oleh hasil pekerjaan kita, kita tidak boleh sepenuhnya dilindungi dari konsekuensi pilihan kita
Itu tidak baik bagi masyarakat, dan pada akhirnya juga tidak baik bagi kita
Berdasarkan prinsip hukum perbuatan melawan hukum, ada tanggung jawab atas kerugian yang dapat diperkirakan, dan semakin tinggi keahliannya, semakin besar pula tanggung jawabnya
Senior engineer di tim seharusnya bisa bekerja lebih baik, dan menurut saya mereka bersalah
Poin ini selalu mengganjal di benak saya
Anda bisa membuat API yang sepenuhnya mengaudit akses, tetapi kode yang melewati API itu mudah ditulis
Kode bukanlah bangunan dengan dinding dan pintu, jadi bagian dalamnya bisa diubah tanpa menyentuh pintu
Menaruh backdoor yang tidak diaudit untuk operator itu buruk, tetapi jika seseorang bisa mengedit source code, backdoor pada dasarnya tak terbatas
Horizon adalah produk era 1990-an, dan industri perangkat lunak saat itu sangat berbeda dari sekarang
Pada masa itu, mungkin hanya Microsoft yang secara rutin meminta programmer menulis kode saat wawancara, dan perekrutan hampir seperti acak
Tim yang terdiri dari segelintir orang yang bisa menulis kode yang berfungsi sambil menopang mayoritas yang sama sekali tidak bisa menulisnya adalah hal yang umum
The Daily WTF juga merupakan produk era itu, dan ada banyak cerita seperti Brillant Paula Bean: https://thedailywtf.com/articles/The_Brillant_Paula_Bean
Sekarang kita jauh lebih jarang mendengar cerita seperti itu, karena industri sudah menetap pada praktik menguji keterampilan konkret sebelum perekrutan, sehingga banyak orang yang tidak benar-benar bisa coding tetapi dulu bisa masuk proyek kini tersaring
Jika saya satu-satunya developer sekaligus penjual aplikasi ini, apakah saya tidak bertanggung jawab?
Apakah berbeda jika ada satu orang QA, atau jika masing-masing ada dua developer dan QA?
Apakah orang nonteknis yang menjual atau mempromosikan aplikasi itu yang harus bertanggung jawab sebagai gantinya?
Saya tidak mengerti mengapa tanggung jawab developer karena tidak memeriksa kodenya sendiri secara memadai bisa sepenuhnya hilang
Inti dari kasus ini tampaknya adalah sistem “peradilan” privat di dalam Post Office
Sistem itu tidak transparan, bias, dan menolak meninjau bukti
Di era yang mengejar hak-hak universal, sungguh konyol bahwa tempat kerja bisa mencabut hak seseorang untuk membela diri dalam sistem peradilan publik
Bug TI memang juga masalah, tetapi salah perhitungan politik sebuah institusi yang terjebak masa lalu telah merusak hidup banyak orang, dan semuanya terkubur sampai sebuah drama TV tayang
Bahkan orang yang memimpin Post Office saat itu mendapat tanda kehormatan dari pemerintah
Ada banyak jebakan dalam TI dan pembuatan kode, tetapi inti kasus ini ada di tempat lain
Dalam penyelidikan publik terungkap bahwa Post Office memakai taktik hukum agresif, termasuk menekan para subpostmaster agar mengaku bersalah atas dakwaan yang lebih ringan dengan menuduh mereka mencuri
CPS mengidentifikasi 11 kasus subpostmaster yang memuat “bukti penting” dari sistem Horizon
Para pakar hukum menilai pemerintah sudah diperingatkan sejak bertahun-tahun lalu bahwa penuntutan privat berbahaya karena pihak yang mendorongnya kemungkinan besar punya motif selain menegakkan keadilan
Mantan Director of Public Prosecutions Lord Ken Macdonald KC mengatakan bahwa jika lembaga yang punya kepentingan, seperti Post Office, berperan sebagai jaksa, akan muncul bahaya yang jelas
CEO diberi imbalan karena “mengelola” krisis, dan pemerintah seharusnya menuntut jawaban setelah tanda-tanda peringatan pada tahun-tahun awal
Namun baru setelah 20 tahun dan sebuah drama TV berlalu mereka dipaksa menunjukkan kepemimpinan
Saya tidak tahu apakah Netflix menayangkannya secara internasional lewat lisensi
Meski sedikit berbeda dari situasi di Inggris, klausul arbitrase wajib mencabut hak karyawan untuk mencari keadilan dan makin umum
BBC menayangkan kasus ini pada 2015 lewat dokumenter Panorama, dan Post Office mengancam BBC karena isinya
“Post Office mengancam dan berbohong kepada BBC saat berusaha menekan bukti kunci yang membebaskan para postmaster dalam skandal Horizon”
“Klaim palsu itu tidak berhasil menghentikan program, tetapi memang menunda siaran BBC selama beberapa minggu”
https://www.bbc.com/news/uk-67884743
Ini bukan sekadar “cacat”, melainkan juga perang PR yang sampai sekarang cukup berhasil membungkam suara para korban
Saat melihat beritanya, saya berpikir, “Ini kan yang saya dengar 5 tahun lalu; pasti sudah beres, dong?”
Seharusnya tidak perlu sampai ada sorotan publik sebesar ini sebelum roda keadilan bergerak
Beberapa tahun lalu saya berpikir, “teknologi merusak hidup orang,” tetapi melihat situasinya masih berlanjut pada 2024, ini tidak lagi tampak sebagai kesalahan teknologi
Pada akhirnya ini masalah manusia, dan manusia itu mengerikan
Cerita ini baru sekarang mendapatkan perhatian yang semestinya
Jika ingin ringkasan tentang skala ketidakadilan yang luar biasa ini, tulisan Private Eye ini layak dibaca: https://www.private-eye.co.uk/pictures/special_reports/justi...
Program radio BBC yang dimulai pada 2020 juga memberi banyak informasi bagus, termasuk bagaimana Post Office menyelidiki para subpostmaster yang dicurigai: https://www.bbc.co.uk/sounds/brand/m000jf7j
Sulit menyebut ini sekadar cacat perangkat lunak
Di semua lapisan lembaga yang dijalankan pemerintah, birokrasi berusaha menutupinya untuk menghindari opini publik yang buruk
Perangkat medis? Sama sekali tidak mau
Tentu saja saya tidak bisa benar-benar tahu kode saya pada akhirnya akan berjalan di mana
Agar kasus ini membesar sampai sejauh ini, masalahnya jelas bukan hanya perangkat lunak, tetapi saya penasaran bagaimana para developer yang menangani ini selama bertahun-tahun bisa membiarkannya begitu saja
Sulit dipercaya tidak ada satu pun developer yang mendengar masalah ini
Apakah mereka langsung berpikir, “Mustahil, aku yang paling hebat di dunia, jadi ini tidak mungkin masalah sistem; pasti mereka semua mencuri uang”?
Kalau saya, mungkin saya tidak bisa tidur dan akan menelusuri ulang seluruh sistem di kepala untuk mencari di mana letak kesalahannya
Rasanya seperti efek Dunning-Kruger
Saya tidak menganggap diri saya penyihir coding, tetapi setidaknya saya tahu bahwa saya akan terus membuat bug sampai mati
Rust pun tidak bisa mencegah bug logika
Bukan satu bug, melainkan beberapa bug yang berbeda-beda
Post Office sepenuhnya adalah perusahaan swasta
Ada banyak penjahat yang jelas dalam kisah ini, tetapi selama ini sistem hukum ada di mana?
Maksudnya, mereka menuntut 900 kasus tanpa bukti nyata, atau hanya karena “komputer berkata begitu”?
Kalau ini salah satu pilar pemisahan kekuasaan, bukankah sistem hukum dan peradilan seharusnya menjadi benteng terakhir yang mencegah penganiayaan massal yang sewenang-wenang terhadap orang-orang yang sepenuhnya tidak bersalah?
“Tidak ada bukti langsung bahwa ia mengambil uang itu… ia dengan tegas menyangkal pencurian. Tidak ada bukti CCTV. Tidak ada sidik jari atau uang kertas bertanda. Tidak ada bukti bahwa ia menimbun uang tunai di tempat lain, membelanjakan uang dalam jumlah besar, atau melunasi utang, dan sama sekali tidak ada bukti terkait rekening bank. Saat rumahnya digeledah pun tidak ditemukan apa pun yang menunjukkan kesalahan”
Satu-satunya bukti adalah selisih antara uang tunai yang menurut sistem komputer Horizon milik Post Office seharusnya ada di cabang dan uang tunai yang benar-benar ada
“Apakah Anda menerima argumen pihak penuntut bahwa ada bukti yang cukup bahwa Horizon adalah sistem teruji yang telah digunakan di ribuan kantor pos selama bertahun-tahun, dan pada dasarnya kokoh serta dapat dipercaya?”
Kata-kataku melawan kata-katamu saja tidak memenuhi standar “melampaui keraguan yang wajar”, tetapi tampaknya kata-kata Post Office yang didukung sistem komputer cukup meyakinkan bagi juri
Dalam kasus di atas, juri menjatuhkan vonis bersalah
Diasumsikan berfungsi dengan benar, dan beban pembuktian ada pada pihak yang menyatakan sebaliknya
Banyak orang mengatakan praduga bukti komputer ini harus diubah
https://www.theguardian.com/uk-news/2024/jan/12/update-law-o...
https://www.forbes.com/sites/emmawoollacott/2024/01/15/law-o...
Perangkat lunak adalah mesin, bukan pintar ataupun bodoh
Dalam kasus ini, mesinnya rusak, dan orang-orang yang sebenarnya punya kemampuan untuk menganalisis situasi secara kritis serta mengambil keputusan menerima output dari mesin yang bagian dalamnya tidak bisa mereka lihat dengan benar sebagai kebenaran mutlak
Secara umum, ketika seorang magistrate dihadapkan pada tim hukum terhormat dari His Majesty’s Postal Service melawan “pria kotor yang menurut kami mencuri” dengan aksen daerah, mereka akan memilih pihak pemerintah setiap kali
Tidak ada jejak uang berpindah ke rekening, tidak ada kekayaan yang tak bisa dijelaskan, tidak ada pengeluaran mewah, semuanya hanya “komputer berkata begitu”
Masalahnya juga karena sistem peradilan menangani tiap kasus secara terpisah
Setelah beberapa kasus, sistem hukum membutuhkan mekanisme untuk berhenti dan berkata, “Tunggu, ada yang aneh di sini”
Dalam kasus ini, perubahan pertama mungkin adalah menghentikan praktik kuno Post Office di Inggris yang melakukan penuntutan sendiri
Di tim sebelumnya, kami melarang penggunaan kata glitch
Kata itu dipakai oleh developer dan penanggung jawab produk ketika berbicara dengan pelanggan sebagai istilah umum untuk “bug yang tidak ingin saya pertanggungjawabkan”, dan tidak punya tempat di tim teknologi modern
Dulu ada orang yang menyalin-tempel jawaban Stack Overflow ke codebase perusahaan sampai “berfungsi”, lalu ketika masalah muncul, masalah itu bisa berada pada satu orang selama berminggu-minggu atau berbulan-bulan sebelum berpindah ke orang lain
Dalam kebanyakan kasus, sekadar menambahkan pernyataan output sederhana saja sudah bisa memberi petunjuk untuk memperbaikinya, tetapi bahkan itu dianggap terlalu rumit
Ketika perangkat lunak menghasilkan uang, insentif untuk memangkas biaya pengembangan, merekrut engineer yang lebih murah dan kurang berpengalaman, serta melewati proses dengan alasan “TDD itu buang-buang waktu” menjadi semakin besar
Pemerintah Inggris kecanduan perusahaan konsultan besar, dan mereka selama ini memakai tenaga murah yang kurang berpengalaman di sektor publik, menyerahkan proyek setengah jadi dengan harga mahal atau bahkan tidak menyerahkannya sama sekali, lalu mengantongi sisanya
Tidak ada organisasi yang mau menyelidiki kontrak-kontrak semacam itu
Ini sangat mirip dengan skema Robodebt yang terjadi di Australia, dan menghasilkan dampak yang sama merusaknya: https://en.wikipedia.org/wiki/Robodebt_scheme
Penerima bantuan sosial yang menerima pemberitahuan penagihan utang otomatis bunuh diri, pemberitahuan utang dikirim kepada orang yang sudah meninggal, dan pemberitahuan utang juga dikirim kepada penerima pensiun disabilitas
Tampaknya Wikipedia menyebut hal seperti ini Algocracy, yaitu pemerintahan oleh algoritme
Karena hasilnya mengisyaratkan keuntungan bagi pemerintah saat itu, dan individu dibebani tanggung jawab untuk membuktikan bahwa utangnya salah, sementara tuntutannya tidak masuk akal dan dukungan maupun proses banding hampir tidak ada
Liberal & National Party yang berkuasa saat itu ingin membangun citra keras terhadap penipu bantuan sosial dan memanfaatkannya dalam pemilu, sekaligus memasukkan sumber pendapatan potensial yang sangat besar namun sebenarnya tidak ada ke dalam anggaran berikutnya
Banyak salah hitung terjadi karena pendapatan selama dua minggu atau beberapa periode dua mingguan dirata-ratakan lalu diekstrapolasi menjadi pendapatan tahunan; bagi banyak penerima bantuan sosial yang bekerja kasual atau jangka pendek, ketika periode itu tidak mewakili pendapatan tahunan, metode ini sepenuhnya keliru
Dalam beberapa kasus, orang yang disebut berutang baru mengetahuinya pertama kali setelah menerima surat tuntutan dari penagih utang
Ketika individu mengajukan gugatan, pemerintah menurunkan utangnya menjadi 0,00 dolar lalu berargumen bahwa tidak ada lagi alasan untuk menggugat, sehingga kasusnya gugur
Akhirnya, para pengacara yang mewakili seseorang juga menuntut bunga atas utang yang keliru diterbitkan, sehingga taktik yang sama tidak bisa lagi dipakai untuk menang; barulah pemerintah mengakui bahwa skema yang berjalan selama bertahun-tahun itu ilegal
Untuk memahami konteks lengkapnya, saya merekomendasikan seri YouTube 3 bagian ini: https://www.youtube.com/watch?v=OfsL9GAbl3M
Dijelaskan bahwa sejak awal hal ini berujung pada gugatan kelompok terbesar dalam sejarah Australia
Saat ini perangkat lunak dianggap seperti kebenaran, tetapi tidak selalu demikian
Untungnya AI mendapat banyak perhatian, dan tampaknya orang-orang menjadi lebih sadar bahwa penilaiannya bisa keliru
Di pengadilan, keputusan perangkat lunak seharusnya diwajibkan untuk membuka data dan jalur pengambilan keputusannya, yaitu “algoritma”-nya
Undang-undang lain yang juga diperlukan adalah tentang larangan penggunaan sistem
Bisa diblokir seumur hidup tanpa penjelasan maupun upaya pemulihan itu gila, dan pada dasarnya mirip seperti menerima hukuman seumur hidup tanpa alasan