Komputer tidak akan pernah bisa dimintai pertanggungjawaban.

• Halaman legendaris dari pelatihan internal IBM tahun 1979 ini terasa relevan di era AI

  A COMPUTER CAN NEVER BE HELD ACCOUNTABLE
  Komputer tidak akan pernah bisa dimintai pertanggungjawaban.
  THEREFORE A COMPUTER MUST NEVER MAKE A MANAGEMENT DECISION
  Karena itu, komputer tidak boleh membuat keputusan manajerial.

• Di Twitter, ada permintaan informasi tentang sumber asli dokumen ini, lalu dijawab oleh Jonty Wareing:
  • Seseorang menemukannya di dokumen kerja ayahnya, dan kemudian dokumen itu hancur akibat banjir
  • Tidak dapat ditemukan dalam korespondensi dengan arsip IBM. Pada masa itu, kantor cabang biasanya memang memproduksi materi yang tidak diarsipkan.
• Balasan yang diterima Jonty dari IBM
  • Gambar ini pertama kali dibagikan secara online lewat tweet @bumblebike pada Februari 2017
  • IBM mengonfirmasi bahwa ini berasal dari materi pelatihan internal tahun 1979
  • Tweet lain dari @bumblebike pada Desember 2021: dokumen itu hancur bersama sebagian besar barang lainnya dalam banjir tahun 2019
  • Sudah ditanyakan dalam pertemuan Zoom klub pensiunan, tetapi hampir tidak ada orang dari kelompok usia yang tepat

[mammal]

"Orang yang tidak bisa bertanggung jawab atas keputusan tidak boleh menjadi manajer."

[GN⁺]

Pendapat Hacker News

• Menunjukkan bahwa penggunaan komputer dipakai sebagai sarana untuk menghindari tanggung jawab. Hal ini dijelaskan melalui kutipan dari buku Neil Postman, <i>Technopoly</i>. Komputer dibuat tampak seolah-olah merupakan sumber otoritas yang sesungguhnya, sehingga muncul kecenderungan untuk menghindari tanggung jawab

• Mengajukan pertanyaan tentang mobil swakemudi. Tanggung jawab akan berpindah dari pengemudi ke produsen, dan dipertanyakan apakah produsen benar-benar menginginkan tanggung jawab tersebut

• Mengklaim bahwa penerapan kartu chip dimaksudkan agar bank dapat mengalihkan tanggung jawab kepada pengguna. Keamanan memang meningkat, tetapi pada praktiknya tujuannya adalah memindahkan tanggung jawab atas penipuan kartu kredit kepada pengguna

• Menekankan bahwa pencurian identitas pada dasarnya juga merupakan penipuan perbankan. Dengan menyebutnya pencurian identitas, masalah itu diubah dari masalah bank menjadi masalah pribadi

• Menyebut bahwa perusahaan membenci tanggung jawab, dan sebenarnya semua orang juga demikian

• Di beberapa perusahaan, ada kebijakan di mana manajer enggan membuat keputusan karena mereka bisa dimintai pertanggungjawaban

• Menunjukkan bahwa kata "tanggung jawab" kini telah menjadi bahasa terapeutik yang kosong makna. CEO mengatakan mereka bertanggung jawab, tetapi pada kenyataannya tidak ada konsekuensi apa pun

• Melalui kutipan dari buku Norbert Wiener, <i>God & Golem Inc.</i>, dijelaskan bahwa yang diinginkan orang dari kalkulator otomatis bukanlah perhitungan yang lebih akurat, melainkan sebuah kotak yang bisa dipakai untuk melimpahkan tanggung jawab

• Berpendapat bahwa sebagai prinsip hukum, operatorlah yang harus bertanggung jawab. Jika tidak, analoginya adalah melarang korek api demi mencegah kebakaran

• Menyebut bahwa hal seperti ini sudah terjadi bahkan sebelum demam AI saat ini yang terkait dengan "algoritma"

• Menjelaskan bahwa prinsip yang digunakan dalam digital forensics berlaku secara terbalik. Di pengadilan, penyelidik digital forensics dapat bersaksi tentang tindakan yang dilakukan pada perangkat, tetapi tidak dapat mengetahui siapa yang melakukannya

• Saat para ahli menjelaskan bahwa komputer tampak sangat deterministik tetapi sebenarnya mengandung ketidakpastian, orang awam sering kali terkejut

• Menyebut contoh yang telah dinormalisasi secara sosial ketika alarm keamanan toko ritel berbunyi, lalu komputer dianggap sebagai penyebab masalahnya. Seolah-olah komputer yang membuat masalah, padahal sebenarnya tidak demikian