Penelusuran Tanggung Jawab

Struktur penghindaran tanggung jawab

• Dalam The Accountability Machine, Dan Davies berpendapat bahwa organisasi membentuk "struktur penghindaran tanggung jawab", yaitu struktur yang menyerap atau mengaburkan konsekuensi dari suatu keputusan sehingga tidak ada seorang pun yang bisa dimintai tanggung jawab secara langsung.
• Misalnya, ketika seorang eksekutif senior di sebuah perusahaan hotel memutuskan untuk mengurangi staf kebersihan, hal itu dapat memperbaiki angka di laporan keuangan. Namun saat pelanggan hendak check-in, kamar belum siap, dan staf pun tidak tahu kapan kamar akan siap. Tidak ada orang yang bisa diajukan keluhan, dan tidak ada cara untuk memberi tahu bahwa keputusan itu telah merusak rencana pelanggan. Tanggung jawab lenyap, dan hilang untuk selamanya.

Cara kerja struktur penghindaran tanggung jawab

• Agar struktur penghindaran tanggung jawab dapat berfungsi, umpan balik harus diblokir. Artinya, umpan balik dari orang-orang yang terdampak oleh keputusan tidak boleh memengaruhi cara sistem beroperasi.
• Saat asuransi kesehatan menolak suatu prosedur, maskapai membatalkan penerbangan, lembaga pemerintah menyatakan seseorang tidak memenuhi syarat untuk menerima manfaat, atau investor memerintahkan semua perusahaan untuk mengintegrasikan AI ke dalam aplikasi mereka, struktur penghindaran tanggung jawab ada di mana-mana.
• Ini berlaku dengan asumsi bahwa keputusan memang benar-benar dibuat. Mekanisme lain dari struktur penghindaran tanggung jawab adalah ketika keputusan itu sendiri tersusun dalam rangkaian berantai hingga asal-usulnya menghilang.

Makna tanggung jawab

• Perlu sejenak memikirkan apa yang dimaksud dengan "tanggung jawab". Davies mengajukan "hukum dasar tanggung jawab": sejauh mana seseorang dapat mengubah suatu keputusan adalah sejauh mana ia dapat dimintai tanggung jawab atas keputusan itu.
• Menurut definisi tanggung jawab dari Sidney Dekker, tanggung jawab adalah "penjelasan tentang bagaimana sesuatu terjadi, kondisi apa yang membuatnya terjadi, dan mengapa keputusan itu tampak baik pada saat itu". Ini merupakan prasyarat untuk belajar agar bisa membuat keputusan yang lebih baik.

Perbandingan dengan AI

• Mendelegasikan keputusan kepada AI adalah cara yang praktis untuk menciptakan struktur penghindaran tanggung jawab. Namun, organisasi dalam skala apa pun—baik perusahaan maupun pemerintah—sebenarnya sudah sangat mahir membentuk struktur seperti ini.
• Penghindaran tanggung jawab yang ditawarkan AI bukanlah layanan baru, melainkan perluasan dari yang sudah ada. Ini tidak membuatnya jadi kurang menakutkan, tetapi bisa memberi petunjuk yang berguna. Jika upaya untuk membuat perusahaan bertanggung jawab telah gagal, kecil kemungkinan upaya yang sama akan berhasil terhadap algoritme. Diperlukan pendekatan baru.

Ringkasan GN⁺

• Artikel ini memberikan wawasan tentang bagaimana organisasi membentuk struktur untuk menghindari tanggung jawab. Ini sangat berguna terutama untuk memahami bagaimana teknologi seperti AI dapat memperluas penghindaran tanggung jawab.
• Struktur penghindaran tanggung jawab bekerja dengan memutus hubungan antara orang yang membuat keputusan dan orang yang terkena dampak keputusan tersebut.
• AI dapat semakin mempermudah penghindaran tanggung jawab, tetapi ini bukan fenomena baru, melainkan perluasan dari masalah yang sudah ada.
• Topik ini menarik bagi siapa pun yang ingin memperbaiki struktur tanggung jawab dalam organisasi dan mencari cara untuk membuat keputusan yang lebih baik.