- Magnifica Humanitas memandang AI sebagai revolusi industri baru dan memperingatkan risiko pelebaran ketimpangan, pelemahan demokrasi, dan pengikisan kemanusiaan
- Pelucutan senjata AI tidak hanya berarti keluar dari logika persaingan militer, tetapi juga ekonomi dan kognitif, agar teknologi tidak sampai menguasai manusia
- AI sudah memperkuat kekuasaan mereka yang memiliki sumber daya, keahlian, dan akses ke data, sehingga segelintir pihak dapat memengaruhi informasi, konsumsi, dan proses demokrasi
- Untuk menjaga martabat manusia dan kebaikan bersama, tanggung jawab harus jelas dari perancangan hingga penggunaan, dan etika harus diterapkan saat pembangunan, bukan setelah kerugian terjadi
- AI untuk militer memerlukan pembatasan etis yang ketat, tanggung jawab manusia, dan hukum internasional; kolonialisme data serta penggantian tenaga kerja juga diperlakukan sebagai isu keadilan sosial
Inti ensiklik pertama: “pelucutan senjata” AI
- Ensiklik pertama Paus Leo XIV, “Magnifica Humanitas”, mendefinisikan AI sebagai revolusi industri baru dan menempatkan risiko pelebaran ketimpangan, pelemahan demokrasi, serta pengikisan kemanusiaan sebagai agenda utama
- Pelucutan senjata AI tidak terbatas pada ranah militer, melainkan berarti melepaskan AI dari logika persaingan ekonomi dan kognitif agar teknologi tidak sampai menguasai manusia
- Tujuannya bukan meninggalkan teknologi, melainkan menjadikan AI sebagai teknologi yang “dilucuti, ramah, dan mudah diakses”
- Perusahaan AI membutuhkan regulasi nasional dan internasional yang lebih ketat, dan individu serta komunitas juga harus berpartisipasi luas dalam membentuk masa depan AI
- Leo XIV merujuk pada ensiklik Paus Leo XIII tahun 1891, “Rerum Novarum”, yang menanggapi revolusi industri abad ke-19, dan menempatkan pertanyaan sosial di era AI dalam kelanjutan ajaran sosial Katolik
- Ensiklik ini lahir melalui proses mendengarkan ilmuwan dan insinyur, pemimpin politik dan pejabat publik, serta orang tua dan guru, dan menyerukan partisipasi luas dalam pemrograman, regulasi, dan manfaat AI
Big Tech dan konsentrasi kekuasaan
- Leo XIV menilai bahwa segelintir individu kaya dapat menentukan masa depan umat manusia dan mata pencaharian banyak orang, sementara kesenjangan antara mereka yang ikut dalam revolusi digital dan mereka yang tertinggal di pinggiran bisa makin melebar
- AI sudah cenderung memperkuat kekuasaan mereka yang memiliki sumber daya ekonomi, keahlian, dan akses ke data
- Segelintir kelompok berpengaruh dapat membentuk informasi dan pola konsumsi, memengaruhi proses demokratis, dan mengarahkan dinamika ekonomi agar menguntungkan diri mereka sendiri
- Teknologi tidak netral, dan mencerminkan kepentingan serta para pemangku kepentingan di belakangnya
- Jika kekuasaan terkonsentrasi pada segelintir pihak, ia menjadi tidak transparan dan lebih mudah lolos dari pengawasan publik, yang dapat berujung pada perkembangan menyimpang yang melahirkan bentuk baru ketergantungan, eksklusi, manipulasi, dan ketimpangan
- Salah satu pendiri Anthropic, Chris Olah, mengatakan pengembangan AI berjalan di bawah insentif dan batasan yang dapat berbenturan dengan “melakukan hal yang benar” karena kepentingan komersial, tekanan geopolitik, serta kebanggaan dan ambisi
- Menurut Olah, komunitas agama, masyarakat sipil, akademisi, dan pemerintah harus memandang AI dengan serius dan mendorongnya ke arah yang lebih baik
Martabat manusia, penilaian, dan kerja
- Prinsip utamanya adalah manusia lebih utama daripada AI, dan martabat manusia berasal dari keberadaannya sendiri, bukan dari kemampuan, kekayaan, posisi sosial, atau apakah ia membuat pilihan yang benar
- Bahaya di era chatbot AI bukan hanya pengguna mengira agen AI adalah manusia, tetapi juga bahwa hal itu bisa melemahkan hasrat untuk benar-benar mencari manusia lain
- Jika pengambilan keputusan diserahkan kepada mesin, ketergantungan berlebihan dan pencarian jawaban instan bisa meningkat, sementara kreativitas dan daya menilai individu dapat melemah
- Inovasi AI memang berpotensi memberi dampak positif bagi masyarakat manusia dan perlindungan lingkungan, tetapi risikonya juga harus ditangani bersama
- Agar AI menghormati martabat manusia dan kebaikan bersama, tanggung jawab harus jelas pada setiap tahap, dari perancang dan pengembang hingga pengguna dan orang-orang yang bergantung pada keputusan nyata yang dihasilkan
- Prinsip moral dan etika harus diterapkan saat sistem dibangun, bukan setelah kerugian terjadi di masyarakat
- Sikap yang menuntut kehati-hatian, evaluasi ketat, dan kadang laju yang lebih lambat dalam adopsi AI bukanlah penolakan terhadap kemajuan, melainkan tindakan merawat keluarga manusia secara bertanggung jawab
- Kerangka seperti konstitusi etika dalam kasus Anthropic pun tidak cukup bila hanya ditentukan oleh moralitas segelintir pihak, dan harus dibahas menurut standar keadilan sosial bersama
- Kebenaran adalah unsur penting demokrasi, dan pendidikan AI diperlukan terutama bagi kaum muda
- Berlawanan dengan janji bahwa AI dapat meringankan beban kerja, dalam praktiknya pekerja sering dipaksa menyesuaikan diri dengan kecepatan dan tuntutan mesin
- Dalam revolusi industri keempat, prioritasnya harus pada perlindungan kesempatan kerja dan peran manusia yang tidak tergantikan
Transhumanisme, ketimpangan, dan kolonialisme data
- Transhumanisme dan posthumanisme terkait dengan anggapan bahwa melampaui kondisi manusia adalah bentuk kemajuan
- Berbeda dari pandangan yang hanya melihat penyakit, disabilitas, usia tua, dan kerentanan sebagai batas yang harus diatasi, manusia berkembang bukan meski memiliki batas, melainkan sering justru melalui batas itu
- Víctor Manuel Fernández menegaskan bahwa, bertentangan dengan pandangan bahwa manusia telah mencapai masa kedaluwarsa dan harus digantikan, ajaran Katolik menyatakan setiap manusia memiliki martabat yang tak terbatas
- Di tengah kesenjangan ekonomi global yang makin besar, kemajuan teknologi dapat menciptakan ketimpangan struktural
- Sistem perpajakan harus meringankan beban orang-orang yang paling rentan dan menuntut tanggung jawab lebih besar dari mereka yang memiliki sumber daya lebih banyak, sementara manfaat inovasi harus dibagikan secara transparan kepada seluruh komunitas
- Di balik AI, bisa ada jejak eksploitasi manusia dan lingkungan, mulai dari model yang dilatih dengan materi berhak cipta hingga penambangan mineral langka untuk perangkat keras AI
- Kolonialisme data diperlakukan sebagai wajah baru kolonialisme yang merampas aliran kesehatan, profil epidemiologis, peta genetik, hingga data demografis
- Data semacam ini telah menjadi “tanah jarang baru kekuasaan”, dan teknologi AI yang berada di tangan segelintir individu atau kelompok yang berorientasi laba dapat menjadi bentuk baru kekuasaan kolonial
- Agar pengetahuan bersama menjadi kebaikan bersama, bukan alat dominasi, individu harus kembali memiliki kemampuan untuk menentukan data yang menjelaskan dirinya, bagaimana data itu digunakan, oleh siapa, dan untuk kepentingan siapa
Perang, keadilan sosial, dan kebaikan bersama
- Penggunaan AI untuk militer harus tunduk pada pembatasan etis yang paling ketat
- Tanggung jawab atas tindakan militer, khususnya tindakan mematikan, harus tetap berada pada manusia, bukan mesin
- Dalam perang, diperlukan pelacakan proses pengambilan keputusan, pengawasan manusia, dan hukum internasional yang menangani meningkatnya penggunaan senjata otomatis beserta konsekuensinya
- Prinsip moral dalam kehidupan sosial, ekonomi, dan politik yang berpusat pada martabat manusia dan kebaikan bersama harus tetap berlaku di era AI
- Solidaritas dan kepedulian terhadap “sesama” menjadi poros utama, dengan penekanan khusus pada tanggung jawab terhadap generasi berikutnya
- Keadilan sosial bukan hanya distribusi sumber daya yang lebih adil atau koreksi atas ketidakadilan saat ini, tetapi juga mencakup dimensi pemulihan
- Bahkan di ranah digital, perlu diwaspadai pengawasan yang invasif, komunitas yang dikecualikan dari akses ke teknologi dasar, dan dampak algoritme yang tidak transparan yang melanggengkan diskriminasi
- Migrasi diperlakukan sebagai kertas lakmus keadilan sosial masa kini
- Babel melambangkan kekuasaan dan pencarian pemenuhan diri, sementara pembangunan kembali Yerusalem oleh Nehemiah mengarah pada doa serta partisipasi keluarga dan komunitas
- Pesannya berlanjut bahwa di era AI pun, pembangunan Babel dan pembangunan kembali Yerusalem masing-masing dimulai dari batin setiap orang
1 komentar
Komentar Hacker News
Nyaris posting duplikat. https://news.ycombinator.com/item?id=48265206
Zamannya memang berbeda dalam banyak hal. Misalnya 1) sekarang ada AI, dan 2) pausnya orang Amerika, serta lebih dapat dipercaya daripada para politikus puncak yang sedang menjabat dari kedua partai
Ini bukan soal orang merindukan era kepausan, melainkan lebih dekat pada mencari siapa pun yang punya akal sehat
15 tahun lalu pausnya adalah Benedict, dan dia sosok yang cukup berbeda. Secara pribadi, saya rasa saya akan jauh lebih sinis terhadapnya dibanding Francis atau Leo
Kalau mau melanjutkan analogi agama, pengguna HN pada masa itu mungkin akan lebih terkejut bahwa Chrome tidak lagi diperlakukan seperti kedatangan kedua Yesus