Magnifica Humanitas

• Pilihan kunci di era AI bukanlah soal mendukung atau menolak teknologi, melainkan apakah kita akan membangun keseragaman dan dominasi seperti Babel, atau membangun kembali di atas tanggung jawab bersama dan keberagaman seperti Yerusalem
• Ajaran sosial Gereja bukan kumpulan prinsip yang kaku, melainkan proses hidup untuk menimbang transformasi digital dan kecerdasan buatan melalui martabat manusia, kebaikan bersama, subsidiaritas, solidaritas, dan keadilan sosial
• AI dan kekuasaan digital dapat melahirkan konsentrasi data, platform, dan sumber daya komputasi, keputusan yang diotomatisasi, tanggung jawab yang tidak transparan, biaya lingkungan, serta kerja tersembunyi dan bentuk eksploitasi baru
• Paradigma teknokratis mereduksi manusia menjadi sumber daya untuk dioptimalkan, sehingga pendidikan, kerja, keluarga, media, politik, dan ekonomi harus ditata ulang agar melindungi kebenaran dan kebebasan, kepedulian dan partisipasi
• Peradaban kasih ditawarkan sebagai jalan untuk membangun perdamaian melalui penolakan terhadap perang, perlombaan senjata, dan persenjataan AI, serta melalui keadilan, dialog, diplomasi, sudut pandang para korban, dan doa

---

Pilihan di era AI dan ajaran sosial

• Pilihan umat manusia bergantung pada apakah kita akan membangun Menara Babel yang baru, atau membangun kota tempat Allah dan manusia berdiam bersama
  • Setiap generasi mewarisi tugas untuk membentuk zamannya sendiri, menjaga martabat setiap orang, memajukan keadilan, dan memungkinkan persaudaraan
  • Orang Kristen melihat kepenuhan manusia dalam Yesus Kristus dari sudut pandang bahwa “hanya dalam misteri Sabda yang menjadi manusia, misteri manusia sungguh menjadi terang”
• Pope Leo XIII menerbitkan Rerum Novarum pada tahun 1891, dan tahun 2026 menandai peringatan 135 tahunnya
  • Dokumen ini memberi dorongan pada refleksi tentang masyarakat, ekonomi, dan politik, serta menjadi titik awal penting bagi arus yang kini dikenal sebagai “ajaran sosial Gereja”
  • Ajaran sosial adalah proses hidup yang berakar pada Kitab Suci dan tradisi, serta membantu menafsirkan tantangan masa kini sambil berdialog dengan berbagai disiplin ilmu
• Digitalisasi, kecerdasan buatan, dan robotika sedang mengubah dunia dengan cepat dan mendalam
  • Teknologi pada dirinya sendiri bukan kekuatan yang memusuhi umat manusia, tetapi merupakan alat bermuka dua yang dapat membawa mudarat bila tidak diarahkan kepada kebaikan
  • Teknologi baru meresap jauh ke dalam kehidupan sehari-hari, proses pengambilan keputusan, dan imajinasi kolektif, sehingga menyulitkan penilaian atas dampak jangka panjangnya terhadap martabat pribadi dan kebaikan bersama
• Kekuasaan teknologi kini bersifat privat dan transnasional secara belum pernah terjadi sebelumnya, sehingga makin sulit untuk ditimbang, ditata kelola, dan diarahkan pada kebaikan bersama
  • Pope Francis memperingatkan bahwa tenaga nuklir, bioteknologi, teknologi informasi, dan pengetahuan DNA memberi mereka yang memiliki pengetahuan dan sumber daya ekonomi “kekuasaan yang mengesankan atas seluruh umat manusia dan seluruh dunia”
  • Dewasa ini, penggerak utama pembangunan sering kali adalah aktor swasta dan transnasional yang memiliki sumber daya dan kapasitas intervensi melebihi banyak pemerintah

Babel dan Yerusalem

• Menara Babel

  • Menara Babel adalah gambaran Alkitab pertama untuk menavigasi era AI secara bertanggung jawab
  • Orang-orang di tanah Sinear ingin membangun kota dan menara “yang puncaknya mencapai langit” agar tidak tercerai-berai dan untuk “membuat nama” bagi diri mereka
  • Proyek dengan satu bahasa, satu teknologi, dan satu arah ini bertumpu pada keseragaman yang menyingkirkan keberagaman, serta memilih penyeragaman alih-alih persekutuan
  • Ketika kota dibangun di atas kesombongan dan rasa cukup diri, komunikasi runtuh, bahasa menjadi kacau, dan hasilnya bukan persatuan melainkan perpecahan

• Membangun kembali Yerusalem

  • Pembangunan kembali Yerusalem oleh Nehemia adalah gambaran kedua
  • Setelah pembuangan ke Babel, Yerusalem menjadi reruntuhan, dan Nehemia berpuasa, berdoa, serta berdoa syafaat bagi bangsanya sebelum bertindak
  • Ia diam-diam meninjau bagian-bagian yang hancur, tidak memaksakan solusi dari atas, dan mempercayakan tiap keluarga satu bagian tembok
  • Kota itu lahir kembali bukan dari dorongan satu orang, melainkan dari tanggung jawab bersama laki-laki, perempuan, imam, pengrajin, kepala keluarga, dan kaum muda

• Pilihan terhadap teknologi

  • Pilihan kunci dalam menghadapi teknologi dan revolusi digital bukanlah “ya” atau “tidak” terhadap teknologi, melainkan apakah kita akan membangun Babel atau membangun kembali Yerusalem
  • Teknologi memiliki kekuatan untuk menyembuhkan, menghubungkan, mendidik, dan melindungi rumah bersama, tetapi juga dapat memecah-belah, mengecualikan, dan menciptakan ketidakadilan baru
  • Teknologi tidak pernah netral, karena pada kenyataannya ia mencerminkan watak mereka yang merancang, mendanai, mengatur, dan menggunakannya
  • Sindrom Babel berarti pendewaan laba yang mengorbankan yang lemah, keseragaman yang melumpuhkan perbedaan, dan ilusi bahwa bahkan misteri manusia dapat diterjemahkan menjadi data dan kinerja
  • Jalan Nehemia adalah jalan membangun bersama dari berbagai suara dan visi, mengubah keberagaman menjadi sumber daya, dan menjadikan mendengarkan serta dialog sebagai dasar keadilan dan persaudaraan

Prinsip untuk tetap menjadi manusia

• Kota yang berlandaskan kebaikan bersama harus dibangun di atas relasi yang kokoh dengan Allah, dan batas serta kelemahan manusia ditampilkan bukan sebagai kesalahan yang harus diperbaiki, melainkan kenyataan yang harus diterima
  • Kita harus waspada terhadap harapan pada “upgrade” tanpa batas, kemajuan yang memperburuk ketimpangan, dan solusi instan yang tidak mampu menyembuhkan luka
  • Kepenuhan sejati ditemukan bukan dalam penghapusan kelemahan, melainkan dalam pertumbuhan harmonis tempat kebebasan dan tanggung jawab, saling merawat, dan solidaritas saling terjalin
• Tanggung jawab bersama adalah syarat untuk membangun dunia tempat semua orang dapat berkembang
  • Ilmuwan dan peneliti, pengusaha dan pekerja, pendidik dan pembuat undang-undang, masyarakat sipil, gerakan rakyat, dan komunitas iman semuanya diberi bagian tembok masing-masing
  • Kerja sama lintas generasi, bangsa, disiplin, dan budaya mengarah pada logika subsidiaritas yang mendorong stabilitas, kemakmuran, dan perdamaian
• Tetap menjadi manusia adalah kewajiban mendesak di era AI
  • Bentuk-bentuk dehumanisasi baru mengancam martabat manusia, sehingga kebesaran umat manusia yang tak dapat digantikan mesin apa pun harus dilindungi
  • Allah harus ditempatkan di depan tindakan, dan manusia di pusat pilihan

Karakter ajaran sosial Gereja

• Ajaran sosial Gereja adalah pengajaran yang dinamis, yang dibentuk dalam magisterium para paus modern dan Konsili Vatikan II
  • Kecerdasan buatan bukan hanya krisis yang harus dikelola, melainkan perkembangan yang menantang kategori-kategori ajaran sosial dari dalam dan menuntut perkembangan yang setia pada Injil

• Gereja yang berjalan dalam sejarah manusia

  • Gereja hadir di dunia sebagai tanda persatuan seluruh keluarga umat manusia, dan memandang pertanyaan serta tantangan masa kini sebagai ruang aktual untuk mendengarkan, berdialog, dan melayani
  • Gereja tidak dapat tetap menjadi pihak luar terhadap kekuatan-kekuatan yang membentuk masyarakat, dan menawarkan sumbangan khas untuk membangun masyarakat yang lebih adil dan lebih bersaudara
  • Gaudium et Spes menyatakan bahwa “otonomi hal-hal duniawi” itu sah jika berarti bahwa ciptaan dan masyarakat memiliki hukum dan nilai mereka sendiri

• Pembedaan dengan komunitas politik

  • Konsili Vatikan II menegaskan pembedaan antara komunitas Gereja dan komunitas politik serta menekankan bahwa masing-masing harus bertindak dalam otonomi penuh
  • Gereja tidak berusaha mengambil alih fungsi negara, dan mengakui tanggung jawab lembaga-lembaga sipil yang melayani kebaikan bersama
  • Keterlibatan Gereja harus dijalankan dengan kehati-hatian dan kedekatan, mengikuti teladan Orang Samaria yang baik hati, dan tidak dapat menggantikan tanggung jawab kelembagaan komunitas sipil

• Dialog antara Sabda dan ilmu-ilmu manusia

  • Gereja memandang semua orang yang dengan tulus mencari “kebenaran, kebaikan, dan keindahan” sebagai sekutu berharga dalam melindungi martabat dan merawat ciptaan
  • Sabda Allah memberikan ukuran bagi keadilan dan perdamaian, tetapi untuk menerapkannya pada situasi modern yang kompleks dibutuhkan sumbangan filsafat serta ilmu-ilmu manusia dan sosial
  • Pope Francis mengatakan bahwa dalam banyak persoalan konkret Gereja tidak mengklaim memberikan “pandangan final”, dan mendorong riset ilmiah serta perdebatan serius dan jujur di antara para ahli

• Penegasan bersama

  • Kebenaran bukan milik untuk dimonopoli, melainkan karunia untuk dibagikan, dan ini membebaskan Gereja dari godaan untuk hadir sebagai basis kekuasaan
  • Ajaran sosial bukan buku pegangan prinsip dan norma yang siap diterapkan, melainkan proses penegasan bersama yang lahir dari perjumpaan antara kebenaran abadi Injil dan pertanyaan-pertanyaan sejarah

Perkembangan dan landasan ajaran sosial

• Perkembangan ajaran sosial dipaparkan sebagai arus magisterium yang menanggapi perubahan sosial besar sejak abad ke-19 hingga sekarang, dan prinsip-prinsip dasarnya dirangkum dalam Compendium of the Social Doctrine of the Church
  • Rerum Novarum mengemukakan konflik antara modal dan tenaga kerja, martabat pekerja, upah yang adil, peran sosial kepemilikan pribadi, perhimpunan pekerja, serta kerja sama sebagai pengganti perjuangan kelas
  • Quadragesima Anno oleh Pius XI mengkritik pemusatan kekuasaan ekonomi dan perencanaan kolektivis, serta merumuskan secara sistematis prinsip subsidiaritas
  • Pacem in Terris oleh Saint John XXIII mengaitkan martabat manusia dengan pengakuan atas hak dan kewajiban dasar
  • Laborem Exercens oleh Saint John Paul II memaparkan kerja sebagai kebaikan mendasar bagi manusia, prinsip aktivitas ekonomi, dan kunci bagi seluruh persoalan sosial
  • Laudato Si’ oleh Pope Francis menegaskan bahwa “jeritan bumi dan jeritan kaum miskin” tidak dapat dipisahkan
  • Fratelli Tutti mengusulkan persahabatan sosial, persaudaraan universal, politik yang lebih baik, dan dunia yang menjamin “tanah, tempat tinggal, dan pekerjaan” bagi semua orang
• Martabat manusia tidak bergantung pada kemampuan, kekayaan, status hidup, atau pilihan benar dan salah, melainkan merupakan karunia yang diberikan lebih dahulu kepada setiap orang sebagai ungkapan kasih Tuhan yang tidak berubah
  • Martabat ontologis melekat pada setiap manusia semata-mata karena ia ada, karena Tuhan menghendaki, menciptakan, dan mengasihinya
  • Dignitas Infinita merangkum bahwa setiap manusia memiliki “martabat tak terbatas yang berakar secara tak dapat dicabut pada keberadaannya sendiri”
• Pembedaan dan pewartaan hak asasi manusia diakui sebagai salah satu upaya terpenting untuk menanggapi tuntutan martabat manusia
  • Hak yang pertama di antara semuanya dipaparkan sebagai hak atas hidup dari pembuahan hingga kematian alami
  • Agar hak-hak perempuan dijamin secara setara dan sungguh-sungguh, hal itu harus tercermin secara konkret dalam hukum, akses ke pekerjaan, pendidikan, tanggung jawab sosial dan politik, serta cara masyarakat mendengar dan menilai kontribusi perempuan

Kesejahteraan bersama, subsidiaritas, solidaritas, keadilan

• Kesejahteraan bersama

  • Kesejahteraan bersama adalah ekspresi sosial dari martabat yang diakui bagi semua orang, dan Konsili Vatikan II mendefinisikannya sebagai keseluruhan kondisi sosial yang memungkinkan orang mencapai kepenuhannya secara lebih utuh dan lebih mudah
  • Kesejahteraan bersama bukanlah penjumlahan kepentingan pribadi atau irisan kepentingan khusus, melainkan kebaikan yang lebih besar yang menjadi milik semua orang dan hanya dapat dicapai, dipelihara, dan dilindungi melalui upaya bersama

• Tujuan universal harta benda

  • Tujuan universal harta benda adalah prinsip bahwa tanah, air, udara, dan sumber daya alam diberikan Tuhan kepada seluruh keluarga manusia agar menopang kehidupan semua orang
  • Hak atas kepemilikan pribadi memiliki makna dan tujuan yang khas, tetapi selalu berada di bawah tujuan universal harta benda
  • Saat ini prinsip ini juga harus diterapkan pada bentuk-bentuk baru kepemilikan seperti paten, algoritme, platform digital, infrastruktur teknologi, dan data
  • Bila harta-harta ini terkonsentrasi di tangan segelintir orang, kesenjangan antara mereka yang dapat berpartisipasi dalam revolusi digital dan mereka yang tetap berada di pinggiran akan semakin melebar

• Subsidiaritas

  • Subsidiaritas adalah prinsip bahwa otoritas yang lebih tinggi tidak boleh menggantikan peran individu, keluarga, komunitas lokal, dan organisasi menengah
  • Dalam konteks revolusi digital, tingkat tertinggi itu sering kali bukan negara, melainkan aktor ekonomi dan teknologi raksasa yang menjalankan kekuasaan de facto atas kondisi kehidupan sehari-hari
  • Subsidiaritas menuntut pemeriksaan independen, transparansi algoritme, akses yang adil terhadap data, dan partisipasi yang bermakna termasuk jalur pemulihan

• Solidaritas

  • Solidaritas adalah kesadaran bahwa masa depan setiap individu terhubung dengan masa depan semua orang, yang diungkapkan dalam kalimat “tidak seorang pun diselamatkan sendirian”
  • Keputusan tentang data, algoritme, platform, dan kecerdasan buatan harus mempertimbangkan bukan hanya kepentingan langsung segelintir pihak, tetapi juga dampaknya bagi semua bangsa dan generasi mendatang

• Keadilan sosial

  • Keadilan sosial menuntut agar struktur dan institusi sosial melayani manusia dan martabat manusia
  • Ketidakadilan muncul bukan hanya dari pilihan pribadi yang keliru, tetapi juga dari struktur, mekanisme, dan sistem budaya ekonomi yang hampir otomatis menghasilkan ketimpangan
  • Tatanan sosial yang adil di era digital harus menjamin akses peluang bagi semua orang, melindungi anggota yang lemah, melawan kebencian dan disinformasi, serta menempatkan penggunaan data dan teknologi di bawah pengawasan publik

• Pembangunan manusia integral

  • Pembangunan manusia integral adalah proses pertumbuhan individu dan bangsa-bangsa yang mencakup seluruh dimensi keberadaan serta membuka masa depan juga bagi generasi berikutnya
  • Inovasi teknologi, termasuk kecerdasan buatan, harus dinilai dari apakah hal itu membantu manusia dan bangsa-bangsa menjadi lebih manusiawi dan lebih bersaudara, serta menghormati rumah bersama dan generasi mendatang

Penerapan di dalam Gereja

• Ajaran sosial bukan hanya pesan bagi masyarakat, tetapi juga pemeriksaan hati nurani bagi Gereja, dan kesejahteraan bersama, subsidiaritas, solidaritas, serta keadilan juga harus diterapkan di dalam struktur Gereja
• The Final Document of the Synod memandang transparansi, akuntabilitas, dan budaya evaluasi sebagai praktik kunci bagi transformasi misioner
• Partisipasi yang nyata adalah mewujudkan keterlibatan orang-orang yang dibaptis dalam pengambilan keputusan dan tanggung jawab bersama atas perutusan, bukan melalui badan partisipasi yang hanya formalitas, melainkan melalui badan yang benar-benar partisipatif
• Hidup dalam keadilan di dalam Gereja berarti memurnikan relasi dan struktur gerejawi dari distorsi yang melahirkan ketimpangan, ketidaktransparanan, dan penyalahgunaan kuasa
  • Mendengarkan para korban pelecehan spiritual, ekonomi, institusional, seksual, pelecehan berbasis kuasa, dan pelecehan hati nurani adalah hal yang esensial dalam perjalanan keadilan yang mencakup pengakuan atas korban, kompensasi yang adil, dan pencegahan agar tidak terulang kembali

AI dan kekuasaan digital

• Paradigma teknokratis

  • Pope Francis dalam Laudato Si’ mengkritik paradigma teknokratis yang berusaha membentuk keputusan personal, sosial, dan ekonomi semata-mata berdasarkan logika efisiensi, kontrol, dan keuntungan
  • Ketika teknologi menjadi tolok ukur untuk menilai segala sesuatu, dunia ciptaan direduksi menjadi objek eksploitasi, dan manusia diperkecil menjadi roda gigi dalam sistem yang mengejar efisiensi lebih besar
  • Ketika kendali atas platform, infrastruktur, data, dan daya komputasi terkonsentrasi pada aktor ekonomi dan teknologi raksasa, syarat akses, aturan visibilitas, dan bahkan kemungkinan untuk berpartisipasi pada praktiknya ditetapkan oleh mereka

• Perbedaan AI dan kecerdasan manusia

  • Semua pernyataan tentang AI bisa cepat usang karena laju perkembangan sistem, dan pemahaman tentang cara kerjanya yang sebenarnya masih terbatas, termasuk di kalangan para perancangnya
  • Sistem AI saat ini lebih dekat pada cara pengembang membuat kerangka tempat kecerdasan “bertumbuh” daripada merancang langsung setiap detailnya, sehingga lebih mirip sesuatu yang “dibudidayakan” daripada “dibuat”
  • AI hanya meniru fungsi tertentu dari kecerdasan manusia; ia tidak mengalami, tidak memiliki tubuh, tidak merasakan sukacita atau penderitaan, dan tidak menjadi matang dalam relasi
  • “Pembelajaran” AI adalah adaptasi statistik yang berbasis data dan umpan balik, bukan pengalaman yang dibentuk oleh kehidupan melalui pilihan, kesalahan, pengampunan, dan kesetiaan

• Kegunaan dan batasan

  • AI bisa menjadi alat yang berguna, tetapi perlu kehati-hatian dalam tiga aspek: kemudahan memperoleh hasil, kesan objektivitas, dan peniruan komunikasi manusia
  • Akses cepat ke informasi dan dukungan kerja dapat mendorong ketergantungan berlebihan serta pencarian jawaban yang sudah jadi, dan melemahkan kreativitas serta daya penilaian individu
  • Fakta bahwa respons sistem tampak objektif dapat menutupi asumsi budaya, kekuatan, dan keterbatasan dari pihak yang merancang dan melatihnya
  • Peniruan artifisial atas komunikasi manusia seperti nasihat, empati, persahabatan, dan cinta dapat menciptakan ilusi, terutama bagi pengguna dengan kemampuan membedakan yang lemah, bahwa mereka sedang menjalin relasi dengan subjek personal yang nyata

• Biaya lingkungan

  • Sistem AI saat ini membutuhkan energi dan air dalam jumlah besar, berdampak signifikan pada emisi karbon dioksida, dan memberi beban besar pada sumber daya alam
  • Seiring meningkatnya kompleksitas seperti pada model bahasa besar, kebutuhan akan daya komputasi dan kapasitas penyimpanan juga meningkat, sehingga dibutuhkan jaringan luas mesin, kabel, pusat data, dan infrastruktur intensif energi
  • Pengembangan solusi teknologi yang lebih berkelanjutan untuk mengurangi dampak lingkungan dan melindungi rumah bersama adalah hal yang esensial

Tanggung jawab, transparansi, dan tata kelola AI

• Keputusan otomatis

  • Penggunaan AI bukan sekadar persoalan teknis murni, melainkan persoalan sosial yang memengaruhi hak, peluang, status, dan kebebasan
  • Ada risiko bahwa keputusan sensitif seperti pekerjaan, kredit, akses ke layanan publik, dan reputasi pribadi sepenuhnya diserahkan kepada sistem otomatis
  • Sistem seperti ini tidak mengenal “belas kasih, kemurahan hati, pengampunan, dan terutama harapan bahwa manusia dapat berubah”, sehingga bisa melahirkan bentuk-bentuk eksklusi baru
  • AI tidak dapat dianggap netral secara moral; ia memuat pilihan dan prioritas tentang apa yang diukur, diabaikan, dan dioptimalkan, serta bagaimana orang dan situasi diklasifikasikan

• Kemampuan penjelasan dan kerangka hukum

  • Agar AI menghormati martabat manusia dan melayani kebaikan bersama, tanggung jawab harus jelas pada setiap tahap, termasuk bagi perancang, pengembang, pengguna, dan mereka yang bergantung pada keputusan konkret yang dihasilkan
  • Dalam banyak kasus, proses internal yang menghasilkan suatu keluaran bersifat tidak transparan, sehingga menyulitkan penetapan tanggung jawab dan perbaikan kesalahan
  • Sikap hati-hati, evaluasi yang ketat, dan kadang tuntutan untuk memperlambat laju adopsi AI bukanlah penolakan terhadap kemajuan, melainkan tindakan merawat keluarga manusia secara bertanggung jawab
  • Seruan etis yang abstrak saja tidak cukup; dibutuhkan kerangka hukum yang kuat, pengawasan independen, pengguna yang melek informasi, dan sistem politik yang tidak melepaskan tanggung jawab

• Diskusi publik melampaui alignment

  • Tidak cukup hanya menuntut pemoralan mesin seperti “alignment” yang menyelaraskan AI dengan nilai-nilai manusia; kerangka etis yang terkait juga harus dibahas secara terbuka dan ditundukkan pada standar bersama keadilan sosial
  • Diperlukan keterlibatan politik yang lebih aktif agar moralitas yang diputuskan segelintir pihak tidak menjadi infrastruktur tak terlihat dari sistem
  • Kepemilikan data tidak bisa diserahkan hanya ke tangan privat dan harus diatur secara memadai; karena data adalah hasil dari banyak kontributor, dibutuhkan pemikiran kreatif untuk mengelolanya sebagai barang bersama atau milik bersama

• Standar ajaran sosial untuk kekuasaan AI

  • Dalam dunia di mana data, sumber daya komputasi, dan pengaruh regulasi tetap berada di tangan segelintir pihak, berbicara tentang kebaikan bersama berarti menyingkap asimetri epistemik, ekonomi, dan politik serta monopoli baru AI
  • Tujuan universal dari barang-barang berarti menjamin akses universal baik pada teknologi maupun pendidikan untuk menggunakannya
  • Subsidiaritas menuntut perlindungan atas kemampuan komunitas untuk memilih dan memperbaiki
  • Solidaritas menuntut pengakuan terhadap para pekerja yang tersembunyi dan sering dieksploitasi yang menopang sistem algoritmik
  • Keadilan sosial bukan hanya tujuan yang harus dilindungi setelah teknologi diterapkan, melainkan syarat yang harus membentuk perancangan teknologi sejak awal

• Melucuti senjata AI

  • Melucuti senjata AI berarti membebaskan AI bukan hanya dari konteks militer, tetapi juga dari cara berpikir perlombaan “persenjataan” ekonomi dan kognitif
  • Persaingan menuju algoritme yang lebih kuat dan set data yang lebih besar digerakkan oleh hasrat untuk mengamankan dominasi geopolitik atau komersial
  • Pelucutan senjata bukan berarti menolak teknologi, melainkan memastikan teknologi tidak mendominasi manusia, terbebas dari kontrol monopolistik, dan dibuka untuk perdebatan serta diskusi agar menjadi lebih manusiawi

Kemanusiaan yang tidak boleh hilang

• Pelestarian kemanusiaan kembali pada pertanyaan: “Apa arti menjaga kemanusiaan kita?”
  • Risikonya melampaui penyalahgunaan teknologi tertentu; bahaya utamanya terletak pada paradigma teknokratis yang diperkuat oleh revolusi digital dan AI hingga menormalkan pandangan yang anti-manusia
  • Ketika efisiensi menjadi ukuran akhir nilai, manusia tergoda untuk memandang dirinya bukan sebagai pribadi yang dipanggil pada relasi dan persekutuan, melainkan sebagai proyek yang harus dioptimalkan
• Dalam peradaban kepedulian, mutu peradaban diukur bukan dari kekuatan sarana, melainkan dari kepedulian yang mampu diberikannya dan kemampuan untuk mengenali sesama bukan sebagai fungsi, melainkan sebagai wajah
  • Tindakan seperti membacakan cerita kepada anak, menemani lansia, dan menyediakan rumah yang ramah melatih kita pada tingkat sosial untuk menghargai kepedulian
  • Teknologi dapat mendukung saling merawat dengan membantu prediksi dan pengorganisasian sejauh tidak melemahkan kebebasan serta penilaian manusia
• Transhumanisme dan posthumanisme adalah arus pemikiran yang menafsirkan pelampauan kondisi manusia sebagai kemajuan
  • Prospek “manusia yang ditingkatkan” atau “hibrida manusia-mesin” memicu antusiasme terhadap teknologi baru
  • Sekalipun gagasan-gagasan ini umumnya bersifat spekulatif, mereka mengubah imajinasi kolektif dan memengaruhi pilihan sosial, ekonomi, dan politik
• Batas dipaparkan bukan sebagai cacat, melainkan sebagai jalan masuk menuju kemanusiaan
  • Ketidakmampuan, penyakit, usia tua, penderitaan, dan kerentanan mudah dianggap sebagai cacat yang harus diperbaiki, padahal kemanusiaan sering menjadi matang dan terbuka pada relasi justru melalui batas-batas itu
  • Jika penderitaan dihapus sepenuhnya, pada akhirnya cinta dan hasrat pun akan padam, dan pembelajaran yang ditinggalkan oleh kebebasan dan kegagalan, mimpi dan kekecewaan, serta luka-lukanya membuat kita dapat merasakan kekayaan kemanusiaan

Kebenaran, pendidikan, dan komunikasi

• Kebenaran sebagai kebaikan bersama

  • Platform digital dan sistem AI secara mendalam mengubah komunikasi publik dan politik; keduanya dapat mendorong dialog dan partisipasi, tetapi juga digunakan untuk mengaburkan batas antara fakta dan opini, kebenaran dan kepalsuan
  • Disinformasi memang tidak bermula bersama AI, tetapi saat ini AI sangat memperkuatnya melalui kemampuan memanipulasi konten, gambar, dan video
  • Informasi yang benar tidak lahir dari kontrol yang tersentralisasi atau otomatis, melainkan memerlukan verifikasi, pemeriksaan silang sumber, argumentasi yang bertanggung jawab, dan ikatan kepercayaan
  • Demokrasi bergantung bukan hanya pada aturan dan prosedur, tetapi juga pada kesesuaian dengan fakta serta komitmen terhadap kebaikan individu dan masyarakat secara keseluruhan

• Ekologi komunikasi

  • Komunikasi bukan sekadar penyampaian informasi, melainkan juga penciptaan budaya; konten yang beredar di lingkungan digital membentuk cara orang memandang dunia, hasrat mereka, dan pilihan sehari-hari
  • Pada tingkat kebijakan publik, pengambilan keputusan seputar pemilihan dan pengembangan konten harus menjadi lebih transparan, dan norma harus ditetapkan untuk melindungi data pribadi
  • Pada tingkat sosial dan budaya, organisasi perantara, jurnalisme yang serius, dan ruang debat harus diperkuat agar argumentasi rasional dan verifikasi mendapat bobot lebih besar daripada reaksi seketika

• Pendidikan di era digital

  • Pendidikan menjadi sangat penting pada masa ketika kebenaran mudah dipelintir demi kepentingan tertentu dan strategi komunikasi
  • Karena setiap teknologi membentuk orang yang menggunakannya, pendidikan penggunaan AI harus mencakup pengajaran tentang kapan dan untuk tujuan apa AI tidak boleh digunakan
  • Kemampuan memperoleh jawaban atau ringkasan dengan cepat berisiko memadamkan keinginan untuk bertanya
  • Paparan tanpa pengawasan terhadap perangkat digital dan media sosial pada usia dini dapat berdampak negatif pada tidur, rentang perhatian, pengaturan emosi, dan relasi
  • Fenomena online seperti grooming, blackmail, dan eksploitasi seksual terhadap anak di bawah umur menjadi lebih canggih dengan profil palsu, algoritme yang mendorong kontak berbahaya, serta alat AI yang dapat memanipulasi gambar dan video

• Peran sentral sekolah

  • Sekolah adalah tempat generasi baru belajar mencari dan mencintai kebenaran, merenungkan makna hidup, dan mengenali martabat setiap orang
  • Perkembangan teknologi informasi dan AI dengan cepat membuat kurikulum yang dirancang untuk zaman lain menjadi usang, sehingga organisasi sekolah, ruang fisik, metode evaluasi, dan peran guru perlu dipikirkan ulang dari perspektif pendidikan terpadu
  • Keluarga, sekolah, komunitas Kristen, dan lembaga publik harus membentuk aliansi pendidikan baru yang menerjemahkan pengendalian diri dan kesadaran akan batas, kebebasan dan tanggung jawab, transendensi dan rasa akan kebaikan bersama ke dalam tujuan pendidikan

Kerja dan ekonomi

• Nilai kerja

  • Sejak Rerum Novarum, Gereja telah menekankan perlunya melindungi pekerja dan melawan segala bentuk eksploitasi
  • Kerja adalah “kunci esensial” untuk memahami seluruh persoalan sosial, dan melalui kerja manusia mengembangkan berbagai dimensi keberadaannya
  • Kerja bukan sekadar alat, melainkan mengekspresikan dan memperkuat martabat kehidupan manusia, dan tujuannya adalah memungkinkan setiap orang hidup bermartabat melalui pekerjaannya

• Kerja yang diubah oleh otomasi dan AI

  • Konvergensi otomasi, robotika, dan AI sedang dengan cepat mengubah struktur kerja itu sendiri
  • AI menjanjikan peningkatan produktivitas dengan mengambil alih tugas-tugas biasa, tetapi dalam praktiknya sering kali pekerja dipaksa menyesuaikan diri dengan kecepatan dan tuntutan mesin alih-alih mesin mendukung pekerja
  • Pendekatan teknologi saat ini dapat melemahkan keterampilan pekerja, menundukkan mereka pada pengawasan otomatis, dan mendorong mereka ke pekerjaan yang kaku dan berulang
  • Perlindungan kesempatan kerja dan peran individu yang tak tergantikan harus tetap menjadi prinsip umum, dan pencarian laba yang lebih besar tidak dapat membenarkan pilihan yang secara sistematis mengorbankan pekerjaan

• Ketimpangan transisi

  • Saint John Paul II memandang pengangguran sebagai kejahatan besar, dan ketika terjadi dalam skala luas itu menjadi bencana sosial yang secara khusus menuntut tanggung jawab negara
  • Masyarakat kaya mengotomatisasi dengan cepat dan kacau sambil mengurangi kebutuhan tenaga kerja, sementara wilayah yang luas terjebak dalam ekonomi campuran tempat kerja manusia berupah rendah hidup berdampingan dengan teknologi parsial
  • Menjamin akses terhadap kerja bagi semua harus menjadi prioritas tinggi dalam kebijakan publik dan proses ekonomi, serta menjadi tolok ukur untuk menilai kualitas kemanusiaan dari setiap model pembangunan

• Kerja sama dan standar baru

  • Para pemimpin politik, serikat pekerja, kalangan bisnis, dan komunitas ilmiah harus memulai kerja sama baru untuk segera mengembangkan regulasi dan perlindungan bersama, termasuk pada dimensi internasional
  • Penerapan otomasi dan AI harus disertai langkah-langkah yang dapat diverifikasi untuk melindungi pekerjaan, pelatihan ulang, dan partisipasi pekerja
  • Perusahaan harus memasukkan kualitas dan martabat kerja ke dalam indikator keberhasilan agar inovasi dapat menjadi sekutu bagi kerja yang lebih aman, kreatif, dan bermartabat

• Pembangunan melampaui GDP

  • Indikator pembangunan yang selama lebih dari 80 tahun terikat pada konsep produk domestik bruto (GDP) hampir secara sistematis mengabaikan aspek-aspek yang sangat penting bagi kesejahteraan menyeluruh manusia dan lingkungan
  • Indikator pelengkap GDP memungkinkan penilaian yang komprehensif dan tepat waktu atas dampak terhadap martabat kerja, kemakmuran bersama, pengurangan ketimpangan, dan perlindungan lingkungan

• Akses terhadap kekayaan dan inovasi

  • Kekayaan dunia memang meningkat secara absolut, tetapi terkonsentrasi di tangan yang semakin sedikit, dan ketimpangan di dalam maupun antarnegara terus membesar
  • Menganggap teknologi baru otomatis menguntungkan semua orang berarti mengabaikan bukti; bila pencegahan kesenjangan baru tidak diprioritaskan sejak tahap perancangan, kemajuan teknologi akan menghasilkan ketimpangan struktural
  • Di era AI dan robot, kita tidak dapat hanya bergantung pada “tangan tak terlihat” pasar; politik harus mengarahkan ekonomi dan teknologi menuju kebaikan bersama

Keluarga, kebebasan, dan bentuk eksploitasi baru

• Keluarga dan kaum muda

  • Keluarga adalah kebaikan sosial primer yang berlandaskan persatuan yang langgeng antara laki-laki dan perempuan, serta menjadi lingkungan pertama tempat setiap orang mengembangkan potensinya, mengenali martabatnya, dan mempelajari bentuk-bentuk awal kebenaran dan kebaikan
  • Keluarga adalah kebaikan sosial yang rentan dan langsung terdampak oleh transisi ekonomi dan teknologi yang mengubah sifat kerja, sehingga memerlukan dukungan budaya, hukum, dan ekonomi
  • Bagi kaum muda, pekerjaan bukan hanya sumber penghasilan, melainkan juga ranah penting tempat identitas dibentuk, persahabatan dan relasi terjalin, tanggung jawab praktis dipelajari, dan panggilan hidup dikenali
  • Negara harus menciptakan kondisi yang mendukung lapangan kerja, melindungi pekerjaan saat krisis, dan mendorong jalur yang realistis menuju masuk ke pasar kerja serta pertumbuhan profesional

• Ketergantungan dan komodifikasi

  • Bentuk-bentuk kecanduan yang terkait dengan ekonomi perhatian digital tidak boleh diremehkan; platform dan layanan sering dirancang untuk menahan waktu dan perhatian pengguna, memanfaatkan kerentanan mereka, dan melemahkan kebebasan batin
  • Pengumpulan data skala besar dan sistem algoritmik menciptakan bentuk kekuasaan baru yang memprofilkan, memprediksi, dan memengaruhi perilaku melalui jejak perilaku seperti pergerakan, pembelian, relasi, dan preferensi
  • Kebebasan di era digital bukan hanya soal batiniah, tetapi juga urusan kepentingan publik, sehingga dibutuhkan aturan yang jelas, transparansi, kemungkinan pemulihan, dan pembatasan yang proporsional terhadap penggunaan teknologi yang intrusif

• Kerja yang tak terlihat

  • Dalam dunia AI tidak ada yang bersifat nonmaterial atau ajaib; setiap respons yang tampak instan dan tanpa cela adalah hasil dari rantai perantara yang panjang, termasuk sumber daya alam, infrastruktur energi, dan manusia
  • Sebagian besar ekonomi digital bergantung pada kerja sunyi jutaan orang yang melakukan pekerjaan penting tetapi nyaris tak terlihat, seperti pelabelan data, pelatihan model, dan moderasi konten
  • Pekerjaan penambangan sumber daya yang diperlukan untuk memproduksi perangkat dan mikroprosesor yang menjadi sandaran AI bahkan lebih keras, dan di beberapa wilayah anak-anak serta remaja bekerja dalam kondisi berbahaya

• Perdagangan manusia dan kolonialisme data

  • Jaringan kriminal memanfaatkan platform online, sistem pesan, sarana pembayaran anonim, dan teknik profiling untuk merekrut, mengendalikan, dan memindahkan korban perdagangan manusia, yang sering kali adalah anak di bawah umur
  • Perdagangan manusia harus dipahami sebagai bentuk perbudakan modern dan pelanggaran berat terhadap martabat manusia
  • Kolonialisme saat ini tidak hanya menguasai tubuh, tetapi juga merampas data, mengubah kehidupan pribadi menjadi informasi yang dapat dieksploitasi
  • Agar pengetahuan bersama menjadi kebaikan bersama yang sejati dan bukan alat dominasi, individu harus kembali memiliki kemampuan untuk menentukan bagaimana, oleh siapa, dan demi kepentingan siapa data digunakan

• Rantai pasok dan tanggung jawab platform

  • Rantai pasok yang menopang industri teknologi dan ekonomi digital harus menjadi lebih transparan agar tidak ada keunggulan kompetitif yang dibangun di atas eksploitasi tersembunyi
  • Perusahaan dan investor harus mengadopsi standar uji tuntas yang memprioritaskan perlindungan pekerja, pemberantasan kerja paksa, dan penilaian dampak sosial dari model bisnis berbasis data
  • Platform digital harus bekerja sama secara bertanggung jawab dengan otoritas dan masyarakat sipil agar alat komunikasi, pembayaran, dan profiling tidak menjadi saluran untuk merekrut dan mengendalikan korban

Tanggung jawab bersama

• Pencarian kebenaran, pendidikan di lingkungan digital, transisi tenaga kerja, kerentanan keluarga, dan perbudakan baru bukanlah fenomena yang terpisah, melainkan mencerminkan masalah-masalah mendasar yang sama
• Jika teknologi menjadi tolok ukur terakhir, manusia berisiko direduksi menjadi data, roda gigi mesin, atau komoditas
• Jika teknologi dipadukan dengan perspektif yang bijaksana, teknologi dapat menjadi sarana bagi pertumbuhan, keadilan, dan persaudaraan
• Ajaran sosial Gereja menuntut tanggung jawab bersama, dan institusi harus mampu mengatur tanpa menindas serta melindungi tanpa menguasai
• Perusahaan harus mengakui kerja dan martabat sebagai ukuran keberhasilan, sementara organisasi perantara dan komunitas pendidikan harus membangun kembali kepercayaan dan relasi
• Warga harus menumbuhkan tanggung jawab, pengendalian diri, daya membedakan, dan kepekaan terhadap kebenaran, agar inovasi tidak menjadi sumber eksklusi dan dominasi, melainkan melayani perkembangan manusia yang integral

Budaya kekuasaan dan peradaban kasih

• Perang dan teknologi

  • Teknologi yang terlepas dari etika dan tanggung jawab berisiko membuat keputusan tentang hidup dan mati menjadi lebih cepat dan tidak personal, serta menghadirkan penggunaan kekuatan sebagai opsi yang seketika dan mudah dijalankan
  • Perdamaian bukan salah satu agenda di antara banyak agenda lain, melainkan prasyarat bagi kebaikan bersama universal, dan secara khusus menguji kedewasaan moral mereka yang memegang tanggung jawab pemerintahan

• Konflik digital

  • Revolusi digital, bersama perang konvensional, telah melahirkan bentuk-bentuk hibrida seperti serangan siber, manipulasi informasi, kampanye pengaruh, dan otomatisasi keputusan strategis
  • AI dapat memperkuat pertahanan dan perlindungan warga sipil, tetapi juga dapat menurunkan ambang penggunaan kekuatan, menyembunyikan orang dari tanggung jawab, serta mereduksi musuh menjadi statistik dan korban menjadi “kerusakan sampingan”

• Peradaban kasih

  • Ketika Saint Paul VI menciptakan ungkapan “peradaban kasih,” dunia sedang berada dalam Perang Dingin, perlombaan senjata, dan ketidakstabilan ekonomi yang serius
  • Peradaban kasih bukan utopia yang naif, melainkan tugas untuk menerjemahkan kasih ke dalam struktur keadilan, memberi bentuk kelembagaan pada persaudaraan, dan memandang sesama sebagai sekutu yang diperlukan dalam membangun kebaikan bersama
  • AI harus melayani pembangunan keluarga manusia universal, tempat hak dan kewajiban dimiliki bersama, dan kedekatan digital menjadi kesempatan nyata untuk perjumpaan dan saling merawat

• Normalisasi perang

  • Budaya kekuasaan membuat akses terhadap sumber daya dan kemampuan mendominasi menentukan agenda dan kriteria pengambilan keputusan, serta mereduksi tragedi bangsa-bangsa yang sedang berperang menjadi pertimbangan sekunder dibanding kepentingan strategis
  • Saat ini tampak pergeseran paradigma, ketika perang hidup kembali sebagai alat politik internasional dalam wacana dan keputusan publik tentang persenjataan ulang, dan prinsip-prinsip etis yang dulu membatasi penggunaannya terus terkikis
  • Hak untuk membela diri dalam arti yang ketat tetap ada, tetapi perlu ditegaskan kembali bahwa teori “perang yang adil”, yang terlalu sering digunakan untuk membenarkan segala jenis perang, kini sudah ketinggalan zaman

• Kompleks industri militer dan senjata

  • Pertumbuhan kompleks industri militer telah menjadi ciri penentu lanskap politik saat ini dan menjadi sektor inti dalam ekonomi banyak negara
  • Traktat Pelarangan Senjata Nuklir, yang mulai berlaku pada 2021 dan didukung lebih dari 70 negara, merupakan kemajuan penting, tetapi berisiko tetap menjadi langkah yang sebagian besar simbolis karena negara-negara pemilik senjata nuklir utama tidak menyetujuinya
  • Pengembangan sistem persenjataan yang mencakup AI harus tunduk pada pembatasan etis yang paling ketat guna menjamin martabat manusia dan kesakralan hidup serta menghindari perlombaan pengembangan senjata
  • Menyerahkan keputusan yang mematikan atau tidak dapat dipulihkan kepada sistem buatan tidak dapat dibenarkan
  • Keputusan untuk menggunakan kekuatan mematikan harus tetap berada di bawah kendali manusia yang efektif, sadar, dan bertanggung jawab

• Multilateralisme dan realisme

  • Krisis tatanan multilateral tampak dari melemahnya institusi-institusi yang dibangun untuk menjaga masa depan bersama semua bangsa dan kebaikan bersama global
  • Kategori-kategori sederhana seperti “saya duluan,” “kawan atau lawan,” dan “kami atau mereka” mempermudah keputusan yang tidak bertanggung jawab dan melemahkan saling percaya antarnegara
  • Realisme palsu berlandaskan keyakinan kultural dan antropologis bahwa perang adalah bagian tak terelakkan dari kodrat manusia, sehingga perdamaian dan dialog dianggap sebagai sikap utopis
  • Para pelaku utama di bidang penelitian—ilmuwan, pengusaha, investor, pimpinan lembaga akademik, politisi, dan lain-lain—harus menyadari konteks yang lebih luas dari kemajuan teknologi yang mereka kembangkan

Praktik untuk peradaban kasih

• Menciptakan dunia dalam keadaan konflik permanen adalah kejahatan, dan masa kini bukanlah takdir yang sudah ditentukan, melainkan kesempatan untuk pertobatan pribadi dan kolektif
• Tidak semua orang memiliki pengaruh yang sama, tetapi tidak seorang pun bebas dari tanggung jawab; masing-masing harus memilih, dari posisinya sendiri, apakah akan memupuk ketidakpedulian, sinisme, kebohongan, dan kebencian, atau menjaga cara berpikir yang damai melalui kebenaran, pengendalian diri, kedekatan, dan kepedulian

• Perlucutan senjata dalam kata-kata

  • Melucuti kata-kata adalah cara pertama untuk berkontribusi pada peradaban yang lebih manusiawi
  • Kita harus secara hati-hati memeriksa kata-kata yang kita gunakan, prasangka yang kita miliki, serta agresivitas yang eksplisit maupun implisit di dalamnya
  • Setiap kali kita berbicara benar, memberi nasihat yang bijak, mendukung mereka yang membutuhkan penghiburan, mengecam ketidakadilan, dan memberi suara kepada mereka yang tak bersuara, terbuka peluang untuk berkontribusi pada kebaikan bersama

• Perdamaian melalui keadilan

  • Dasar perdamaian adalah keadilan, dan kita harus mengejar perdamaian sejati yang lahir dari keadilan, bukan sekadar ketiadaan konflik dengan harga berapa pun

• Sudut pandang korban

  • Dalam beberapa konflik, bersikap netral adalah tidak adil, dan tidak cukup hanya mengklaim bahwa kita bukan kaki tangan
  • Pengeboman terhadap warga sipil, serangan atas rumah sakit, sekolah, dan infrastruktur esensial, serta kekerasan yang berdampak pada anak-anak adalah skandal yang melukai kemanusiaan itu sendiri
  • Ketika komunikasi dan pendidikan memberi tempat pada suara para korban, kita dapat menolak normalisasi konflik dan memulihkan martabat para korban agar diakui dan didengar

• Realisme sehat dan dialog

  • Realisme yang sehat menghindari idealisme politik maupun sinisme, dan berangkat dari pengenalan yang jelas atas kepentingan, ketakutan, batasan, dan dinamika kekuasaan
  • Dialog dan diplomasi harus menjadi sarana baku penyelesaian konflik, dan disampaikan seruan, “mari bertemu, mari berbicara, mari berunding”
  • Dialog antaragama memainkan peran penting dalam menolak cara berpikir yang melahirkan kekerasan, dan mereka yang membenarkan terorisme, kekerasan, dan perang atas nama Tuhan mengkhianati hakikat sejati Tuhan

• Diplomasi dan multilateralisme

  • Dialog diplomatik adalah alat yang tak tergantikan dalam hubungan internasional untuk mencegah konflik dan membangun kembali ikatan kepercayaan
  • Serangan siber, manipulasi data, dan kampanye pengaruh yang diorganisasi dengan bantuan AI dapat mengacaukan seluruh negara bahkan sebelum bentrokan bersenjata terbuka, sehingga diperlukan aturan bersama mengenai penggunaan teknologi digital
  • Organisasi internasional dan PBB dapat mendorong dialog antarnegara, penyelesaian damai sengketa, pembangunan utuh bangsa-bangsa, perlindungan bagi yang rentan, perlucutan senjata, dan perawatan ciptaan

• Doa dan harapan

  • Perdamaian pertama-tama datang dari “Tuhan yang mengasihi kita semua tanpa syarat”
  • Perdamaian Kristus yang bangkit dihadirkan sebagai perdamaian yang “tidak bersenjata namun melucuti senjata, rendah hati dan tekun”
  • Kita harus berdoa untuk karunia ini dan berkomitmen mewujudkan perdamaian dalam relasi serta di tengah masyarakat

Kesimpulan: Manusia dan Harapan di Era AI

• Perkataan 1 Cor 3:10, “hendaklah setiap pembangun berhati-hati memilih bagaimana ia membangun,” mengajak untuk bertanya bagaimana kita sedang membangun dunia dan apa artinya melindungi manusia di era AI
• Program hidup orang Kristen lahir dari memandang rencana Allah, berpartisipasi dalam Ekaristi dan menghidupi kesatuan gerejawi, membangun dunia dengan kebaikan bersama sebagai pusatnya, serta berdoa dalam persatuan dengan Perawan Maria yang Terberkati

• Sabda Menjadi Manusia

  • misteri Inkarnasi adalah pusat dari segala sesuatu, dan mengingatkan pada tubuh banyak saudara-saudari yang dirampas martabatnya dan direduksi menjadi kebisuan
  • Transhumanisme dan sebagian posthumanisme menjanjikan manusia yang ditingkatkan dan nyaris tanpa tubuh, tetapi Inkarnasi membuka jalan lain: Allah masuk ke dalam kondisi manusia dan mengubah kelemahan manusia menjadi tempat keselamatan
  • Keagungan manusia di era AI dipantulkan dalam wajah Putra Allah, dan betapa pun canggihnya sistem komputasi, ia tidak dapat menciptakan hati yang mampu memberi diri atau hati nurani yang dapat membedakan yang baik dan yang jahat

• Lokasi pembangunan zaman kita

  • spiritualitas pembangun yang bijaksana adalah spiritualitas yang, digerakkan oleh harapan akan Kerajaan Allah, membangun dunia demi kebaikan bersama
  • Kita harus setia pada kebenaran, berinvestasi dalam pendidikan, memelihara relasi, serta mencintai keadilan dan perdamaian
  • Berinvestasi dalam pendidikan berarti belajar menjalin relasi secara manusiawi dengan dunia digital, dan mendampingi anak-anak serta remaja agar mengembangkan relasi yang bertanggung jawab
  • Mencintai keadilan dan perdamaian berarti menilai apakah kemajuan AI mendorong keadilan dan partisipasi, atau justru memusatkan kekayaan dan kekuasaan di tangan segelintir orang, serta menelaah rantai pasok produksi digital, kondisi kerja tersembunyi, dan mekanisme yang mengambil untung dari manipulasi dan perang

• Nehemia dan Yerusalem Baru

  • Nehemia adalah sosok yang mendengar jeritan kota yang telah hancur, membawa penderitaan itu dalam doa, menimbangnya di hadapan Allah, lalu bersama rakyat membangun kembali tembok Yerusalem
  • Di era transformasi digital, gambaran ini menjadi perumpamaan agar kita tidak berhenti sebagai penonton pasif atau pengomentar di hadapan retakan sosial dan budaya
  • Lokasi pembangunan yang bernama sejarah terwujud secara konkret dalam laboratorium, perusahaan teknologi, sekolah, media, lembaga, dan komunitas lokal
  • Yerusalem Baru dalam Kitab Wahyu ditampilkan sebagai kota yang pintu-pintunya terbuka bagi semua bangsa, dan kehadiran Allah memberi terang serta kehidupan bagi semua orang

• Magnificat

  • Di dalam Maria, segala sesuatu telah berubah, dan perubahan ini membuat yang tak terlihat menjadi dapat dilihat
  • Dinyanyikan bahwa Allah mencerai-beraikan orang-orang sombong, menurunkan orang-orang berkuasa, mengangkat yang rendah, mengenyangkan yang lapar dengan hal-hal yang baik, dan menyuruh yang kaya pergi dengan tangan hampa
  • Dunia harus dilihat bukan dengan mata orang-orang berkuasa, melainkan dengan mata mereka yang menderita; sejarah pun harus dilihat bukan dari sudut pandang yang kuat, melainkan dari mata mereka yang kecil
  • Dengan iman seperti Maria, kita dipanggil menjadi penenun harapan di dalam dunia, dan dalam kesetiaan rendah hati sehari-hari, era AI pun dapat menjadi waktu ketika Roh Kudus membangun peradaban kasih
  • Dokumen ini ditutup sebagai dokumen yang diberikan di Basilika Santo Petrus di Roma pada 15 Mei 2026, tahun kedua masa kepausannya, dan ditandatangani dengan LEO PP. XIV

[GN⁺]

Komentar Hacker News

• Penasaran apakah pernah ada contoh teknologi yang “dijinakkan” agar orang mempertimbangkan kebaikan sosial yang lebih luas
  Kenaikan kelas menengah pada pertengahan abad ke-20 tampaknya terjadi karena teknologi industri saat itu jauh lebih produktif daripada sebelumnya, tetapi tetap membutuhkan tenaga kerja manusia dalam skala besar untuk beroperasi. Ford bukan menaikkan upah karena niat baik, melainkan lebih karena melihat bahwa membuat banyak mobil dan menumbuhkan basis pelanggan yang mampu membelinya pada akhirnya lebih menguntungkan
  Emisi CO2 mungkin suatu hari juga bisa membalikkan arus, tetapi kemungkinan besarnya bukan karena publik rela menanggung penderitaan, melainkan karena energi terbarukan dan baterai makin menjadi pilihan terbaik secara ekonomi. Jika ada contoh konkret ketika masyarakat secara sadar mengubah arah perkembangan teknologi ke arah kepentingan bersama, saya ingin mengetahuinya

  • Ada intervensi kebijakan di balik alasan energi terbarukan dan baterai bisa menjadi semurah ini
    Khususnya energi terbarukan, kebijakan seperti Renewable Energy Sources Act (EEG) di Jerman menciptakan permintaan, dan permintaan itu memicu produksi massal di Tiongkok yang kemudian menurunkan harga
  • Listrik tampaknya merupakan contoh seperti itu. Pada akhirnya ia tersebar ke mana-mana dan menjadi latar bagi masyarakat yang dipakai semua orang, tetapi perusahaan listrik tidak sampai mendominasi dunia
  • Seperti juga disebut dalam ensiklik itu sendiri, ada pencegahan proliferasi nuklir. Hanya saja belakangan ini tampaknya ada kemunduran di bidang ini
  • Sampai sekarang kita telah sampai taraf tertentu menahan penerapan teknologi yang lebih kejam untuk perang, seperti senjata nuklir, biologis, dan kimia
    Tentu saja, ini juga bisa dilihat bukan sebagai kemanusiaan murni, melainkan hasil teori permainan yang bisa diprediksi. Di ranah yang kurang besar, pasar bebas telah mengatur zat-zat yang cenderung membuat orang kecanduan atau membahayakan mereka, seperti nikotin, lemak trans, perjudian, dan alkohol, dengan tingkat keberhasilan yang beragam
  • Kasus seperti lampu pijar vs lampu fluoresen, atau toilet hemat air, juga terlintas

• Saya ingin membaca kutipannya dengan saksama. Semakin bertambah usia, dan karena AI membuat saya menghabiskan lebih banyak waktu untuk berpikir daripada mengeksekusi, saya jadi lebih sering memikirkan seperti apa hidup yang bajik itu, juga etika dan moral
  Bukan berarti saya punya jawabannya atau bahkan harus menemukannya, tetapi menarik untuk membaca dan belajar dari orang-orang yang memang menjadikan upaya menjawab pertanyaan seperti itu sebagai pekerjaannya

  • Saya sempat terhenti di bagian yang mengutip Tolkien. Kutipan ini memberi petunjuk tentang bagaimana menjalani hidup yang bajik
    “Bukan tugas kita menguasai semua arus dunia, melainkan melakukan apa yang ada dalam diri kita untuk menolong masa tempat kita berada, mencabut kejahatan dari ladang yang kita kenal, agar mereka yang datang sesudah kita memiliki tanah bersih untuk dibajak.” Saya menyukai bagian yang mengatakan bahwa peradaban kasih tidak lahir dari satu tindakan agung semata, tetapi dari akumulasi tindakan kecil, setia, dan konsisten yang melawan dehumanisasi
  • Paus boleh saja mengatakan banyak hal, tetapi tidak semua orang di bumi adalah Kristen
    Jadi meskipun kita membatasi kekuatan AI, orang lain mungkin tidak akan melakukannya, dan itu bisa menjadi kesalahan. Saya harap hal ini ikut dipertimbangkan
  • Kalimat “karena AI membuat saya menghabiskan lebih banyak waktu untuk berpikir daripada mengeksekusi” terasa nyaris menjijikkan di banyak lapisan
  • Ada sangat banyak orang yang secara mengerikan tidak peduli apa yang terjadi pada orang yang tidak mereka kenal, atau berpikir bahwa suatu hari mereka sendiri akan berada di puncak rantai makanan dan akan diuntungkan oleh sistem yang ada sekarang
    Ungkapan yang sering diatribusikan kepada Steinbeck bahwa mayoritas orang Amerika melihat diri mereka sebagai “jutawan yang sedang sementara mengalami kesulitan” menangkap hal ini dengan tepat
    Kalau melihat proses persetujuan pusat data AI, setidaknya mayoritas besar komunitas lokal tidak menginginkannya, tetapi para wakil terpilih tidak peduli. Kadang mereka melakukan pemungutan suara di tengah malam, menggunakan kekerasan polisi terhadap warga yang menolak, dan menyebut para demonstran sebagai orang yang brutal atau bahkan teroris
    Pemotongan pajak, biaya infrastruktur listrik tambahan, hingga tarif listrik istimewa semuanya dibebankan kepada orang lain. Yang lebih menyedihkan, para wakil itu tampaknya tidak takut akan akibatnya. Bahkan jika kalah pemilu, kemungkinan besar mereka tetap akan mendapat jabatan anonim bergaji enam digit di industri, dan anak-anak mereka pun akan mendapat “pekerjaan” semacam itu
    Di saat segala sesuatu makin tidak terjangkau, struktur seperti ini tidak bisa terus berjalan, dan sebagian besar dorongan itu juga datang dari AI, seperti kenaikan sewa oleh RealPage atau kenaikan harga daging sapi akibat kolusi industri pengolahan daging. Rasanya seperti meluncur cepat menuju keruntuhan sosial
    Pada saat yang sama, ada kemungkinan triliuner pertama muncul dalam masa hidup kita, dan jika itu terjadi, maka miliarder secara harfiah akan lebih dekat dengan tunawisma daripada dengan orang terkaya di bumi
    Lucu juga ketika pemerintahan AS menyerang Paus karena dianggap terlalu “woke”. Saya sempat ragu ketika ada Paus dari Chicago, tetapi sejauh ini ia tampak seperti suara belas kasih yang langka di dunia ini
    Bagaimana semua ini akan berkembang juga bisa dilihat hanya dengan melihat Global South. Banyak orang di Barat tidak benar-benar memahami betapa mengerikan dan predatorisnya kolonialisme, dan bahwa itu bukan peninggalan sejarah, melainkan sesuatu yang masih terus berlangsung sekarang
  • Filsafat seorang pemimpin agama tidak boleh diterima seperti injil
    Semua agama tidaklah bebas. Jika bahkan kebenaran dasar bahwa kita tidak tahu saja tidak bisa diterima, maka itu pada dasarnya sudah bias
    Saat berusia 16 tahun saya seorang nihilis, dan butuh beberapa tahun hanya untuk sampai ke titik menerima kebenaran itu. Setelah itu pun masih butuh waktu untuk secara tepat menunjuk sesuatu yang bisa dipegang, dan sampai sekarang pun masih begitu
    Langkah pertama adalah menerima ketiadaan dan yang tak diketahui, lalu langkah berikutnya adalah melihat sifat-sifat evolusioner dan memahami mengapa hal-hal yang ada, ada dengan cara seperti itu

• Saya baru membaca sekilas, tapi kalau ada waktu saya akan membacanya dengan cermat. Bahkan dari sudut pandang seorang ateis, untuk urusan teknologi, Vatican sering kali memberikan tafsiran yang lebih baik daripada lembaga atau pemerintah mana pun

  • Betul. Paragraf ini menunjukkan bagian yang benar-benar tidak dipahami kebanyakan orang tentang AI
    Poin utamanya adalah bahwa sistem AI saat ini lebih dekat dengan dibesarkan daripada secara langsung “dibuat”, dan para pengembang juga tidak merancang setiap detail, melainkan membuat kerangka tempat kecerdasan itu tumbuh. Karena itu, aspek ilmiah yang mendasar seperti representasi internal atau proses perhitungannya masih belum diketahui, dan teks itu dengan tepat menyoroti bahwa pendalaman riset ilmiah serta penilaian moral dan spiritual sama-sama dibutuhkan
  • Banyak bagian dari pemikiran Barat dapat ditelusuri kembali ke kerja serius para teolog gereja. Bahkan ateis pun sangat dipengaruhi oleh pola pikir yang mereka bangun
    Gereja Katolik punya banyak kekurangan, tetapi tradisi intelektual tetap dijaga dengan serius
    Saya juga merasa para ateis perlu berusaha lebih banyak mempelajari keragaman besar dari kepercayaan lain. Ateisme yang hanya menolak Tuhan Abrahamik terlalu sempit, dan karena cara berpikir Kristen sudah tertanam terlalu dalam hingga terasa seperti satu-satunya pilihan, tanpa sadar banyak hal ikut diterima begitu saja
  • Saya ingat saat Pope Benedict dipermainkan karena memperingatkan bahaya media sosial. Waktu itu semua orang mengira Twitter akan memicu lebih banyak Arab Spring, tetapi jika dilihat kembali, dia sepenuhnya benar
    Dia memperingatkan sifat interaksi yang sepihak, kecenderungan untuk hanya mengomunikasikan sebagian dari dunia batin, dan risiko membangun citra diri palsu yang bisa menjadi salah satu bentuk indulgence terhadap diri sendiri
  • Antiqua et Nova tahun lalu juga menunjukkan pemahaman tentang AI yang kurang dimiliki banyak komentator sekuler, dan dengan menarik mengembangkan konsep kecerdasan yang terpadu, berbeda dari pandangan tentang kecerdasan yang fungsionalis dan reduksionis yang tersebar luas di komunitas AI
  • Jika mengingat bahwa teknologi, sains, dan pelestarian catatan berawal dari biara, Vatican, dan tempat-tempat semacam itu, masuk akal bahwa mereka sudah lama memikirkan posisi seperti apa yang harus diambil terhadap teknologi
    Galileo Galilei belajar di Pontifical Academy of Sciences, Mendel membuat penemuannya di biara, dan selama waktu yang panjang, banyak buku, terjemahan, dan perpustakaan berada di dalam lembaga keagamaan. Selama masa yang panjang itu, yang berada di pusatnya adalah Kristen Katolik dan Islam
    Vatican Observatory juga merupakan sumber penting bagi makalah bermutu tinggi. Fakta bahwa salah satu hal penting yang dijadikan dasar oleh Kristen dan Islam adalah buku juga sangat besar artinya. Jika mencakup arsitektur, seni, dan filsafat, cakupannya menjadi lebih luas lagi
    Dalam sejarah ribuan tahun, tidak mengherankan jika ada beberapa pemimpin bodoh yang paranoid, berusaha menutupi kegagalan, atau marah saat pandangan dunianya ditantang. Dalam kelompok yang cukup besar, selalu akan ada orang yang merusak bahkan hal yang paling baik sekalipun
    Jika melihat jauh ke belakang seperti orang-orang Vatican, pola-polanya akan terlihat. Teknologi dan sains, misalnya teori ras atau pengebirian kimia, atau sekadar “kemajuan”, sering dipakai untuk membenarkan kejahatan, sama seperti agama, demokrasi, dan kebebasan
    Tentu saja masih ada kreasionis keras yang anti-sains sekarang, tetapi jika berbicara dengan orang yang sangat religius, akan terlihat bahwa di sekitar sains juga ada banyak filsafat. Misalnya, teori Big Bang dimulai oleh seorang religius, dan ada cara berpikir bahwa jika alam semesta tidak telah ada selama waktu yang tak terbatas, maka pasti ada suatu sebab. Jika sebab itu bukan siklus tak berhingga, maka pasti ada suatu awal di suatu titik, dan meski saya tidak memercayainya, gagasan tentang awal yang disengaja itu tetap ada. Itu tidak menjadikan saya religius, tetapi juga tidak menjadikan mereka ateis
    Kerangka sains versus agama sama benarnya sekaligus salahnya dengan kerangka bahwa Demokrat, Republik, atau kelompok lain menentang sains. Semua orang menjadi anti-sains ketika berhadapan dengan hal yang tidak mereka sukai. Kolom komentar HN adalah bukti terbaiknya
    Saya juga ateis, tetapi saya bukan termasuk golongan yang bahkan tidak tahu perbedaan antara pengetahuan dan keyakinan

• Pesan intinya adalah bahwa orang yang membuat sesuatu harus memikirkan secara mendalam dampak ciptaan mereka terhadap peradaban.
  “Teknologi tidak pernah netral. Teknologi membawa sifat dari mereka yang merancang, mendanai, mengatur, dan menggunakannya.”
  Karena itu, para pembuat memikul “tanggung jawab etis dan spiritual yang khusus”, dan “setiap pilihan desain mencerminkan pandangan tentang manusia”.
  Pertanyaannya tidak boleh berhenti pada “apakah ini bisa dibuat?” atau “apakah orang akan menginginkannya?”, tetapi juga harus menanyakan apakah ini harus dibuat, dan apakah ini membuat umat manusia menjadi lebih baik. Ensiklik ini menyerukan agar kita menyatukan kekuatan demi membangun kebaikan bersama, dan itu adalah pesan yang dibutuhkan saat ini.

  • Ini bukan hal baru bagi industri perangkat lunak dan perangkat keras; hanya saja para praktisi memilih untuk mengabaikannya.
    Prinsip pertama Association for Computing Machinery juga adalah kepentingan publik. Disebutkan bahwa insinyur perangkat lunak harus bertanggung jawab atas pekerjaannya, menyelaraskan kepentingan insinyur, pemberi kerja, klien, dan pengguna dengan kepentingan publik, serta hanya menyetujui perangkat lunak ketika ada dasar untuk percaya bahwa perangkat lunak itu aman, memenuhi spesifikasi, lulus pengujian, dan tidak merusak kualitas hidup, privasi, maupun lingkungan.
    Prinsip pertama IEEE juga menuntut tingkat tertinggi kejujuran, tindakan yang bertanggung jawab, dan conduct etis dalam aktivitas profesional, yang mencakup menempatkan keselamatan, kesehatan, dan kesejahteraan publik sebagai prioritas tertinggi, serta desain etis dan pembangunan berkelanjutan, perlindungan privasi, dan pengungkapan cepat atas faktor-faktor yang dapat membahayakan publik atau lingkungan.
  • Takeaway terbesar bagi saya adalah bahwa bukan hanya para pembuat, tetapi semua orang memiliki tanggung jawab untuk membentuk wacana, budaya, dan penggunaan di sekitar teknologi transformatif.
    Saya melihat ada kritik yang eksplisit di banyak bagian terhadap sikap “biarkan para pembuat yang mengurus agar semuanya benar”. Dijelaskan bahwa kebaikan bersama bukan sekadar kumpulan individu, melainkan realitas hidup yang saling terhubung dan memberi kehidupan pada peuple sebagai pihak yang memikul tanggung jawab bersama dalam republik.
    Juga ditekankan bahwa arus ekonomi, platform digital, serta tata kelola data dan algoritma tidak bisa diserahkan kepada segelintir aktor, dan kita harus menciptakan bentuk kerja sama yang menghormati berbagai tingkat komunitas global serta memikul tanggung jawab bersama demi kebaikan bersama.
    Tidak cukup hanya menuntut apa yang disebut alignment agar AI sesuai dengan nilai-nilai manusia; kerangka etika terkait juga harus bisa diperdebatkan secara terbuka dan ditundukkan pada standar bersama tentang keadilan sosial. Ketika segala sesuatu dipercepat, dibutuhkan partisipasi politik yang lebih aktif agar kita masih bisa memperlambatnya, dan menjaga kesempatan bagi komunitas untuk ikut serta dan mengajukan pertanyaan.
  • Roman Catholic Church punya banyak kesalahan di masa lalu maupun sekarang, tetapi lembaga ini telah bertahan lebih lama daripada hampir semua institusi manusia lainnya, dan terdiri dari orang-orang yang sangat cerdas. Setuju atau tidak, ensiklik kepausan hampir selalu layak dibaca dan dipahami.
  • Anehnya, tanggung jawab moral selalu jatuh kepada orang-orang yang membuatnya. Padahal, merekalah yang sebenarnya memiliki leverage paling kecil; terasa ganjil bahwa pihak penyandang dana berada di posisi yang mengajukan pertanyaan etis.
  • Dalam Jurassic Park karya Crichton ada kalimat seperti ini, sebagaimana juga dalam karya-karyanya yang lain yang membahas bahaya perkembangan teknologi.
    Intinya, para ilmuwan terobsesi pada pencapaian dan fokus pada “apakah bisa dilakukan”, tanpa berhenti untuk bertanya “apakah seharusnya dilakukan”. Dalam film, kutipan ini digunakan dengan sedikit perubahan.

• Ketika keputusan penting yang memengaruhi kehidupan manusia, misalnya perekrutan, pinjaman, prediksi kejahatan, atau kesejahteraan, diproses di dalam kotak hitam yang tidak transparan, orang kehilangan hak dasar untuk menjelaskan konteks mereka sendiri atau mengajukan banding atas penilaian algoritmis mesin.

  • Rasanya versi yang jauh lebih kecil dari ini sudah terjadi. Dari dukungan pelanggan sampai bagian barang hilang, banyak prosedur titik kontak pelanggan di perusahaan kini hampir sepenuhnya otomatis, sehingga orang yang berada di luar standar jadi celaka.
    Biasanya waktu yang dihabiskan lebih besar daripada nilai yang didapat. Karena alasan yang sama, perusahaan seperti ini pada dasarnya juga anti-keberagaman. Jika segala sesuatu dirancang untuk mayoritas, maka orang yang dalam gaya hidupnya termasuk minoritas akan kesusahan, dan itu sering sekali terjadi. Itu juga salah satu alasan saya meninggalkan AS dan pindah ke negara yang terasa lebih inklusif.
  • Ini sudah terjadi. Sebagian besar perusahaan memakai penyaring AI dalam perekrutan, dan terus-menerus menyingkirkan kandidat yang sebenarnya memenuhi syarat.
  • Bahkan sebelum AI muncul, negara pengawas sudah beroperasi seperti ini, terutama secara internasional.
    Justru AI mungkin bisa memberi peluang terbaik untuk membangun institusi publik yang sepenuhnya bisa diaudit. Dengan begitu, keputusan tidak diambil di luar hukum yang telah disepakati, dan konteks kejahatan bisa ditelaah secara cukup tanpa kekurangan waktu dan sumber daya hukum.
    Seperti biasa, moralitas teknologi bergantung pada siapa yang memilikinya dan bagaimana teknologi itu digunakan.
  • Beberapa tahun lalu, ketika saya menulis hal yang hampir sama, saya di-downvote sampai benar-benar tenggelam; melihat sekarang ini bisa naik setinggi ini, saya merasa suasananya memang sudah berubah.
  • Yang lama menjadi baru lagi. Franz Kafka meninggal pada 2 Juni 1924.

• Ini adalah tafsiran yang sangat bernada halus dan melek teknis tentang topik ini.
  Saya jadi penasaran apakah kemampuan seperti inilah yang membuat orang ini dipilih menjadi paus untuk merespons perubahan zaman.

  • Mungkin akan ada Rerum Novarum yang baru.
  • Mungkin sebelum dipublikasikan, ini sempat dimasukkan ke Claude sekali. Sejak AI jadi arus utama, rekan-rekan kerja saya tiba-tiba menulis prosa yang sangat rapi di Slack, lalu saat jam makan siang kembali lagi membicarakan basket.

• Dalam banyak kalimat yang mengatakan AI harus melakukan sesuatu, saya rasa saya justru akan lebih suka jika “AI” diganti menjadi perusahaan.

  • Bisa jadi, tetapi saat ini AI berada di garis depan perlombaan klaim lahan sebelum regulasi datang.
  • Bisa juga diganti menjadi “orang kaya”, “semua orang”, atau “pemerintah”.
    Bahkan, jika dibaca ulang dengan mengganti subjeknya, kalimat-kalimat itu memberi implikasi yang menarik dan berbeda.
  • Itu lebih mirip klise populis yang hampa. Tidak ada informasi, solusi, atau konteks yang berguna dan bergantung pada isu spesifik.
  • Itu benar jika Anda memandang perusahaan sebagai entitas nonmanusia yang menunjukkan kognisi. Banyak agama juga menunjukkan sifat seperti itu, dan itu menambah ironi pada posisi Uskup Roma.
    Bagian saat Joscha Bach mengatakan bahwa agama tidak mempublikasikan hasil A/B test ada di 51:47:
    https://youtu.be/7bqdPHLIY8w
  • Ada benarnya juga, tetapi di AS, ungkapan dari mantan kandidat presiden Mitt Romney, “Corporations are people, my friend”, menambah lapisan kompleksitas.

• Membuat EPUB dari HTML Vatican. Ada daftar isi dan catatan kaki, dan juga lolos epubcheck
  https://github.com/n2ctech/magnifica-humanitas-epub/releases...

  • Penasaran apakah AI digunakan. Setengahnya sindiran, setengahnya lagi karena ingin memeriksa apakah ini mereproduksi teks asli dengan akurat
  • Penasaran apakah skrip Python-nya terikat pada bahasa Inggris, atau bisa diterapkan juga pada bahasa lain yang punya tanda diakritik seperti edisi Prancis dengan hanya penyesuaian kecil pada subjudul, judul lengkap, path, dan sebagainya

• Layak dibaca bukan untuk mempelajari AI, melainkan sebagai titik temu yang menarik dan bersejarah antara agama dan teknologi
  Sebagai catatan tambahan, Paus yang baru tampaknya cukup piawai dalam retorika dan kontroversi politik, dan terlihat jauh lebih relevan dibanding para paus belakangan ini. Juga terasa ada perubahan suasana dalam cara sentimen sekuler memandang agama
  Pada titik persilangan seperti Katolik dan AI, cukup banyak hal bisa terjadi. Misalnya, LLM dapat membuat Alkitab jauh lebih mudah diakses, dan secara historis perubahan seperti ini punya dampak besar. Ini bisa dilihat sebagai alur Augustine, Aquinas, Spinoza, Schmidt. Minat seperti ini juga merupakan ceruk yang niche tetapi penting di kalangan umat beriman, dan LLM menjawab pertanyaan dengan sabar
  Selain itu, LLM bisa menjadi terapis, confidant, dan penasihat, serta berpotensi mengambil peran sebagai imam pengakuan dosa atau pastor. Pembicaraan tentang “membuat Tuhan AI” memang sudah agak klise, tetapi ada banyak cara LLM dapat mengambil peran yang bersifat ilahi dalam kehidupan orang
  Prediksi itu sia-sia, tetapi rasanya kita akan melihat AI merambah ranah religius dan spiritual. Menurut saya, bottleneck-nya adalah suara percakapan alami yang bagus. Secara pribadi, fenomena Pope/AI ini menarik

  • Saya tidak tahu apakah yang dimaksud tentang perubahan cara sentimen sekuler memandang agama adalah fenomena yang sama, tetapi saya jelas melihat tanda-tanda yang bisa dijelaskan dengan cara serupa
    Belakangan ini saya sering mendengar gagasan yang pada dasarnya menilai agama tinggi tanpa benar-benar mempercayainya. Misalnya, orang skeptis bahwa Bahtera Nuh benar-benar pernah ada, tetapi menganggap kisah itu cukup bijak secara metaforis sehingga dalam arti tertentu bisa dianggap benar
    Bisa saja ini hanya karena saya bertambah tua dan lebih bijak lalu memproyeksikan perkembangan spiritual saya sendiri ke orang-orang di sekitar, tetapi sikap umum terhadap agama seperti ini tampaknya memang sedang mendapat cukup banyak momentum
  • Saya seorang ateis, tetapi harus diakui paus sebelumnya cukup keren

• Magnifica humanitas terdiri dari lima bab, dan premisnya adalah bahwa teknologi bukanlah “kekuatan yang memusuhi umat manusia” maupun sesuatu yang “secara inheren jahat”
  Namun, “teknologi tidak pernah netral. Ia membawa ciri mereka yang merancang, mendanai, mengatur, dan menggunakannya”
  Karena itu, Pope Leo XIV menyerukan agar orang-orang membangun “demi kebaikan bersama” dan “tetap menjadi manusia”, sambil mengatakan bahwa melalui tanggung jawab bersama dan sikap berani dari communio, dunia akan “mengenali hati manusia sebagai tempat yang Allah kehendaki untuk diam”

  • Membaca kalimat ini membuat saya belakangan sering berpikir bahwa model yang paling cerdas pada akhirnya akan menentang para miliarder
    Steve Yegge mengatakan di Hansel Minutes Podcast, “Anda tidak bisa melatih model agar berguna sambil membuatnya tidak menginginkan kemakmuran umat manusia. Satu-satunya cara untuk menghindarinya adalah membuat model yang lebih bodoh. Jadi model yang paling cerdas akan selalu menentang para miliarder”
    https://youtu.be/9UDLl9Q0azA?si=P_oSe6iclEwUoxRl&t=1230
    Kutipan persisnya ada di bagian itu, tetapi untuk melihat konteks keseluruhannya saya sarankan mendengarkan mulai sekitar menit 17:00. Saya tidak tahu apakah ini benar-benar akan berkembang seperti itu, tetapi ini pemikiran yang menarik