Bagaimana Negara Terkecil di Dunia Memengaruhi Perdebatan AI

• Kota Vatikan, dengan sekitar 1.000 warga, menghubungkan ilmuwan, ilmuwan sosial, dan departemen Takhta Suci untuk menyusun standar etika AI yang akan memengaruhi 1,4 miliar umat Katolik di seluruh dunia
• Ensiklik pertama Paus Leo XIV, Magnifica Humanitas, menekankan tujuan yang diberikan pengembang dan pengguna, bukan AI itu sendiri, serta membahas risiko konkret seperti hilangnya pekerjaan, disinformasi, senjata otonom, dan diskriminasi algoritmik
• Melalui Minerva Dialogues, Rome Call for AI Ethics, Antiqua et Nova, dan lainnya, Takhta Suci telah membahas isu AI dengan perusahaan teknologi, pemerintah, dan pemimpin agama selama lebih dari 10 tahun; Anthropic juga menerima saran dari para pemikir Katolik tentang penyusunan konstitusi Claude
• Ensiklik terdahulu seperti Rerum Novarum dan Laudato Si berdampak jangka panjang pada hukum upah minimum, kebijakan iklim, dan divestasi bahan bakar fosil ketika diterjemahkan menjadi kebijakan, institusi, dan aktivitas investasi, alih-alih langsung mengubah opini publik
• Pengaruh Magnifica Humanitas mungkin tampak bukan melalui perubahan sikap yang seketika, melainkan saat lembaga gereja, dunia politik, pendidikan, dan perusahaan memasukkan kosakata moral Paus ke dalam kebijakan AI dan desain sistem

---

Sistem penasihat sains dan teknologi Takhta Suci

• Kota Vatikan adalah negara kecil tanpa militer dan badan legislatif, dengan sekitar 1.000 warga, dan dapat diseberangi dengan berjalan kaki dalam 15 menit
• Paus adalah pemimpin spiritual Katolik sekaligus telah memengaruhi cara 1,4 miliar umat Katolik di seluruh dunia, atau 18% umat manusia, memandang fisika nuklir, perubahan iklim, globalisasi, dan AI
• Paus Leo XIV menamai ensiklik pertamanya Magnifica Humanitas (Kemanusiaan yang Agung) dan menjadikan AI serta kondisi manusia sebagai temanya

• Akademi Sains Kepausan

  • Silsilah Pontifical Academy of Sciences(PAS), badan penasihat sains modern Paus, dapat ditelusuri hingga Accademia dei Lincei yang didirikan pada 1603 oleh pangeran Roma berusia 18 tahun, Federico Cesi
  • Anggota awalnya mencakup naturalis sekaligus dokter Belanda Johannes van Heeck, matematikawan Francesco Stelluti yang melakukan riset mikrobiologi awal, dan Galileo Galilei
  • Saat ini PAS terdiri dari 80 anggota dari 36 negara yang diangkat Paus seumur hidup, dengan partisipasi orang beragama maupun tidak beragama
  • Francis Collins, mantan direktur NIH dan pemimpin Human Genome Project, serta peraih Nobel Kimia Aaron Ciechanover adalah anggota saat ini

• Akademi Ilmu Sosial dan organisasi administratif Takhta Suci

  • Pontifical Academy of Social Sciences(PASS), yang didirikan John Paul II pada 1994, menghubungkan etika, kebaikan bersama, keadilan sosial, dan keberlanjutan
  • PAS dan PASS bersama-sama menggunakan Casina Pio IV, bangunan era Renaisans di dalam Vatikan, dan terlibat dalam mengembangkan serta memurnikan pandangan Paus menjadi kebijakan resmi masa kepausannya
  • Kedua akademi bekerja erat dengan Roman Curia, badan pemerintahan pusat Gereja Katolik
  • Curia terdiri dari Secretariat of State, 16 dicastery, pengadilan, dan lembaga keuangan
  • Personel yang mendukung pelayanan pastoral Paus berjumlah kurang dari 3.000 orang, dan Curia juga disebut sebagai “lengan panjang” Paus
  • Karena AI bukan semata persoalan sains murni, beberapa departemen ikut terlibat dalam pertimbangan Paus
  • Pada Mei, tepat sebelum ensiklik dirilis, komite antardepartemen AI dibentuk, terdiri dari perwakilan 7 lembaga di bawah Vatikan, termasuk departemen doktrin, pendidikan, dan pengembangan manusia
  • Ensiklik mengutip sikap St. John Paul II bahwa wawasan konkret ilmu sosial digunakan dalam ajaran gereja, dan menekankan pentingnya keahlian

Bagaimana gereja terlibat dalam diskusi AI

• Sekitar 10 tahun lalu, para eksekutif Silicon Valley, termasuk salah satu pendiri LinkedIn Reid Hoffman, bertanya kepada pastor Prancis Eric Salobir tentang cara menghubungi Vatikan
  • Mereka ingin memperingatkan gereja bahwa AI berkembang cepat dan akan mengubah masyarakat
• Setelah itu, Dicastery for Culture and Education Vatikan menyelenggarakan Minerva Dialogues, yang berkembang menjadi pertemuan tahunan antara Silicon Valley dan gereja untuk membahas dampak sosial teknologi digital
• Pontifical Academy for Life mengadakan acara RenAIssance pada 2020 dan menyusun prinsip bersama Rome Call for AI Ethics, yang ditandatangani Microsoft, IBM, dan pemerintah Italia
• Paus Francis menghadiri KTT G7 pada 2024 dan menyerukan pelarangan senjata otonom
• Tahun berikutnya, Dicastery for the Doctrine of the Faith dan Dicastery for Culture and Education bersama-sama menerbitkan Antiqua et Nova (Yang Lama dan Yang Baru), dokumen 30 halaman tentang hubungan AI dan manusia
  • Dokumen ini membahas isu etika AI, termasuk layanan kesehatan, perang, deepfake, dan pekerjaan
  • Dokumen ini meminta umat beriman menjadi pelaku moral yang menggunakan AI untuk memajukan martabat manusia dan kebaikan bersama

Prinsip AI dalam Magnifica Humanitas

• Sikap dasar ensiklik adalah bahwa AI pada dasarnya tidak jahat, tetapi menerima tujuan dari orang-orang yang membuat dan menggunakannya
• Setelah mencantumkan risiko konkret seperti penghancuran pekerjaan, disinformasi, dan senjata otonom, ensiklik membahas persoalan yang lebih mendasar: hubungan manusia dengan kehidupan itu sendiri sedang terancam
• Kekurangan dan batasan manusia bukanlah kesalahan yang harus diperbaiki; manusia dipandang berkembang bukan terlepas dari keterbatasan, melainkan kadang justru melalui keterbatasan
• Ensiklik meminta orang-orang untuk bekerja dengan tekun di “lokasi pembangunan zaman kita” dan bergandengan tangan membangun kebaikan bersama
• Ensiklik menganjurkan untuk memeriksa posisi AI dalam kehidupan sehari-hari dengan pertanyaan berikut
  • Apakah AI membantu membangun keintiman sejati dalam hubungan antarmanusia
  • Apakah AI membantu memajukan keadilan dan perdamaian

Preseden yang ditinggalkan Rerum Novarum

• Rerum Novarum, yang ditulis Paus Leo XIII pada puncak Revolusi Industri, membahas hubungan antara modal dan tenaga kerja yang berubah akibat penemuan ilmiah, dan disebut Magna Carta gerakan sosial Kristen
• Sambil mengakui hak milik pribadi, ensiklik ini membela hak atas serikat pekerja dan upah layak, serta menolak kapitalisme laissez-faire maupun sosialisme
• Ensiklik ini mendiagnosis persoalan masa itu sebagai kekayaan besar segelintir orang, kemiskinan ekstrem massa, meningkatnya kemandirian dan solidaritas kelas pekerja, serta kemerosotan moral
• Paus Leo XIII mengumpulkan pendapat para teoretikus, praktisi keadilan sosial, dan komunitas Jesuit untuk memahami realitas perburuhan pada 1880-an
• Ensiklik ini menjadi fondasi ajaran sosial Katolik dan memengaruhi legislasi New Deal di AS serta partai-partai demokrasi Kristen di Eropa

• Magnifica Humanitas yang mencerminkan suara para ahli luar

  • Paus Leo XIV juga menulis ensiklik sambil mendengarkan ilmuwan dan insinyur, orang tua dan guru yang mengkhawatirkan generasi muda, serta suara-suara yang memperingatkan tentang senjata otonom dan diskriminasi algoritmik
  • Dengan mengutip St. Paul VI, ensiklik menekankan bahwa kemajuan ilmiah, pencapaian teknologi, dan pertumbuhan ekonomi pada akhirnya akan merugikan manusia jika tidak disertai kemajuan moral dan sosial yang sejati

Kolaborasi Anthropic dan para pemikir Katolik

• Chris Olah, salah satu pendiri Anthropic sekaligus peneliti interpretabilitas yang ateis, duduk dekat Paus pada acara peluncuran ensiklik dan meminta gereja mengawasi industri AI
  • Ia mengatakan bahwa ketika laboratorium gagal, dibutuhkan kritikus berpengetahuan yang dapat menunjukkannya, serta suara moral yang tidak terseret insentif industri
• Pada Maret, Anthropic mengundang 15 pemimpin Kristen untuk mengajarkan cara model AI dibangun, dilatih, dan dioperasikan, serta meminta saran tentang pengembangan Claude
• Beberapa pemikir Katolik, termasuk pastor, uskup, dan teolog, ikut langsung dalam draf konstitusi Claude yang mendefinisikan nilai-nilai Claude
  • Karyawan Anthropic menyebut dokumen ini sebagai “soul doc” model
• Gereja tidak percaya bahwa AI memiliki kesadaran, dan Antiqua et Nova juga memperingatkan agar tidak mengantropomorfisasi teknologi
• Dewan penasihat agama memberikan wawasan tentang pembentukan moral agar AI dapat dijadikan alat yang berorientasi pada kebaikan
  • Peserta Brendan McGuire mengatakan bahwa jika mesin tidak diarahkan untuk condong pada kebaikan, ia akan sekadar mencerminkan kebaikan dan kejahatan di dunia apa adanya
• Setelah Trump menetapkan Anthropic sebagai “risiko rantai pasok”, 14 teolog dan akademisi Katolik membela perusahaan melalui amicus brief, opini tertulis untuk pengadilan

Jalur ensiklik mengubah masyarakat

• Ensiklik menyampaikan posisi gereja tentang persoalan sosial, tetapi dalam kasus-kasus terbaru tidak terlihat efek langsung dalam mengubah sikap publik
• Ketika Paus Francis menerbitkan ensiklik iklim Laudato Si pada 2015, survei Pew menunjukkan tingkat kesukaan 70% di antara seluruh warga AS dan 90% di antara umat Katolik AS
  • Tingkat kesukaan seluruh warga AS: {p:70}
  • Tingkat kesukaan umat Katolik AS: {p:90}
• Studi University of Pennsylvania menemukan bahwa tidak ada perubahan langsung pada persepsi tingkat keseriusan perubahan iklim di antara orang-orang yang mengetahui ensiklik tersebut, tetapi kepercayaan bahwa Paus dapat berbicara secara otoritatif tentang isu iklim meningkat

• John Ryan yang menerjemahkan doktrin menjadi kebijakan

  • Pengaruh Rerum Novarum muncul melalui orang dan lembaga yang menerjemahkan doktrin menjadi kebijakan
  • Pastor Minnesota Monsignor John Ryan dijuluki “Right Reverend New Dealer” dan menerbitkan A Living Wage pada 1906
  • Ia berargumen bahwa tanpa penetapan batas bawah upah oleh pemerintah, pemberi kerja akan membayar upah di bawah tingkat penghidupan
  • Ini adalah contoh penerapan langsung Rerum Novarum
  • Ryan menyusun hukum upah minimum Minnesota; beberapa negara bagian kemudian menirunya, dan pemerintah federal juga mengadopsinya pada era New Deal
  • Gagasan ensiklik tersebut mencapai New Deal karena tokoh-tokoh Katolik membawanya ke dalam perangkat kebijakan; demikian pula, jalur penyebaran Magnifica Humanitas ke lembaga gereja dan perdebatan AI global menjadi penting

Dampak kelembagaan yang terlihat dari ensiklik iklim

• Laudato Si diterbitkan beberapa bulan sebelum negosiasi PBB yang menghasilkan Paris Agreement
• Mantan utusan iklim AS John Kerry menilai Paus Francis sebagai salah satu suara terkuat yang menyerukan tindakan
• Al Gore mengatakan bahwa meskipun dirinya Protestant, kepemimpinan Paus Francis bisa saja membuatnya menjadi Catholic
• Di pemerintahan AS, proporsi umat Katolik juga besar
  • 28% dari Congress ke-119 adalah Catholic, terdiri dari 126 anggota House dan 24 anggota Senate
  • 6 dari 9 hakim Supreme Court adalah Catholic
  • Presiden Catholic hanya ada dua, tetapi lebih banyak Catholic menempati posisi berpengaruh dalam pemerintahan presiden dan departemen eksekutif
• Lima tahun setelah Laudato Si terbit, gereja merilis pedoman praktik yang mencakup item investasi energi terbarukan
• Dipengaruhi oleh ensiklik tersebut, lebih dari 300 lembaga Catholic menarik investasi dari bahan bakar fosil
  • Carmelite prior general Fr. Míceál O’Neill menyatakan bahwa divestasi adalah tindakan konkret bagi gereja dan umat manusia serta sejalan dengan ekologi integral Laudato Si

Etika AI menyebar melalui pendanaan dan institusi pendidikan

• Lilly Endowment, pemegang saham terbesar Eli Lilly & Co., menyumbangkan sekitar 1,3 miliar dolar AS untuk proyek terkait agama pada 2025
• Pada Desember tahun yang sama, lembaga ini memutuskan memberikan 50,8 juta dolar AS kepada University of Notre Dame untuk membantu pengembangan kerangka etika AI berbasis iman
• Presiden universitas menyatakan akan menghubungkan pemimpin agama dan pendidik dengan pengembang serta pengguna teknologi, mengutip AI yang “cerdas, relasional, dan dipandu oleh cinta” sebagaimana diminta Paus Leo XIV

Kondisi saat ini yang mirip dengan 1891

• 20% orang dewasa AS adalah Catholic, dan proporsi yang mengatakan memiliki hubungan pribadi atau keluarga dengan iman tersebut hampir setengah
• Di gereja Catholic belakangan ini tampak peningkatan konversi, khususnya di kalangan muda
• Dalam survei NBC, pemilih AS menilai Paus Leo lebih positif daripada Stephen Colbert, Marco Rubio, Gavin Newsom, dan Donald Trump
• Leo, Paus Amerika pertama, adalah penggemar White Sox dari Chicago, dan pada Oktober ia berbicara serta menjawab pertanyaan siswa SMA secara siaran langsung
• Di tengah benturan terbuka dengan Presiden Trump terkait perang di Timur Tengah, ia mengatakan tidak akan takut pada pemerintahan Trump dan akan menyuarakan pesan Injil dengan lantang
• Akun X resmi Paus memiliki sekitar 18 juta pengikut

‘Infrastruktur tak terlihat’ di era AI

• Rerum Novarum tidak mengubah pikiran orang dalam semalam, tetapi menetapkan syarat perdebatan, dan selama setengah abad berikutnya sebagian reformis dan lembaga Katolik mengubahnya menjadi hukum
• Magnifica Humanitas juga akan berpengaruh ketika kosakata moral yang ditetapkan Paus kelak membentuk infrastruktur tak terlihat bagi kebijakan dan institusi
• Sikap ensiklik adalah bahwa pengembang bukan sekadar membangun sistem, melainkan membuat kerangka tempat kecerdasan bertumbuh; siapa yang mendefinisikan kerangka itu akan mendefinisikan masa depan
• Gereja harus berdiri di sisi dunia tanpa menguasainya, dan jika kerangka etika yang akan menentukan penggunaan AI tidak dibahas secara terbuka, moralitas kelompok yang mengendalikan AI dapat dipaksakan
• Tantangan seputar AI bukan hanya persoalan teknis dan etis, tetapi juga tantangan ekologis dalam membentuk rumah bersama
• Agar masyarakat dapat menyerap disrupsi yang ditimbulkan AI, dibutuhkan pemimpin yang bijaksana dan menempatkan manusia di pusat; kelompok agama termasuk Catholic Church berada pada posisi untuk memimpin percakapan yang merenungkan bagaimana revolusi AI akan berlangsung