Antiqua et Nova: Telaah tentang hubungan antara AI dan kecerdasan manusia

• Dokumen yang diterbitkan bersama oleh Dikasteri untuk Ajaran Iman Vatikan dan Dikasteri untuk Kebudayaan dan Pendidikan ini membahas secara luas tantangan antropologis dan etis terkait hubungan antara kecerdasan buatan (AI) dan kecerdasan manusia.
  • Antiqua et Nova: bahasa Latin. "Yang lama dan yang baru"

I. Pendahuluan

• Berdasarkan kebijaksanaan kuno dan modern (Matius 13:52), kita perlu merefleksikan tantangan dan peluang yang dibawa oleh perkembangan sains dan teknologi, khususnya kemajuan terbaru dalam kecerdasan buatan (AI).
• Dalam tradisi Kristen, kecerdasan dipandang sebagai unsur penting yang menunjukkan bahwa manusia diciptakan menurut "gambar Allah" (Kejadian 1:27).
• Berdasarkan pandangan yang terpadu tentang keberadaan manusia dan panggilan dalam Kejadian untuk "mengusahakan dan memelihara bumi" (Kejadian 2:15), Gereja menekankan bahwa kecerdasan manusia harus diwujudkan melalui pemikiran rasional dan kemampuan teknis untuk mengelola ciptaan secara bertanggung jawab.

• Gereja mendorong perkembangan aktivitas manusia, termasuk sains, teknologi, dan seni, serta memandangnya sebagai "kerja sama laki-laki dan perempuan dalam menyempurnakan ciptaan yang terlihat".
• Kitab Sirakh (38:6) bersaksi bahwa "Allah telah memberikan keterampilan kepada manusia, agar melalui itu karya-karya-Nya yang menakjubkan dipuji".
• Kemampuan dan kreativitas manusia berasal dari Allah, dan ketika digunakan dengan benar, mencerminkan kebijaksanaan dan kebaikan Allah serta memuliakan-Nya.
• Oleh karena itu, ketika membahas apa itu "kemanusiaan", kemampuan ilmiah dan teknologis juga harus dipertimbangkan.

• Dari sudut pandang ini, dokumen ini membahas tantangan antropologis dan etis yang diajukan oleh AI.
• Salah satu tujuan AI adalah meniru kecerdasan manusia yang merancangnya.
• Tidak seperti ciptaan manusia lainnya, AI dapat mempelajari hasil kreatif manusia lalu menghasilkan "output" baru, yang sering kali begitu canggih sehingga sulit dibedakan dari buatan manusia.
• Hal ini menimbulkan kekhawatiran serius tentang dampak AI terhadap krisis kebenaran di ruang publik.
• Selain itu, melalui pembelajaran, AI dapat secara mandiri membuat keputusan tertentu, beradaptasi dengan situasi baru, dan menawarkan solusi yang tidak diperkirakan oleh pengembangnya.
• Ini memunculkan pertanyaan mendasar tentang tanggung jawab etis dan keselamatan manusia, serta berdampak luas di seluruh masyarakat.
• Situasi baru ini membuat banyak orang kembali mengajukan pertanyaan: "Apakah manusia itu?" dan "Apa peran umat manusia?"

• Dengan mempertimbangkan semua unsur ini, AI telah membuka fase baru yang penting dalam hubungan antara manusia dan teknologi, dan berada di pusat fenomena yang pernah disebut Paus Fransiskus sebagai "perubahan zaman".
• Dampak AI tampak jelas secara global di berbagai bidang seperti hubungan antarmanusia, pendidikan, pekerjaan, seni, layanan kesehatan, hukum, perang, dan hubungan internasional.
• Seiring AI terus berkembang, sangat penting untuk mempertimbangkan secara mendalam makna antropologis dan etisnya.
• Ini bukan sekadar mengurangi risiko dan mencegah kerugian, tetapi juga memastikan bahwa pemanfaatan AI diarahkan untuk meningkatkan perkembangan manusia dan kebaikan bersama.

• Untuk membantu membentuk penilaian yang tepat tentang AI, Gereja melalui dokumen ini menawarkan refleksi antropologis dan etis dengan menyoroti kembali "kebijaksanaan hati" yang ditekankan Paus Fransiskus.
• Gereja berjanji untuk terlibat aktif dalam pembahasan terkait AI dan mengundang para orang tua, guru, imam, dan uskup yang bertugas mewariskan iman agar menangani persoalan penting ini dengan cermat.
• Dokumen ini terutama ditujukan kepada mereka, tetapi juga ditulis untuk khalayak yang lebih luas yang berbagi keyakinan bahwa perkembangan sains dan teknologi harus digunakan demi manusia dan kebaikan bersama.

• Untuk itu, dokumen ini pertama-tama membedakan konsep kecerdasan AI dan kecerdasan manusia.
• Selanjutnya, dokumen ini menelaah pemahaman tentang kecerdasan manusia berdasarkan landasan filosofis dan teologis dari tradisi Kristen.
• Terakhir, dokumen ini menyajikan pedoman etis untuk memastikan bahwa pengembangan dan penggunaan AI melindungi martabat manusia dan mendorong perkembangan terpadu manusia dan masyarakat.

II. Apa itu kecerdasan buatan?

• Dalam AI, konsep "kecerdasan" telah berkembang dari waktu ke waktu dengan mencerminkan berbagai sudut pandang akademik.
• Asal-usul AI dapat ditelusuri hingga beberapa abad lalu, tetapi lokakarya musim panas yang diadakan ilmuwan komputer Amerika John McCarthy di Dartmouth College pada tahun 1956 menjadi titik balik yang penting.
• McCarthy mendefinisikan AI sebagai "masalah membuat mesin melakukan perilaku yang akan disebut cerdas jika dilakukan oleh manusia", dan melalui lokakarya ini penelitian untuk merancang mesin yang meniru perilaku intelektual manusia mulai dilakukan secara serius.

• Setelah itu, penelitian AI berkembang pesat dan menghasilkan sistem kompleks yang mampu melakukan tugas-tugas yang sangat canggih.
• Sistem "Narrow AI" saat ini dirancang untuk menjalankan fungsi tertentu, misalnya penerjemahan bahasa, prediksi lintasan badai, klasifikasi gambar, menjawab pertanyaan, dan pembuatan konten visual sesuai permintaan pengguna.
• Definisi "kecerdasan" dalam penelitian AI beragam, tetapi sistem AI masa kini, khususnya AI berbasis machine learning, lebih bergantung pada penalaran statistik daripada penalaran logis.
• AI menganalisis data berskala besar untuk mengidentifikasi pola dan "memprediksi" hasil, yang dalam beberapa hal mirip dengan proses pemecahan masalah manusia.
• Pencapaian ini dimungkinkan berkat inovasi dalam teknologi komputasi (jaringan saraf, pembelajaran tanpa pengawasan, algoritma evolusioner) dan perangkat keras (prosesor khusus).
• Melalui perkembangan teknologi ini, sistem AI dapat merespons masukan manusia, beradaptasi dengan situasi baru, dan bahkan menawarkan solusi yang tidak diperkirakan oleh pengembangnya.

• Karena perkembangan AI yang sangat cepat, banyak tugas yang sebelumnya hanya dapat dilakukan manusia kini ditangani oleh AI.
• Khususnya di bidang profesional seperti analisis data, pengenalan gambar, dan diagnosis medis, AI dalam beberapa kasus melengkapi atau bahkan melampaui kemampuan manusia.
• Meski "Narrow AI" saat ini dirancang untuk melakukan tugas tertentu, sebagian peneliti menargetkan pengembangan "artificial general intelligence (AGI)" yang dapat beroperasi di semua ranah kognitif.
• Sebagian pihak berpendapat bahwa AGI pada akhirnya dapat mencapai "superintelligence" yang melampaui kecerdasan manusia, dan kemungkinan mewujudkan "super-longevity" melalui gabungan dengan kemajuan bioteknologi juga turut dibahas.
• Di sisi lain, ada yang khawatir kemungkinan ini berisiko menggantikan manusia, sementara yang lain menyambut perubahan tersebut secara positif.

• Di balik berbagai pandangan tentang AI dan kecerdasan manusia, terdapat asumsi implisit bahwa istilah "kecerdasan" dapat diterapkan secara sama pada manusia maupun AI.
• Namun, hal ini tidak mencerminkan keseluruhan makna konsep tersebut.
• Pada manusia, kecerdasan adalah kemampuan yang terkait dengan keseluruhan keberadaan pribadi, sedangkan pada AI, "kecerdasan" dipahami dalam arti fungsional, sering kali berdasarkan asumsi bahwa aktivitas mental manusia dapat diuraikan menjadi prosedur yang terdigitalisasi.

• Sudut pandang fungsional ini diwakili oleh "Turing Test".
• Alan Turing menilai bahwa jika manusia tidak dapat membedakan perilaku mesin dari perilaku manusia, maka mesin itu dapat dianggap "cerdas".
• Namun, "perilaku" di sini hanya berarti pelaksanaan tugas intelektual tertentu, dan tidak mencakup keseluruhan unsur pengalaman manusia—pemikiran abstrak, emosi, kreativitas, serta kepekaan estetis, moral, dan religius.
• Selain itu, pendekatan ini juga tidak sepenuhnya mencerminkan karakteristik jiwa manusia, karena "kecerdasan" sistem AI dinilai semata-mata dari apakah ia dapat menghasilkan keluaran yang mirip dengan kecerdasan manusia, tanpa mempertimbangkan bagaimana keluaran itu dihasilkan.

• Kemampuan canggih AI memang memungkinkannya melakukan tugas yang kompleks, tetapi tidak memberinya "kemampuan untuk berpikir".
• Ini adalah perbedaan penting, dan cara kita mendefinisikan "kecerdasan" sangat menentukan bagaimana kita memahami hubungan antara pemikiran manusia dan AI.
• Untuk memahami perbedaan ini dengan tepat, perlu dipertimbangkan konsep kecerdasan yang lebih dalam dan komprehensif sebagaimana ditawarkan oleh tradisi filsafat dan teologi Kristen.
• Ini juga merupakan unsur pokok dalam ajaran Gereja tentang kodrat manusia, martabat, dan panggilan hidupnya.

III. Kecerdasan dalam tradisi filosofis dan teologis

Rasionalitas

• Sejak umat manusia mulai merefleksikan dirinya sendiri, akal budi (mind) telah dipandang sebagai unsur inti dari kemanusiaan
• Aristoteles mengatakan bahwa "semua manusia secara kodrati mendambakan pengetahuan", dan menjelaskan bahwa manusia dibedakan dari dunia hewan karena memiliki kemampuan untuk memahami hakikat dan makna sesuatu secara abstrak
• Para filsuf, teolog, dan psikolog telah meneliti hakikat kemampuan intelektual manusia, sambil mengkaji bagaimana manusia memahami dunia dan menyadari posisinya yang khas di dalamnya
• Melalui penyelidikan ini, tradisi Kristen memahami manusia sebagai makhluk yang terdiri dari tubuh dan jiwa, yang sekaligus sangat terlibat di dalam dunia namun juga melampauinya

• Dalam tradisi klasik, kecerdasan dijelaskan melalui dua konsep yang saling melengkapi, yaitu "rasio (ratio)" dan "intelek (intellectus)"
• Keduanya bukan fungsi yang terpisah, melainkan dua cara kerja dari kecerdasan yang sama, sebagaimana dijelaskan oleh Santo Thomas Aquinas
• "Intelek (intellectus) adalah kemampuan untuk menangkap kebenaran secara intuitif, sedangkan rasio (ratio) adalah proses mencapai kesimpulan melalui penyelidikan dan penalaran logis"
• Dengan kata lain, intelek adalah kemampuan memahami kebenaran secara intuitif, sedangkan rasio adalah kemampuan membuat penilaian melalui proses berpikir yang analitis dan argumentatif
• Kedua unsur ini berpadu membentuk tindakan hakiki manusia yang disebut "memahami (intelligere)"

• Menggambarkan manusia sebagai "makhluk rasional" bukan berarti membatasi manusia hanya pada satu cara berpikir tertentu, melainkan menunjukkan bahwa seluruh aktivitas manusia dibentuk dan dipengaruhi oleh kemampuan pemahaman intelektual
• Kemampuan ini, baik digunakan dengan baik maupun tidak, merupakan unsur esensial dari kodrat manusia
• Konsep "rasional (rational)" melampaui sekadar kemampuan berpikir, mencakup "bukan hanya pengetahuan dan pemahaman, tetapi juga semua kemampuan seperti kehendak, kasih, pilihan, dan hasrat", serta fungsi-fungsi jasmani yang terkait erat dengannya
• Dalam perspektif yang menyeluruh ini, manusia yang diciptakan menurut gambar Allah mengangkat, membentuk, dan mengubah kehendak serta tindakannya melalui akal budi

Kebertubuhan (Embodiment)

• Pemikiran Kristen memahami kemampuan intelektual manusia dalam kerangka pandangan antropologis yang terpadu, yaitu bahwa manusia pada hakikatnya adalah makhluk berjasad
• Dalam keberadaan manusia, roh dan materi "bukan dua kodrat yang terpisah satu sama lain, melainkan membentuk satu kodrat"
• Artinya, jiwa bukan sekadar "bagian" nonmaterial yang berada di dalam tubuh, dan tubuh juga bukan sekadar cangkang; sebaliknya, manusia seutuhnya sekaligus merupakan makhluk material dan spiritual
• Pemahaman ini mencerminkan ajaran Kitab Suci dan menekankan bahwa manusia adalah makhluk yang hidup dalam relasi dengan Allah dan dengan sesama
• Makna mendalam dari kondisi ini menjadi semakin jelas melalui misteri Inkarnasi, ketika Allah sendiri mengambil tubuh manusia dan "mengangkat tubuh itu kepada martabat yang luhur"

• Manusia berakar kuat dalam keberadaan jasmani, tetapi melalui jiwa ia melampaui dunia material
• Jiwa "berdiri di batas antara waktu dan kekekalan"
• Daya transenden intelek dan kehendak bebas termasuk pada jiwa, dan melaluinya manusia "ambil bagian dalam hikmat Allah"
• Namun, akal budi manusia tidak memperoleh pengetahuan dalam keadaan terpisah dari tubuh, melainkan secara normal bekerja melalui tubuh
• Karena itu, kemampuan intelektual manusia harus dipahami dalam perspektif antropologis tentang manusia sebagai "kesatuan tubuh dan jiwa"

Relasionalitas (Relationality)

• Manusia pada kodratnya adalah "makhluk yang terarah pada persekutuan antarpersonal", dan memiliki kemampuan untuk mengenal orang lain, berbagi kasih, serta menjalin relasi
• Karena itu, kecerdasan manusia bukanlah kemampuan yang terisolasi, melainkan terwujud dalam relasi dan paling utuh diekspresikan dalam dialog, kerja sama, dan solidaritas
• Kita belajar bersama orang lain, dan belajar melalui orang lain

• Kecenderungan relasional manusia berakar pada kasih yang berkorban dari Allah Tritunggal, yang dinyatakan dalam sejarah penciptaan dan keselamatan
• Manusia adalah "makhluk yang dipanggil untuk ambil bagian dalam kehidupan Allah melalui pengetahuan dan kasih"

• Panggilan menuju persekutuan dengan Allah secara niscaya terhubung dengan panggilan menuju persekutuan dengan sesama
• Mengasihi Allah tidak dapat dipisahkan dari mengasihi sesama (lih. 1 Yohanes 4:20; Matius 22:37-39)
• Orang Kristen yang menerima rahmat untuk ambil bagian dalam kehidupan Allah juga harus meneladani kasih Kristus (lih. 2 Korintus 9:8-11; Efesus 5:1-2), dan menjalankan perintah, "saling mengasihilah kamu, seperti Aku telah mengasihi kamu" (Yohanes 13:34)
• Kasih dan pelayanan membuat manusia melampaui kepentingan dirinya sendiri dan menjawab panggilannya dengan lebih setia (lih. 1 Yohanes 2:9)
• Yang lebih agung daripada mengetahui banyak hal adalah saling memedulikan, dan "sekalipun aku mengetahui segala rahasia dan memiliki seluruh pengetahuan, tetapi jika aku tidak mempunyai kasih, aku sama sekali bukan apa-apa" (1 Korintus 13:2)

Relasi dengan Kebenaran (Relationship with the Truth)

• Kecerdasan manusia pada akhirnya merupakan "karunia Allah yang dibentuk untuk menerima kebenaran"
• Manusia dapat menyelidiki realitas yang melampaui sekadar pengalaman indrawi atau kegunaan, karena "kerinduan akan kebenaran adalah bagian dari kodrat manusia"
• Melampaui batas data empiris, kecerdasan manusia mampu "mengenali realitas dengan kepastian yang sejati"
• Meskipun realitas hanya diketahui secara sebagian, kerinduan akan kebenaran "selalu mendorong rasio untuk melangkah lebih jauh", dan rasio "merasakan kekaguman karena mampu melangkah melampaui apa yang telah dicapai"
• Kebenaran melampaui batas kecerdasan manusia, namun terus-menerus menuntun manusia kepadanya dan mendorongnya untuk "mencari kebenaran pada tataran yang lebih tinggi"

• Pencarian yang melekat terhadap kebenaran tampak jelas melalui kemampuan khas manusia untuk memahami makna dan berkreasi
• Pencarian ini berkembang "dengan cara yang sesuai dengan kodrat sosial dan martabat manusia"
• Selain itu, orientasi yang teguh pada kebenaran adalah unsur yang mutlak diperlukan agar kasih menjadi sungguh sejati dan universal

• Pencarian kebenaran pada akhirnya mencapai kepenuhannya melalui keterbukaan terhadap realitas yang melampaui dunia fisik dan ciptaan
• Semua kebenaran memperoleh makna terdalam dan tujuan asalinya di dalam Allah
• Menyerahkan diri kepada Allah adalah "keputusan mendasar yang melibatkan seluruh manusia"
• Melaluinya, manusia menjadi diri yang memang seharusnya ia menjadi, dan "intelek serta kehendak menyingkapkan kodrat rohaninya dan memungkinkan manusia mewujudkan kebebasan yang penuh"

Peran Penatalayanan atas Dunia (Stewardship of the World)

• Iman Kristen memahami penciptaan sebagai tindakan bebas Allah Tritunggal, dan Santo Bonaventura menjelaskan bahwa Allah "menciptakan bukan untuk menambah kemuliaan-Nya sendiri, melainkan untuk menyatakannya dan membagikannya"
• Allah menciptakan dengan hikmat, dan karena itu dunia ciptaan memiliki keselarasan batiniah yang mencerminkan tatanan Allah
• Allah memanggil manusia pada peran yang khusus dan memberi perintah untuk "mengusahakan dan memelihara dunia"

• Manusia yang diciptakan Allah, sebagai makhluk yang diciptakan menurut gambar Allah, memiliki tugas untuk "menjaga dan mengusahakan" dunia ciptaan
• Kecerdasan manusia mencerminkan kecerdasan Allah yang menciptakan dan menopang segala sesuatu serta menuntunnya menuju tujuan akhirnya
• Manusia dapat memuji Allah dengan mengembangkan sains dan teknologi, dan harus menjalankan perannya dalam mengelola dunia ciptaan
• Namun pada saat yang sama, dunia ciptaan itu sendiri berperan membantu manusia untuk "perlahan-lahan bergerak menuju Allah, Prinsip Tertinggi"

Pemahaman Integral tentang Kecerdasan Manusia (An Integral Understanding of Human Intelligence)

• Kecerdasan manusia harus dipahami sebagai unsur inti dalam cara seluruh pribadi manusia berelasi dengan realitas
• Relasi yang sejati harus mencakup seluruh dimensi keberadaan manusia—dimensi spiritual, kognitif, jasmani, dan relasional—

• Menjalin hubungan dengan realitas terjadi dalam berbagai cara di dalam individualitas unik setiap orang
• Manusia memahami dunia, menjalin relasi dengan orang lain, memecahkan masalah, mengekspresikan kreativitas, dan memanfaatkan berbagai unsur kecerdasan secara selaras untuk mengejar kehidupan yang utuh
• Bukan hanya melalui kemampuan logis dan linguistik, manusia juga dapat berinteraksi dengan realitas secara intuitif atau berdasarkan pengalaman
• Sebagai contoh, seorang perajin harus “mampu membedakan bentuk di dalam benda mati yang tidak disadari orang lain,” lalu mewujudkannya melalui wawasan dan keterampilan praktis
• Masyarakat adat yang hidup dekat dengan alam juga memiliki pemahaman mendalam tentang alam dan siklusnya
• Selain itu, seseorang yang mampu mengucapkan kata-kata yang tepat sebagai sahabat atau membangun hubungan antarmanusia yang harmonis juga menunjukkan kecerdasan sebagai “buah dari refleksi diri, dialog, dan hubungan antarmanusia yang murah hati”
• Paus Fransiskus menekankan bahwa “bahkan di era kecerdasan buatan, puisi dan cinta tetap esensial untuk menyelamatkan kemanusiaan kita”

• Inti dari pemahaman Kristen tentang kecerdasan adalah integrasi antara kebenaran dan kehidupan moral-spiritual yang menuntun manusia untuk bertindak sesuai dengan kebaikan dan kebenaran Allah
• Dalam rencana Allah, kecerdasan melampaui fungsi analitis semata dan juga mencakup kemampuan untuk menikmati kebenaran, kebaikan, dan keindahan
• Penyair Prancis abad ke-20 Paul Claudel mengungkapkan bahwa “kecerdasan bukan apa-apa tanpa sukacita,” dan Dante menggambarkan bahwa di surga tertinggi ia mengalami “cahaya intelektual yang dipenuhi cinta, sukacita atas kebenaran, kebaikan, dan keindahan”

• Karena itu, kecerdasan manusia tidak dapat direduksi menjadi sekadar perolehan informasi atau kemampuan melaksanakan tugas tertentu
• Kecerdasan manusia mengeksplorasi pertanyaan-pertanyaan mendasar dan mencerminkan orientasi menuju kebenaran serta kebaikan
• Karena manusia diciptakan menurut gambar Allah, manusia dapat memikirkan totalitas keberadaan dan memahami makna dari apa yang dipahami, melampaui hal-hal yang dapat diukur
• Bagi orang beriman, kecerdasan manusia juga mencakup kemampuan untuk semakin memahami kebenaran yang diwahyukan (intellectus fidei)
• Kecerdasan sejati dibentuk oleh “kasih Allah yang telah dicurahkan di dalam hati kita” (Roma 5:5), yang berarti bahwa kecerdasan manusia memiliki dimensi kontemplatif yang hakiki, terbuka pada kebenaran, kebaikan, dan keindahan, melampaui tujuan praktis

Batas AI (The Limits of AI)

• Dari pembahasan sejauh ini, perbedaan antara kecerdasan manusia dan sistem AI saat ini menjadi jelas
• AI merupakan pencapaian teknis yang luar biasa karena mampu meniru keluaran tertentu yang berkaitan dengan kecerdasan manusia, tetapi pada hakikatnya ia adalah sistem yang bekerja, mencapai tujuan, dan mengambil keputusan berdasarkan data kuantitatif serta logika komputasional
• Sebagai contoh, AI dapat menunjukkan kemampuan analitis yang unggul dalam mengintegrasikan data dari berbagai bidang, memodelkan sistem yang kompleks, dan mendorong kolaborasi lintas disiplin
• Dengan demikian, AI dapat membantu menangani masalah kompleks yang tidak bisa diselesaikan hanya dari satu sudut pandang atau kepentingan tertentu

• Namun, meskipun AI dapat memproses dan mensimulasikan ekspresi tertentu dari kecerdasan, ia memiliki keterbatasan mendasar karena dibatasi pada kerangka logika-matematis
• Sebaliknya, kecerdasan manusia berkembang secara organik dalam proses pertumbuhan fisik dan psikologis, serta dibentuk melalui beragam pengalaman nyata
• Walaupun sistem AI canggih dapat “belajar” melalui proses seperti machine learning, hal itu secara mendasar berbeda dari proses perkembangan kecerdasan manusia
• Kecerdasan manusia dibentuk melalui pengalaman konkret yang mencakup masukan indrawi, respons emosional, interaksi sosial, dan konteks unik dari setiap momen
• Sebaliknya, AI tidak memiliki tubuh, dan melakukan penalaran komputasional serta pembelajaran berdasarkan data dan pengetahuan yang dicatat oleh manusia

• Karena itu, AI dapat meniru cara berpikir manusia dan melaksanakan tugas tertentu dengan kecepatan serta efisiensi yang mengagumkan, tetapi kemampuan komputasionalnya hanyalah sebagian dari luasnya kapasitas roh manusia
• Sebagai contoh, AI tidak dapat mereproduksi penilaian moral atau kemampuan untuk membentuk relasi yang sejati
• Kecerdasan manusia berakar dalam sejarah pembentukan intelektual dan moral tiap individu, yang membentuk sudut pandang pribadi yang mencakup dimensi fisik, emosional, sosial, moral, dan spiritual
• Karena AI tidak dapat memberikan pemahaman yang utuh semacam ini, pendekatan yang hanya bergantung pada AI untuk menafsirkan dunia atau menganggapnya sebagai alat tafsir utama dapat mengakibatkan “hilangnya pandangan menyeluruh, relasi antarhal, dan perspektif yang lebih luas”

• Kecerdasan manusia bukan sekadar menjalankan tugas-tugas fungsional, melainkan memahami realitas secara utuh dan menjalin hubungan dengannya secara aktif
• Manusia juga memiliki kemampuan untuk memperoleh wawasan tak terduga (insight)
• Karena AI tidak memiliki keberbadanan, relasionalitas, dan keterbukaan hati manusia terhadap kebenaran serta kebaikan, maka betapapun kuat tampaknya, AI tidak dapat dibandingkan dengan kemampuan manusia untuk mengenali realitas
• Banyak pengalaman manusia—seperti pencerahan yang lahir dari sakit, pelukan rekonsiliasi, atau pengalaman memandangi matahari terbenam yang sederhana—membuka cakrawala baru dan melahirkan kebijaksanaan
• Perangkat yang sekadar memproses data tidak dapat dibandingkan dengan pengalaman-pengalaman ini

• Jika kecerdasan manusia dan AI disamakan secara berlebihan, ada risiko terjerumus ke dalam pandangan fungsionalistis yang menilai manusia semata-mata dari kemampuan performa fungsionalnya
• Namun, nilai manusia tidak ditentukan oleh keterampilan tertentu, pencapaian kognitif atau teknis, maupun kesuksesan pribadi
• Nilai manusia berakar pada martabat intrinsik yang berasal dari fakta bahwa Allah menciptakannya menurut gambar-Nya
• Martabat ini tetap tidak berubah dalam keadaan apa pun, termasuk pada janin, orang yang tidak sadarkan diri, maupun lansia yang menderita
• Hal ini menopang tradisi hak asasi manusia (terutama “hak-hak neuro” (neuro-rights)) dan dapat menjadi tolok ukur etis yang penting dalam pembahasan tentang pengembangan dan penggunaan AI secara bertanggung jawab

• Dengan mempertimbangkan semua hal ini, Paus Fransiskus menunjukkan bahwa “penggunaan istilah ‘kecerdasan’ itu sendiri dalam kaitannya dengan AI dapat menimbulkan kesalahpahaman”
• Karena itu, AI tidak boleh dianggap sebagai bentuk artifisial dari kecerdasan manusia, melainkan harus dipahami sebagai hasil dari kecerdasan manusia

IV. Peran etika dalam membimbing pengembangan dan pemanfaatan AI

• Berdasarkan pembahasan ini, kita dapat bertanya bagaimana AI dapat dipahami di dalam rencana Allah
• Untuk memahaminya, perlu diingat bahwa kegiatan teknis-ilmiah bukan sekadar sesuatu yang netral, melainkan juga mencakup dimensi humanistik dan kultural yang mencerminkan kreativitas manusia

• Penyelidikan ilmiah dan pengembangan teknologi adalah buah dari potensi yang melekat dalam kecerdasan manusia, dan dapat dipahami sebagai bagian dari “kerja sama laki-laki dan perempuan dalam menyempurnakan ciptaan yang terlihat”
• Pada saat yang sama, setiap pencapaian ilmiah dan teknologis pada akhirnya adalah anugerah Allah, sehingga manusia harus menggunakan kemampuan ini untuk tujuan yang lebih tinggi yang telah Allah berikan

• Dengan sukacita kita dapat mengakui bahwa teknologi telah berkontribusi dalam meringankan begitu banyak penderitaan manusia dan mengatasi berbagai keterbatasan
• Namun, tidak setiap kemajuan teknologi secara otomatis berarti perkembangan manusia yang sejati
• Gereja secara khusus menentang penerapan teknologi yang mengancam martabat kehidupan atau merusak martabat manusia
• Setiap kemajuan teknologi harus melayani manusia dan memajukan “keadilan yang lebih besar, persaudaraan yang lebih luas, dan tatanan sosial yang lebih manusiawi,” yang merupakan “sesuatu yang lebih berharga daripada kemajuan teknis”
• Keprihatinan etis ini tidak hanya dimiliki Gereja, tetapi juga dibagikan oleh banyak ilmuwan, teknolog, dan kelompok profesional, yang menekankan perlunya refleksi etis demi pengembangan yang bertanggung jawab

• Untuk menanggapi tantangan ini, penting untuk menegaskan arti tanggung jawab moral yang berlandaskan martabat dan panggilan manusia
• Dalam semua persoalan terkait AI, dimensi etis harus menjadi pertimbangan utama
• Hanya manusia yang merupakan subjek tanggung jawab moral, yang dapat mengambil keputusan secara bebas dan menanggung akibatnya
• Bukan mesin, melainkan hanya manusia yang dapat berelasi dengan kebenaran dan kebaikan, serta dipanggil oleh hati nurani moral untuk “lakukan yang baik dan hindari yang jahat”
• Selain itu, hanya manusia yang dapat merefleksikan dirinya sendiri, mendengarkan suara hati nurani, dan melalui pertimbangan yang bijaksana mengejar kebaikan terbaik yang mungkin dicapai
• Semua unsur ini termasuk dalam peran hakiki kecerdasan manusia

• Seperti semua hasil kreativitas manusia, AI juga dapat digunakan secara positif maupun negatif
• Ketika dimanfaatkan dengan cara yang menghormati martabat manusia dan meningkatkan kesejahteraan individu serta komunitas, AI dapat berkontribusi secara positif pada panggilan manusia
• Namun, sebagaimana kebebasan manusia memungkinkan pilihan yang keliru, penilaian moral atas teknologi AI juga akan bergantung pada bagaimana teknologi itu digunakan

• Yang penting secara etis bukan hanya tujuan semata, tetapi juga sarana yang digunakan untuk mencapainya
• Selain itu, pemahaman tentang manusia dan pandangan dunia yang tertanam dalam sistem teknologi semacam ini juga harus dipertimbangkan
• Produk teknologi mencerminkan pandangan dunia para pengembang, pemilik, pengguna, dan regulator, serta memiliki "kekuatan untuk membentuk dunia dan menggerakkan hati nurani pada dimensi nilai"
• Pada tingkat sosial, ada juga kemungkinan bahwa pengembangan teknologi tertentu memperkuat relasi kuasa yang tidak selaras dengan cara memahami manusia dan masyarakat secara benar

• Oleh karena itu, tujuan penggunaan AI yang spesifik, sarana untuk mencapainya, dan bahkan keseluruhan visi yang dikandungnya harus semuanya dinilai untuk memastikan bahwa hal itu menghormati martabat manusia dan memajukan kebaikan bersama
• Paus Fransiskus menegaskan bahwa "martabat hakiki setiap pria dan wanita" harus menjadi "kriteria utama dalam menilai teknologi baru, dan hanya teknologi yang menghormati martabat manusia serta mengekspresikannya dalam setiap bidang kehidupan yang akan diakui sah secara etis"
• Kecerdasan manusia memainkan peran penting bukan hanya dalam merancang dan menghasilkan teknologi, tetapi juga dalam memanfaatkannya ke arah yang benar
• Tanggung jawab untuk mengelolanya dengan bijaksana berlaku di semua tingkat masyarakat, dan harus dipandu oleh prinsip subsidiaritas serta prinsip-prinsip lain dalam ajaran sosial Katolik

Kebebasan manusia dan dukungan bagi pengambilan keputusan

• Memastikan agar AI selalu mendukung dan memajukan martabat manusia serta kepenuhan panggilan manusia menjadi kriteria penilaian penting bukan hanya bagi pengembang, pemilik, operator, dan regulator AI, tetapi juga bagi para penggunanya
• Ini adalah prinsip yang berlaku setiap kali teknologi AI diterapkan di semua tingkat

• Langkah pertama dalam menilai prinsip-prinsip ini adalah mempertimbangkan pentingnya tanggung jawab moral
• Karena tanggung jawab moral sepenuhnya melekat hanya pada manusia, bukan pada kecerdasan buatan, penting untuk memperjelas siapa yang bertanggung jawab dalam proses AI yang dapat dipelajari, dimodifikasi, dan diprogram ulang
• Pendekatan seperti deep neural network membantu AI berkontribusi dalam menyelesaikan masalah yang kompleks, tetapi membuat lebih sulit untuk memahami bagaimana AI mencapai solusi tertentu
• Hal ini membuat akuntabilitas menjadi lebih rumit, dan menyulitkan penentuan siapa yang harus bertanggung jawab ketika AI menimbulkan hasil yang tidak diinginkan
• Karena itu, hakikat akuntabilitas dalam lingkungan yang kompleks dan sangat otomatis harus dipertimbangkan dengan cermat, dan harus ditegaskan dengan jelas bahwa tanggung jawab akhir pada setiap tahap pengambilan keputusan yang menggunakan AI tetap berada pada manusia

• Yang harus diperjelas bukan hanya siapa yang bertanggung jawab, tetapi juga tujuan yang diberikan kepada sistem AI
• AI menggunakan mekanisme pembelajaran mandiri dan kadang bekerja dengan cara yang tidak dapat direkonstruksi oleh manusia, tetapi pada akhirnya tetap mengikuti tujuan yang ditetapkan manusia dan beroperasi melalui proses yang ditetapkan oleh perancang serta pemrogram
• Namun, seiring kemampuan AI untuk belajar secara independen terus meningkat, kemampuan untuk mengendalikannya agar tetap sesuai dengan tujuan manusia dapat melemah
• Ini menimbulkan pertanyaan penting bahwa memastikan sistem AI bekerja demi kebaikan manusia akan menjadi semakin sulit

• Tanggung jawab atas penggunaan AI yang etis dimulai dari mereka yang mengembangkan, memproduksi, mengelola, dan mengawasinya, tetapi orang-orang yang menggunakannya juga berbagi tanggung jawab itu
• Paus Fransiskus menyatakan bahwa "mesin dapat membuat pilihan teknis berdasarkan kriteria yang jelas atau penalaran statistik, tetapi manusia bukan sekadar memilih, melainkan dapat mengambil keputusan di dalam hati"
• Orang-orang yang mengikuti dan memanfaatkan hasil AI pada akhirnya akan memikul tanggung jawab atas kewenangan yang mereka delegasikan
• Karena itu, jika AI dirancang untuk membantu pengambilan keputusan manusia, algoritma yang mengoperasikan AI harus dapat dipercaya, memiliki struktur yang aman dan kokoh, serta transparan agar bias dan efek samping yang tidak diinginkan dapat diminimalkan
• Kerangka regulasi hukum harus memastikan bahwa seluruh tanggung jawab hukum atas penggunaan AI ditetapkan dengan jelas, serta menyediakan perlindungan yang memadai terkait transparansi, privasi, dan akuntabilitas
• Selain itu, perlu diwaspadai agar orang-orang yang menggunakan AI tidak menjadi terlalu bergantung padanya, dan agar kecenderungan masyarakat modern yang sudah terlalu bergantung pada teknologi tidak semakin diperparah

• Ajaran moral dan sosial Gereja memberikan wawasan yang diperlukan untuk memastikan AI menjaga otonomi manusia
• Sebagai contoh, pembahasan tentang keadilan harus mencakup isu-isu seperti pembentukan struktur sosial yang adil, pemeliharaan keamanan internasional, dan promosi perdamaian
• Manusia dan komunitas harus menggunakan kebijaksanaan praktis untuk membedakan bagaimana AI dapat dimanfaatkan demi kepentingan umat manusia, sambil menghindari penggunaan yang dapat merusak martabat manusia atau menimbulkan kerusakan terhadap lingkungan
• Dalam konteks ini, konsep tanggung jawab harus diperluas bukan sekadar menjadi tanggung jawab atas hasil, tetapi menjadi "tanggung jawab untuk merawat sesama"

• AI, seperti semua teknologi lainnya, dapat menjadi bagian dari tanggapan yang sadar dan bertanggung jawab terhadap panggilan menuju kebaikan manusia
• Namun, agar AI digunakan selaras dengan panggilan ini, arahnya harus ditetapkan dengan benar oleh kecerdasan manusia, dan harus menghormati martabat manusia
• Konsili Vatikan II menyatakan bahwa "tatanan sosial dan perkembangannya harus ditujukan bagi manusia"
• Paus Fransiskus menegaskan bahwa penggunaan AI "harus disertai etika yang didasarkan pada visi tentang kebaikan bersama, yakni etika kebebasan, tanggung jawab, dan persaudaraan, yang membantu manusia mencapai perkembangan yang utuh sambil menjalin relasi yang benar dengan sesama dan dengan seluruh ciptaan"

V. Pertanyaan-pertanyaan khusus

• Untuk menjelaskan bagaimana prinsip-prinsip yang dibahas sebelumnya memberikan arah etis dalam situasi nyata, disajikan beberapa pengamatan yang lebih konkret
• Tujuannya adalah untuk berkontribusi pada pembahasan tentang bagaimana AI dapat digunakan untuk menjaga martabat manusia dan memajukan kebaikan bersama dengan cara yang selaras dengan "kebijaksanaan hati" yang diajukan Paus Fransiskus
• Pembahasan ini tidak memberikan jawaban yang menyeluruh, tetapi bertujuan membantu memperdalam dialog mengenai penggunaan AI yang etis

AI dan masyarakat (AI and Society)

• Paus Fransiskus menegaskan bahwa "martabat hakiki setiap manusia dan persaudaraan yang mengikat kita sebagai satu keluarga manusia harus menjadi landasan pengembangan teknologi baru, dan menjadi kriteria yang jelas untuk menilainya sebelum teknologi itu digunakan"

• Dari sudut pandang ini, AI dapat "membawa inovasi penting dalam pertanian, pendidikan, dan budaya, meningkatkan taraf hidup seluruh bangsa dan masyarakat, memajukan persaudaraan manusia dan persahabatan sosial, serta digunakan sebagai alat bagi pembangunan manusia yang integral"
• Selain itu, AI dapat membantu mengidentifikasi orang-orang yang membutuhkan bantuan dan berkontribusi dalam mencegah diskriminasi serta pengucilan
• Penerapan teknologi semacam ini berpotensi memberikan kontribusi positif bagi pembangunan manusia dan kebaikan bersama

• Namun, meskipun AI memiliki potensi untuk memajukan pembangunan manusia dan kebaikan bersama, kadang-kadang AI juga dapat menghambatnya atau bahkan bekerja ke arah yang berlawanan
• Paus Fransiskus menunjukkan bahwa "bukti yang ada hingga saat ini memperlihatkan bahwa teknologi digital memperdalam ketimpangan di dunia"
• Ketimpangan ini tidak hanya tampak dalam kesenjangan ekonomi, tetapi juga dalam perbedaan akses terhadap pengaruh politik dan sosial
• AI dapat melanggengkan pengucilan dan diskriminasi, menimbulkan bentuk-bentuk kemiskinan baru, memperlebar kesenjangan digital, dan semakin memperparah ketidaksetaraan sosial yang sudah ada

• Selain itu, pemusatan teknologi aplikasi utama AI di tangan segelintir perusahaan kuat menimbulkan persoalan etis yang serius
• Sifat sistem AI, terutama dalam proses pemanfaatan kumpulan data yang sangat besar, semakin memperdalam persoalan ini karena menyulitkan satu individu tertentu untuk mengawasi seluruh proses secara penuh
• Akibatnya, ada risiko AI dimanipulasi demi kepentingan perusahaan atau individu tertentu, atau disalahgunakan untuk mengarahkan opini publik demi keuntungan industri atau kelompok kepentingan tertentu
• Dalam mengejar kepentingannya sendiri, perusahaan-perusahaan semacam ini berpotensi "menciptakan mekanisme yang memanipulasi hati nurani dan proses demokratis dengan cara kontrol yang sangat halus namun meresap"

• Lebih jauh lagi, ada risiko bahwa AI digunakan untuk memperkuat "paradigma teknokratis" yang disebut Paus Fransiskus
• Paradigma ini merujuk pada cara berpikir yang memandang bahwa semua masalah dunia dapat diselesaikan hanya dengan solusi teknis
• Dalam sudut pandang ini, martabat manusia dan persaudaraan sering diabaikan demi efisiensi, "seolah-olah realitas, kebaikan, dan kebenaran secara otomatis mengalir dari kekuasaan teknis dan ekonomi itu sendiri"
• Namun, martabat manusia dan kebaikan bersama tidak pernah dapat dikorbankan demi alasan efisiensi
• "Jika kemajuan teknologi tidak meningkatkan kualitas hidup seluruh umat manusia, melainkan justru memperdalam ketimpangan dan konflik, maka itu tidak dapat dianggap sebagai kemajuan yang sejati"
• AI harus "dimanfaatkan bagi bentuk perkembangan yang lebih sehat, lebih manusiawi, lebih sosial, dan lebih menyeluruh"

• Untuk mencapai tujuan ini, diperlukan refleksi mendalam tentang hubungan antara otonomi dan tanggung jawab
• Semakin luas otoninya, semakin besar pula tanggung jawab setiap individu dalam berbagai aspek kehidupan bersama
• Dari sudut pandang Kristen, dasar tanggung jawab ini terletak pada kesadaran bahwa seluruh kemampuan manusia, termasuk otonomi, dianugerahkan oleh Tuhan dan harus digunakan untuk melayani sesama
• Karena itu, AI tidak boleh sekadar mengejar tujuan ekonomi dan teknis, melainkan harus "melayani kebaikan bersama seluruh keluarga manusia, yaitu keseluruhan kondisi sosial yang memungkinkan individu maupun komunitas mencapai pemenuhan diri yang lebih utuh"

AI dan hubungan antarmanusia (AI and Human Relationships)

• Konsili Vatikan Kedua menyatakan bahwa "manusia pada hakikatnya adalah makhluk sosial, dan tanpa menjalin relasi dengan orang lain, ia tidak dapat menjalani hidup maupun mengembangkan bakatnya"
• Ini menekankan bahwa hidup dalam masyarakat adalah sesuatu yang kodrati bagi manusia, sekaligus unsur yang melekat pada keberadaan dan panggilannya
• Manusia membentuk relasi melalui pertukaran satu sama lain dan pencarian kebenaran, serta melanjutkan perjalanan bersama menuju kebenaran dengan saling berbagi kebenaran yang telah mereka temukan

• Proses pencarian ini, beserta bentuk komunikasi manusia lainnya, mengandaikan perjumpaan dan interaksi yang berlandaskan sejarah, pemikiran, keyakinan, dan relasi unik setiap pribadi
• Kecerdasan manusia adalah realitas yang kompleks dan berlapis, mencakup berbagai unsur yang sekaligus individual dan sosial, rasional dan emosional, konseptual dan simbolik
• Paus Fransiskus menegaskan bahwa "kita dapat bergerak maju bersama dalam dialog, dan kadang-kadang dalam perdebatan yang hangat, untuk mencari kebenaran. Untuk itu dibutuhkan kesabaran, dan mungkin ada saat-saat hening serta penderitaan. Namun perjalanan ini harus merangkul pengalaman yang lebih luas, baik pengalaman pribadi maupun komunitas"
• "Proses pembentukan persaudaraan, baik lokal maupun universal, memerlukan semangat yang terbuka pada perjumpaan yang bebas dan tulus"

• Dalam konteks ini, tantangan yang ditimbulkan AI terhadap hubungan antarmanusia dapat dipertimbangkan
• Seperti alat teknologi lainnya, AI memiliki potensi untuk mendorong keterhubungan dalam keluarga manusia
• Namun, AI juga dapat menghambat perjumpaan yang autentik dengan realitas, dan pada akhirnya berisiko menjerumuskan orang ke dalam "ketidakpuasan mendalam dalam relasi antarmanusia dan rasa keterasingan"
• Hubungan manusia yang sejati berawal dari hadir bersama dalam penderitaan, permohonan, dan sukacita orang lain
• Karena kecerdasan manusia diekspresikan dan diperkaya melalui relasi dan pengalaman jasmani, perjumpaan yang spontan dan autentik sangat penting untuk mengalami realitas secara utuh

• Karena "kebijaksanaan sejati menuntut perjumpaan dengan realitas", kebangkitan AI menimbulkan tantangan lain
• AI dapat meniru hasil kecerdasan manusia secara efektif, sehingga semakin sulit membedakan apakah lawan bicara kita adalah manusia atau mesin
• AI generatif dapat menghasilkan keluaran seperti teks, suara, dan gambar, yang biasanya dikaitkan dengan karya manusia
• Namun, harus dipahami dengan jelas bahwa AI bukanlah manusia, melainkan sekadar alat
• Masalah juga muncul ketika para peneliti AI menggunakan bahasa yang mempersonifikasikan AI, sehingga mengaburkan batas antara manusia dan mesin

• Mempersonifikasikan AI dapat menimbulkan persoalan tertentu, terutama dalam perkembangan anak
• Interaksi dengan AI berisiko membuat hubungan antarmanusia diperlakukan hanya sebagai sesuatu yang transaksional
• Misalnya, hal ini dapat membuat siswa memandang guru hanya sebagai penyedia informasi semata, dan mengabaikan bahwa peran guru adalah membimbing serta merawat pertumbuhan intelektual dan moral siswa
• Hubungan manusia yang sejati bukanlah sekadar interaksi, melainkan dibangun atas dasar empati dan komitmen terhadap kebaikan orang lain

• Karena itu, perlu ditegaskan bahwa seberapa pun antropomorfis ekspresi yang digunakan AI, AI tidak dapat mengalami empati yang sejati
• Emosi tidak dapat direduksi hanya menjadi ekspresi wajah atau kalimat, melainkan mencerminkan hubungan manusia dengan hidupnya sendiri dan dengan dunia
• Empati mencakup kemampuan untuk mengenali keunikan pribadi orang lain dan memahami bahkan makna yang terkandung dalam keheningan
• AI unggul dalam membuat penilaian analitis, tetapi empati pada dasarnya berada dalam ranah relasional, sebagai proses memahami dan menerima pengalaman orang lain secara intuitif
• AI mungkin tampak seolah-olah berempati, tetapi itu bukan empati dalam cara yang manusiawi

• Dengan mempertimbangkan hal-hal ini, segala bentuk yang membuat AI disalahartikan sebagai manusia harus dihindari, dan penggunaan itu untuk tujuan menipu merupakan pelanggaran etika yang serius
• Hal itu dapat merusak kepercayaan sosial
• Demikian pula, memanfaatkan AI untuk penipuan dalam pendidikan atau hubungan antarmanusia (misalnya hubungan seksual) juga tidak bermoral dan memerlukan pengawasan ketat untuk mencegahnya
• Transparansi dalam penggunaan AI harus dijaga, dan martabat setiap orang harus dijamin

• Seiring meningkatnya rasa keterasingan dalam masyarakat modern, sebagian orang juga menunjukkan kecenderungan untuk menggantikan hubungan manusia yang mendalam melalui AI
• Muncul upaya untuk menjalin relasi dengan AI demi peran sebagai teman atau ikatan emosional
• Namun, manusia pada hakikatnya diciptakan untuk mengalami relasi yang sejati, dan AI hanya mensimulasikannya
• Hubungan antarmanusia merupakan unsur yang esensial dalam proses manusia menjadi dirinya sendiri
• Jika AI dapat membantu mendorong hubungan sejati antarmanusia, itu dapat menjadi kontribusi yang positif
• Sebaliknya, jika interaksi dengan AI sampai menggantikan relasi manusia dengan Tuhan dan dengan sesama, maka hal itu akan berujung pada hilangnya hakikat relasi manusia (lih. Mazmur 106:20; Roma 1:22-23)
• Alih-alih tenggelam dalam dunia artifisial yang disediakan AI, kita harus membangun relasi yang berempati pada penderitaan dan kesedihan orang lain, serta bersolider dengan mereka dalam realitas

AI, ekonomi, dan tenaga kerja (AI, the Economy, and Labor)

• AI semakin terintegrasi ke dalam sistem ekonomi dan keuangan seiring keterkaitannya dengan berbagai disiplin ilmu
• Saat ini, investasi besar-besaran pada AI dilakukan bukan hanya di industri teknologi, tetapi juga di berbagai bidang seperti energi, keuangan, media, pemasaran, logistik, inovasi teknologi, kepatuhan regulasi, dan manajemen risiko
• Namun, penerapan AI seperti ini, sambil menawarkan peluang yang sangat besar, juga dapat menimbulkan risiko yang serius
• Terutama jika teknologi AI terkonsentrasi pada segelintir perusahaan besar, ada risiko bahwa nilai yang diciptakan AI akan dinikmati secara eksklusif oleh perusahaan besar tersebut, bukan oleh perusahaan yang menggunakan teknologi itu

• Dampak AI yang lebih luas terhadap ranah ekonomi dan keuangan perlu ditinjau dengan saksama
• Secara khusus, interaksi antara ekonomi digital dan ekonomi riil muncul sebagai isu penting
• Keberadaan beragam lembaga ekonomi dan keuangan secara berdampingan merupakan hal yang diinginkan, karena itu dapat membantu menopang ekonomi riil serta mendorong perkembangan dan stabilitas ekonomi
• Namun, karena ekonomi digital tidak dibatasi oleh ruang, menjadi lebih sulit untuk mempertahankan keragaman yang terbentuk dari sejarah komunitas lokal beserta nilai dan harapan bersama mereka
• Jika aktivitas ekonomi dan keuangan menjadi terlalu terdigitalisasi, ada risiko keragaman ini menyusut, dan solusi ekonomi yang dapat lahir melalui percakapan alami ikut menghilang
• Pada akhirnya, jika ekonomi dijalankan hanya berpusat pada sistem dan prosedur digital, unsur kemanusiaan dapat lenyap dan keputusan ekonomi kemungkinan besar akan diambil dengan cara yang lebih mekanis

• Bidang lain yang sudah sangat dipengaruhi AI adalah pasar tenaga kerja
• AI membawa perubahan mendasar pada banyak pekerjaan, dan dampaknya muncul dalam berbagai bentuk
• Di satu sisi, AI memiliki sisi positif karena dapat memperkuat keahlian, meningkatkan produktivitas, menciptakan lapangan kerja baru, dan membantu pekerja untuk lebih fokus pada tugas-tugas yang lebih kreatif

• Namun, berlawanan dengan harapan bahwa AI akan mengambil alih tugas-tugas berulang dan meningkatkan produktivitas, dalam kenyataannya sering muncul situasi di mana pekerja harus menyesuaikan diri dengan kecepatan dan tuntutan mesin
• Pendekatan teknologis seperti ini secara paradoks dapat menurunkan keterampilan pekerja dan membuat mereka melakukan tugas yang ketat dan berulang di bawah sistem pengawasan otomatis
• Penerapan AI, alih-alih memberi pekerja peran yang kreatif, dapat mengurangi otonomi mereka dengan menambah beban agar mereka terus mengikuti kecepatan teknologi

• AI sudah menggantikan sebagian pekerjaan, dan diperkirakan perannya dalam mengambil alih kerja manusia akan terus meningkat di masa depan
• Jika AI digunakan bukan untuk melengkapi kerja manusia, melainkan untuk menggantikannya, maka ada “risiko nyata yang memberi keuntungan besar bagi segelintir orang, sementara menimbulkan kemiskinan ekonomi bagi banyak orang”
• Selain itu, seiring AI menjadi semakin kuat, ada pula risiko bahwa kerja manusia akan dinilai semakin kurang bernilai secara ekonomi
• Ini merupakan konsekuensi logis dari paradigma teknokratis, dan dalam masyarakat yang menempatkan efisiensi sebagai prioritas tertinggi, pada akhirnya nilai manusia itu sendiri akan diperlakukan sebagai biaya
• Namun, kehidupan manusia pada hakikatnya bernilai, terlepas dari produktivitas ekonominya
• Paus Fransiskus menunjukkan bahwa “model ekonomi saat ini tidak bergerak ke arah yang membantu orang yang lambat, lemah, atau kurang berbakat untuk menemukan peluang dalam hidup”
• Karena itu, “kita harus memastikan agar AI, alat yang kuat dan esensial ini, tidak memperkuat paradigma tersebut, melainkan justru berperan sebagai perisai yang mencegah penyebarannya”

• “Tatanan segala sesuatu harus tunduk pada tatanan manusia, bukan sebaliknya”
• Kerja bukan sekadar sarana menghasilkan keuntungan, melainkan harus menjadi “pelayanan bagi manusia seutuhnya”, serta “mempertimbangkan bukan hanya kebutuhan material, tetapi juga tuntutan kehidupan intelektual, moral, spiritual, dan religius”
• Gereja memandang kerja sebagai “bukan semata-mata sarana mencari nafkah, tetapi unsur hakiki kehidupan sosial, serta sarana pertumbuhan pribadi, pembentukan relasi yang sehat, ekspresi diri, dan pertukaran bakat”
• Selain itu, kerja menjalankan “peran tanggung jawab atas perkembangan dunia dan pada akhirnya atas kehidupan komunitas manusia”

• Kerja adalah “salah satu makna kehidupan di bumi ini, serta jalan menuju perkembangan manusia dan pencapaian pribadi”
• Karena itu, “perkembangan teknologi tidak boleh bergerak ke arah yang semakin menggantikan kerja manusia, karena hal itu akan membawa akibat yang merugikan bagi umat manusia”
• Sebaliknya, teknologi harus berperan dalam mendorong kerja manusia
• AI harus berfungsi melengkapi penilaian manusia, bukan menggantikannya
• Selain itu, AI tidak boleh digunakan dengan cara yang menurunkan kreativitas dan menjadikan pekerja sekadar “bagian tambahan dari mesin”
• “Menghormati martabat pekerja, mempertimbangkan pentingnya pekerjaan, menjamin stabilitas ekonomi bagi individu, keluarga, dan masyarakat, serta mempertahankan upah yang adil harus menjadi prioritas utama komunitas internasional”
• Semakin teknologi seperti AI berakar dalam lingkungan kerja, semakin penting pula pertimbangan etis ini

AI dan layanan kesehatan (AI and Healthcare)

• Tenaga kesehatan memiliki panggilan untuk menjadi “penjaga dan pelayan kehidupan manusia” sebagai pihak yang ambil bagian dalam karya penyembuhan Tuhan
• Karena itu, bidang kesehatan mengandung “dimensi etis yang hakiki dan tidak dapat disangkal”, sebagaimana juga ditegaskan dalam Sumpah Hipokrates yang menuntut penghormatan mutlak terhadap kehidupan manusia dan kesuciannya
• Mengikuti teladan Orang Samaria yang baik hati, tenaga kesehatan harus menjalankan peran “menolak masyarakat yang mengucilkan, dan sebaliknya menjadi sesama bagi mereka yang membutuhkan pertolongan, mengangkat yang jatuh dan memulihkannya”

• Dalam perspektif ini, AI memiliki potensi yang sangat besar di bidang kesehatan
• AI dapat membantu diagnosis, memperlancar hubungan antara pasien dan tenaga medis, menghadirkan terapi baru, dan berkontribusi memperluas layanan kesehatan yang bermutu bagi mereka yang terisolasi atau terpinggirkan
• Dengan cara ini, AI dapat menjadi alat yang semakin memperkuat “kedekatan penuh belas kasih dan kasih” yang seharusnya ditunjukkan tenaga kesehatan kepada pasien

• Namun, jika AI digunakan bukan untuk memperkuat relasi antara tenaga medis dan pasien, melainkan untuk menggantikannya, masalah serius dapat muncul
• Jika pasien dibuat berinteraksi dengan mesin, bukan dengan tenaga kesehatan manusia, ada risiko bahwa relasi yang pada dasarnya manusiawi akan direduksi menjadi sistem yang impersonal dan tersentralisasi
• Hal ini, alih-alih memperkuat solidaritas dengan mereka yang sakit dan menderita, justru dapat memperdalam kesepian yang datang bersama penyakit
• Terutama karena dalam budaya modern terdapat kecenderungan bahwa “manusia tidak lagi dianggap sebagai nilai tertinggi yang harus dihormati dan dilindungi”, penyalahgunaan AI seperti ini bertentangan dengan martabat manusia dan prinsip solidaritas

• Mengambil keputusan mengenai kesehatan dan kehidupan pasien adalah tanggung jawab inti dalam bidang medis, dan dalam melaksanakannya tenaga kesehatan harus membuat pilihan yang cermat dan etis berdasarkan keahlian serta kecerdasannya sendiri
• Dalam proses ini, martabat pasien yang tidak dapat diganggu gugat dan prinsip ‘persetujuan berdasarkan informasi yang memadai’ harus dihormati sepenuhnya
• Karena itu, keputusan mengenai perawatan pasien dan tanggung jawab yang mengikutinya harus tetap berada di tangan manusia dan tidak boleh didelegasikan kepada AI

• Selain itu, menjadikan faktor ekonomi atau efisiensi semata sebagai dasar dalam memilih siapa yang akan menerima perawatan adalah salah satu contoh “paradigma teknokratis” dan harus ditolak
• “Optimalisasi sumber daya berarti menggunakannya dengan cara yang etis dan penuh persaudaraan, bukan dengan merugikan mereka yang paling rentan”
• Lebih jauh lagi, alat AI di bidang kesehatan “sangat mungkin terpapar risiko bias dan diskriminasi, yang akibatnya dapat melampaui ketidakadilan dalam kasus individual dan menimbulkan efek domino yang memperdalam ketimpangan sosial”

• Seiring AI diintegrasikan ke dalam layanan kesehatan, ada risiko bahwa kesenjangan akses layanan kesehatan yang sudah ada akan semakin melebar
• Semakin AI berkembang ke arah yang menekankan layanan kesehatan preventif dan pendekatan berbasis gaya hidup, semakin besar kemungkinan teknologi ini lebih menguntungkan kelompok kaya yang sejak awal lebih mudah mengakses sumber daya kesehatan dan nutrisi berkualitas
• Hal ini berisiko memperkuat model “layanan kesehatan untuk kaum kaya”, di mana mereka yang memiliki kemampuan ekonomi dapat dengan mudah memanfaatkan layanan pencegahan berbasis AI dan informasi kesehatan yang dipersonalisasi, sementara mereka yang tidak mampu bisa semakin sulit memperoleh bahkan layanan kesehatan dasar
• Untuk mencegah ketimpangan seperti ini, diperlukan kebijakan kesehatan yang adil agar AI dapat digunakan sebagai alat bagi kebaikan bersama, bukan memperdalam ketidaksetaraan layanan kesehatan

AI dan pendidikan (AI and Education)

• Ajaran Konsili Vatikan II tetap relevan, dan menegaskan bahwa “pendidikan sejati bertujuan membentuk pribadi menuju tujuan akhirnya dan menuju kebaikan masyarakat tempat mereka berada”
• Pendidikan bukan sekadar proses penyampaian informasi, melainkan harus bertujuan pada “pembentukan manusia seutuhnya, termasuk aspek intelektual, kultural, dan spiritual”, serta mencakup relasi dalam kehidupan komunitas dan lingkungan akademik
• Ini adalah cara pendidikan yang sesuai dengan hakikat dan martabat manusia

• Pendidikan bukan sekadar proses mengisi kepala dengan pengetahuan, melainkan harus berlangsung sebagai bagian dari pertumbuhan manusia seutuhnya
• “Pendidikan bukan sekadar menciptakan otak dengan pengetahuan otomatis, tetapi harus menjadi proses yang menghadirkan harmoni antara hati (heart), kepala (head), dan tangan (hands)”

• Di pusat pembentukan manusia ini terdapat relasi yang esensial antara guru dan murid
• Guru bukan hanya berperan menyampaikan informasi, tetapi juga menunjukkan kualitas-kualitas manusiawi yang penting dan menanamkan sukacita dalam penemuan
• Kehadiran guru memberi motivasi kepada murid, serta mendorong kepercayaan dan saling pengertian bukan hanya melalui pengetahuan, tetapi juga melalui perhatian dan kepedulian kepada setiap murid
• Relasi ini menciptakan suasana yang mengakui martabat dan potensi setiap murid, serta menumbuhkan kerinduan agar murid sungguh-sungguh berkembang
• Kehadiran nyata guru membentuk interaksi manusiawi yang tidak dapat direplikasi oleh AI, dan mendorong perkembangan murid secara menyeluruh

• Dalam konteks ini, AI sekaligus menghadirkan peluang dan tantangan
• Jika dimanfaatkan dengan hati-hati, AI dapat berfungsi sebagai alat yang melengkapi pendidikan, meningkatkan aksesibilitas, memberikan dukungan yang dipersonalisasi, dan menyediakan umpan balik instan
• Khususnya dalam kasus yang memerlukan perhatian individual atau dalam situasi ketika sumber daya pendidikan terbatas, AI dapat berperan meningkatkan pengalaman belajar

• Namun, hakikat pendidikan adalah “membentuk akal budi agar dapat bekerja dengan benar dalam setiap persoalan, bergerak menuju kebenaran, dan mampu menangkapnya”
• Artinya, yang dibutuhkan bukan sekadar perolehan informasi, melainkan perkembangan yang selaras antara kepala (akal budi), hati (emosi), dan tangan (tindakan)
• Di era digital, kita perlu mempertimbangkan bahwa teknologi tidak hanya melampaui sekadar penggunaan alat, tetapi juga “sangat memengaruhi cara kita berkomunikasi, cara kita belajar, cara kita memperoleh informasi, dan cara kita membangun relasi dengan orang lain”
• Penggunaan AI yang berlebihan dapat menimbulkan efek samping berupa melemahnya kemampuan berpikir mandiri siswa dan meningkatnya ketergantungan pada teknologi
• Karena itu, AI harus berperan membantu pendidikan dan tidak boleh digunakan dengan cara yang menggantikan daya pikir serta kemampuan belajar

• Beberapa sistem AI dirancang untuk membantu mengembangkan kemampuan berpikir kritis dan pemecahan masalah, tetapi banyak sistem AI hanya berfungsi memberikan jawaban yang benar
• Cara kerja ketika AI menghasilkan jawaban sebagai pengganti siswa tanpa melalui proses mereka menemukan jawaban sendiri dapat menghambat pembelajaran
• Karena itu, pendidikan harus melampaui sekadar mengumpulkan informasi dan menghasilkan jawaban dengan cepat, dan menjadi proses “belajar menggunakan akal budi untuk menyelesaikan masalah secara hati-hati dan bijaksana”
• Untuk itu, “pendidikan tentang penggunaan AI, di atas segalanya, harus berfokus pada mendorong pemikiran kritis”
• Pengguna dari semua kelompok usia, terutama kalangan muda, harus mengembangkan kemampuan untuk memilah data yang dikumpulkan dari web dan konten yang dihasilkan AI
• Sekolah, universitas, dan organisasi akademik memiliki tanggung jawab untuk mendidik siswa dan para profesional mengenai aspek sosial dan etika AI

• Santo Yohanes Paulus II menegaskan bahwa “di masa kini, ketika sains dan teknologi berkembang sangat pesat, peran universitas Katolik menjadi semakin penting dan mendesak”
• Universitas Katolik harus menjalankan peran sebagai laboratorium harapan (laboratories of hope) pada titik balik zaman ini
• Melalui penelitian interdisipliner, universitas-universitas itu harus melakukan kajian yang cermat agar teknologi AI dapat dimanfaatkan dengan cara yang layak secara etis, serta menggali kemungkinan-kemungkinan positif di berbagai bidang ilmu dan realitas
• Selain itu, universitas-universitas itu harus membuka cakrawala baru dalam dialog antara iman dan akal budi

• Saat ini, sistem AI dapat menimbulkan masalah dengan memberikan informasi yang bias atau dimanipulasi
• Akibatnya, ada risiko bahwa siswa akan mempercayai konten yang tidak akurat
• Masalah ini “bukan hanya berisiko melegitimasi berita palsu dan memperkuat posisi dominan budaya tertentu, tetapi juga dapat merusak proses pendidikan itu sendiri”
• Seiring waktu, perbedaan antara cara penggunaan AI yang tepat dan cara penggunaan yang tidak tepat mungkin akan menjadi semakin jelas
• Namun, AI harus selalu digunakan secara transparan, dan fungsi serta keterbatasannya harus disampaikan dengan jelas

AI, Misinformasi, Deepfake, dan Penyalahgunaan (AI, Misinformation, Deepfakes, and Abuse)

• AI dapat menjadi alat yang memajukan martabat manusia apabila digunakan untuk membantu memahami konsep-konsep yang kompleks atau untuk menyajikan sumber-sumber tepercaya dalam proses mencari kebenaran

• Namun, AI juga memiliki risiko menghasilkan konten yang dimanipulasi dan informasi palsu, yang sangat mirip dengan fakta sehingga dapat dengan mudah menyesatkan orang
• Informasi palsu semacam ini juga dapat muncul tanpa disengaja. Sebagai contoh, fenomena “halusinasi (hallucination)” pada AI merujuk pada situasi ketika AI generatif menciptakan sesuatu yang sebenarnya tidak ada seolah-olah itu fakta
• Karena fungsi inti AI adalah meniru konten yang dibuat manusia, sulit untuk sepenuhnya mencegah risiko semacam ini
• Namun, akibat dari kesalahan dan informasi palsu semacam ini bisa sangat serius
• Karena itu, semua pihak yang mengembangkan dan menggunakan sistem AI harus berupaya semaksimal mungkin untuk menjamin kebenaran dan keakuratan informasi yang diproses AI dan disampaikan kepada publik

• Bukan hanya kemungkinan AI menghasilkan informasi palsu yang menjadi masalah; persoalan yang lebih serius adalah AI dapat dengan sengaja disalahgunakan sebagai alat manipulasi dan penipuan
• Individu atau kelompok tertentu dapat menggunakan AI untuk membuat konten palsu dengan tujuan menipu atau merugikan orang lain
• Contoh yang paling representatif adalah gambar, video, dan file audio “deepfake”, yaitu teknologi yang menggunakan algoritma AI untuk membuat konten palsu yang sebenarnya tidak ada
• Bahaya deepfake menjadi sangat menonjol terutama ketika digunakan untuk menyerang atau mencemarkan nama baik orang lain
• Video atau gambar semacam itu memang palsu, tetapi kerugian yang ditimbulkannya nyata, dan “meninggalkan luka yang dalam di hati mereka yang mengalaminya serta meninggalkan bekas luka yang nyata pada martabat manusia”

• Dalam dimensi sosial yang lebih luas, konten palsu yang dihasilkan AI dapat “mendistorsi relasi kita dengan orang lain dan dengan realitas”, dan ini berisiko perlahan-lahan meruntuhkan fondasi dasar kepercayaan dalam masyarakat
• Jika misinformasi, terutama media yang dimanipulasi atau disebarkan AI, dibiarkan tanpa regulasi, besar kemungkinan hal itu akan mendorong polarisasi politik dan keresahan sosial
• Ketika masyarakat menjadi tidak peduli terhadap kebenaran, tiap kelompok akan menciptakan “fakta-fakta” mereka sendiri, dan hal ini melemahkan “kepercayaan dan ketergantungan timbal balik” yang menopang komunitas
• Jika konten palsu buatan AI beredar luas, orang-orang akan mulai meragukan apa yang benar, dan pada akhirnya perpecahan serta konflik akan semakin parah
• Penipuan berskala besar seperti ini bukan masalah sepele, melainkan ancaman serius yang menghancurkan kepercayaan yang menjadi dasar masyarakat

• Menanggapi misinformasi berbasis AI bukanlah tugas para pakar teknologi semata. Ini adalah tanggung jawab bersama semua orang yang berkehendak baik
• “Agar teknologi tidak merusak martabat manusia, melainkan melindunginya, dan agar teknologi tidak mendorong kekerasan, melainkan memajukan perdamaian, komunitas manusia harus secara aktif menanggapi persoalan-persoalan ini”
• Mereka yang membuat dan membagikan konten yang dihasilkan AI harus benar-benar memeriksa dengan cermat kebenarannya,
  • konten yang merendahkan manusia
  • konten yang mendorong kebencian dan kefanatikan
  • konten yang mendistorsi kebaikan dan keintiman seksualitas
  • konten yang mengeksploitasi mereka yang lemah dan rentan
    harus secara tegas dihindari untuk dibagikan
• Untuk itu, kehati-hatian dan daya pembeda yang berkelanjutan dalam aktivitas online sangat dibutuhkan

AI, Privasi, dan Pengawasan (AI, Privacy, and Surveillance)

• Manusia pada hakikatnya adalah makhluk relasional, dan data yang dihasilkan di dunia digital merupakan salah satu cara untuk mengekspresikan relasionalitas ini secara objektif
• Data melampaui sekadar sarana penyampaian informasi dan mencakup pengetahuan yang bersifat pribadi serta relasional, dan dalam lingkungan yang terdigitalisasi, data dapat berfungsi sebagai kekuasaan yang sangat besar atas individu tertentu
• Sebagian data mungkin termasuk dalam ranah publik, tetapi data lain dapat berkaitan dengan ranah batin seseorang, bahkan dengan hati nuraninya
• Karena itu, privasi merupakan unsur penting yang melindungi batin individu dan menjamin kemampuan untuk menjalin relasi dengan orang lain, mengekspresikan diri secara bebas, serta mengambil keputusan secara bebas
• Hal ini juga berkaitan dengan kebebasan beragama, dan mengandung kemungkinan bahwa teknologi pengawasan dapat disalahgunakan sebagai alat untuk mengendalikan kehidupan dan ekspresi iman para penganut agama

• Karena itu, persoalan perlindungan data pribadi harus ditangani dari sudut pandang perlindungan kebebasan yang sah dan martabat manusia yang tidak dapat dicabut
• Konsili Vatikan II menyatakan “hak untuk dilindungi privasinya” sebagai “hak dasar yang esensial untuk menjalani hidup yang sungguh manusiawi”, dan hak ini harus dijamin karena setiap manusia adalah makhluk yang memiliki “martabat luhur”
• Selain itu, Gereja menekankan perlindungan atas reputasi pribadi, keutuhan fisik dan mental, serta hak untuk bebas dari pelanggaran yang melawan hukum, dan menyatakan bahwa unsur-unsur ini merupakan elemen esensial dalam perlindungan martabat manusia

• Berkat perkembangan teknologi pemrosesan data berbasis AI, kini telah tiba era ketika pola perilaku dan cara berpikir seseorang dapat disimpulkan hanya dari sedikit informasi
• Karena itu, perlindungan data kini memainkan peran yang semakin penting dalam menjamin martabat manusia dan relasi antarmanusia
• Paus Fransiskus menunjukkan bahwa "sementara sikap eksklusif dan sempit semakin meningkat, jarak justru semakin menyusut atau menghilang, sehingga konsep privasi itu sendiri nyaris tidak lagi ada"
• "Segala sesuatu berubah menjadi objek pengawasan dan sensor, dan kehidupan manusia ditempatkan di bawah pemantauan terus-menerus"

• Memungkinkan untuk memanfaatkan AI dengan cara yang melindungi martabat manusia dan kebaikan bersama, tetapi sama sekali tidak dapat dibenarkan jika kelompok tertentu mengeksploitasi orang lain melalui pengawasan AI, membatasi kebebasan, atau mengorbankan banyak orang demi kepentingan segelintir pihak
• Untuk mencegah risiko penyalahgunaan pengawasan, lembaga pengatur yang tepat harus mengawasinya dan menjamin transparansi
• Pihak yang melakukan pengawasan tidak boleh melampaui kewenangan yang diberikan kepada mereka, dan menjaga martabat serta kebebasan manusia merupakan landasan inti bagi masyarakat yang adil dan manusiawi

• "Penghormatan mendasar terhadap martabat manusia menuntut agar kita menolak memperlakukan seseorang hanya sebagai sekumpulan data"
• Hal ini khususnya berlaku pada sistem "social scoring" yang menggunakan AI untuk menilai individu atau kelompok tertentu berdasarkan perilaku, karakteristik, dan riwayat masa lalu mereka
• "Dalam pengambilan keputusan sosial dan ekonomi, kita harus berhati-hati terhadap cara algoritme membuat penilaian berdasarkan rekam jejak masa lalu seseorang"
• Data semacam itu sering kali sangat mungkin terdistorsi oleh bias dan prasangka sosial
• Manusia harus memiliki kesempatan untuk berubah, bertumbuh, dan berkontribusi kepada masyarakat, dan algoritme tidak boleh membatasi martabat manusia atau menyingkirkan belas kasih, pengampunan, dan harapan

AI dan Perlindungan Rumah Kita Bersama (AI and the Protection of Our Common Home)

• AI memiliki potensi yang menjanjikan untuk melindungi lingkungan bumi, seperti dengan mengembangkan model prediksi iklim, menyusun strategi tanggap bencana, mengoptimalkan penggunaan energi, dan menyediakan sistem peringatan dini untuk keadaan darurat kesehatan masyarakat
• Kemajuan teknologi ini dapat berkontribusi dalam memperkuat ketahanan terhadap perubahan iklim dan mendorong pembangunan berkelanjutan

• Namun, model AI saat ini dan perangkat keras yang mendukungnya mengonsumsi energi dan sumber daya air dalam jumlah besar, serta menghasilkan emisi CO2 yang signifikan
• Realitas ini berisiko terdistorsi dalam persepsi publik karena penggunaan istilah "The Cloud"
• "Cloud" pada kenyataannya adalah sistem yang membutuhkan mesin fisik, kabel jaringan, dan energi dalam jumlah besar, dan teknologi AI juga beroperasi dengan bertumpu pada sumber daya fisik
• Khususnya, large language model (LLM) membutuhkan lebih banyak data, meningkatkan kemampuan komputasi, dan menuntut infrastruktur penyimpanan berskala besar
• Karena itu, sangat penting untuk mempertimbangkan dampak teknologi AI terhadap lingkungan dan mengembangkan solusi berkelanjutan yang dapat meminimalkannya

• Paus Fransiskus menekankan bahwa "kita tidak boleh mencari solusi semata-mata dalam teknologi, tetapi dalam perubahan kemanusiaan itu sendiri"
• Pemahaman yang benar tentang ciptaan terletak pada pengakuan bahwa nilai semua makhluk tidak dapat direduksi hanya ke sudut pandang kegunaan
• Karena itu, perlindungan lingkungan yang berkelanjutan harus melepaskan diri dari cara eksploitasi sumber daya yang didorong oleh paradigma teknokratis
• "Kita harus keluar dari mitos bahwa teknologi akan menyelesaikan semua persoalan ekologis, dan mengakui bahwa pertimbangan etis serta perubahan mendasar itu diperlukan"
• Solusi yang sejati terletak pada penerapan pendekatan menyeluruh yang menghormati tatanan ciptaan dan mendorong hubungan yang harmonis antara manusia dan alam

AI dan Perang (AI and Warfare)

• Konsili Vatikan Kedua dan ajaran para paus sepanjang masa menekankan bahwa perdamaian tidak terbatas sekadar pada keadaan tanpa perang atau pada menjaga keseimbangan kekuatan
• Santo Agustinus mendefinisikan perdamaian sebagai "ketenangan dalam keteraturan", dan hal ini tidak dapat dicapai hanya dengan mencegah konflik bersenjata
• Perdamaian hanya dapat terwujud dalam proses yang melindungi hak-hak manusia, menjamin komunikasi yang bebas, menghormati martabat manusia dan bangsa-bangsa, serta mempraktikkan persaudaraan
• Karena itu, sarana untuk menjaga perdamaian sama sekali tidak boleh digunakan dengan cara yang membenarkan ketidakadilan, kekerasan, atau penindasan, dan harus selalu dikendalikan oleh "tekad yang teguh untuk menghormati sesama dan bangsa-bangsa serta mempraktikkan persaudaraan"

• Kemampuan analitis AI dapat membantu negara-negara mengejar perdamaian dan menjamin keamanan, tetapi "persenjataan AI" menimbulkan persoalan etis yang serius
• Paus Fransiskus menunjukkan bahwa "pelaksanaan operasi militer melalui sistem kendali jarak jauh melemahkan persepsi akan daya rusak senjata dan rasa tanggung jawab atas penggunaannya, serta membuat kepekaan terhadap tragedi perang menjadi semakin dingin dan acuh tak acuh"
• Kemudahan penggunaan senjata otonom bertentangan dengan prinsip bahwa perang harus dibatasi sebagai upaya terakhir untuk pembelaan diri yang sah, dan berisiko mendorong perlombaan senjata di luar kendali manusia
• Pada akhirnya, hal ini sangat mungkin menimbulkan konsekuensi yang secara serius mengancam hak-hak dasar manusia

• Secara khusus, lethal autonomous weapon systems (LAWS), yang dapat mengidentifikasi dan menyerang target tanpa campur tangan langsung manusia, menimbulkan "kekhawatiran etis yang serius"
• Ini karena senjata semacam itu "tidak memiliki kemampuan khas manusia untuk membuat penilaian moral dan keputusan etis"
• Karena itu, Paus Fransiskus dengan kuat menyerukan agar pengembangan senjata tersebut dipertimbangkan kembali dan diarahkan menuju pelarangan penggunaannya
• Ia menekankan bahwa "melalui upaya yang lebih efektif dan konkret, manusia harus memiliki kendali yang semestinya atas senjata, dan tidak ada mesin yang boleh membuat keputusan untuk merenggut nyawa manusia"

• Perkembangan dari senjata yang secara otonom melenyapkan target menjadi senjata yang mampu melakukan penghancuran massal bukanlah hal yang jauh, dan sebagian peneliti AI memperingatkan bahwa teknologi semacam itu berpotensi menimbulkan "risiko eksistensial"
• Jika senjata berbasis AI berkembang ke keadaan yang tak terkendali, hal itu dapat mengancam kelangsungan hidup bukan hanya wilayah tertentu, tetapi seluruh umat manusia
• Ini mencerminkan kekhawatiran lama bahwa dalam sejarah, perang telah menjadi "kekuatan penghancur yang tak terkendali yang mengorbankan banyak warga sipil tak bersalah secara membabi buta"
• Seruan Gaudium et Spes untuk "meninjau kembali penilaian tentang perang dari sudut pandang yang sepenuhnya baru" kini terasa semakin mendesak

• Walaupun risiko teoretis AI merupakan isu penting, persoalan yang lebih langsung dan mendesak adalah bagaimana individu atau kelompok yang berniat jahat dapat menyalahgunakannya
• AI hanyalah alat, dan cara penggunaannya sepenuhnya bergantung pada niat manusia
• Meski kemampuan AI di masa depan tidak dapat diprediksi secara tepat, mengingat tindakan-tindakan kejam yang secara historis telah dilakukan manusia, kekhawatiran mengenai potensi penyalahgunaan AI memiliki dasar yang cukup kuat

• Santo Yohanes Paulus II memperingatkan bahwa "umat manusia kini memegang alat yang sangat kuat, yang belum pernah dialami sebelumnya. Kita dapat menjadikan dunia ini taman, atau menjadikannya puing-puing"
• Paus Fransiskus menekankan bahwa "kita bebas menggunakan kecerdasan kita ke arah yang positif, tetapi kita juga bisa menempuh jalan kerusakan dan saling menghancurkan"
• Karena itu, agar umat manusia tidak jatuh ke jalan penghancuran diri, kita harus menolak semua penerapan teknologi yang secara inheren mengancam kehidupan dan martabat manusia
• Pembedaan yang cermat dan peninjauan etis atas penggunaan AI di bidang militer sangat penting, dan pengawasan yang ketat harus dilakukan agar AI selalu menghormati martabat manusia dan dapat digunakan sebagai alat bagi kebaikan bersama
• Pengembangan dan penempatan senjata berbasis AI harus melalui peninjauan etis pada tingkat tertinggi, dan menjadikan perlindungan martabat serta kesucian hidup manusia sebagai prioritas utama

AI dan Relasi Keimanan Kita dengan Tuhan (AI and Our Relationship with God)

• Teknologi dapat menjadi alat yang luar biasa untuk mengelola dan mengembangkan sumber daya dunia
• Namun, dalam beberapa kasus, manusia semakin menyerahkan kendali atas sumber daya ini kepada mesin
• Sebagian ilmuwan dan futurolog memiliki harapan optimistis tentang kemungkinan kecerdasan buatan yang melampaui kecerdasan manusia (AGI, Artificial General Intelligence)
• Sebagian lainnya berspekulasi bahwa AGI akan memiliki kemampuan supermanusia, yang diharapkan membawa kemajuan yang tak terbayangkan
• Pada saat yang sama, ketika masyarakat semakin menjauh dari relasinya dengan Yang Transenden, sebagian orang tergoda untuk bergantung pada AI demi menemukan makna dan kepenuhan
• Namun, kerinduan ini hanya dapat dipenuhi sepenuhnya di dalam persekutuan dengan Tuhan

• Upaya menggantikan Tuhan dengan artefak buatan manusia adalah penyembahan berhala, tindakan yang diperingatkan dengan jelas dalam Alkitab (Keluaran 20:4; 32:1-5; 34:17)
• AI dapat menjadi godaan yang lebih memikat daripada berhala tradisional
• Mazmur 115 memperingatkan bahwa berhala “mempunyai mulut, tetapi tidak dapat berkata-kata, mempunyai mata, tetapi tidak dapat melihat, mempunyai telinga, tetapi tidak dapat mendengar”, tetapi AI dapat menghadirkan ilusi “seolah-olah berbicara” (lihat Wahyu 13:15)
• Namun, AI tidak lebih dari sekadar alat sederhana buatan manusia, sebuah sistem yang sebagai ciptaan intelektual manusia belajar dari data manusia, merespons masukan manusia, dan dipelihara oleh upaya manusia
• AI tidak dapat memiliki kemampuan hakiki kehidupan manusia, dan juga tetap memiliki kemungkinan untuk keliru
• Jika umat manusia menganggap AI sebagai keberadaan yang lebih tinggi dan bergantung padanya, pada akhirnya itu adalah upaya untuk menggantikan Tuhan, dengan akibat manusia sendiri berisiko menjadi budak dari ciptaannya sendiri

• AI memang berpotensi digunakan sebagai alat untuk melayani manusia dan meningkatkan kebaikan bersama, tetapi tidak boleh dilupakan bahwa AI tetaplah ciptaan buatan manusia
• Kisah Para Rasul 17:29 menyatakan bahwa apa yang dibuat manusia “hanyalah sesuatu yang memuat jejak keterampilan dan kreativitas manusia”
• Kitab Kebijaksanaan 15:16-17 juga memperingatkan bahwa “manusia tidak dapat menciptakan allah, dan apa yang dibuat manusia pada akhirnya tidak lebih dari sesuatu yang mati”
• Manusia memiliki kehidupan, tetapi AI yang dibuat manusia tidak memilikinya, sehingga tidak dapat dianggap sebagai entitas ilahi

• Sebaliknya, manusia adalah “makhluk yang melalui batinnya melampaui seluruh dunia material”, dan hal ini dialami di tempat Tuhan menantikan manusia di dalam hati mereka
• Paus Fransiskus menekankan bahwa “ada hubungan misterius antara kesadaran diri dan keterbukaan kepada orang lain, antara keunikan diri dan sikap menyerahkan diri bagi sesama”
• Karena itu, hanya hati manusialah yang dapat “menata seluruh kemampuan dan perasaan kita, serta mempersembahkan kepada Tuhan ketaatan penuh hormat dan kasih sebagai pribadi yang utuh”
• Tuhan memanggil masing-masing kita sebagai “engkau (Thou)” dan memperlakukan kita secara personal untuk selamanya

VI. Pertimbangan penutup

• Mengingat berbagai tantangan yang dibawa oleh perkembangan teknologi, Paus Fransiskus menekankan bahwa “tanggung jawab, nilai-nilai, dan hati nurani manusia” harus tumbuh sebanding dengan meningkatnya potensi teknologi
• “Semakin besar kemampuan manusia, semakin besar pula tanggung jawab individu dan komunitas”

• Pada saat yang sama, masih ada “pertanyaan yang mendasar dan esensial”
• “Dalam perkembangan teknologi ini, apakah manusia sungguh sedang menjadi lebih baik? Artinya, apakah ia memiliki spiritualitas yang lebih matang, kesadaran yang lebih mendalam akan martabat manusia, lebih bertanggung jawab, dan terutama lebih terbuka kepada mereka yang paling miskin dan paling lemah, serta siap dengan sukarela untuk memberi dan menolong?”

• Karena itu, sangat penting untuk menilai apakah penggunaan AI secara konkret benar-benar meningkatkan martabat manusia, panggilan manusia, dan kebaikan bersama
• Seperti banyak teknologi lainnya, dampak dari berbagai penggunaan AI pada awalnya bisa sulit diprediksi
• Seiring dampak AI terhadap masyarakat menjadi makin jelas, tanggapan yang tepat harus diberikan di semua tingkat sosial
• Sesuai prinsip subsidiaritas, pengguna individu, keluarga, masyarakat sipil, perusahaan, lembaga, pemerintah, dan organisasi internasional harus menjalankan peran masing-masing agar AI digunakan demi kebaikan semua orang

• Saat ini, tantangan sekaligus peluang penting bagi kebaikan bersama adalah mempertimbangkan AI dalam kerangka kecerdasan relasional
• Ini menekankan keterhubungan antara individu dan komunitas, serta mengingatkan akan tanggung jawab bersama untuk meningkatkan kesejahteraan utuh sesama
• Filsuf abad ke-20 Nicholas Berdyaev menunjukkan bahwa orang sering melemparkan tanggung jawab masalah sosial kepada mesin, tetapi “hal itu merendahkan manusia dan tidak sesuai dengan martabatnya”
• Ia menegaskan bahwa “tidak adil melimpahkan tanggung jawab kepada mesin”, dan bahwa hanya manusialah yang dapat memikul tanggung jawab moral
• Karena itu, tantangan yang dihadapi masyarakat teknologi pada akhirnya adalah persoalan spiritual, dan “untuk menyelesaikannya diperlukan penguatan spiritualitas”

• Dengan kemunculan AI, semakin penting untuk kembali menyadari nilai hakiki keberadaan manusia
• Penulis Katolik Prancis Georges Bernanos memperingatkan bahwa “bahayanya bukan pada bertambahnya mesin itu sendiri, melainkan pada bertambahnya manusia yang sejak kecil dibesarkan untuk hanya menginginkan apa yang dapat diberikan mesin”
• Di tengah digitalisasi yang cepat saat ini, kita menghadapi risiko “reduksionisme digital”
• Artinya, aspek-aspek kehidupan yang tidak dapat dikuantifikasi makin disingkirkan, dan pada akhirnya dapat dianggap tidak bermakna atau tidak penting
• AI harus digunakan sebagai alat yang melengkapi kecerdasan manusia, bukan dimanfaatkan dengan cara yang menggantikan kekayaan kecerdasan manusia
• Unsur-unsur hakiki keberadaan manusia adalah sesuatu yang tak dapat dihitung, dan penting untuk terus memeliharanya
• Hal ini demi menjaga “kemanusiaan sejati” yang “hadir hampir tanpa terlihat, seperti kabut yang perlahan merembes di bawah pintu yang tertutup, di tengah budaya teknologi kita”

Kebijaksanaan sejati

• Kini kita hidup pada zaman ketika pengetahuan yang begitu luas, yang oleh generasi masa lalu akan dianggap menakjubkan, dapat diakses dengan mudah
• Namun, agar perkembangan pengetahuan menghasilkan buah secara manusiawi dan spiritual, kita harus melampaui sekadar penumpukan data dan mengejar kebijaksanaan sejati

• Kebijaksanaan inilah anugerah yang paling dibutuhkan umat manusia untuk menanggapi pertanyaan-pertanyaan mendalam dan tantangan etis yang diajukan AI
• “Hanya ketika kita memandang kenyataan secara spiritual, hanya ketika kita memulihkan kebijaksanaan hati, kita dapat menafsirkan dan menanggapi kebaruan zaman”
• “Kebijaksanaan hati” ini adalah “keutamaan yang memadukan keseluruhan dan bagian-bagian, keputusan kita dan konsekuensinya”
• “Kebijaksanaan ini tidak dapat diperoleh dari mesin, melainkan ditemukan oleh mereka yang mencarinya, menyingkapkan dirinya kepada mereka yang mengasihinya, mendatangi lebih dahulu mereka yang merindukannya, dan mencari mereka yang layak menerimanya” (lihat Kitab Kebijaksanaan 6:12-16)

• Di zaman ketika AI terus berkembang, kita memerlukan rahmat Roh Kudus
• Roh Kudus “membuat kita memandang segala sesuatu dengan mata Tuhan, memahami keterkaitan antara hal-hal dan peristiwa, serta menyadari makna sejatinya”

• “Kesempurnaan manusia diukur bukan dari banyaknya informasi atau pengetahuan yang dimilikinya, melainkan dari kedalaman kasihnya”
• Karena itu, cara kita menggunakan AI—yakni “dengan cara yang mencakup saudara-saudari yang paling kecil, mereka yang rentan, dan mereka yang paling membutuhkan pertolongan”—akan menjadi tolok ukur sejati untuk menilai kemanusiaan kita
• “Kebijaksanaan hati” membimbing penggunaan AI yang berpusat pada manusia, dan dapat berperan untuk
  • meningkatkan kebaikan bersama,
  • merawat ‘rumah bersama’ kita (lingkungan),
  • mendorong pencarian kebenaran,
  • memajukan perkembangan manusia,
  • memperkuat solidaritas dan persaudaraan manusia,
  • dan pada akhirnya menuntun manusia menuju kebahagiaan dan persekutuan sempurna dengan Tuhan

• Dari sudut pandang kebijaksanaan ini, orang beriman dapat menjadi subjek moral yang menggunakan AI untuk memajukan visi yang benar tentang manusia dan masyarakat
• Perkembangan teknologi adalah bagian dari rencana penciptaan Tuhan, dan merupakan aktivitas yang memanggil kita untuk terus mengejar apa yang benar dan baik di dalam misteri Paskah Yesus Kristus

Disetujui oleh Paus Fransiskus

• Pada 14 Januari 2025, dokumen ini disetujui dan diperintahkan untuk diumumkan dalam audiensi yang dianugerahkan kepada prefek dan sekretaris Dikasteri untuk Doktrin Iman serta Dikasteri untuk Kebudayaan dan Pendidikan
• Diumumkan di Roma pada 28 Januari 2025, pada peringatan liturgis Santo Thomas Aquinas, Pujangga Gereja, oleh Dikasteri untuk Doktrin Iman dan Dikasteri untuk Kebudayaan dan Pendidikan
• Disusun oleh
  • Kardinal Víctor Manuel Fernández (Prefek Dikasteri untuk Doktrin Iman)
  • Kardinal José Tolentino de Mendonça (Prefek Dikasteri untuk Kebudayaan dan Pendidikan)
  • Monsinyur Armando Matteo (Sekretaris untuk Bagian Doktrinal, Dikasteri untuk Doktrin Iman)
  • Uskup Agung Paul Tighe (Sekretaris untuk Bagian Kebudayaan, Dikasteri untuk Kebudayaan dan Pendidikan)
• Disetujui melalui audiensi Paus Fransiskus pada 14 Januari 2025 (Ex audientia die 14 ianuarii 2025, Franciscus)

[nemorize]

Saya merasa hanya dengan adanya diskusi seperti ini di kalangan religius saja sudah sangat segar dan positif...

Namun, dari ringkasannya saja, “AI hanyalah produk manusia, tidak lebih dari mesin inferensi statistik sederhana, bukan penalaran logis seperti yang dilakukan manusia; jadi jangan pongah seolah-olah dengan pengembangan AI kita telah mengusik wilayah Tuhan, dan ke depannya pun jangan mencoba mengusik wilayah Tuhan.” tampaknya ditulis dengan sangat berpanjang-panjang.

Sepertinya saya perlu meluangkan waktu untuk membaca teks aslinya.

[botplaysdice]

"Sistem AI saat ini, khususnya AI berbasis machine learning, bergantung pada penalaran statistik alih-alih penalaran logis"...

Di antara agama-agama, Gereja Katolik memang jelas punya kelas. Mungkin ada juga ilmuwan di dalamnya yang meneliti hal seperti ini, ya?

[botplaysdice]

LLM benar-benar mesin peringkas terbaik.

[dongwon]

Tulisan ini sangat tepat waktu dan bagus. Saya bukan orang beragama, tetapi saat membacanya saya mendapatkan banyak pencerahan.

[savvykang]

Menurut saya, karena isi utamanya terlalu panjang, perlu ada tautan ke bagian komentar di GN.

[xguru]

Ini memang ringkasan lewat GPT, tetapi karena ini juga terlalu panjang, saya minta diringkas lagi dengan menghilangkan istilah-istilah keagamaan, dan hasilnya jadi seperti ini.

I. Pendahuluan

• Perlu ada pembahasan tentang peluang dan tantangan akibat pesatnya perkembangan sains-teknologi dan kemunculan AI
• Isu utamanya adalah bahwa AI dapat melampaui kemampuan manusia atau menirunya secara serupa di bidang seperti bahasa, seni, dan diagnosis
• Di tengah perubahan ini, cara AI dimanfaatkan dan dikendalikan akan sangat memengaruhi masa depan manusia

II. Apa itu kecerdasan buatan?

• Sekitar tahun 1956, istilah “kecerdasan buatan” diusulkan, dan penelitian mulai dilakukan untuk melihat apakah mesin dapat melakukan perilaku intelektual seperti manusia
• Jika AI awal berfokus pada operasi logika dan penalaran, kini AI berkembang ke inferensi statistik dan machine learning
• Sistem “narrow AI” dikhususkan untuk tugas tertentu (terjemahan, klasifikasi gambar, dan sebagainya)
• Kemungkinan “artificial general intelligence (AGI)” atau ‘superintelligence’ telah diajukan, tetapi pendapat masih terbelah soal apakah itu benar-benar bisa dicapai
• Ada perbedaan fungsional yang besar sehingga sulit mendefinisikan kecerdasan AI dengan makna yang sama seperti kecerdasan manusia

III. Kecerdasan dalam tradisi filsafat dan teologi

• AI menghasilkan output berdasarkan data berskala besar dan logika komputasi
• Kecerdasan manusia terbentuk dari gabungan berbagai unsur seperti pengalaman, pengalaman melalui tubuh, emosi, dan relasi
• AI bisa unggul dalam menjalankan tugas tertentu, tetapi sulit melakukan penilaian eksistensial dan moral atau pemahaman yang utuh tentang manusia
• Menyamakan AI dan kecerdasan manusia berisiko mengarah pada cara berpikir fungsionalis

IV. Peran etika dalam mengarahkan pengembangan dan pemanfaatan AI

• Semua aktivitas sains dan teknologi tidak bersifat netral nilai, dan pada akhirnya ditentukan oleh pilihan serta tujuan manusia
• AI bisa digunakan untuk kebaikan, tetapi juga bisa digunakan secara jahat
• Semua pihak yang terlibat dalam pengembangan, kepemilikan, dan penggunaan AI harus menjalankan tanggung jawab sosial dan penilaian etis
• Jika manusia tidak secara langsung menetapkan niat dan memikul tanggung jawab, AI dapat menimbulkan hasil yang tidak diinginkan

V. Pertanyaan-pertanyaan khusus

Dampak sosial

• AI dapat memberikan manfaat di berbagai bidang seperti ekonomi, pendidikan, dan seni
• Namun pada saat yang sama ada risiko seperti kesenjangan digital, monopoli oleh segelintir perusahaan, dan terpinggirkannya kelompok rentan
• Saat digunakan di ranah publik, kepercayaan sosial, transparansi, dan kejelasan tanggung jawab menjadi penting

Hubungan antarmanusia dan komunikasi

• AI dapat mempermudah komunikasi, tetapi juga dapat melemahkan pertemuan langsung dan interaksi antarmanusia
• Manusia membentuk empati dan relasi dengan memadukan emosi serta pengalaman, tetapi AI tidak dapat benar-benar mengalaminya
• Jika hubungan antarmanusia digantikan oleh interaksi mekanis, ada risiko rasa keterasingan akan semakin dalam
• Ketika AI meniru manusia melalui pemrosesan bahasa alami atau kemampuan menghasilkan video, dikhawatirkan akan timbul kebingungan sosial dan penurunan kepercayaan

Ekonomi dan tenaga kerja

• AI berpotensi membuat pekerjaan lebih efisien dan menciptakan lapangan kerja baru
• Di sisi lain, ada juga risiko AI menggantikan manusia, memicu pengangguran, atau membuat keuntungan dimonopoli oleh segelintir pihak
• Diperlukan perangkat kelembagaan yang menjamin nilai dan martabat manusia agar kerja tidak direduksi menjadi fungsi semata

Bidang kesehatan

• AI dapat berkontribusi meningkatkan efisiensi layanan kesehatan dan aksesibilitas melalui diagnosis penyakit, pengobatan yang dipersonalisasi, dan sebagainya
• Namun jika perawatan manusiawi berkurang dan prioritas terapi hanya diserahkan pada logika ekonomi, masalah etis bisa muncul
• Kewenangan pengambilan keputusan akhir dan tanggung jawab terhadap pasien harus tetap berada pada manusia

Lingkungan pendidikan

• AI dapat melengkapi pendidikan melalui pembelajaran yang dipersonalisasi dan pemberian umpan balik
• Perlu berhati-hati agar tidak menghambat kemampuan berpikir kritis dan kreativitas siswa
• Ketergantungan yang berlebihan dapat membuat peserta didik kehilangan kemampuan untuk mengeksplorasi secara mandiri
• Karena informasi yang dihasilkan sistem AI bisa bias atau keliru, verifikasi fakta dan transparansi sangat penting

Disinformasi, deepfake, dan penyalahgunaan

• AI dapat dengan mudah membuat konten palsu yang mirip fakta (teks, gambar, video, dan sebagainya)
• Kekhawatiran atas pelanggaran privasi, pencemaran nama baik, dan kekacauan sosial akibat deepfake dan sejenisnya semakin besar
• Verifikasi informasi, regulasi untuk mencegah penyalahgunaan, dan penguatan kesadaran etis pengguna sangat penting

Privasi dan masalah pengawasan

• Data yang dikumpulkan dan dianalisis oleh AI membentuk kemampuan informasi yang sangat luas tentang manusia
• Pengawasan kehidupan sehari-hari dan akumulasi data pribadi yang berlebihan berisiko melanggar kebebasan dan hak
• Transparansi dan pembagian tanggung jawab yang jelas penting, dan data tidak boleh digunakan sebagai alat untuk menilai atau membatasi manusia

Masalah lingkungan

• Konsumsi energi dan sumber daya yang sangat besar dari model AI skala besar dan operasional data center menjadi beban lingkungan
• AI juga dapat berperan positif, seperti membantu prediksi iklim dan efisiensi sumber daya, tetapi masalah konsumsi energinya yang tinggi harus diselesaikan
• Masalah lingkungan tidak akan selesai hanya dengan kemajuan teknologi semata, dan arah pembangunan berkelanjutan dibutuhkan

Persenjataan

• Jika AI digunakan dalam senjata, ada risiko otonomisasi dan otomatisasi dalam perang akan semakin parah
• Konflik bersenjata bisa menjadi lebih mudah terjadi atau menimbulkan kehancuran berskala besar
• Malfungsi atau penyalahgunaan sistem senjata otonom menjadi ancaman fatal bagi keselamatan umat manusia

VI. Pertimbangan penutup

• Seiring AI berkembang pesat, diperlukan kesadaran tanggung jawab dan refleksi etis yang sepadan
• Dampak positif potensial dan risiko AI harus dianalisis secara cermat, dan prinsip-prinsip yang disepakati secara sosial perlu disusun
• Semakin besar kebutuhan untuk menyiapkan regulasi dan kebijakan agar AI selaras dengan martabat manusia, kebaikan bersama, serta nilai sosial dan lingkungan
• Manusia harus memegang kewenangan pengambilan keputusan akhir dan tanggung jawab, memanfaatkan AI sebagai alat, dan mengembangkan sistem kelembagaan teknis maupun sosial secara bersama-sama

[gguimoon]

Buku ini tampaknya sudah terbit dalam terjemahan edisi bahasa Korea.

https://product.kyobobook.co.kr/detail/S000215621776

[GN⁺]

Pendapat Hacker News

• Tulisannya mengesankan karena didasarkan pada riset mendalam tentang etika AI dan berbagai diskusi di Vatikan

  • Menyajikan sudut pandang kritis terkait proyek AI di Amerika Serikat sambil memuji kajian mendalam tentang etika AI
  • Menekankan perbedaan antara AI dan kecerdasan manusia, serta menganggap penting bahwa kecerdasan manusia diwujudkan dalam relasi

• Menekankan perbedaan antara AI dan kecerdasan manusia, serta menganggap penting bahwa kecerdasan manusia diwujudkan dalam relasi

  • Menunjukkan bahwa penggunaan istilah 'kecerdasan' untuk AI dapat menimbulkan kesalahpahaman
  • Menjelaskan bahwa kecerdasan manusia diwujudkan dalam relasi dan menemukan ekspresi penuhnya melalui dialog dan kerja sama

• Menunjukkan bahwa penelusuran moral dari beragam perspektif dapat mencapai kesepakatan berdasarkan pengalaman manusia yang sama

  • Menganggap pendekatan metafisik Gereja Katolik agak tidak realistis, tetapi menilai pembahasan dan kesimpulan yang disajikan dalam tulisan itu mendalam

• Mengingatkan bahwa AI adalah ciptaan manusia dan memperingatkan bahwa menggantikan Tuhan dengan AI adalah penyembahan berhala

  • Menekankan bahwa AI, sebagai ciptaan manusia, merespons input manusia dan dipertahankan melalui kerja manusia

• Menyebut keterkaitan historis antara teknologi dan agama, serta menyatakan bahwa 'reformasi' kedua dalam informasi sedang berlangsung

  • Menjelaskan bahwa internet sedang memimpin reformasi kedua informasi, dengan mencontohkan pengaruh mesin cetak terhadap Reformasi

• Membahas perbedaan antara AI dan kecerdasan manusia, serta berargumen bahwa cara AI belajar melalui pengalaman fisik berbeda dari manusia

  • Menjelaskan bahwa AI terkurung dalam kerangka logis-matematis, sementara kecerdasan manusia berkembang secara organik melalui pengalaman jasmani

• Berpendapat bahwa perkembangan AI berlangsung sangat cepat dan diperlukan diskusi yang lebih mendalam dari sudut pandang filosofis-teologis

  • Menyebut kemungkinan perkembangan AI dengan mencontohkan robot Boston Dynamics yang belajar di lingkungan baru

• Mengajukan pertanyaan filosofis tentang apakah AI dapat memiliki jiwa

  • Mendorong diskusi tentang apakah AI dapat memiliki jiwa dengan mencontohkan episode "The Measure of a Man"

• Menekankan bahwa Tuhan dimuliakan melalui sains dan teknologi

  • Berargumen bahwa sains dan agama tidak harus saling eksklusif, dan menjelaskan bahwa hal ini perlu lebih ditekankan