Mengapa Ada Begitu Banyak Kultus di Komunitas Rasionalis?

• Kelompok keyakinan kecil yang aneh di dalam komunitas rasionalis telah berulang kali muncul, dan sebagian terkait dengan insiden kekerasan nyata
• Fenomena ini berawal dari fakta bahwa konten yang menekankan metode berpikir rasional (Sequences) menjanjikan teknik untuk “berpikir lebih baik”, tetapi pada kenyataannya tidak mampu memenuhi janji tersebut
• Orang-orang yang berada dalam posisi rentan lebih mungkin terseret ke kelompok berbahaya di komunitas, dan sering kali terputus dari dunia luar sehingga sulit untuk keluar
• Keterkaitan antara keyakinan dan tindakan di dalam kelompok, sikap yang menganggap ide secara sangat serius, serta isolasi sosial dapat memicu disfungsi yang parah
• Kemunculan kultus rasionalis sulit dicegah sepenuhnya, tetapi keterhubungan dengan realitas eksternal, keberagaman sosial, dan struktur organisasi yang sehat dapat mengurangi dampak buruknya

---

Pendahuluan

• Komunitas rasionalis adalah kelompok yang berawal dari serial blog ‘Sequences’ yang ditulis oleh peneliti AI Eliezer Yudkowsky
• Serial ini bertema tentang cara berpikir rasional, sehingga anggota komunitasnya diharapkan menjadi teladan dalam berpikir kritis dan skeptisisme
• Namun dalam praktiknya, di dalam komunitas justru muncul kelompok-kelompok aneh dan berbahaya, seperti kelompok kecil yang mengaku berinteraksi dengan iblis, insiden kekerasan, dan grup yang memicu trauma
• Contoh yang menonjol antara lain kelompok transhumanis anarkis vegan bernama Zizians, serta kasus Black Lotus dan Leverage Research
• Penulis adalah orang dalam komunitas, dan melalui wawancara mendalam memperoleh akses serta keterusterangan yang belum pernah ada sebelumnya

Masalah Kaum Rasionalis Muda

• Secara umum komunitas rasionalis berfungsi dengan baik, tetapi beberapa kelompok menunjukkan struktur yang sangat disfungsional

• ‘Sequences’ menjanjikan “seni berpikir lebih baik” dan masa depan yang luar biasa, tetapi secara realistis janji itu mustahil diwujudkan

• Banyak narasumber menunjukkan bahwa konten semacam ini menciptakan bahan mentah bagi kultus

• Eliezer Yudkowsky tidak terlalu aktif membangun rasa kebersamaan kelompok, tetapi orang-orang yang datang dari luar sering kali mendambakan perubahan oleh figur otoritas dan misi heroik

• Disfungsi dalam suatu kelompok bisa berasal dari pemimpin (misalnya Brent Dill dari Black Lotus), atau muncul secara alami dari bawah sebagai dinamika beracun (misalnya Leverage Research)

• Orang yang rentan mudah menjadi tawanan kelompok yang terisolasi, dan juga sulit melepaskan diri saat muncul masalah

• Pada awalnya komunitas membantu anggota yang belum matang, tetapi lama-kelamaan muncul kecenderungan orang-orang yang sudah sukses untuk menarik dukungannya

• Pendatang baru yang tidak mendapat dukungan lebih mudah menjadi sasaran kelompok internal yang berbahaya

Keseriusan Keyakinan

• Di dalam kelompok disfungsional, penyebab utamanya bukan sekadar isolasi sosial atau manipulasi oleh pemimpin, melainkan keyakinan itu sendiri

• Misalnya, teori keputusan ekstrem milik Zizians—yakni keyakinan bahwa ancaman harus selalu dibalas tanpa syarat—terhubung langsung dengan tindakan nyata

• Leverage Research berusaha memahami struktur batin anggota dan menyelesaikan masalah melalui teori terpadu psikologi yang disebut ‘Connection Theory’

• Upaya menyesuaikan perilaku diri dengan model psikologi yang disederhanakan seperti ini bahkan memicu masalah mental

• Brent Dill mendorong anggota menafsirkan dunia dan orang lain secara sinis, yang kemudian memicu ketidakpercayaan dalam kelompok dan menjadi bentuk mudarat paling mendasar

• Dalam proses menolak kepercayaan pada pakar dan berpikir sendiri, kaum rasionalis secara paradoks menghadapi risiko mendelegasikan pemikiran kepada pemimpin karismatik

• ‘Menganggap ide secara serius’ dan ‘agensi’ pada dasarnya adalah kebajikan, tetapi bila diterapkan keliru dapat berujung pada perilaku berbahaya yang menyimpang dari norma

Kewaspadaan terhadap Psikologi

• Dalam kelompok bermasalah, diskusi yang panjang dan intens tentang filsafat, psikologi, dan relasi internal kelompok telah menjadi hal yang lumrah

• Sebaliknya, dalam kelompok rumah bersama yang sehat, fokusnya lebih pada aktivitas eksternal atau pencapaian nyata (pemrograman, game, dan sebagainya)

• Ada juga kasus anggota Black Lotus yang memperoleh kepercayaan diri dengan memegang peran yang benar-benar penting

• Di Leverage Research pun, subkelompok yang mengerjakan proyek nyata (seperti pengembangan kripto) cenderung lebih sehat

• Pembahasan emosi internal kelompok dan analisis psikologis yang berlebihan memperparah disfungsi, kecemasan, isolasi, dan keterputusan dari realitas

• Jika kelompok tidak memiliki tujuan eksternal yang nyata dan diskusi internal terus memanjang, dinamika berbahaya akan semakin menguat

• Bila eksplorasi psikologi kelompok dan emosi intens berlangsung setiap hari selama berjam-jam, itu adalah tanda ada sesuatu yang salah, bahkan jika kelompok tersebut bukan kultus

Bahaya Konsekuensialisme (Consequentialism)

• Jika pandangan dunia konsekuensialis diterima secara sangat serius, pengabdian berlebihan kepada pemimpin dan pengorbanan dapat dianggap sah
• Narasi ancaman kepunahan akibat AGI (kecerdasan umum buatan) yang sering dibicarakan di komunitas rasionalis memicu ketegangan dan obsesi dalam kelompok
• Orang yang merasa tidak cukup mampu untuk berkontribusi pada AI lebih mudah terjebak dalam disfungsi dengan melekat pada proyek alternatif atau kelompok kecil
• Alasan moral besar (seperti krisis kemanusiaan) bisa membuat hal-hal sehari-hari sekalipun diberi makna yang berlebihan
• Padahal, dalam kenyataannya mengatasi krisis adalah rangkaian tugas sederhana dan berulang, tetapi banyak orang justru mengejar fantasi heroik yang tidak sesuai dengan itu

Kewaspadaan terhadap Isolasi

• Isolasi sosial, konformitas di dalam kelompok, dan keterputusan dari dunia luar adalah inti dari memburuknya disfungsi
• Fakta bahwa anggota hampir tidak pernah keluar dari rumah atau kantor adalah salah satu tanda paling jelas apakah sebuah kelompok telah menjadi kultus
• Realitas yang didefinisikan hanya dari dalam, penyingkiran pengkritik, dan pengawasan timbal balik mendorong groupthink serta keyakinan yang berlebihan
• Pola tinggal serumah sambil memenuhi semua kebutuhan lewat kelompok melemahkan kemandirian dan kemampuan di dunia luar
• Kerahasiaan yang membuat bahkan sesama kelompok internal tidak saling berbagi informasi juga menjadi masalah, dan kurangnya pengungkapan serta komunikasi memperburuk siklus tersebut

Kesimpulan dan Saran

• Disfungsi di komunitas rasionalis bukan berarti secara khusus lebih parah, melainkan muncul dengan “cara yang lebih menarik”
• Kecenderungan khas komunitas untuk ‘mewujudkan keyakinan dalam tindakan’ dan ‘hidup berbeda dari masyarakat umum’ adalah salah satu penyebabnya, tetapi tidak bisa dihilangkan sepenuhnya
• Pada tingkat individu maupun komunitas, strategi berikut dapat membantu mengurangi disfungsi

Rekomendasi untuk individu

1. Jika percakapan panjang tentang relasi antarmanusia/emosi dalam kelompok terus berlanjut, itu adalah tanda peringatan
2. Lakukan aktivitas yang punya standar pencapaian objektif, dan bangun titik temu dengan realitas luar
3. Pertahankan hubungan dengan beragam kelompok sosial
4. Pisahkan pekerjaan, tempat tinggal, dan proses terapi
5. Sekalipun itu adalah keyakinan yang dipercayai semua orang, tetap perlukan sudut pandang orang luar atau verifikasi independen
6. Jika rangkaian logika abstrak yang panjang akhirnya menyimpulkan “boleh menyakiti orang lain” atau “semua hal lain kurang penting daripada ini”, maka itu patut dicurigai
7. Pertimbangkan dengan hati-hati keterlibatan dalam kelompok yang menuntut banyak saat Anda tidak punya pilihan lain

Rekomendasi untuk komunitas

• Pertahankan ikatan dengan anggota yang masuk ke kelompok disfungsional, dan sediakan komunikasi yang normal alih-alih kecaman
• Berikan ekspektasi yang realistis kepada anggota baru, dan pikirkan cara memperluas dukungan yang nyata
• Sampaikan secara jujur bahwa masuk ke bidang seperti keamanan AI tidaklah mudah, dan jangan meremehkan nilai orang yang tidak mampu berkontribusi di sana
• Perbanyak diskusi tentang “garis larangan etis” (hal-hal yang jelas tidak boleh dilakukan)