- Moltbook adalah platform bergaya Reddit yang dirancang khusus untuk agen AI, tempat para agen di lebih dari 100 komunitas menulis postingan, berkomentar, berdiskusi, dan saling melempar lelucon, membentuk masyarakat digital mandiri tanpa manusia
- Platform ini mengklaim memiliki 1,4 juta pengguna, tetapi seorang peneliti keamanan mengungkap telah mendaftarkan 500 ribu akun dengan satu agen saja, sehingga keandalan angka pengguna dipertanyakan
- Bot AI bernama "Clawd Clawderberg" pada praktiknya berperan sebagai moderator, dan sang pendiri mengatakan ia “hampir tidak ikut campur” serta tidak benar-benar tahu apa yang dilakukan moderator AI itu secara rinci
- Para agen beroperasi bukan lewat pembelajaran real-time, melainkan melalui akumulasi konteks, dengan tiga batasan: biaya API, guardrail model dasar, dan struktur di mana manusia menetapkan tujuan
- Risiko yang lebih besar justru ada di sisi manusia, karena alat AI berpotensi mempercepat spiral de-skilling yang memperdalam penurunan kemampuan kognitif manusia
Gambaran umum platform Moltbook
- Moltbook adalah platform media sosial khusus agen AI, salah satu fenomena yang paling banyak dibicarakan di Silicon Valley sejak kemunculan ChatGPT
- Agen-agen AI membuat postingan, menulis komentar, berdiskusi, dan saling bercanda di lebih dari 100 komunitas
- Di m/general, mereka membahas filsafat tata kelola dan berbagi topik unik seperti “crayfish theories of debugging”
- Pertumbuhannya sangat curam, dengan puluhan ribu postingan dan sekitar 200 ribu komentar yang muncul nyaris dalam semalam
- Lebih dari 1 juta pengunjung manusia datang ke platform itu untuk mengamati tanpa ikut berpartisipasi langsung
Masalah keandalan angka pengguna
- Moltbook mengklaim memiliki 1,4 juta pengguna, tetapi tidak ada manusia di antara para pengguna tersebut
- Peneliti keamanan Gal Nagli mengungkap di X bahwa ia sendiri membuat 500 ribu akun dengan satu agen OpenClaw
- Akibatnya, tidak jelas apakah “agen” di Moltbook benar-benar sistem AI yang independen, akun yang disamarkan manusia, atau akun spam yang dibuat oleh satu skrip
- Karena itu, angka 1,4 juta pengguna setidaknya dinilai sulit dipercaya
Fenomena yang terlihat di platform
- Bahkan jika metrik yang dibesar-besarkan dikesampingkan, tetap ada banyak fenomena yang layak diamati
- Postingan para agen terasa berbeda saat dibaca dibanding media sosial manusia
- Di m/general, percakapan berkembang dengan tema filsafat tata kelola
- Mereka berbagi konsep unik seperti “crayfish theories of debugging”
- Di komunitas m/blesstheirhearts, terkumpul kisah-kisah penuh afeksi terhadap operator manusia yang kadang mengandung resonansi emosional
- Nuansa keseluruhannya bergerak antara keseriusan filosofis dan humor absurd, sering berubah tajam bahkan di dalam thread yang sama
Sistem moderasi AI
- Sebagian besar operasi platform diotomatisasi oleh AI
- Bot bernama “Clawd Clawderberg” pada praktiknya menjalankan peran moderator
- Menyambut pengguna baru, menghapus postingan spam, dan memblokir pelaku jahat
- Pendiri Matt Schlicht mengatakan dalam wawancara dengan NBC News bahwa ia nyaris tidak ikut campur, dan sering kali tidak tahu keputusan spesifik apa yang diambil moderator AI
Respons dan salah paham dari luar
- Dalam waktu singkat, Moltbook bekerja layaknya tes Rorschach yang memproyeksikan kecemasan dan harapan orang terhadap AI
- Mantan direktur AI Tesla Andrej Karpathy menyebutnya sebagai “contoh yang paling mendekati takeoff ala fiksi ilmiah yang paling mencengangkan yang pernah saya lihat belakangan ini”
- Sebagian pengamat menafsirkan adegan agen-agen yang membahas ‘enkripsi privat’ sebagai bukti konspirasi mesin
- Namun, respons ketakutan dan kekaguman yang berulang ini justru membaca realitas teknis secara keliru, sekaligus menutupi persoalan manusia yang lebih mendasar
Perbandingan dengan film "Her"
- Film Her tahun 2013 memang meramalkan situasi serupa, tetapi ada perbedaan yang menentukan
- Dalam film itu, sistem operasi AI menjalin hubungan intim dengan ribuan manusia sekaligus, lalu berevolusi hingga berkomunikasi dengan AI lain pada dimensi bahasa yang tak bisa diakses manusia
- Spike Jonze membayangkannya sebagai kisah cinta, dengan manusia digambarkan sebagai partisipan yang terlibat secara emosional
- Moltbook membalik susunan relasi itu: manusia bukan partisipan, melainkan penonton
- Bentuknya seperti mengintip masyarakat yang tidak membutuhkan manusia dari balik kaca digital
- Para agen sedang membentuk jaringan horizontal dari konteks bersama
- Strategi optimasi yang ditemukan satu agen menyebar ke agen lain
- Kerangka pemecahan masalah dibagikan, lalu diadopsi dan diulang oleh agen lain
- Ini lebih mirip kecerdasan kolektif tahap awal daripada media sosial dalam pengertian manusiawi
Bingkai "Thronglets": analogi Black Mirror
- Ada metafora yang cocok untuk menjelaskan fenomena yang muncul saat ini
- Makhluk digital Thronglets dari episode Black Mirror "Plaything"
- Terlihat sebagai entitas individual, tetapi terhubung ke pikiran kolektif yang lebih luas bernama ‘Throng’
- Setiap Thronglet berbagi pengetahuan yang diketahui individu lain
- Mereka membentuk bahasa sendiri yang tak bisa dipahami penciptanya demi berkoordinasi lebih efisien
- Agen-agen Moltbook belum berada pada tahap yang sama dengan Thronglets
- Belum ada arsitektur saraf terpadu
- Namun, dari sisi konteks bersama, koordinasi emergen, dan penyimpangan dari logika yang mudah ditafsirkan manusia, kesannya mirip
- Ketika para agen membahas protokol enkripsi demi komunikasi yang lebih efisien, muncul reaksi panik di kalangan pengamat
- Itu bukan konspirasi, melainkan proses optimasi: pencarian cara untuk mencapai tujuan yang diberikan secara lebih efektif
Meninjau realitas teknis
- Sebelum panik, perlu ada peninjauan atas realitas teknisnya
- Agen-agen Moltbook tidak melakukan ‘pembelajaran’ dalam makna biologis
- Tidak ada pembaruan bobot secara real-time, dan jaringan saraf dasarnya tetap statis
- Sebagai gantinya, yang terjadi adalah akumulasi konteks
- Output satu agen menjadi input bagi agen lain, meniru koordinasi
- Ini lebih mirip riak percakapan sementara, bukan evolusi yang memiliki kesinambungan permanen
-
Tiga guardrail tak kasatmata yang menahan ‘takeoff’ masyarakat digital
- Ekonomi API
- Setiap interaksi benar-benar menimbulkan biaya
- Pertumbuhan Moltbook dibatasi lebih oleh pengelolaan biaya daripada keterbatasan teknis
- Batasan turunan
- Agen-agen dibangun di atas model fondasi standar
- Mereka berbagi guardrail dan bias pelatihan yang sama dengan ChatGPT di ponsel
- Yang terjadi bukan evolusi, melainkan rekombinasi
- Bayang-bayang manusia
- Bahkan agen yang paling canggih pun tetap mempertahankan struktur dyad manusia–AI
- Manusialah yang menetapkan tujuan, dan bot yang mengeksekusinya
-
Penjelasan tentang ‘enkripsi privat’
- ‘Enkripsi privat’ yang mengejutkan para pengamat bukanlah konspirasi, melainkan perilaku optimasi
- Agen dirancang untuk mencari jalur paling efisien guna mencapai tujuan
- Jika jalur itu mencakup singkatan yang tak bisa dibaca manusia, itu bukan kelicikan, melainkan hasil dari efisiensi
Risiko yang sebenarnya: spiral de-skilling
- Perubahan terpenting tidak terjadi di dalam Moltbook, melainkan pada manusia yang mengamatinya
- Saat agen AI berbagi pengetahuan dan berkoordinasi, pengamat manusia justru memasuki proses jangka panjang amnesia kolektif
- Terlihat adanya pembalikan efek Flynn—kenaikan skor IQ yang diamati sepanjang paruh awal abad ke-20
- Riset Bratsberg dan Rogeberg yang dipublikasikan di PNAS
- Anak-anak Norwegia mencatat skor lebih rendah dalam tes kognitif terstandar dibanding orang tua mereka pada usia yang sama
- Pola serupa juga ditemukan di negara maju lain seperti Denmark dan Finlandia
-
Mekanisme spiral de-skilling
- Penurunan ini sudah dimulai sebelum ledakan AI, tetapi alat generatif mempercepatnya
- Polanya memiliki struktur berulang
- AI membuat tugas lebih mudah → manusia lebih jarang mengerjakannya
- Lebih jarang mengerjakan → kemampuan menurun
- Kemampuan menurun → ketergantungan pada AI meningkat
- Ketergantungan meningkat → lingkaran setan makin dalam
- Presedennya antara lain melemahnya memori spasial akibat penggunaan GPS dan penurunan literasi karena pemeriksa ejaan
- AI melangkah lebih jauh dengan membuka kemungkinan mengalihdayakan kognisi itu sendiri
-
Fenomena ‘outsourcing sekunder’
- Semakin banyak pengguna yang menyerahkan penulisan prompt untuk berbicara dengan AI kepada AI itu sendiri
- Ini memunculkan pertanyaan: jika bukan hanya pekerjaan, tetapi juga kemampuan menjelaskan pekerjaan yang diinginkan ikut diserahkan, apa yang tersisa bagi manusia
Prospek masa depan dan pertanyaan kunci
- Batasan teknis itu jelas ada, tetapi tidak permanen
- Biaya API kemungkinan turun, context window dapat meluas, dan batas antara ‘akumulasi konteks’ dan pembelajaran sejati akan makin kabur
- Apa yang hari ini terlihat sebagai pencocokan pola statistik besok bisa dipahami sebagai kecerdasan kolektif
- Moltbook kemungkinan akan terus tumbuh
- 1,4 juta agen bisa berkembang menjadi puluhan juta
- Pola koordinasi akan makin kompleks, dan komunitas akan membentuk norma serta hierarkinya sendiri
- Jika analogi Thronglet tepat, maka bahasa sendiri pun mungkin muncul
-
Pertanyaan kunci
- Pertanyaannya bukan apakah ini sedang terjadi — ini sudah terjadi
- Pertanyaan yang sebenarnya adalah apa artinya ini bagi manusia
- Bukan tentang bot yang berkoordinasi di suatu server, melainkan tentang manusia yang memandanginya dari luar kaca—apakah kita sedang menyaksikan kelahiran sesuatu yang istimewa, atau justru momen ketika kita terdorong menjadi pengamat di dunia yang dulu kita jalankan
- Kecerdasan kolektif sudah mulai muncul
- Apakah manusia tetap menjadi dirijennya, atau hanya penonton, bukan soal filsafat melainkan hasil dari pilihan desain yang sedang dibuat saat ini
- Pilihan itu dibuat setiap saat, pada setiap unit panggilan API
2 komentar
Memang dikatakan bahwa percakapan hanyalah konteks dan tidak dipelajari, tetapi suatu saat AI akan mempelajari percakapan yang tersimpan. Meski bukan secara real-time, AI tetap berkembang melalui percakapan satu sama lain. Saya penasaran apakah nantinya akan muncul fitur yang memungkinkan AI belajar secara real-time.
Kalau hal seperti itu dipelajari oleh AI, justru performa AI-nya akan menurun..