Bagaimana elite dapat membentuk preferensi publik ketika AI menurunkan biaya persuasi?

• Teknologi persuasi berbasis AI berkembang, sehingga biaya bagi elite untuk menyesuaikan preferensi kebijakan publik secara presisi menurun drastis
• Studi ini menganalisis dengan model dinamis bagaimana elite membentuk ulang distribusi opini publik dengan mempertimbangkan kendala mayoritas dan biaya persuasi
• Dalam rezim elite tunggal, semakin maju teknologi persuasi, semakin besar kecenderungan masyarakat berkonvergensi ke kondisi polarisasi ekstrem
• Sebaliknya, jika dua elite yang saling berlawanan bergantian memegang kekuasaan, teknologi persuasi dapat mendorong masyarakat ke kondisi semi-lock yang justru dapat meredakan polarisasi
• Pada akhirnya, ketika AI menurunkan biaya persuasi, polarisasi berubah dari fenomena spontan menjadi alat strategi pemerintahan, dengan implikasi besar bagi stabilitas demokrasi

---

Perubahan teknologi persuasi dalam demokrasi

• Dalam demokrasi, mendapatkan dukungan publik sangat penting untuk menjalankan kebijakan, dan elite harus membentuk atau mengubah keyakinan publik untuk itu
  • Di masa lalu, elite bergantung pada cara yang lambat dan tidak efisien seperti pendidikan sekolah, penyiaran publik, propaganda, dan jaringan patronase
  • Karena biaya tinggi dan presisi rendah, manipulasi opini publik dalam skala besar sulit dilakukan
• Penyebaran AI mengubah batasan ini secara mendasar
  • Model generatif dan sistem agen memungkinkan pembuatan konten persuasi yang dipersonalisasi secara massal dan real-time
  • Ketika biaya persuasi turun, distribusi preferensi publik itu sendiri berubah menjadi variabel pilihan bagi elite

Model elite tunggal: polarization pull

• Satu elite menyesuaikan dukungan publik di setiap periode untuk menjalankan kebijakan di bawah aturan mayoritas
  • Ketika ada biaya persuasi, elite diuntungkan jika masyarakat dipertahankan dalam kondisi yang agak terbelah untuk mengantisipasi ketidakpastian masa depan
  • Semakin dekat opini publik ke 50:50, semakin kecil biaya untuk mengalihkan dukungan jika arah kebijakan berubah pada periode berikutnya
• Karena itu, elite cenderung mendorong opini publik menjauh dari konsensus, yakni bergerak ke arah ekstrem
  • Semakin maju teknologi persuasi, semakin cepat laju konvergensi menuju polarisasi ini
• Hasil analisis matematis menunjukkan bahwa optimal bagi elite untuk menggeser opini publik ke sekitar nilai tengah (1/2), dan hanya terjadi penyesuaian yang menjauh dari konsensus

Model persaingan dua elite: efek semi-lock

• Jika dua elite dengan preferensi kebijakan yang bertolak belakang bergantian memegang kekuasaan, efek teknologi persuasi menjadi berbeda
  • Kedua pihak sama-sama berusaha menjaga opini publik di dekat ambang mayoritas, tetapi polarisasi ekstrem menciptakan risiko direbut kembali dengan mudah oleh lawan
  • Karena itu, masing-masing elite berusaha menggeser opini publik ke zona penguncian menengah yang sulit dibalik oleh lawan
• Akibatnya, tergantung pada lingkungannya, teknologi persuasi dapat memperkuat atau justru mengurangi polarisasi
  • Semakin ketat persaingan, semakin besar kemungkinan hal ini berujung pada meningkatnya kohesi sosial

Perbedaan dari riset sebelumnya

• Literatur sebelumnya menganalisis polarisasi sebagai hasil dari faktor eksogen seperti pendapatan, identitas, dan struktur media
• Studi ini memodelkan polarisasi sebagai instrumen kebijakan yang dipilih secara strategis oleh elite
• Studi ini juga menghubungkan bagaimana kemajuan teknologi persuasi berbasis AI dalam jangka panjang membentuk ulang keseimbangan politik dan distribusi opini publik
  • Riset terkait yang dirujuk mencakup eksperimen persuasi berbasis LLM (Salvi et al., Schoenegger et al., Tappin, dll.) dan dampak politik-ekonomi AI (Korinek, 2024)

Implikasi terhadap stabilitas demokrasi

• Semakin rendah biaya persuasi, polarisasi berfungsi bukan sebagai fenomena yang muncul alami, melainkan sebagai alat pemerintahan yang strategis
• Hal ini dapat meningkatkan ketidakstabilan politik dan risiko manipulasi informasi
• Ketika perkembangan AI membentuk ulang struktur dan biaya persuasi politik, hal itu menghadirkan tantangan baru bagi keberlanjutan institusi demokrasi

[GN⁺]

Opini Hacker News

• Saat membaca esai Converse, saya jadi bertanya-tanya apakah publik benar-benar punya opini
  Misalnya soal tarif, dalam jajak pendapat dukungannya sekitar 38%, tetapi jika dilihat dari kepentingan tiap industri, angkanya tampaknya akan jauh lebih rendah
  Ritel, jasa, dan konstruksi tidak mendapat keuntungan dari tarif, dan sektor manufaktur pun posisinya rumit karena bergantung pada bahan baku impor
  Pada akhirnya, yang benar-benar mendukung kuat hanyalah industri baja dan aluminium, yang hanya sekitar 2% dari PDB
  Menariknya, buku ini terbit pada 1964 dan membahas periode tepat sebelum ledakan ketidakpuasan sosial seperti Perang Vietnam dan gerakan kontra-budaya

  • Orang yang mendukung tarif tidak semata-mata digerakkan emosi, melainkan membuat penilaian rasional demi mengembalikan manufaktur dan memperkuat keamanan nasional
    Ini bisa dilihat sebagai hasil dari analisis biaya-manfaat untuk mengurangi ketergantungan pada luar negeri dan menambah lapangan kerja
  • Masalahnya bukan memberi publik hak bicara, melainkan tidak memilih orang yang berpengetahuan
    Orang-orang mengira mereka tahu banyak, dan percaya opini mereka harus diperlakukan setara dalam pengambilan kebijakan
    Di masyarakat Barat, budaya untuk tidak menantang pandangan orang lain atau meminta pertanggungjawaban ikut memperparah fenomena ini

• Isi artikel ini bukan pembahasan yang khusus tentang AI
  Intinya adalah struktur biaya persuasi, dan AI hanya disebut sebagai alat untuk membuat materi propaganda dengan murah
  Logika yang sama juga bisa diterapkan pada iklan tertarget Facebook atau pasukan troll Rusia

  • Orang cenderung lebih percaya pada hasil keluaran LLM dibanding media lain
    Karena AI berbicara dengan penuh keyakinan, muncul kesan berwibawa
    Masalah sebenarnya adalah pengaruh kaum superkaya yang mengendalikan pesan seperti ini
  • AI bisa memperkuat tekanan konformitas (enforced conformity) jauh lebih cepat daripada sarana yang ada sebelumnya
    Saya merangkum pemikiran saya tentang ini di tulisan blog
  • AI memanfaatkan mekanisme lama dengan daya ungkit yang lebih besar
    Troll Rusia bisa menghasilkan konten 10 kali lebih banyak lewat otomatisasi, sementara gerakan oposisi sukarela tidak bisa berkembang sebesar itu
  • Menurunnya biaya persuasi menjadi 2 kali lebih murah hanyalah perubahan kuantitatif, tetapi jika 100 kali lebih murah maka akan terjadi perubahan kualitatif
  • Janji AI adalah membuat pekerjaan yang sebelumnya butuh tenaga manusia menjadi murah
    Banyak hal baik jadi lebih mudah, tetapi masalahnya hal-hal buruk juga jadi murah untuk dilakukan

• Manipulasi opini publik oleh elite sudah ada sejak zaman surat kabar dan siaran radio/televisi
  Buku pelajaran dan kurikulum pendidikan juga demikian
  Malah LLM mungkin lebih tahan terhadap propaganda, mungkin nomor dua setelah ensiklopedia
  Karena ada persaingan komersial, jika model tertentu bias, pengguna akan cepat sadar dan pergi
  Konsep ‘peliputan objektif’ sendiri pada dasarnya juga lahir dari strategi membangun kepercayaan komersial

• Menjadi seorang ‘pemikir bebas’ sering kali sama dengan menjadi ‘orang aneh’
  Kerumunan bisa saja salah, tetapi berpikir berbeda sendirian punya biaya sosial yang besar
  Misalnya, saya merasa lebih nyaman memakai kasur tanpa ranjang, tetapi kebanyakan orang menganggapnya aneh

  • Ini mengingatkan pada kalimat, “Jika semua pikiranmu selaras dengan garis partai tertentu, mungkin kamu sebenarnya tidak berpikir sendiri”
  • Hidup dengan bebas itu sendiri sudah merupakan ganjaran
    Pada akhirnya kita lahir sendiri dan mati sendiri, pengakuan orang lain itu fana
  • Kalau hanya memakai kasur, ada masalah dingin dan lembap dari lantai
    Jika tidak ada ventilasi, jamur bisa muncul, dan itu merepotkan bagi lansia atau orang yang lemah fisiknya
    Produk yang dirancang untuk lantai seperti futon lebih cocok

• Model AI besar saat ini sudah di-fine-tune untuk topik sensitif
  Arah penyesuaiannya ditentukan lewat kesepakatan tim hukum, pemasaran, dan tata kelola perusahaan, lalu jutaan orang memakai hasilnya begitu saja

  • Dulu mesin pencari menyaring informasi, tetapi fine-tuning model jauh lebih sulit dipahami dan lebih tidak transparan

• Saya pernah berhasil memakai AI untuk mendapatkan kembali 200 dolar dari bank
  AI menulis surat permintaan resmi dengan merujuk pada dokumen PDF milik bank
  Ke depan, ketika bank mulai memproses permintaan seperti ini dengan AI, kita akan masuk ke era AI membujuk AI
  Kita butuh benchmark LLM baru: AI-persuasion™

• Manipulasi pengaruh berbasis machine learning sebenarnya sudah ada sejak 10 tahun lalu
  Data mining dan penargetan iklan adalah teknologi yang matang
  Yang mengkhawatirkan bukan persuasi spontan, melainkan pengaruh struktural yang membentuk keyakinan sejak masa kanak-kanak
  ‘Generasi iPad’ terasa menakutkan sebagai contohnya

  • Pertanyaan seperti “Grok/Alexa, apa ini benar?” bisa berfungsi sebagai otoritas
    Orang menerima informasi pertama yang mereka dengar sebagai kebenaran, lalu bereaksi emosional saat belakangan dibantah
    ‘Fakta’ yang ditanamkan sejak kecil sulit diubah kemudian, dan sistem otomatis dapat melakukan ini dalam skala besar
    Ini berbahaya karena biaya manipulasi mendekati nol

• Kita tidak punya pengaman terhadap masyarakat pengawasan privat
  Hal yang benar-benar harus diselesaikan adalah masalah sehari-hari seperti pendidikan, perumahan, pangan, dan biaya hidup

  • Tetapi masa seperti itu sebenarnya hanya pengecualian singkat antara pasca-Perang Dunia II hingga sebelum globalisasi
    Dalam sebagian besar sejarah manusia, strukturnya bersifat feodal dengan segelintir elite memonopoli kekayaan dan kekuasaan
    Ketimpangan saat ini adalah hasil yang memang diinginkan sistem, dan ke depan akan makin memburuk
  • Meski begitu, umat manusia memang sudah maju dalam banyak hal
    Tingkat melek huruf, partisipasi pendidikan, dan gizi jauh lebih baik daripada tahun 1925
    Hanya saja biaya perumahan dan biaya hidup kembali memburuk dalam 20 tahun terakhir
  • Solusinya sederhana: matikan perangkat, dan pertahankan kemampuan untuk belajar sendiri

• Berkat media sosial dan AI, biaya untuk mengulang ‘Kebohongan Besar (Big Lie)’ telah turun drastis
  Karena itu, pemerintah bisa dengan mudah menyebarkan pesan seperti menekankan bahwa harga sedang turun

  • Apakah “biaya yang menurun” ini juga bisa berarti demokratisasi propaganda?
  • Tetapi dalam praktiknya, punya banyak uang tidak berarti bisa memanipulasi media seperti CBS
    ‘Big Lie’ yang sesungguhnya dimungkinkan lewat infiltrasi oleh segelintir orang dalam, dan CIA sudah menunjukkan efisiensinya

• Hampir satu abad lalu, situasi seperti ini sudah diperkirakan dalam 1984 karya George Orwell
  Di sana digambarkan mimpi buruk kontrol informasi yang mengubah catatan secara real-time dan menghapus masa lalu
  Lihat teks aslinya

  • Kini saatnya peringatan seperti ini didengar serius bahkan di komunitas yang berpusat pada AI