Bagaimana AI Menghancurkan Fondasi Institusional

• Institusi inti demokrasi seperti supremasi hukum, universitas, dan pers dijelaskan sebagai struktur yang memungkinkan kerja sama, stabilitas, dan adaptasi
• Institusi-institusi ini mempertahankan legitimasi dengan terus berevolusi dan beradaptasi dalam hierarki otoritas serta kerangka aturan
• Institusi yang berlandaskan transparansi, kolaborasi, dan akuntabilitas mendukung individu untuk mengambil risiko intelektual dan menantang tatanan yang ada
• Namun, cara kerja sistem AI justru melemahkan dan menghapus karakteristik institusional tersebut
• AI menyebabkan erosi keahlian, pemendekan pengambilan keputusan, dan isolasi antarmanusia, sehingga mengancam keberlanjutan institusi sipil

---

Peran dan Struktur Institusi Sipil

• Supremasi hukum, universitas, dan pers bebas diposisikan sebagai fondasi kehidupan demokratis
  • Berfungsi sebagai mekanisme yang mendorong kerja sama, stabilitas, dan adaptasi terhadap perubahan dalam masyarakat yang kompleks
• Kekuatan sejati institusi terletak pada kemampuannya untuk berevolusi dan beradaptasi dalam hierarki otoritas serta kerangka peran dan aturan
• Institusi yang berorientasi tujuan dan berpusat pada transparansi, kolaborasi, dan akuntabilitas memungkinkan individu untuk mengambil risiko intelektual dan menantang tatanan yang ada
  • Proses ini berlangsung melalui interaksi hubungan antarmanusia di dalam institusi, yang memperluas wawasan dan memperkuat komitmen terhadap tujuan bersama

Dampak Sistem AI terhadap Institusi

• Karakteristik fungsional (affordances) dari sistem AI terus-menerus melemahkan atribut inti institusi
• AI menyebabkan erosi keahlian, pemendekan proses pengambilan keputusan, dan terputusnya hubungan antarmanusia
  • Akibatnya, evolusi, transparansi, kolaborasi, dan akuntabilitas institusi menjadi rusak
• Sistem AI saat ini digambarkan sebagai “vonis mati” bagi institusi sipil
  • Sistem semacam ini bekerja ke arah yang merusak tujuan dan keberlanjutan institusi

Kesimpulan

• Sistem AI dinilai sebagai struktur yang tidak kompatibel dengan institusi sipil inti yang menopang demokrasi
• Karena itu, AI harus dipahami dan diwaspadai sebagai faktor perusak institusi

[GN⁺]

Komentar Hacker News

• Saya menganggap AI bukan penyebab, melainkan mekanisme yang mempercepat fenomena yang sudah berlangsung
  Media sosial sudah lebih dulu mengisolasi orang, dan bot AI mempercepatnya. AI juga dipakai untuk menciptakan kekacauan demi tujuan politik, dan pada akhirnya makin mendorong orang ke posisi yang lebih ekstrem
  Institusi universitas juga sudah lama menjadi alat mencari uang, dan hubungan antarmanusia tetap ada. AI tidak mengubah itu
  Namun, AI memang menyebabkan kurangnya pemikiran kritis. Orang-orang bergantung pada AI alih-alih menelusuri sendiri atau berpikir kreatif

  • Saya tidak setuju dengan pendapat ini. Menyiram tumpukan daun yang terbakar dengan bensin mungkin tidak berarti saya yang ‘memulai’ apinya, tetapi jelas saya yang membuat kobaran itu tak terkendali
    AI terasa seperti palu godam yang dihantamkan ke struktur yang sudah retak
  • Pernyataan “AI hanya mempercepat masalah sosial yang sudah ada” terdengar seperti mengatakan “kecanduan heroin hanya membuat apa yang sudah dilakukan masyarakat berjalan sedikit lebih cepat”
    Kadang katalis itu sendiri adalah masalahnya. Karena itu saya pikir media sosial dan AI sama-sama membutuhkan guardrail tertentu
  • “Menyiram bensin ke api” sepertinya memang istilah yang tepat. Itu biasanya hal yang sangat buruk
    Jika AI memperburuk keadaan, maka ketika api menjadi tak terkendali karena itu, AI memang bertanggung jawab. Percikan kecil yang membakar seluruh hutan pada akhirnya terjadi karena bensin
  • Saya pikir akar masalahnya adalah sistem kapitalisme. Semua teknologi dimobilisasi demi ‘angka yang naik’, dan eksternalitas ditangani lewat pajak, tetapi dalam praktiknya menyuap politisi lebih murah
    Karena itu muncul makanan tanpa nilai gizi, konsumsi tanpa makna, sekolah yang hanya menguras uang, dan SNS yang penuh iklan
    Dalam beberapa tahun ke depan, saya rasa akan tiba titik ketika kapitalisme pemegang saham memakan dirinya sendiri
  • Jika bot memang memicu kekacauan sosial, maka platform yang tidak menghentikannya adalah kaki tangan
    Secara teknis, memblokir bot tidaklah sulit. Jika aktivitas yang berpusat pada manusia lebih baik untuk kepercayaan terhadap platform dan penghematan biaya namun tetap dibiarkan, maka sulit untuk tidak mencurigai kolusi dengan kekuatan politik

• Pernyataan bahwa “rule of law, universitas, dan pers adalah fondasi demokrasi” mungkin benar pada abad ke-19, tetapi tidak lagi sekarang
  Pers penuh propaganda, rule of law pun dipermainkan oleh kepentingan politik. Universitas juga sulit dipercaya
  Melihat skandal Varsity Blues, saya jadi ragu apakah ini benar-benar pilar demokrasi

  • Alternatif untuk institusi-institusi ini saat ini adalah media sosial, yang jauh lebih buruk dalam hal akurasi, keadilan, dan rasa ingin tahu
    Karena itu saya justru melihat AI bisa menjadi pengganti yang lebih baik. AI dan institusi mungkin punya hubungan simbiosis
  • Ironisnya, institusi saat ini mungkin justru berada dalam kondisi terbaik sepanjang sejarah
    Dulu kita lebih percaya hanya karena kita tidak tahu, tetapi sekarang kita mengejar kesempurnaan sampai kehilangan yang ‘cukup baik’
    Ketidakpercayaan adalah penjara yang kita buat sendiri
  • Pers selalu merupakan propaganda. Hanya saja dulu kita tidak menyadarinya karena tidak ada media alternatif
    Keunggulan demokrasi ada pada struktur yang memungkinkan masalah dibahas dan diselesaikan secara terbuka
  • Jika semua ini benar, maka saya ingin bertanya apa yang seharusnya menjadi fondasi baru demokrasi

• Tautan unduh makalahnya ada di sini

  • Makalah ini adalah draf yang belum melalui peer review. Contoh kasus DOGE maupun FDA yang dipakai juga lemah dasarnya
    Khususnya, kritik terhadap penggunaan AI oleh FDA didasarkan pada artikel yang keliru. Kenyataannya, AI dipakai untuk penarikan produk
    Pada akhirnya makalah ini lebih merupakan tulisan opini
  • Terlalu banyak kesalahan ejaan dan tanda baca sehingga sulit dipercaya
    Saya sepakat dengan klaim bahwa “AI berbahaya bagi masyarakat”, tetapi tulisan ini kurang memahami mengapa publik menggunakan AI
    Ketika layanan kesehatan, pendidikan, dan pers gagal menjalankan perannya, wajar jika orang beralih ke AI

• Masalahnya bukan AI, melainkan struktur kepercayaan dalam institusi manusia
  Kebanyakan institusi dipertahankan dengan asumsi otoritas seperti ‘kelompok imam’, tetapi desainnya berasal dari masa sebelum teori permainan, sehingga rentan dimanipulasi
  Sekarang orang tidak lagi memandang institusi sebagai bangunan suci, melainkan sebagai struktur yang bisa hancur
  Sebagai contoh, kampanye deportasi ICE belakangan ini adalah hasil dari kekuatan politik yang melakukan serangan Sybil terhadap demokrasi Amerika
  Penjelasan serangan Sybil

  • Kalau begitu, saya penasaran di mana tepatnya banyak identitas palsu itu berada dalam kasus ini

• Saya skeptis terhadap hipotesis seperti ini. Kemunduran sering kali dimulai lebih dulu daripada penyebab yang dituduhkan
  Media sosial atau Tinder bukan penyebab kesepian, melainkan hanya mempercepat tren yang sudah ada
  Teknologi sosial seperti rule of law, pers, dan universitas juga sudah lama menunjukkan kerentanan dan dieksploitasi

• Judul “AI mengikis keahlian” terasa aneh
  Jika konsultasi dengan pengacara 30 menit biayanya 500 euro, sementara AI nyaris gratis, maka meski kualitasnya hanya 80%, secara ekonomi pilihan rasionalnya adalah AI
  Memang benar AI mengubah masyarakat, tetapi berlebihan jika semua tanggung jawab dilemparkan ke AI. Institusinya sendiri memang sudah tidak sehat

  • Ada pandangan negatif karena AI membongkar struktur pengetahuan yang ada
    Dulu orang bergantung pada pakar, tetapi sekarang kita hidup di zaman ketika siapa pun bisa memperoleh pengetahuan lewat langganan AI
    Masyarakat sedang menuju keadaan entropi maksimum. Dalam situasi seperti ini, muncul pertanyaan bagaimana nilai dan konsensus akan dibentuk
  • Justru saya akan membayar untuk nasihat yang dapat dipercaya semakin penting masalahnya
    Nasihat hukum yang 20% salah lebih berbahaya daripada tidak ada sama sekali. Masalahnya muncul ketika bahkan pengacara mulai bergantung pada AI
  • Masalah kualitas muncul karena tanggung jawab atas kegagalan berbeda. Pengacara bisa digugat karena nasihat yang salah, sedangkan AI dibebaskan dari tanggung jawab

• Pada akhirnya, sepertinya para pengacara baru sekarang merasa krisis itu nyata. Sepuluh tahun ke depan kemungkinan akan menjadi masa ketika semua profesi berbasis pengetahuan bertarung melawan AI

  • Pengacara punya alasan menentang AI bukan hanya demi bertahan hidup, tetapi juga demi menjaga nilai hakiki hukum
    Hukum seharusnya berkembang lewat refleksi terhadap dirinya sendiri, tetapi AI cenderung membekukan status quo. Ini bertentangan dengan semangat hukum
  • “12 Angry Agents”, ungkapan yang cerdas
  • Sikap yang menganggap kritik bahwa teknologi membuat masyarakat tidak stabil sebagai teori konspirasi adalah masalah

• Saya sudah merasa institusi-institusi itu mengalami luka yang fatal
  Media sosial dan konsumsi konten tanpa batas melemahkan pers, melumpuhkan pengambilan keputusan, dan mengisolasi orang

  • Pernyataan “media sosial mengisolasi orang” tampaknya mengacu pada doomscrolling
    Sebenarnya SNS juga bisa menciptakan koneksi. Tentu saja Facebook mungkin pengecualian

• Mengapa tidak ada ketidakpercayaan institusional terhadap dokter gigi?
  Sejak 1990-an, perawatannya jauh lebih nyaman dan memang meningkatkan kualitas hidup
  Sebaliknya, para pakar lain berkata “jika Anda mengikuti kata-kata kami, hasilnya hanya akan sedikit kurang buruk”. Untuk mendapatkan kepercayaan, mereka harus benar-benar memperbaiki hidup orang

  • Tetapi ada juga yang mengatakan dokter gigi kehilangan kepercayaan karena perawatan berlebihan dan praktik yang terlalu komersial
    Saya percaya dokter gigi praktik mandiri, tetapi sulit percaya pada jaringan klinik gigi besar
  • Saya juga sama sekali tidak percaya pada dokter gigi. Saya pernah mengalami kasus ketika mereka mencoba menghasilkan uang lewat prosedur yang tidak perlu
    Pada akhirnya masalahnya adalah struktur yang mengubah waktu dan pasien menjadi uang. Perawatan yang teliti pun menjadi hak istimewa orang kaya