AI akan menghadapi kekerasan, dan tidak akan ada hasil baik darinya

• Kekerasan terhadap teknologi yang berawal dari gerakan Luddite pada era Revolusi Industri kini bangkit kembali dalam bentuk serangan terhadap AI dan data center
• Contoh kekerasan nyata terus bermunculan, seperti serangan bom molotov ke rumah CEO OpenAI Sam Altman, insiden penembakan di data center, dan ancaman pembunuhan dari aktivis anti-AI
• Semakin mustahil teknologi dihancurkan secara fisik, semakin kuat kecenderungan kemarahan itu diarahkan kepada manusia yang menciptakan teknologi tersebut
• Industri AI berulang kali menyebut penggantian pekerjaan dan masa depan yang tidak pasti, sehingga memicu keputusasaan dan kemarahan publik
• Jika lingkaran setan ini terus berlanjut, kekerasan di era AI berisiko berujung pada keruntuhan di dalam masyarakat manusia itu sendiri

---

Kerentanan teknologi dan kekerasan manusia

• Alat tenun (loom) adalah struktur halus yang mudah rusak tergantung kelembapan atau tegangan, simbol Revolusi Industri sekaligus alat rumit yang dibuat oleh keterampilan tangan manusia
  • Strukturnya terdiri dari bagian-bagian yang terhubung dengan kayu dan benang, sehingga retakan kecil atau kelonggaran saja dapat membuat keseluruhannya runtuh
  • Disebut sebagai fondasi industri tekstil, sekaligus titik awal perkembangan teknologi yang kemudian berlanjut ke pabrik, fasilitas energi, dan data center
• Data center adalah struktur raksasa dari beton, baja, dan tembaga, diibaratkan sebagai ‘alat tenun’ modern dengan desain redundan dan sistem keamanan
  • Dilindungi oleh kunci biometrik, pagar listrik, penjaga bersenjata, dan dirancang agar seluruh sistem tidak berhenti hanya karena satu titik gagal
  • Algoritme di dalamnya tidak berada pada perangkat fisik semata, melainkan eksis sebagai pola digital yang tersebar di seluruh dunia
• Ditekankan bahwa melampaui penghancuran fisik, menghentikan algoritme dan superintelligence itu sendiri adalah hal yang mustahil
  • Superintelligence digambarkan sebagai sesuatu yang ‘keluar dari kotak’, sosok yang tak lagi bisa dikendalikan manusia
  • Sebagian pihak bahkan menyerukan pengeboman data center untuk mencegahnya, dan pernah ada kasus nyata ketika Garda Revolusi Iran mengancam akan menghancurkan kampus Stargate milik OpenAI
• Sekalipun teknologi berkembang, kerentanan fisik manusia tidak berubah, sehingga peringatan akhirnya mengarah pada kemungkinan bahwa sasaran serangan bukan lagi teknologi, melainkan manusia

Pengulangan sejarah: dari Luddite ke era AI

• Diperkenalkan peristiwa tahun 1812 di Inggris ketika pemilik pabrik tekstil William Horsfall tewas ditembak oleh aktivis Luddite George Mellor
  • Horsfall dikenal suka membanggakan penindasan terhadap buruh, sementara Mellor dihukum gantung
  • Ini disajikan sebagai contoh historis bahwa kekerasan muncul ketika perkembangan teknologi mengancam kelangsungan hidup manusia
• Peristiwa ini disejajarkan dengan insiden tahun 2026 di San Francisco, AS, ketika rumah CEO OpenAI Sam Altman diserang dengan koktail Molotov
  • Pelakunya adalah Daniel Alejandro Moreno-Gama, 20 tahun, yang kini ditahan
  • Altman dan keluarganya selamat, tetapi peristiwa ini disebut sebagai awal kekerasan langsung terhadap pemimpin teknologi
• Ada juga kasus rumah anggota dewan kota Indianapolis Ron Gibson yang ditembaki 13 kali bersama pesan “NO DATA CENTERS”
  • Gibson adalah tokoh yang mendukung pembangunan data center di wilayahnya, dan ia serta putranya tidak terluka
• Pada 2025, ada pula kasus aktivis anti-AI yang ditangkap karena melontarkan ancaman pembunuhan terhadap kantor OpenAI di San Francisco
• Rangkaian peristiwa ini menunjukkan bahwa kemarahan terhadap AI dan data center sedang beralih menjadi kekerasan terhadap manusia
  • Semakin sulit target teknologinya dijangkau, semakin besar kemarahan itu beralih ke sasaran manusia

Mata rantai antara keputusasaan dan kekerasan

• Tindakan para pemimpin perusahaan AI yang terus-menerus mengatakan “AI akan menggantikan pekerjaan” ditunjuk sebagai faktor yang memicu kemarahan publik
  • Orang-orang merasa, “kalianlah yang menciptakan era penuh ketidakpastian ini,” sehingga reaksi emosional pun membesar
  • Gesekan yang mengarah pada kekerasan memang besar, tetapi jika rasa putus asa yang sama menyebar luas, gesekan itu bisa hilang
• Saat orang merasa tersingkir dari masa depan, yakni ketika sarana nafkah mereka lenyap dan mereka merasa digantikan oleh teknologi, maka kekerasan berisiko menjadi nyata
  • Hal itu bisa berujung pada pilihan ekstrem: “hidup atau membunuh”
• Kesalahan terbesar industri AI ditunjuk sebagai mengumumkan penggantian pekerjaan secara menyeluruh tanpa transisi yang aman
  • Ucapan seperti “kami sedang membuat teknologi yang akan mengacaukan kerja white-collar secara total” terus diulang dan memperbesar kecemasan sosial
  • Pernyataan yang sadar diri seperti itu justru dikritik karena memberi kesan tidak manusiawi dan psikopat

Kebencian terhadap AI dan struktur kambing hitam

• Orang-orang menjadikan AI sebagai kambing hitam untuk semua masalah sosial, mencampuradukkan persoalan nyata dan klaim palsu dalam kemarahan mereka
  • Misalnya, masalah nyata seperti pencurian data disebut bersama klaim palsu seperti pengurasan sumber daya air
  • Perusahaan juga melempar tanggung jawab PHK kepada AI untuk menghindari kecaman sosial
• Industri AI sendiri menonjolkan citra bahwa teknologinya “berbahaya dan sangat kuat,” sehingga memancing ketidakpercayaan dan ketakutan publik
  • Reaksi seperti “kalau AI memang seberbahaya itu, mengapa kami yang harus menanggung dampaknya?” pun muncul secara alami
• Kekerasan terhadap Altman sama sekali tidak bisa dibenarkan, tetapi kemungkinan kekerasan akan terus berlanjut tetap ada
  • Peristiwa-peristiwa terbaru ditafsirkan sebagai tanda-tanda awal dari hal itu

Lingkaran setan yang harus dihentikan

• Efek samping AI seperti gangguan mental, kecanduan, kehilangan pekerjaan, dan penurunan literasi disebut sudah mulai dilaporkan
  • Kecemasan sosial semacam ini harus dihentikan sebelum meluas menjadi kekerasan
  • Penutupnya menegaskan bahwa perkembangan teknologi tidak boleh mengarah pada ancaman terhadap martabat dan keselamatan manusia

[GN⁺]

Komentar Hacker News

• Selama orang-orang menyebut AI secara serampangan sebagai ‘ketimpangan’ atau ‘akselerator ketimpangan’, akhirnya terasa seolah semua hal adalah salah AI
  Padahal, keduanya perlu dipisahkan dalam cara kita berpikir. Yang jelas, jika mata pencaharian orang dirampas dengan gembira, itu akan kembali dalam bentuk kekerasan

  • Menurut saya pembedaan akademis seperti ini penting. Tetapi jika orang-orang yang memiliki miliaran dolar tidak bertindak untuk mengurangi kerusakan yang mereka ciptakan, maka pembedaan itu secara praktis tidak berarti apa-apa
    Sebelum berkata “itu tugas pemerintah”, perlu dipikirkan dari mana dana lobi berasal. Hampir tidak ada CEO atau perusahaan yang berjuang untuk jaring pengaman sosial
  • Pembedaan seperti ini bermakna di akademia atau tempat seperti Hacker News, tetapi tidak berarti bagi publik umum
    Bagi orang-orang, AI adalah alat kekuasaan kaum kaya, dan mereka merasa alat itu membuat dunia menjadi lebih buruk. Dalam situasi seperti ini, tak ada yang peduli pada pembedaan akademis
  • Tetapi jika orang-orang yang memiliki dan mengembangkan AI itu sendiri digerakkan oleh motivasi untuk memperbesar ketimpangan, bagaimana mungkin keduanya dipisahkan
  • Seperti dialog dalam film Risky Business, tampaknya kita masih belum belajar pelajaran bahwa “saat ekonomi buruk, jangan pernah mengusik mata pencaharian orang lain”
  • Saat ini saya pikir AI akan mempercepat ketimpangan, tetapi suatu hari nanti ketika model berperforma tinggi bisa dijalankan di perangkat pribadi, konsentrasi kekuasaan mungkin bisa berkurang
    Jika itu terjadi, kekuatan AI bisa terdemosratisasi sehingga semua orang memiliki alat produksi secara setara

• Dari pengalaman saya, penulis memberi kesan seolah duduk di zona netral moral. Sikap seperti “kekerasan itu buruk tetapi tak terelakkan” adalah posisi yang tidak menawarkan solusi apa pun
  Masalah sebenarnya bukan teknologinya, melainkan cara para pemegang kuasa memakainya demi kepentingan sendiri.
  Ketika orang kehilangan sarana untuk bertahan hidup, kekerasan menjadi tak terelakkan. Secara historis pun, kekerasan sering menjadi sarana untuk memaksa kompromi. AI sudah menyiapkan tahap itu melalui pengawasan dan persenjataan

  • Saya menyukai pandangan Tristan Harris. Sistem dirancang untuk menyeleksi teknolog yang amoral, sehingga pada akhirnya arah yang diambil tak bisa tidak adalah menggantikan tenaga kerja manusia
    Tulisan Cory Doctorow juga sejalan dengan itu. Satu-satunya solusi adalah tindakan politik, dan teknologi berbahaya tanpa tata kelola
  • Ada alasan mengapa yang terakhir dari empat kotak kebebasan adalah kotak amunisi (ammo box). Ketika semua cara damai sudah habis, kekerasan menjadi sarana sah terakhir
  • Banyak orang memahami ‘kekerasan’ hanya sebagai serangan fisik, padahal kekerasan juga muncul dalam bentuk runtuhnya struktur sosial atau penindasan
  • Masih ada satu cara non-kekerasan yang tersisa — yaitu penarikan dana dari bank dan mogok umum. Jika kalangan profesional bersolidaritas untuk memutus bahan bakar kelas kapitalis, mereka bisa merebut kembali daya tawar

• AI mengabaikan aturan masyarakat manusia layaknya penjajah dari luar angkasa. Ia bisa digandakan, ada di mana-mana, dan tak memiliki batasan fisik
  Keserakahan manusia telah mengizinkan ‘invasi’ seperti ini, dan pada akhirnya manusialah yang mengundang dominasi AI

  • Tetapi masalahnya justru ketika AI dipersonifikasikan sebagai entitas mistis seperti itu. Pada akhirnya AI hanyalah model statistik, dan yang penting adalah bagaimana manusia menggunakannya
  • Secara historis, penyakit telah menghancurkan umat manusia lebih banyak. Bukan hanya perpecahan internal yang menjadi penyebab
  • Bahkan hanya dengan keunggulan teknologi, invasi pun mungkin terjadi. Persaingan AI seperti perlombaan senjata semacam itu. Pemenangnya menjadi raja dunia, sisanya menjadi ternak
  • Saat ini banyak tenaga ahli kontrak membantu pelatihan AI. Mereka menyerahkan pengetahuan industrinya dengan harga murah sambil menghilangkan posisi mereka sendiri
  • Sebagaimana evolusi juga merupakan bentuk persaingan, perkembangan AI pun adalah proses efisiensi yang alami. Masalahnya adalah ketiadaan kepemimpinan dan ekspansi tanpa tanggung jawab. Dalam situasi seperti ini, kekerasan bisa menjadi tak terelakkan

• Saya menyarankan mempelajari sejarah revolusi industri. Industrial Revolutions Podcast adalah sumber yang baik
  Kecepatan perubahan saat ini mirip dengan masa itu. Saat itu pun spinning jenny menghancurkan mata pencaharian para pengrajin yang menenun kain hanya dalam semalam

  • Tetapi kali ini yang terancam hilang adalah kerja pengetahuan manusia itu sendiri, jadi saya rasa sulit membandingkannya secara sederhana
  • Thomas Piketty juga mengatakan bahwa masa kesetaraan pascaperang adalah fenomena yang luar biasa. Kini ketimpangan sedang kembali ke tingkat asalnya
  • Hilangnya pekerjaan para pengrajin Prancis adalah salah satu penyebab Revolusi Prancis
  • Jika melihat jalanan sekarang, rasanya seperti dunia dalam film WALL·E

• Daya tarik magis LLM terasa banyak memudar akibat ucapan-ucapan berlebihan dari para CEO FAANG

  • Yang lebih besar masalahnya daripada kekuatan alat adalah pemilik alat itu. Pada akhirnya, teknologi ini menjadi berbahaya ketika jatuh ke tangan orang berkuasa
    Seperti hubungan Tony Stark dan Jarvis, tujuan akhirnya bukan manusia melainkan otomatisasi penuh
  • Jika alih-alih kata ‘AI’ kita menyebutnya sistem data probabilistik, mungkin diskusinya akan lebih realistis
  • Hiperbola seperti ini adalah hasil dari pengemasan berlebihan untuk menarik investasi. Kripto maupun LLM mengikuti pola yang sama
  • Pada akhirnya AI mempercepat penggantian tenaga kerja dan meruntuhkan standar hidup manusia. Perubahan seperti ini tak bisa tidak akan mengarah pada kekerasan
  • Tetapi memang benar bahwa berkat hiperbola ini, modal dalam jumlah besar juga mengalir masuk. Pada akhirnya ini akan terus berlanjut sampai gelembungnya pecah

• Saya sering bertanya apakah ada orang yang sedang mempersiapkan “dunia ketika AI berhasil”

  • Praktis semua perusahaan besar sedang bersiap untuk skenario itu. Pemerintah juga bergerak, tetapi terlalu lambat
    Eksperimen UBI memicu inflasi, dan sebelum penyesuaian pasar selesai, legislasi tak akan bisa mengejar
  • Organisasi seperti 80,000 Hours atau Future of Humanity Institute sudah menelitinya.
    Serikat pekerja di berbagai negara juga sedang berdiskusi dengan kalangan politik, dan ada jalur untuk ikut terlibat
  • Beberapa orang sedang bereksperimen dengan ekonomi berbasis berbagi melalui kampanye seperti ‘END THE MONEY SYSTEM 2030’
  • Sebaliknya, para pemegang kuasa sudah bersiap menghadapi kerusuhan dengan drone, anjing robot, dan sistem pengawasan.
    Penguatan verifikasi identitas online juga bagian dari itu
  • Ada juga video terkait — tautan YouTube

• Ada pemikiran bahwa jika AI menggantikan kreativitas dan kerja manusia, yang tersisa hanyalah benturan berdarah

  • Tetapi manusia tetap mencintai pencapaian manusia. Seperti mendukung pelari yang lebih lambat dari mobil, kita tetap merayakan upaya manusia itu sendiri
    Bahkan ‘pekerjaan tak berguna’ pun dianggap ada demi interaksi antarmanusia
  • Meski tak punya nilai ekonomi, orang tetap melukis dan membuat musik. Kreativitas tidak akan hilang
    Hanya saja makna ‘kerja’ akan berubah
  • AI meningkatkan batas bawah kualitas, tetapi tidak mendorong batas atasnya. Intuisi dan kebaruan manusia tetap dibutuhkan
  • Masalahnya adalah monopoli kekayaan, bukan teknologinya sendiri. Jika kelangkaan hilang, kekerasan pun berkurang
  • AI saat ini masih tidak akurat dan tak terkendali dalam hal kreativitas. Itu juga alasan ia disebut ‘AI slop’
    Kerja demi bertahan hidup sebenarnya sudah cukup diautomatisasi, dan ke depan yang tersisa adalah mencari makna yang manusiawi

• Menanggapi kalimat “ini adalah jalan menuju kekacauan”, seseorang menunjukkan kenyataan bahwa AI dipakai dalam perang
  Menurut artikel terkait, ribuan orang sudah menjadi korban di bawah sistem senjata berbantuan AI

  • Tetapi yang lain bereaksi sinis dengan berkata, “tanpa AI pun lebih banyak orang sudah mati”

• Kekerasan bukan jawaban, tetapi merupakan saluran keluarnya kemarahan yang ditekan. Mengatakan “kekerasan tidak boleh” saja tidak bisa menghentikan kenyataan

  • Pada kenyataannya, kekerasan adalah sumber kekuasaan. Pemerintah menjaga ketertiban dengan memonopoli kekerasan, tetapi jika rakyat kehilangan kepercayaan, monopoli itu runtuh
  • Berbahaya jika menerima kekerasan sebagai takdir. Tetapi ketika rasa tak berdaya menumpuk, kekerasan akan meledak
  • Demokrasi yang sehat adalah perangkat untuk meredakan tekanan kekerasan seperti ini. Jika demokrasi Amerika melemah, kekerasan akan meningkat
  • Secara historis, kekerasan adalah sarana terakhir untuk memulihkan keseimbangan kekuasaan. Berulang kali terbukti bahwa rasa takut adalah motivasi yang lebih kuat daripada hati nurani
  • Dalam beberapa kasus, kekerasan itu sendiri menjadi tujuan. AI hanyalah dalihnya

• Akhir-akhir ini saya sedang meneliti gerakan Luddite. Sam Altman tampak seperti Edmund Cartwright
  Ia juga penemu alat tenun otomatis, pernah menjadi sasaran percobaan pembunuhan namun selamat. Zamannya berbeda, tetapi rasanya seperti pengulangan sejarah