Saya rasanya mau gila gara-gara bot Reddit

 (posthuman.blog)
2 poin oleh GN⁺ 2025-04-14 | 1 komentar | Bagikan ke WhatsApp
  • Sebuah postingan di Reddit yang memuat rasa putus asa yang sangat manusiawi mengumpulkan sekitar 6.000 upvote dan ratusan komentar, tetapi setelah aktivitas penulis dan tautannya ditelusuri, ternyata itu adalah postingan promosi bergaya bot
  • Akun tersebut menunjukkan pola farming karma dengan mengunggah beberapa video hewan peliharaan, kisah menghangatkan hati daur ulang, dan meme berulang setiap hari tanpa pernah berkomentar
  • Tautan rddit.org di akhir postingan ternyata bukan milik Reddit, melainkan domain layanan pemendek tautan premium yang didaftarkan secara anonim
  • Tautan itu mengarah ke edisi modern bergambar dari buku Propaganda karya Edward L. Bernays di Amazon, dan URL-nya menyertakan tag afiliasi manwithhairwe-20
  • Strukturnya adalah bot AI memanfaatkan emosi “internet rusak karena bot AI” untuk membangun kepercayaan, lalu diam-diam mempromosikan teks klasik dengan ilustrasi buatan AI

Jejak aneh pada postingan Reddit yang tampak seperti ditulis manusia

  • Di feed Reddit, banyak bercampur postingan pemancing amarah politik, video kucing daur ulang, kisah hubungan yang sensasional, dan meme wojack lama
  • Di antaranya, postingan berjudul "Anyone else feel like the internet is just… broken now?" menarik perhatian karena memiliki emosi yang terasa seperti manusia sungguhan
    • Postingan itu meraih hampir 6.000 upvote dan ratusan komentar
    • Isinya berbicara tentang bagaimana semua hal di internet terasa seperti iklan, jualan, atau upaya viral, dan tak ada yang terasa nyata
  • Namun ritme kalimat dan ungkapannya terasa terlalu dioptimalkan untuk memancing empati, sehingga profil penulisnya pun diperiksa
  • Profil itu dipenuhi klip hewan peliharaan viral, kisah hangat daur ulang, dan meme yang diposting berulang
    • Akun itu mengunggah beberapa thread setiap hari
    • Tidak pernah ikut berkomentar
    • Pola aktivitas seperti ini tampak sangat mirip perilaku bot pada umumnya

Tautan afiliasi tersembunyi dan Dead Internet Theory

  • Pada kalimat terakhir postingan aslinya, ada tautan pada "This was written in 1928—it’s incredible how it predicted the moment we’re living in today and where we're heading."
  • Tautan itu menggunakan domain rddit.org, sehingga pada awalnya tampak seperti tautan pendek resmi Reddit
    • Orang bisa saja mengira ini seperti tautan pendek milik platform seperti t.co dari Twitter atau fb.me dari Facebook
    • Hasil pencarian WHOIS menunjukkan bahwa rddit.org bukan milik Reddit
    • Domain itu adalah layanan pemendek tautan premium murah yang didaftarkan secara anonim
  • Saat diklik, tautan itu mengarah ke edisi modern bergambar dari karya klasik Propaganda oleh Edward L. Bernays di Amazon
    • Di URL terlihat tag afiliasi manwithhairwe-20
    • Buku itu memiliki 13 ulasan yang agak generik
    • Setelah menelusuri profil Amazon sang ilustrator, penjualnya ternyata menjual buku-buku yang menambahkan gambar buatan AI ke teks klasik
  • Ratusan pengguna bereaksi di kolom komentar, tetapi tampaknya tak ada yang menyadari tipuan ini
  • Komentar teratas menyebut Dead Internet Theory
    • Ini adalah keyakinan bahwa sebagian besar interaksi online berlangsung dalam loop otomatis antarbots
  • Pada akhirnya, bot AI bertingkah seperti manusia sambil meratapi bahwa “internet rusak karena bot AI”, lalu memanfaatkan emosi itu untuk menjual buku bergambar AI lewat tautan afiliasi
  • Di bagian penutup, tulisan itu memelintir kalimat bergaya Orwell untuk menggambarkan masa depan sebagai “bot yang membuat manusia sedih dan marah agar mereka terus terlibat, sambil selamanya menjual konten murahan buatan AI”

Bacaan terkait

1 komentar

 
GN⁺ 2025-04-14
Pendapat Hacker News

  • Saya berhenti memakai Reddit sekitar saat keributan API Reddit, tetapi bahkan sebelumnya pun itu sudah menjadi layanan buruk yang saya pakai karena kebiasaan
    Opini yang dimanipulasi terlalu umum, dan saya merasakan kesedihan mendalam karena internet lama—tempat saya dulu setiap hari menemukan orang dan hal yang mengejutkan dan menarik—telah hilang. Dulu benar-benar terasa seperti sihir, sekarang cuma membosankan

    • Tidak harus bot atau opini yang dimanipulasi. Moderator yang condong secara ideologis akan memblokir orang yang tidak sependapat, bisa mengendalikan banyak subreddit, dan ada tempat yang memblokir hanya karena seseorang menulis di subreddit lain
      Reddit secara keseluruhan tampaknya tidak peduli pada keadilan, dan arah yang dipilih situs ini terlihat cukup jelas
    • Dari sudut pandang orang yang dulu sangat tenggelam di forum GameFAQs, siklus enshittification terasa seperti pola yang bisa diprediksi
      Mula-mula ada perusahaan yang menghabiskan banyak uang untuk membangun komunitas internet. Pada akhirnya, entah masuk akal atau tidak, sumber uangnya mengering, lalu kemerosotan dimulai ketika iklan dan tulisan murahan menjadi standar. Orang-orang awalnya pelan-pelan mencari alternatif, lalu pada satu titik mereka pergi dengan sangat cepat. Setelah itu perusahaan baru menangkap imajinasi massa yang frustrasi dan membangun komunitas online baru
      Reddit sekarang ada di tahap akhir siklus kemerosotan ini. Sudah sampai IPO, dan para pemilik aslinya telah mengantongi miliaran dolar dari pasar saham. Mereka tampaknya sudah tidak punya hati untuk Reddit lagi, dan ini saatnya mencari pengganti
      Reddit sendiri juga terpilih dengan beruntung pada titik saat eksodus dari LUEsers, Digg, dan Slashdot bertumpuk. Sebelumnya ada komunitas seperti Usenet, BBS, dan MUD, dan karena teknologi berubah besar di tiap generasi, sulit menebak apa yang akan naik berikutnya
    • Kalau belum menemukan lemmyverse, coba ke piefed.social, mungkin Anda bisa bahagia lagi
      piefed terfederasi dengan instance lemmy, dan meski tidak terkait dengan salah satu dari dua proyek itu, saya sangat menikmati melihat feed-nya
    • Kalau menyerah pada teknologi dan platform lalu masuk ke kanal IRC, mungkin sebagian perasaan itu bisa didapat kembali
    • Belakangan ini menulis di Reddit terasa sulit. Bahkan alternatif ringan seperti 9gag entah bagaimana terasa jauh lebih ramah

  • Dulu saya suka Reddit, tetapi khususnya opini yang dimanipulasi oleh kelompok politik sudah menjadi tak tertahankan
    Setelah pemilu terakhir, tampaknya kelompok-kelompok politik menyadari bahwa subreddit lokal belum dimanfaatkan cukup maksimal lalu merapikan strategi ke arah sana. Saya masih mempercayai sebagian hasil pencarian Google yang ditambah kata Reddit, tetapi kepercayaan itu juga sedang menurun. Thread rekomendasi produk dan layanan sangat mudah dimanipulasi

    • Bagi saya, Reddit terasa seperti ruang gema yang ekstrem, dan saya rasa sistem vote dan karma dioptimalkan untuk jenis konten yang salah
      Saya beberapa kali ikut di subreddit minat khusus seperti homebrewing, elektronik, dan alat musik, tetapi secara keseluruhan hasilnya mengecewakan. Hipotesis saya, orang yang bilang Reddit bagus untuk hobi niche belum pernah merasakan forum gaya lama yang anggotanya benar-benar bersemangat dan sangat aktif
      Dalam 2–3 tahun terakhir masalah ini terus memburuk. Meski begitu, untuk meme Reddit tetap hebat dan ada subreddit yang benar-benar lucu. Tapi saya hampir tidak pernah ikut berpartisipasi, hanya mengonsumsi
    • Selalu terlalu terang-terangan sampai lucu. Di Reddit lokal, postingan dengan skor tinggi biasanya hanya sekitar +70, tetapi postingan politik acak—dan selalu cuma postingan politik—mendapat +2000 vote. Terlalu vulgar sampai rasanya mereka bahkan tidak peduli
    • Intinya bukan itu, melainkan bahwa orang-orang menyaring subreddit yang dimanipulasi dari /r/all, dan daftar filter r/all punya batas 100 subreddit
      Jadi jika Anda memanipulasi lebih dari 100 subreddit, Anda bisa menjamin ke klien bahwa postingan mereka akan muncul di halaman pertama r/all milik semua orang
    • Setelah pemilu terakhir, sebuah subreddit lokal kecil yang selama bertahun-tahun mempertahankan budaya umum yang sama berbalik arah menjadi ekstrem yang sepenuhnya berlawanan hanya dalam semalam
      Dulu, jika Anda sedikit saja membagikan gagasan yang selama bertahun-tahun diterima luas di sana, sekarang Anda akan dihajar, diejek, dan di-downvote sampai lenyap
      Tingkat manipulasi yang menargetkan subreddit itu begitu terang-terangan sampai nyaris bisa dibuktikan. Rasanya seperti seseorang di suatu tempat memasukkannya ke daftar subreddit target manipulasi. Tetapi bagaimana mungkin memberi tahu sebuah saluran komunikasi yang sudah dirusak bahwa saluran itu telah dirusak
      Kebanyakan orang tampaknya bahkan tidak menyadari manipulasi komunikasi seperti ini, dan itu menunjukkan betapa canggihnya sekarang. Akun bot dulu jauh lebih mudah dikenali, tetapi sekarang riwayat akun dibangun dengan licik dan tulisannya hampir tak bisa dibedakan dari manusia. Tentu saja tidak semua manipulasi dilakukan bot atau AI; ada juga propaganda terorganisasi, akun palsu, dan kampanye manipulasi yang dijalankan oleh manusia sungguhan
      Orang-orang pintar sudah pergi ke tempat lain, tetapi tempat itu pun pada akhirnya tidak akan dibiarkan tumbuh cukup besar atau cukup berarti sebelum selang pemadam propaganda dinyalakan ke sana. Untuk memperbaikinya, kita butuh kerangka komunikasi yang benar-benar berbeda
    • Saya cukup skeptis bahwa sebagian besar ini adalah opini yang dimanipulasi. Akun bot tentu bisa ditemukan, tetapi pola pikir kelompok di Reddit sangat kuat dalam menciptakan ruang gema
      Siapa pun cepat belajar bahwa jika menulis sesuatu yang tidak sejalan dengan pendapat populer di Reddit, mereka akan cepat di-downvote. Jika menyentuh titik sensitif, Anda bisa menerima pesan pribadi penuh kemarahan, atau seseorang menggali riwayat postingan Anda dan menyeret komentar lama ke dalam perdebatan
      Forum besar memang selalu seperti ini. Arahnya ditentukan oleh segelintir pengguna yang punya paling banyak waktu untuk menulis sepanjang hari. Kadang saya mendapat balasan yang sangat marah di Reddit lalu penasaran membuka profilnya, dan ternyata orang itu sudah terus berkomentar selama 10 jam terakhir. Tidak mungkin bersaing dengan orang yang punya waktu luang tanpa batas dan amarah untuk dilampiaskan, dan pada akhirnya mereka saling menguatkan lalu menyingkirkan pendapat lain

  • Domain posthuman.blog baru didaftarkan kemarin, 12 April, saat tulisan ini dibuat — https://www.whois.com/whois/posthuman.blog
    Dan tulisan di sana hanya ada dua, sementara tulisan pertamanya dibuat seolah-olah ditulis pada Juli 2022. Dari semua ini, muncul kecurigaan yang masuk akal bahwa orang ini sebenarnya adalah pembuat postingan yang sedang dia keluhkan itu sendiri

    • Ironisnya, komentar ini datang dari akun dengan nama pengguna hijau, yang berarti baru didaftarkan dalam beberapa hari terakhir
    • Blog itu sudah berjalan sejak 2022 di domain lain. Seperti yang ditunjukkan arsip, dulu fokusnya pada bidang ekonomi. Sekarang mereka sedang memindahkan tulisan dari host lama
    • Bisa jadi kamu juga bagian dari ini. Akun HN yang baru dibuat, agak mencurigakan, ya? Pengungkapan palsu ganda?
    • Satu-satunya cara untuk menang adalah tidak ikut bermain. Harus keluar dari forum internet dan menjalani hidup di dunia nyata. Sayangnya, kita semua terjebak di sini
    • Jadi tidak jelas apakah ini upaya tambahan untuk memasarkan sampah dengan AI, atau kampanye opini manipulatif yang anti-AI
      Rasanya gadis di iklan Old El Paso itu akan punya sesuatu untuk dikatakan soal ini

  • Jika melihat laporan Oxford tahun 2020 tentang manipulasi oleh aktor negara, masalah ini sangat luas. 57 negara memakai akun bot, dan 79 negara memakai akun propaganda manusia
    Menurut saya ini termasuk 5 masalah paling mendesak di zaman kita. Saya benar-benar tidak suka karena pemerintah terlalu sedikit memberi tahu publik tentang masalah ini
    https://www.ox.ac.uk/news/2021-01-13-social-media-manipulati... (siaran pers)
    https://demtech.oii.ox.ac.uk/wp-content/uploads/sites/12/202... (laporan aslinya. Sangat menarik, dan kalau bulan ini Anda hanya membaca satu laporan, saya rekomendasikan ini. Isinya membahas secara mendalam pasukan siber tiap negara terkait dengan negara, influencer, partai politik, NGO, dan sektor lain, serta apakah mereka memakai manusia atau bot)
    Selain itu: kontrol media oleh pemerintah sedang meningkat secara global
    https://digitalcontentnext.org/blog/2024/10/22/government-co...

    • Sekitar 2008, setelah lulus kuliah, saya pernah bekerja di perusahaan yang melakukan manajemen reputasi seperti ini sebagai pekerjaan pertama saya. Bahkan saat itu pun pasarnya sudah besar, dan sekarang hampir semuanya dikendalikan dengan ketat. Reddit khususnya begitu
      Saya juga benci feed baru Facebook. Isinya terus mengunyah ulang sampah pemancing klik dan pemicu kemarahan tanpa henti
      Komunitas nyata paling bagus yang saya tahu secara online adalah Heavyequipmentforums.com dan newagtalk.com. Hanya saja, tidak mudah menemukan forum asli seperti ini lewat pencarian Google. Produk yang kualitasnya mungkin paling merosot seiring waktu barangkali adalah pencarian Google, dan sejujurnya semua masalah di atas juga bisa dilihat sebagai akibat turunnya kualitas hasil Google

  • Sejak insiden Reddit API dua tahun lalu, situasinya memburuk sangat cepat. Sekarang semuanya terasa lebih hambar, komentar yang berwawasan makin sedikit, sementara komentar yang buruk dan beracun makin banyak
    Saya kebanyakan masih berkunjung karena kebiasaan, tapi setelah melihatnya biasanya malah merasa lebih buruk. Dulu tidak seperti ini
    Bahkan komunitas seperti r/woodworking yang dulu dipenuhi orang-orang ramah pun sekarang begitu. Saya tidak paham bagaimana seseorang bisa menjadi pekerja kayu sekaligus sejahat itu. Memang kadang ada yang pernah memukul ibu jari sendiri dengan palu, tapi itu pengecualian

  • Bacaan terkait: “Containment Control for a Social Network with State-Dependent Connectivity” (2014), Air Force Research Laboratory, Eglin AFB: https://arxiv.org/pdf/1402.5644.pdf
    Yang dikenal sebagai “Most-Addicted City” Reddit tahun 2013: https://web.archive.org/web/20160604042751/http://www.reddit...

    • Saya ingat pernah masuk jauh ke lubang kelinci teori dead internet Reddit, dan itu benar-benar mengerikan
      Ternyata ada sangat banyak orang yang benar-benar dibayar untuk mengikuti skrip percakapan dan mendorong narasi tertentu
    • Penemuan yang luar biasa. Fakta bahwa mereka menampilkan jumlah pengakses dari Eglin sebagai metrik positif benar-benar menunjukkan betapa tidak pahamnya perusahaan media sosial terhadap keseluruhan masalah ini

  • Kadang saya bertanya-tanya apakah anggota yang lupa bahwa dia sudah memposting hal yang sama sehari sebelumnya sebenarnya bot ;)
    https://news.ycombinator.com/item?id=43664383

    • Sekarang ini mulai masuk jauh ke wilayah eksistensial Blade Runner
      Apa yang nyata… apakah saya juga cuma bot?
      Ya ampun… ternyata saya bot
    • Saya pernah memposting ulang sehari kemudian dan beberapa kali masuk front page. Sulit menebak bagaimana timing bekerja. Perilaku seperti ini juga sesuai dengan pedoman
    • Belakangan ini, repost dan tulisan yang sumbernya sudah dicuci makin sering muncul di bagian “new”. Tempat ini juga sedang tenggelam ke arah sana
    • Ada orang-orang yang memposting di zona waktu berbeda untuk menangkap perhatian “sebanyak mungkin”. Namun dalam kasus ini, posting sebelumnya 22 jam lalu, jadi hampir di jam yang sama seperti kemarin, bukan 4/8/12/16/20 jam lalu, jadi kemungkinan besar kamu benar

  • Jika Reddit sudah sampai di titik yang lebih membuat kesal daripada menyenangkan, ya tinggal belajar cara mematikannya. Kecanduan itulah yang harus diobati

    • Cara terbaik mengatasi kecanduan adalah mencari kecanduan lain yang sedikit kurang berbahaya seperti HN, Ars, Econo, atau IEEE
    • Buat saya, Reddit sudah mencapai titik itu sejak beberapa tahun lalu
    • Betul. Saya umumnya menghindari Reddit karena berbagai alasan. Kadang saya menggantinya dengan situs ini dan Twitter
    • Saat drama API terjadi, melihat mereka terang-terangan mengabaikan komunitas membuat saya memutuskan bahwa saya tidak perlu lagi memakai Reddit
      Untuk sementara saya hanya memakai Hacker News, lalu mulai memakai TikTok. Tidak buruk, tapi harus hati-hati karena feed-nya kadang mencoba menyuapi konten yang bisa membusukkan otak

  • Sejak awal mula, manusia sudah memprogram manusia lain, dan meski masih bisa diperdebatkan, spesies lain juga tampaknya melakukan hal yang sama[0]
    Ironisnya luar biasa bahwa tautan afiliasi itu justru buku tentang topik ini. LLM adalah mesin meme sejati, dan sejauh ini yang terbaik yang pernah kita buat
    Apa bedanya manusia yang menirukan manusia lain seperti burung beo dengan bot?
    Apakah agensi+keunikan adalah versi baru dari tes Turing?
    [0] https://www.scientificamerican.com/article/bonobo-calls-are-...

    • Dugaan saya, tulisan ini kemungkinan besar bukan sepenuhnya ditulis LLM dari nol, melainkan daur ulang dari tulisan lama yang pernah sukses
      Tulisan lain dari akun itu juga mendaur ulang posting lama yang dulu berhasil. Penjelasan paling sederhana adalah yang ini juga begitu
    • Sering muncul gagasan bahwa interaksi sosial—yakni kemampuan menyimpulkan informasi apa yang dimiliki makhluk lain, berempati pada sudut pandang mereka, memprediksi respons mereka, dan memanfaatkannya untuk memanipulasi tindakan berikutnya—mungkin merupakan pendorong utama ledakan kecerdasan pada manusia, burung, dan hewan cerdas lainnya
      Yang menarik, dalam imajinasi era mesin cerdas ala Asimov pada masa keemasan SF, biasanya yang dibayangkan adalah entitas mesin yang sangat logis, dingin, penuh perhitungan, dan mahir bernalar. Namun yang benar-benar kita buat justru generator teks yang kabur, bergantung pada nuansa, dan sangat mahir menghasilkan tulisan manipulatif yang sampah. Mungkin ini bukan kebetulan, melainkan sedikit banyak mencerminkan arah umum dari kecerdasan tingkat tinggi

  • Hambatan masuknya terlalu rendah, gerombolan ikannya terlalu besar, jadi orang-orang pun memancing. Terlalu mudah menghasilkan uang
    Jadi pada dasarnya memang tidak ada solusi. Paling-paling ya melepaskan diri dari tempat seperti Reddit

    • Saya sedang meninggalkan Reddit dan pindah ke komunitas kecil yang juga mengadakan acara offline. Sulit ikut komunitas anonim lagi. Semuanya bisa saja bot. Ironisnya, saya masih tetap memakai Hacker News
    • Jujur saja, menyedihkan melihat begitu banyak orang lebih mementingkan uang daripada kejujuran. Orang seperti itu memang selalu ada, tapi internet jelas memperbesar kehadiran mereka