4 poin oleh GN⁺ 2023-07-23 | 1 komentar | Bagikan ke WhatsApp
  • Komunitas World of Warcraft sengaja mengarang pembaruan Glorbo yang tidak ada, lalu zleague.gg, yang secara otomatis mengolah ulang postingan Reddit, menerbitkannya seolah-olah itu berita nyata
  • zleague.gg beroperasi dengan cara merangkum thread Reddit menggunakan AI menjadi tulisan panjang berisi “key takeaways” dan paragraf-paragraf terstruktur, dengan tujuan mendapatkan eksposur di Google Search
  • Pengguna r/WoW mencampurkan fiksi dan distorsi seperti petunjuk Hearthstone dari tahun 1994, Klikclac, Halfhill Market, dan ras playable Klaxxi agar bot terpancing
  • Artikel yang dibuat otomatis itu terbit dengan judul “World of Warcraft Players Excited For Glorbo’s Introduction” sebelum dihapus, dan kini masih ada mirror arsipnya
  • Meski mencantumkan sumber Reddit, kasus ini menunjukkan bahwa struktur yang memasukkan postingan komunitas ke AI lalu langsung menjadikannya konten hampir tidak memiliki pengawasan dan mekanisme pengereman

Situs scraping AI terpancing pembaruan palsu Glorbo

  • Pengguna subreddit World of Warcraft r/WoW menyadari bahwa zleague.gg mengambil postingan Reddit, merangkumnya dengan AI, lalu menerbitkannya sebagai artikel blog
  • zleague.gg memiliki bisnis utama berupa aplikasi game, dan di blog tambahannya membuat artikel berdasarkan thread Reddit
  • Para pengguna menulis thread panjang tentang Glorbo yang akan diperkenalkan ke dalam game untuk menipu bot
    • Glorbo bukan fitur nyata di World of Warcraft
    • Postingan itu memasukkan konteks palsu seperti “sudah diisyaratkan di Hearthstone sejak 1994”
    • Nama-nama terkait game yang nyata seperti Dragonflight, Chen Stormstout, dan Karazhan dicampurkan agar terlihat meyakinkan

Fiksi yang masuk ke artikel otomatis dan masalah operasionalnya

  • zleague.gg secara otomatis menerbitkan artikel berjudul “World of Warcraft Players Excited For Glorbo’s Introduction” berdasarkan thread palsu tersebut
  • Ringkasan artikel yang diterbitkan memuat poin-poin yang tidak sesuai kenyataan
    • Bahwa para pemain menantikan hadirnya Glorbo dan dampaknya terhadap game
    • Bahwa item wajib Klikclac dapat memengaruhi pemain kasual
    • Rumor bahwa Stormsong Valley akan menjadi lokasi baru untuk Halfhill Market dan minigame simulasi pertanian
    • Respons positif terhadap perubahan sebelumnya seolah-olah Klaxxi telah ditambahkan sebagai ras playable
  • Artikel tersebut sempat tetap online selama beberapa waktu sebelum dihapus, dan dapat dilihat melalui mirror arsip
  • Nama penulis di situs tersebut semuanya tampak palsu, dan keseluruhan operasinya terlihat berada dalam kondisi hampir tanpa pengawasan
  • Walaupun mengutip postingan Reddit dan menampilkan nama penulisnya, cara memasukkan postingan komunitas secara otomatis ke AI lalu langsung menerbitkan hasilnya menimbulkan masalah tersendiri
  • Situs semacam ini mengejar trafik Google Search, dan sulit dihentikan selama Google tidak menilai rendah atau melarang situs berbasis AI

1 komentar

 
GN⁺ 2023-07-23
Pendapat Hacker News
  • Saya hampir tidak main game dan perangkat yang saya punya cuma Nintendo Switch, tetapi kalau mentok saat main Zelda baru saya jadi mencari di internet
    Saya melihat sekitar 10 situs teratas di hasil pencarian memuat artikel dengan format yang hampir sama, bahkan membagikan kesalahan jawaban yang sama persis
    Kebanyakan situs tips atau FAQ Zelda tampak bukan berisi konten orisinal, melainkan seperti webring sampah yang saling memamah biak satu sama lain dengan AI
    Setidaknya saya memakai pemblokir iklan dan pemblokir JavaScript, jadi mereka tidak dapat pemasukan iklan dari saya

    • Wiki game dan situs panduan memang sudah lama menjadi tempat sampah SEO
      Mungkin karena ada pemasukan iklan
      Rasanya sulit percaya Google tidak punya data untuk menilai situs mana yang layak diberi otoritas domain, tetapi saya paham bahwa ini adalah pertarungan yang bermusuhan dan terus berlangsung antara spam SEO dan mesin pencari
    • Saat ChatGPT menjawab pertanyaan game juga lucu karena anehnya terlalu bertele-tele, menambahkan paragraf pembuka yang sangat panjang sebelum menjawab pertanyaan sederhana
      Sangat mirip dengan situs iklan yang menempelkan gumpalan pengantar aneh yang butuh lama sekali sebelum sampai ke jawabannya
    • Agak menyimpang, tetapi masih berkaitan. ToTK benar-benar buruk dalam hal aksesibilitas, terutama dari sisi kognitif dan sensorik
      Saya jadi cukup sering terpaksa memakai peta ZD TotK: https://www.zeldadungeon.net/tears-of-the-kingdom-interactiv...
      Sama sekali tidak menyenangkan harus mengingat lokasi musuh tertentu. Apa memang ada yang menikmati ini? Encyclopedia tidak mencatat lokasi musuh yang pernah dilawan, padahal musuh muncul lagi setiap Blood Moon
      Saya butuh satu lagi Savage Lynel Bow, tetapi saya tidak ingat pernah melihat Silver Lynel di mana. Saya juga tidak ingin membongkar seluruh peta hanya dengan mengandalkan sinyal samar dari sensor Purah Pad yang baru bunyi saat saya hampir tepat di atasnya. Jadi saya harus bikin catatan sendiri?
      Ide fitur pencatatan itu bagus, tetapi banyak yang terlewat. Deskripsi quest sering kali kurang memadai, dan penanda sering hanya menunjukkan lokasi orang yang memberi quest, jadi tidak banyak membantu
      Saya berterima kasih ada subtitle, tetapi saya tidak mengerti kenapa begitu banyak bagian berjalan tanpa suara
      Karena saya main di PC, secara pribadi ini tidak terlalu berpengaruh, tetapi saya juga heran kenapa tidak ada button mapping
      Bahkan kalau internal FSR dan AA dimatikan agar tidak sesekali turun menjadi visual kentang buram, kalau tidak jelas harus melihat ke mana, objek tetap sulit ditemukan meski penglihatan bagus. Cahaya Ultrahand memang membantu, tetapi itu solusi yang buruk
      Juga tidak ada pengaturan buta warna. Sebenarnya mereka sedang ngapain?
      Terlalu banyak kesempatan terlewat untuk membuat game luar biasa ini jauh lebih aksesibel. Nintendo jelas menunjukkan bahwa mereka tidak peduli pada aksesibilitas, dan itu sangat disayangkan karena aksesibilitas membuat pengalaman lebih baik untuk semua orang
    • Di Kagi, situs-situs sampah seperti itu cukup mudah dikenali jadi tinggal saya blokir
      Yang masih agak bisa dipercaya di bidang ini adalah GameFAQs, IGN, dan media majalah game
    • Benar-benar tragis. Waktu kecil, GameFAQs pada dasarnya satu-satunya sumber jadi saya sering ke sana, dan panduannya juga mudah ditemukan di Google
      Situsnya masih ada sampai sekarang, tetapi kini Google lebih dulu menampilkan 20 situs penuh iklan yang memaksa Anda terus mengklik halaman baru seperti artikel daftar hanya untuk melihat panduan bagian 5 menit
  • Haha, saya membuat https://meat-gpt.sonnet.io. Situs ini dibuat untuk mengejek startup AI yang buruk, tetapi saya tidak akan spoiler bagaimana caranya
    Belakangan ini salah satu sumber trafik utama saya, kadang bahkan 70~80%, adalah katalog aplikasi AI murahan. Mereka bukan cuma memasukkan MeatGPT saya, tetapi juga berhalusinasi membuat deskripsi yang indah sekaligus bodoh tentang layanan itu sebenarnya melakukan apa
    Sejujurnya rasanya ini memang tidak mungkin bekerja lebih baik lagi. Mereka mengambil gumpalan daging berair dari situs saya lalu terus menampar muka sendiri sambil berteriak, “lagi dong”
    Saya suka seni generatif dan juga pernah membuat content farm abad pertengahan bergaya self-publishing[1], tetapi yang ini tulisan-tulisannya muncul dengan sendirinya begitu saja melintasi banyak situs
    [1] https://tidings.potato.horse

    • Sekarang saya benar-benar yakin ada masalah alignment di sini
  • Intinya ada di kalimat ini:

    But again, there’s nothing to stop this. These subreddits can’t only fill themselves with joke articles to screw up a site like this, even if this one specific example is good for a laugh.
    Sebagian besar thread akan berisi percakapan biasa, dan situs diskusi seperti Reddit bisa menjadi sumber sederhana untuk merangkum dan menghasilkan berita secara “gratis”
    Saya juga berpikir HN bisa dipakai sebagai sumber berita teknologi. Tinggal merangkum posting yang dibahas, lalu menambahkan ringkasan komentar teratas dan suasana thread
    Bukan berarti saya akan melakukannya, tapi kalau saya saja bisa terpikir, kemungkinan besar sudah ada orang lain yang mencoba jauh lebih dulu

    • Saya terus mendengar pembicaraan seperti ini di HN maupun di dunia nyata, tetapi dari sudut pandang jurnalis, menurut saya ini agak meleset karena mengabaikan nilai peliputan
      Sebagian berita memang bisa dibuat hanya dengan mengikis thread Reddit semacam itu, tetapi sebagian besar jurnalisme yang bagus mencakup peliputan yang menghasilkan informasi baru dari sumber tepercaya
      Bahkan tanpa peliputan, kalau tulisannya tidak bisa menambah gudang pengetahuan dunia, maka tidak ada nilainya bagi konsumen maupun pengiklan. Hal yang sama berlaku bahkan di dunia spam SEO. Harus ada upaya untuk membedakan diri dari pesaing agar bisa menempati hasil teratas
      Thread Reddit sering kali penuh dengan reaksi emosional terhadap berita yang sudah dibuat dengan cara ini. Pada titik tertentu, manusia harus keluar, berbicara dengan manusia lain, membuat sudut pandang atau argumen baru, menindaklanjuti pertanyaan, dan menghubungkan titik-titik yang belum pernah dihubungkan siapa pun. Itulah berita, bukan ringkasan dari sikap yang sudah ada
    • Saya pernah membuat situs web yang bekerja dengan cara seperti ini: memilih posting HN dengan lebih dari 400 upvote, mengumpulkan daftar judul, lalu meminta AI menyaring item yang tidak terkait teknologi (topik Bay Area, politik, dll.), kemudian mengikis posting yang terpilih, menulis ringkasan, dan menerbitkannya sebagai situs web statis
      Sumber lain yang dipakai adalah subreddit reddit dan feed RSS, blog resmi bahasa pemrograman, serta halaman rilis GitHub
      AI cukup mudah tertipu. Ini bisa dihindari dengan memberi lebih banyak konteks dan menambahkan tahap peninjauan untuk memastikan aturan editorial dipatuhi
      Satu hal lain yang sedang saya pertimbangkan adalah memakai model yang lebih murah (gpt-turbo-3.5) untuk menulis artikel, lalu model yang lebih canggih (gpt4) untuk meninjaunya
    • Bahkan kalau tidak ingin sekadar merangkum komentar, kolom komentar di sebagian besar artikel bisa dilihat sebagai riset crowdsourcing tentang topik tersebut
      Setelah membaca diskusi menarik di sana, kita bisa dengan mudah membawa pulang daftar singkat artikel terkait, buku, dan sebagainya, serta sering kali penjelasan langsung yang hidup dari orang yang terlibat
    • Menulis secara anonim. Startup yang melakukan hal seperti ini memang ada, dan saya tidak boleh bicara detail
      Informasi ingin bebas. Saat ini bentuknya plugin browser yang bisa membaca DOM dan menambahkan tag, dan pekerjaan manusia itu masuk ke sistem pelatihan
      Idenya berawal dari membuat Twitter Community Notes versi plugin browser independen, lalu berkembang menjadi pelatihan model yang terlihat seperti pengguna menjelajahi web sambil membaca DOM
      Karena tidak memukul API, bukankah juga tidak ada biaya? Pengguna yang memilih interaksi
      Sepertinya satu-satunya pertahanan untuk menghentikan AI yang dilatih agar tampak seperti doom scrolling hanyalah pembatasan laju
    • Mungkin kita tidak bisa hanya memposting artikel seperti itu, tetapi setidaknya kita bisa mempermalukan orang yang menyamarkan penulis AI sebagai manusia
      Paling tidak, harus ada penanda dalam bentuk apa pun bahwa tulisan itu ditulis AI. Kalau tidak, tipu daya ini bisa dipakai untuk mempermalukan orang yang dianggap sebagai penulis manusia
  • Hal seperti ini terjadi bukan hanya di situs ini, tetapi di banyak situs berita game
    Di feed Google News saya rutin melihat artikel yang merangkum thread Reddit, dengan akurasi pemberitaan yang meragukan dan jelas merupakan artikel buatan AI
    Meski begitu, saat bekerja dengan baik, hasilnya cukup berguna dan tepat waktu
    Sudah sekitar setahun sejak saya melihat kemunculan AI teks generatif yang lumayan bagus, jadi saya mulai membayangkan suatu hari ketika alih-alih mengakses internet lewat perangkat, saya menelepon AI suara untuk mendengar apakah ada email mendesak atau hanya ringkasan berita yang benar-benar penting bagi saya
    Web telah berubah dari sesuatu yang sungguh saya cintai menjadi hubungan yang abusif yang tertanam terlalu dalam dalam keseharian untuk bisa dilepaskan
    Saya menyambut perantara AI yang mau susah payah membaca spam SEO, judul umpan klik, dan komentar tak bermakna sebagai gantinya, lalu menyintesis hanya hal-hal penting bagi saya secara berguna

    • Online tanpa agen AI akan menjadi seperti berjalan tanpa masker saat masa COVID
  • Menarik. Ini tampak sangat mirip dengan pengalaman tandingan budaya yang saya alami sebagai hacker di tahun 80-an
    Perasaan melawan “The Man” sekarang mungkin bisa berlanjut dengan menghadapi “The AI”. Salut untuk para nerd game

    • Pada akhirnya, saya rasa hal seperti ini menunjukkan betapa para pembuat benda itu, kali ini para pembuat AI, tidak cukup menghormati kemungkinan penyalahgunaannya oleh publik
      Publik tidak peduli bagaimana pengembang ingin itu digunakan. Publik tertarik pada apa yang bisa mereka suruh untuk dilakukan
      Lihat saja hotrodding, overclocking, dan banyak contoh lainnya
    • Rasanya ini terulang setiap kali muncul alat baru yang cukup kuat
      Orang-orang yang tidak terlalu terikat pada struktur hierarkis bisa bergerak cepat, dan memang melakukannya. Ketika perubahan besar datang, mereka bisa menyelip ke celah itu dan menimbulkan kerusakan yang cukup besar, lalu organisasi raksasa menyusul belakangan dan mengalihkan sumber daya untuk memperkuat apa yang mereka anggap cacat, yang biasanya adalah segala sesuatu yang mengurangi kontrol atas suatu sistem atau komponen penghubung
      Saya berharap ke depannya semuanya jadi lebih cepat dan lebih kacau. Hasil terbaik muncul ketika orang-orang yang diberdayakan terjun secara liar karena cinta, bukan uang
  • Agak aneh kalau situs spam yang sangat membutuhkan traffic sekarang justru menghapus posting yang sudah viral

    • Benar. Tapi di sisi lain, ini adalah made for advertising content (MFA)
      Yang paling buruk di sini bukan reputasi buruk, melainkan masuk blacklist Google atau pasar iklan programatik. Yang pertama menghabiskan traffic, yang kedua menghancurkan kemampuan monetisasi
      Ironisnya, perang melawan konten AI sampah tampaknya akan diperjuangkan oleh perusahaan adtech yang perlu punya argumen masuk akal bahwa pelanggan mereka tidak sedang membuang uang untuk inventaris iklan yang tidak bernilai
    • Bagaimanapun cara mereka menghasilkan uang, orang yang datang dalam konteks seperti ini kecil kemungkinannya untuk berkonversi
      Menurunkan artikelnya setidaknya sedikit mengurangi kerusakan reputasi
  • Kemarin saat mencari opsi stabilisasi video di Linux, aku kaget melihat sebuah tulisan yang dengan sangat percaya diri menjelaskan alat yang katanya dipelihara oleh “para penulis” ffmpeg
    Jadi aku coba mencarinya, tapi tidak ketemu, dan ketika nama itu kucari dengan tanda kutip, ternyata cuma disebut di tiga artikel yang ditulis oleh perusahaan yang sama

    • Ini benar-benar mulai terjadi. Konten buatan LLM yang dipenuhi halusinasi sedang membanjiri web
      Rasio signal-to-noise jatuh bebas, dan kalau memilah mana ampas dan mana yang bernilai jadi nyaris mustahil, internet sebentar lagi akan benar-benar tidak berguna
      Makalah AI transformer itu benar-benar kotak Pandora
  • Aku ingin para pengembang Warcraft sekarang menamai salah satu tambahan masa depan yang nyata sebagai Glorbo

    • Kalau Blizzard masih membuat lelucon April Mop, bahan untuk tahun depan sudah siap
  • Prediksi dariku sekarang. Glorbo akan masuk di patch berikutnya

  • Postingan ini juga sampah yang secara harfiah sama persis dengan postingan AI yang suka dikeluhkan itu
    Ini cuma artikel koran yang dibuat dari thread reddit