Artikel yang Dihapus Secara Real-Time dari Halaman Utama Hacker News

 (github.com/vitoplantamura)
1 poin oleh GN⁺ 2024-02-03 | 1 komentar | Bagikan ke WhatsApp
  • HackerNewsRemovals adalah proyek yang mencatat story yang menghilang dari Front Page Hacker News, untuk memahami jenis dan skala penyesuaian halaman utama yang dapat diamati dari luar
  • Layanan ini mengambil 90 Top Stories setiap menit melalui HN API resmi, lalu membandingkannya dengan 30 teratas dari 1 menit sebelumnya dan mencatat story yang hilang
  • Asumsi utamanya adalah sulit bagi sebuah story untuk turun dari 30 besar ke luar 90 besar hanya dalam 1 menit, sehingga dalam kasus seperti itu ada kemungkinan story tersebut dihapus secara eksplisit
  • Layanan tidak dapat otomatis menentukan apakah sebuah story merupakan duplikat; karena duplikat bisa menjadi alasan yang wajar untuk penghapusan, hal itu harus selalu diperiksa saat melihat daftar
  • Log diperbarui dengan keterlambatan maksimum 1 menit; jika story muncul kembali di Front Page, story tersebut dihapus dari daftar, dan story yang berada di second-chance pool dikecualikan

Tujuan Proyek dan Latar Permasalahannya

  • HackerNewsRemovals adalah proyek untuk memahami dalam skala dan bentuk seperti apa penyesuaian Front Page Hacker News terjadi
  • Penyesuaian Front Page yang dapat diamati dari luar dianggap terbagi menjadi dua jenis besar
    • Perubahan judul story: dapat memengaruhi kenaikan peringkat secara sukarela maupun tidak sukarela
    • Penghapusan langsung dari Front Page
  • Pelacakan perubahan judul sudah disediakan oleh hackernewstitles.netlify.app, sehingga proyek ini berfokus pada story yang dihapus
  • Awalnya ini adalah aplikasi kecil yang dibuat untuk penggunaan pribadi, tetapi karena tidak menemukan tool atau situs web yang menyediakan jenis informasi serupa, proyek ini dipublikasikan sebagai repositori terbuka
  • Disebutkan bahwa jika ada tool atau situs web serupa, repositori ini dapat diarsipkan atau dikembalikan menjadi privat

Pembaruan Februari 2024 dan Catatan Penting

  • Dalam pembaruan 4 Februari 2024, tautan diskusi Hacker News tentang proyek ini ditambahkan
  • Jumlah story yang dihapus pada Sabtu, 3 Februari 2024 adalah yang terendah yang pernah dicatat layanan ini, dan mencakup 2 story duplikat
  • Saat melihat daftar, selalu periksa apakah story tersebut merupakan duplikat
    • Duplikat bisa menjadi alasan yang wajar untuk penghapusan
    • Layanan ini tidak memiliki cara untuk otomatis menentukan apakah sebuah story duplikat

Cara Kerja

  • Layanan ini menggunakan HN API resmi untuk mengambil 90 Top Stories setiap menit
  • Data tersebut dibandingkan dengan 30 teratas yang diambil pada 1 menit sebelumnya, yaitu Front Page
  • Jika story yang ada di Front Page sebelumnya tidak lagi termasuk dalam 90 Top Stories saat ini, story tersebut dicatat dalam log
  • Metode ini didasarkan pada asumsi bahwa sebuah story tidak dapat secara alami bergerak dari 30 besar ke luar 90 besar hanya dalam 1 menit
  • Jika story muncul kembali di Front Page, item tersebut dihapus dari log
  • Story yang berada di second-chance pool dikecualikan dari log

Data yang Dicatat

  • Judul dan URL menggunakan nilai saat story pertama kali muncul di 30 besar
  • Skor, jumlah komentar, dan peringkat menggunakan nilai pada saat story dihapus dari Front Page
  • Setiap ID story ditautkan ke halaman news.social-protocols.org
    • Halaman tersebut menyediakan grafik peringkat Front Page dari waktu ke waktu
  • Daftar diperbarui secara real-time, dengan keterlambatan maksimum 1 menit

Bentuk Daftar Publik

  • README berisi daftar story yang dihapus, disusun berdasarkan tanggal
  • Setiap item dapat mencakup ID HN, peringkat saat dihapus, skor, jumlah komentar, judul story, dan tautan ke artikel asli
  • Sebagai contoh, item dari 22 hingga 27 Juni 2026 dicantumkan berdasarkan tanggal
  • Sebagian item tidak menampilkan skor atau jumlah komentar, hanya peringkat dan judul
  • Saat menafsirkan daftar, status duplikat perlu diperiksa, dan layanan ini sendiri tidak mengotomatiskan deteksi duplikat

Latar Belakang Pembuatan Proyek

  • Pemicunya adalah dua story terkait OnnxStream yang diposting ke Hacker News dan kemudian terpengaruh di Front Page dengan cara berbeda
  • Story pertama judulnya diubah dari “Stable Diffusion Turbo on a Raspberry Pi Zero 2 generates an image in 29 minutes” menjadi “OnnxStream: Stable Diffusion XL 1.0 Base on a Raspberry Pi Zero 2”, dan ada pengguna yang menunjukkan bahwa judul baru tersebut tidak mencerminkan maksud story
  • Story kedua berada di peringkat ke-3 Front Page kurang dari 1 jam setelah dikirimkan, tetapi kemudian dihapus dari Front Page
  • @dang menjawab bahwa story tersebut di-flag oleh pengguna meskipun tidak ada tanda flag eksplisit, dan penyebab flag hanya bisa diperkirakan
  • Berdasarkan pengalaman ini, dibuatlah aplikasi konsol kecil untuk memeriksa seberapa sering fenomena tersebut terjadi, lalu dipublikasikan setelah tidak menemukan tool publik yang memantau fenomena serupa

Bacaan terkait

1 komentar

 
GN⁺ 2024-02-03
Opini Hacker News

  • Melihat daftar tulisan yang dihapus, saya cukup puas dengan moderasi di sini.
    Semuanya sensasional, atau lebih mirip iklan perusahaan tertentu, atau judulnya clickbait, atau sangat melenceng dari topik, atau kombinasi dari itu semua; secara pribadi tidak ada satu pun tulisan yang menurut saya seharusnya tidak dihapus.

    • Kalau sekilas saja, terlihat beberapa tulisan yang tidak sesuai dengan kriteria itu. Misalnya Open Source Doesn't Require Providing Builds: https://codeengineered.com/blog/2024/open-source-not-builds/
      Sam Altman Says AI Using Too Much Energy Will Require Breakthrough Energy Source: https://futurism.com/sam-altman-energy-breakthrough
      Avoid Async Rust at All Cost: https://blog.hugpoint.tech/avoid_async_rust.html
      Untuk tulisan terakhir, judulnya memang bisa dibuat tidak terlalu berlebihan, tetapi isinya sendiri adalah opini yang menarik. Kelihatannya ini lebih mungkin akibat false positive dari filter spam, serbuan flag, atau mekanisme anti-manipulasi rekomendasi, ketimbang sesuatu yang dilakukan langsung oleh moderator.
    • Baru-baru ini saya melihat tautan di halaman depan diam-diam berubah menjadi video parodi, lalu kemudian diam-diam kembali lagi seperti semula, dan komentar teratas yang menyebut perubahan itu juga diam-diam dihapus.
      Itu sudah cukup untuk mengetahui apa yang perlu diketahui tentang moderasi situs ini. Untungnya ada seseorang yang menyimpan tangkapan layar: https://merveilles.town/@cancel/111834048502040552
    • https://www.nasa.gov/solar-system/asteroids/nasa-system-pred...
      Serius? Ini laporan NASA di situs resmi .gov? Komentarnya mungkin saja kacau, tetapi topiknya tampak tepat berada di tengah minat HN.
    • Secara umum daftar ini tampak berisi banyak tulisan berkualitas rendah. Ada juga beberapa tautan ekonomi dan politik yang menarik, tetapi cukup bisa dipahami kalau itu dihapus karena melenceng dari topik atau berpotensi memicu perdebatan panas.
      Cukup jelas bahwa forum online memerlukan moderasi yang baik agar tetap sehat dalam jangka panjang. HN sejauh ini berjalan baik berkat komunitas yang kuat dengan upvote/downvote, serta tim moderasi yang umumnya turun tangan ringan tetapi tahu kapan harus menolak bila perlu.
    • Setuju. Untuk memperjelas, karena itulah saya memberi upvote pada submission ini. Ini terlihat seperti dukungan terhadap algoritma dan moderasi yang kita lihat di sini.
      Penulisnya mungkin berangkat dari kecurigaan, tetapi hasil akhirnya berfungsi seperti laporan transparansi yang cukup baik.

  • Asumsi bahwa “sebuah tulisan tidak mungkin turun dari 30 besar ke luar 90 besar dalam 1 menit, jadi pasti dihapus secara eksplisit” itu salah.
    Flamewar detector, yaitu pendeteksi diskusi yang memanas, dan flag dari pengguna bisa menyebabkan hal seperti itu, dan ada juga mekanisme perangkat lunak lain. Misalnya, jika sebuah tulisan sudah berada di halaman depan lebih dari 18 jam, bobotnya otomatis diturunkan kecuali diberi pengecualian secara manual. Selain itu, flag dari pengguna memengaruhi peringkat submission jauh sebelum label [flagged] muncul.

    • Bagaimana kalian mencegah flag pengguna dipakai sebagai cara untuk menekan tulisan tentang topik tertentu sebelum sempat terekspos ke komunitas HN yang lebih luas?
      Misalkan seseorang memantau feed real-time submission HN, mem-flag tulisan yang tidak ingin ia lihat, lalu meminta teman-temannya melakukan hal yang sama. Apakah ada perlindungan agar tindakan seperti ini tidak memberi pengaruh tidak adil terhadap apa yang berkesempatan dilihat atau tidak dilihat oleh orang tertentu?
    • Jika flag pengguna memengaruhi peringkat submission jauh sebelum label [flagged] muncul, jenis flag pengguna apa saja yang ada dan mengapa tidak dibuka ke publik?
      Orang-orang perlu tahu. Shadow banning itu lebih cocok untuk era 2010-an.

  • Tidak masalah kalau pengguna membuat hal seperti ini. Prinsip kerja HN cukup mudah dijelaskan dan dipertahankan. Namun sesuatu yang serumit ini pasti berantakan, jadi untuk benar-benar memahaminya diperlukan toleransi tinggi terhadap kekacauan.
    Tetapi penting untuk mengoreksi ketidakakuratan seperti kesalahan yang disebutkan di sini: https://news.ycombinator.com/item?id=39231537. Robin89, bisakah kamu memperbaiki teksnya? Saya tahu itu asumsi keliru yang dibuat dengan itikad baik, tetapi sangat salah.
    Selain itu, sepertinya akan lebih mudah menjawab pertanyaan di sini jika ID HN di halaman tersebut ditautkan ke thread HN yang sebenarnya. Saat ini tautannya mengarah ke social-protocols.org. Tentu kamu bebas menautkan ke mana saja, tetapi itu membuat pertanyaan-pertanyaan di sini sulit dilacak. Masing-masing orang datang membawa daftar “apa yang terjadi pada tulisan X, Y, Z, lalu bagaimana dengan W, V, J”, dan pada prinsipnya saya ingin menjawab semuanya, tetapi ada batas fisik pada jumlah yang bisa benar-benar ditangani.
    Beberapa jam ke depan saya sebagian besar akan rapat, jadi kalau tidak terkubur dalam thread ini, nanti saya akan mencoba menjawab pertanyaan.

    • Ada beberapa tulisan yang terasa dimanipulasi dan tidak wajar di halaman depan: skornya rendah dan sudah lama bertahan, tetapi peringkatnya tinggi.
      Ketidakwajaran dan ketidaktransparanan seperti ini, meskipun ada alasan baik, membuat pengguna merasa peringkatnya arbitrer dan tidak adil. Tidak bisakah ditampilkan pada tiap tulisan apakah ada manipulasi terhadap peringkat atau daftar lain? Misalnya, reset waktu submission sepertinya bisa ditampilkan dengan mudah.
    • Bagaimana Robin89 atau kami bisa memverifikasi bahwa itu salah? Penurunan bobot yang kamu jelaskan tidak terlihat oleh pengguna. Penulis posting asli pun tidak bisa mengetahuinya.
      Kamu bisa mengatakan bahwa penurunan bobot terjadi, tetapi yang kami tanyakan adalah kami ingin melihat di mana penurunan bobot itu terjadi.

  • Saya bilang sulit percaya bahwa pengguna HN sudah muak dengan berita terkait LLM, tetapi saya sendiri sudah muak, jadi silakan percaya
    Namun saya tidak melaporkannya hanya karena muak

    • moot pernah mengambil keputusan moderasi yang cukup tegas; saya tidak ingat persis apa, tetapi ia mendorongnya dengan semacam kalimat, “shitpost seseorang adalah budaya forum bagi orang lain”
      Saya sering teringat kalimat itu saat memikirkan moderasi. Orang cenderung berasumsi bahwa semua orang di komunitas mirip dengan dirinya, dan pada praktiknya hanya moderator yang benar-benar bisa merasakan seberapa jenuhnya sebuah topik. Karena itu saya juga kurang menyukai meme kebebasan berekspresi tanpa syarat yang muncul setiap kali $corporation melarang $person_i_like. Semua komunitas membutuhkan moderasi, dan ketika berjalan baik, pekerjaannya terlihat seperti tidak terjadi apa-apa sehingga sulit mendapatkan apresiasi
    • Jelas banyak orang sudah muak dengan berita terkait LLM. Ini terjadi pada semua topik besar yang terus berlangsung, dan LLM sudah jauh melampaui level itu [1]
      Kecerdasan kolektif sangat cepat bosan dengan pengulangan [2]. Intinya adalah memisahkan sekam dari bijinya; dalam hal ini bijinya adalah tulisan yang membawa informasi baru yang penting [3], sedangkan sekamnya adalah begitu banyak tulisan lanjutan dan tiruan [4]
      Penting untuk dicatat bahwa pendapat tentang masalah ini berada pada spektrum yang sangat luas. Bayangkan sebuah slider dengan dua ujung: “tidak mengizinkan satu pun tulisan tentang $TOPIC” dan “mengizinkan semua tulisan tentang $TOPIC”; hampir setiap pengguna akan menaruhnya di posisi yang berbeda. Itu berlaku untuk semua topik, dan terutama untuk topik-topik terbesar
      Ruang di halaman depan adalah sumber daya paling langka di HN [5], dan setiap pembaca memiliki ‘tanda tangan’ preferensi yang berbeda tentang apa yang ingin atau tidak ingin mereka lihat di sana. Jadi bukan hanya mustahil memuaskan semua orang, bahkan mustahil memuaskan siapa pun sepenuhnya. Tidak ada orang yang cocok sempurna dengan halaman depan, dan meski mungkin ada yang akan buru-buru membantah, tentu saja itu juga tidak cocok sempurna dengan preferensi para moderator
      [1] https://hn.algolia.com/?dateRange=all&page=0&prefix=true&que...
      [2] https://hn.algolia.com/?dateRange=all&page=0&prefix=false&so...
      [3] https://hn.algolia.com/?dateRange=all&page=0&prefix=false&so...
      [4] https://hn.algolia.com/?dateRange=all&page=0&prefix=true&que...
      [5] https://hn.algolia.com/?dateRange=all&page=0&prefix=true&que...
    • Kalau bisa, saya ingin hibernasi sampai saat ketika saya tidak perlu lagi mendengar soal AI generatif
    • Saya sudah muak dengan berita terkait LLM. Teknologi dan kemajuannya memang menarik, tetapi untuk setiap satu tulisan yang membahas sesuatu yang baru, ada puluhan tulisan yang mengulang poin-poin yang sama seperti dampak sosial, bias, deepfake, dan plagiarisme
      Saya juga punya ketertarikan tertentu pada topik-topik ini, tetapi sebagian besar tulisan tidak membawa hal baru dan hanya tulisan reaktif terhadap kasus pelanggaran terbaru
    • Meski saya menghasilkan uang dengan membuat sesuatu memakai LLM, saya sendiri pun sudah muak membaca soal itu

  • Kalau butuh lebih banyak berita terkait LLM, tampaknya jawabannya adalah membuat situs web LLM News dan membangun komunitasnya
    Saya sangat menyukai HN, tetapi karena butuh lebih banyak berita komputasi retro dan gim, saya membuat situs saya sendiri (https://twostopbits.com/) dengan kode sumber HN. Tidak sulit. Buat saja apa yang diinginkan dan moderasikan sendiri
    Saya sudah berada di berbagai komunitas online selama lebih dari 35 tahun, dan sejauh ini komunitas yang paling baik dimoderasi serta paling lama berhasil berjalan tanpa tandingan adalah HN. The Well juga bagus untuk beberapa waktu

    • Saya belum pernah melihat ini sebelumnya, dan ini persis yang saya inginkan. Terima kasih sudah membuatnya
      Saya penasaran apakah komunitas dengan trafik rendah benar-benar terasa menyediakan kombinasi konten yang Anda harapkan saat memulainya
    • Apakah kode sumber HN juga menyertakan alat moderasi? Atau hanya situs agregator kerangka dengan algoritma peringkat dasar?
    • Arah retronya sangat keren. Apakah Anda memakai Workers?

  • Mengejutkan, tetapi benar; kami juga sudah muak dengan berita terkait LLM

  • Bukankah sebagian besar tulisan ini dihapus karena laporan pengguna?
    Ini bukan pertanyaan retoris. Di thread ini ada banyak komentar yang berterima kasih kepada “para moderator”, tapi saya tidak tahu bahwa ada tim moderasi yang merawat halaman depan. Ada yang bisa mengonfirmasi?

    • Benar. Menurut komentar yang ditinggalkan dang di thread Gary Tan beberapa hari lalu, memang begitu:
      “Bukan kami yang melaporkan tulisan itu, melainkan para pengguna. Untuk submission, hampir selalu begitu. Lihat https://news.ycombinator.com/newsfaq.html”
      https://news.ycombinator.com/item?id=39169622
    • https://www.newyorker.com/news/letter-from-silicon-valley/th...
    • Pada dasarnya, menurut saya ini terjadi karena orang memahami moderasi di sini dengan pola pikir ala Reddit. Mereka menganggap moderasi sebagai posisi yang istimewa dan terbatas, padahal itu keliru.
      Ada dang, satu admin yang menulis secara terbuka, dan mungkin ada admin HN lain yang membantunya. Namun, dalam 99,9% kasus ketika orang mengeluh tentang “moderator”, “moderator yang mabuk kuasa”, atau “sensor”, maksudnya lebih mendekati: pengguna lain melihat apa yang Anda katakan, dan kami memang tidak ingin melihatnya di sini.
      Kadang juga aneh ketika orang mengira ada “aturan” tentang apa yang boleh dilaporkan. Jelas ada pedoman, tetapi karena wewenang ini dimiliki pengguna biasa, pada praktiknya masing-masing orang memakainya sesuai makna yang mereka anggap tepat. Misalnya, saya sering melaporkan tulisan yang topik dan tulisannya sendiri menurut saya sepenuhnya valid, tetapi setiap kali topik itu dibahas di HN selalu berubah menjadi perdebatan panas yang tidak berguna atau dipenuhi komentar berkualitas paling rendah. Setidaknya bagi saya, laporan bukan penilaian atas “nilai” sebuah tulisan, melainkan sekadar tentang apa yang tidak ingin saya lihat di HN.
    • Bukan itu yang diukur oleh aplikasi tersebut:
      https://news.ycombinator.com/item?id=39231055

  • Melihat kasus ketika judul “Stable Diffusion Turbo on a Raspberry Pi Zero 2 generates an image in 29 minutes” diubah menjadi “OnnxStream: Stable Diffusion XL 1.0 Base on a Raspberry Pi Zero 2” dan tulisannya pada dasarnya mati, atau ketika sebuah tulisan yang berada di posisi ke-3 halaman depan kurang dari satu jam setelah dikirim tiba-tiba menghilang begitu saja dari halaman depan, jika ada tulisan yang berulang kali dilaporkan seperti ini, pada titik tertentu perlu dipikirkan apakah itu sekadar menyebar spam ke komunitas demi mempromosikan tautan.
    Saya paham orang ingin mempromosikan karya mereka, tetapi komunitas juga punya preferensi. Komunitas bisa bosan melihat tulisan LLM muncul di halaman depan setiap hari. Komunitas bisa menolak spam, dan bisa melaporkan tulisan.
    Saya tidak mengerti mengapa begitu sulit dipercaya bahwa pengguna HN sudah bosan dengan berita terkait LLM. Saya juga bosan, tetapi tidak punya hak untuk melaporkan. Sangat masuk akal bahwa pengguna HN yang punya hak melaporkan mungkin ingin melaporkan berita terkait LLM.

  • Kalau Anda bahkan tidak bisa membayangkan orang bisa bosan dengan berita terkait LLM, saya punya NFT untuk dijual kepada Anda.

  • Saya tidak yakin asumsi bahwa “sebuah tulisan tidak mungkin turun dari 30 besar ke luar 90 besar dalam 1 menit, jadi pasti dihapus secara eksplisit” itu valid.
    https://news.social-protocols.org/stats?id=39094387 terlihat seperti tulisan yang turun ke kisaran 30 besar dengan cukup cepat. Bisa saja karena tiba-tiba ada konten lain yang populer.
    Dari 13 tulisan yang tercantum pada Senin, 22 Januari 2024, hanya 3 yang tampaknya benar-benar dihapus dari HN. Sepuluh lainnya masih ada.
    Tulisan HP https://news.ycombinator.com/item?id=39087776 sepertinya terdorong keluar dari halaman depan karena merupakan duplikat dari https://news.ycombinator.com/item?id=39060793.
    Tulisan Ford https://news.social-protocols.org/stats?id=39089599 tampaknya terdeteksi keliru.
    Sejujurnya, dari 13 itu hanya 3–4 yang tampak mungkin merupakan moderasi, dan itu pun tidak terlihat buruk. Apakah cerita tentang kawat berduri di Texas cocok untuk Hacker News? Saya berada di Texas jadi tertarik, tetapi saya berharap menemukannya di tempat lain, bukan di HN.
    Secara keseluruhan, menurut saya HN melakukan moderasi dengan baik.

    • Saya tidak tahu apa arti “eksplisit” di sini.
      Jika peringkat turun secara algoritmis karena laporan pengguna tetapi tidak disembunyikan, apakah itu eksplisit? “Eksplisit” terdengar seperti campur tangan moderator secara manual, tetapi saya tidak melihat banyak hal yang mendukung itu.
    • Itu bukan asumsi yang valid. Lebih baik jadikan ini komentar teratas: https://news.ycombinator.com/item?id=39231537
    • Kalau Anda berada di Texas, mungkin Anda kurang merasakannya, tetapi itu adalah isu nasional. Konstitusi, kewenangan federal, bahkan Perang Saudara pun terkait dengannya.
      Memang politis, tetapi bukan isu lokal.