- Tulisan ini membahas runtuhnya kepercayaan terhadap internet dengan berfokus pada kasus ditemukannya artikel palsu buatan AI yang sebenarnya tidak ada saat mencari game rilis ulang untuk Sega Genesis di Jepang, ‘Phantasy Star Fukkokuban’
- Situs yang muncul di peringkat atas hasil pencarian memuat isi yang sama sekali tidak sesuai fakta, seperti peningkatan grafis dan efek cuaca, dan terungkap sebagai fiksi yang dibuat oleh large language model (LLM)
- Penulis juga langsung mengonfirmasi gejala halusinasi (hallucination) akibat kurangnya data pelatihan, ketika meminta ChatGPT menjelaskan game yang sama dan malah menerima informasi tentang platform dan isi yang keliru
- Konten yang dibuat secara otomatis seperti ini mengalir dalam jumlah besar ke situs iklan berorientasi SEO, memperkuat struktur penyebaran informasi palsu yang terdengar meyakinkan tanpa verifikasi
- Akibatnya, fondasi pengetahuan bersama di internet rusak, dan penulis menyimpulkan bahwa informasi tepercaya pada akhirnya hanya bisa bergantung pada situs bereputasi dari era sebelum LLM
Kasus Phantasy Star Fukkokuban
- ‘Phantasy Star Fukkokuban’ untuk Sega Genesis, yang dirilis di Jepang pada 1994, adalah versi rilis ulang yang memuat game Master System asli apa adanya
- Beberapa konsol Genesis tidak dapat menjalankan game Master System, sehingga kartrid ini juga tidak berfungsi di sana
- Saat mencoba memeriksa tanggal rilis game ini, penulis menemukan situs berisi informasi palsu di bagian atas hasil pencarian
- Situs bermasalah, ‘Press Start Gaming’, menyebut peningkatan grafis, efek cuaca, dan perubahan siang-malam, padahal semuanya tidak ada di game aslinya
- Meskipun kalimat pertama artikelnya berbunyi “Game data not found”, setelah itu tetap muncul teks penjelasan yang terdengar meyakinkan hasil buatan AI
Masalah halusinasi pada large language model
- LLM bekerja berdasarkan prediksi token berikutnya, dan pada topik langka yang tidak ada dalam data pelatihan, model dapat membuat fiksi yang terdengar masuk akal
- Dengan menggabungkan seri ‘Phantasy Star’ dan makna kata ‘Fukkokuban’ (edisi cetak ulang), model membayangkan versi remake yang sebenarnya tidak pernah ada
- Ketika penulis meminta ChatGPT menjelaskan game yang sama, ia menerima jawaban yang salah karena game itu dikenali sebagai kompilasi untuk Sega Saturn
- Kemungkinan besar ini terjadi karena tertukar dengan game lain yang benar-benar ada, yaitu ‘Phantasy Star Collection’
- Dengan pola serupa, untuk game langka lain yang juga pernah dibahas penulis, ‘Mahjong Daireikai’, terdapat pula deskripsi fiktif buatan AI di web berbahasa Jepang
Runtuhnya kepercayaan terhadap internet
- Situs ‘Press Start Gaming’ diduga merupakan platform konten otomatis untuk pendapatan iklan
- Di bagian bawah situs tertulis “©2025 Cloud Gears Media”, tetapi kaitannya dengan perusahaan nyata tidak jelas
- Situs seperti ini memprioritaskan visibilitas pencarian (SEO) ketimbang penyampaian fakta
- Dengan hadirnya LLM, biaya produksi informasi palsu menurun drastis, sehingga konten tanpa verifikasi menyebar secara massal
- Dulu, bahkan penulis bergaji rendah setidaknya masih melakukan pemeriksaan fakta minimal, tetapi sekarang AI menghasilkan fiksi sepenuhnya
- Penulis mengatakan, “Sekarang sulit mempercayai situs baru,” dan menyebut dirinya akhirnya hanya mengandalkan media yang membangun reputasi sebelum era AI
Kerusakan ekosistem informasi di era AI
- Penulis menilai bahwa pengetahuan bersama (common) di internet sudah rusak hingga tingkat yang tak bisa dipulihkan
- Bahkan sumber informasi yang tepercaya pun berisiko tercemar oleh konten AI
- Sebagai contoh, disebutkan kasus Ars Technica yang memuat artikel dengan kutipan buatan AI lalu mengoreksi dan menariknya
- Jika suatu saat LLM mengintegrasikan lebih banyak data, akurasinya mungkin dapat meningkat, tetapi kerusakan saat ini sudah telanjur berlangsung
- Penulis menyebut tulisan ini “sekadar luapan kemarahan (rant)”, sambil menekankan pengalaman nyata hilangnya kepercayaan terhadap internet
Kesimpulan
- Ekosistem konten yang berpusat pada AI dan SEO memprioritaskan efisiensi produksi dibanding kebenaran informasi
- Akibatnya, tulisan yang dibuat otomatis tanpa verifikasi fakta tampil di peringkat atas pencarian dan merusak fondasi pembelajaran serta penelusuran pengguna
- Penulis menutup tulisannya dengan pernyataan, “Internet tidak lagi bisa dipercaya,” yang menyiratkan bahwa pemulihan kepercayaan terhadap pengetahuan digital sangat mendesak
1 komentar
Opini Hacker News
Sedang membangun mesh network di kota kami bersama teman-teman
Internet terbuka sebenarnya sudah lama menurun, tetapi LLM mempercepat ajalnya
Saya sudah menerima bahwa internet era 90-an hingga awal 2000-an kini sudah mati
Ke depan, saya rasa jaringan lokal yang bisa dipercaya adalah alternatifnya
Menyedihkan bahwa kita harus mundur ke ruang yang eksklusif karena orang-orang yang hanya mengejar uang
Intinya bukan jaringannya, melainkan kualitas konten
Cukup buat forum yang hanya mengundang orang-orang tepercaya
Semoga berhasil dengan usahanya
Saat ini saya sedang memoles pemutar MP3 berbasis jaringan; masih tahap awal, tetapi saya optimistis
Tautan proyek
Ada pemikiran bahwa alasan misinformasi online sekarang jauh lebih banyak daripada dulu mungkin karena prediction markets
Strukturnya mendorong distorsi persepsi orang demi memasang uang
Setelah kasus superkonduktor LK99 pada 2023, fenomena seperti ini meningkat tajam
Prediction markets memang memungkinkan informasi diperdagangkan dengan uang, tetapi skalanya tidak cukup besar untuk menyebarkan disinformasi yang disengaja
Menurut saya, penyebab utamanya justru politisi, influencer, dan disinformasi partisipatif yang mengejar pendapatan iklan
Yang jadi masalah adalah runtuhnya kepercayaan di internet
Dulu paling hanya sesekali tertipu informasi salah, tetapi sekarang konten yang direproduksi bot membanjir
Rasio manusia dibanding bot nyaris mendekati 0
Pada akhirnya, kita seperti sudah membakar web itu sendiri
Sekarang bahkan orang-orang yang mengendalikannya pun tampaknya tidak lagi tahu apa yang sedang terjadi
Jadi bisa jadi model saat ini justru akan dikenang sebagai versi yang paling tidak bias
Saya sempat memikirkan bagaimana melindungi HN, tetapi pada akhirnya sepertinya tidak ada jawaban selain sistem berbasis undangan
Belakangan ini saya sampai lelah secara emosional karena bahkan tidak yakin komentar itu ditulis manusia atau bukan
Suasananya seperti mempercayai AI layaknya agama, jadi akun bot dan komentar yang difilter AI bercampur jadi satu
Fediverse seperti Mastodon masih sehat, tetapi suatu hari nanti tempat itu juga akan tercemar
Signal-to-noise ratio (SNR) internet berada di titik terendah sepanjang masa
Saya rasa solusinya hanya tanda tangan digital yang diverifikasi sebagai manusia
Melalui skema seperti eIDAS, orang harus bisa membuktikan bahwa mereka manusia sambil tetap menjaga anonimitas
Tautan diskusi terkait
Anonimitas tetap dipertahankan, tetapi harus ada struktur yang mencegah serangan Sybil
Saya terkejut saat mencari video tentang Intel i7-4790T
Kebanyakan video terbaru ternyata konten 'slop' yang membacakan skrip hasil buatan LLM
Produknya bahkan tidak pernah dijual secara ritel, tetapi kanal YouTube mengunggah puluhan video per hari sambil mengejar pendapatan dari tautan afiliasi Amazon
Contoh video1 / Contoh video2
Sekarang ketika biaya membuat konten palsu nyaris nol, kita membutuhkan mekanisme kepercayaan yang bisa diskalakan
Secara pribadi, struktur Web of Trust terlihat menarik bagi saya
Sebagian orang memang akan terpinggirkan, tetapi tampaknya itu tak terhindarkan
Saya sedang membangun pengarsip tambahan berbasis protokol Gemini
Saya berencana hanya merekam web yang diizinkan lewat robots.txt
Bukan hanya antarindividu, tetapi juga antarsitus bisa membentuk jejaring kepercayaan
Ini bisa dimulai dari komunitas lokal atau kelompok hobi lalu meluas secara bertahap
Baru-baru ini saya mencari informasi game baru Hollow Knight, lalu melihat beberapa situs panduan palsu buatan LLM
Game itu baru dirilis 6 bulan, jadi belum banyak informasi nyata, dan situs-situs itu tampaknya mengejar pendapatan iklan
Saya jadi bertanya-tanya apakah membuat konten palsu bahkan untuk topik niche seperti ini benar-benar menguntungkan
'teori asimetri omong kosong' seolah bekerja di dunia nyata
Situs web dengan SEO buruk justru terasa lebih bisa dipercaya
Masa depan internet tampaknya akan mengarah ke komunitas berbasis undangan
Saya penasaran apakah forum generasi berikutnya akan muncul, atau malah kita kembali ke era PHPBB
Hanya konten yang tidak menjadi sasaran game atau spam yang mungkin bisa bertahan
Suasananya mirip HN, tetapi dijalankan dengan struktur khusus undangan