SlopStop: Sistem deteksi konten buatan AI berbasis komunitas di pencarian Kagi

• Untuk membersihkan lingkungan web yang tercemar oleh spam buatan AI dan ladang konten, Kagi Search memperkenalkan sistem deteksi partisipatif komunitas bernama ‘SlopStop’
• SlopStop menampilkan ‘skor AI slop’ real-time untuk teks, gambar, dan video buatan AI di hasil pencarian, serta memungkinkan pengguna melaporkan langsung konten berkualitas rendah
• Melalui penurunan peringkat otomatis di tingkat domain dan fitur pemfilteran media buatan AI, sistem ini memperkuat penayangan informasi yang lebih tepercaya
• SlopStop terhubung dengan proyek ‘Small Web’, sehingga memprioritaskan kreator yang berpusat pada manusia dan konten yang autentik
• Melalui ini, Kagi menargetkan pembangunan dataset AI slop terbesar di dunia, yang nantinya akan digunakan untuk teknologi pertahanan terhadap halusinasi AI dan misinformasi

---

Definisi AI Slop dan respons Kagi

• AI slop berarti konten AI yang menipu atau bernilai rendah yang dibuat untuk memanipulasi peringkat pencarian atau menarik perhatian
  • Contohnya mencakup ulasan palsu, keahlian palsu, informasi yang salah, dan ladang konten yang berorientasi pendapatan
• Kagi tidak menolak AI itu sendiri, tetapi menegaskan bahwa konten AI yang menggantikan wawasan dan koneksi manusia bersifat merugikan
• Filosofi Kagi adalah “pengalaman pencarian yang dikendalikan manusia”, dan selama ini mereka sudah menurunkan peringkat halaman berkualitas rendah yang berpusat pada iklan dan pelacak
• SlopStop memperluas filter gambar yang ada untuk mendeteksi seluruh spektrum konten buatan AI, termasuk video, artikel, dan domain

Cara kerja SlopStop

• Fitur penampilan skor AI slop ditambahkan ke hasil pencarian, sehingga pengguna bisa langsung memeriksa tingkat kepercayaan suatu konten
• Pengguna dapat melaporkan konten berkualitas rendah lewat fitur ‘laporkan sebagai konten buatan AI’ pada hasil web, gambar, dan video
  • Kagi akan memverifikasinya dengan sinyal internal, lalu secara otomatis menurunkan peringkat domain yang memiliki proporsi konten AI tinggi
  • Untuk domain campuran, label konten buatan AI hanya diberikan pada halaman individual
• Gambar dan video buatan AI akan diberi label dan otomatis diturunkan peringkatnya segera setelah terverifikasi, dan pengguna dapat memilih filter pemblokiran total media AI
• CEO Vlad menyebut bahwa “AI slop adalah ancaman eksistensial bagi internet yang berpusat pada manusia, dan SlopStop adalah langkah pertama untuk menghapusnya”

Kombinasi SlopStop dan Small Web

• Kecepatan perkembangan AI sangat tinggi, tetapi SlopStop dan Small Web bersama-sama bertujuan memulihkan ekosistem web yang berpusat pada manusia
• Small Web membangun whitelist kreator manusia yang terverifikasi untuk memprioritaskan konten yang autentik
• Semakin banyak konten AI yang disaring oleh SlopStop, semakin tinggi visibilitas konten yang kreatif dan manusiawi
• Kedua sistem ini berfungsi sebagai lapisan pertahanan ganda untuk melindungi internet dari komersialisasi dan pencemaran buatan

Pembangunan dan pemanfaatan dataset AI Slop

• SlopStop adalah tahap penguatan keandalan di seluruh ekosistem Kagi, yang menggabungkan laporan komunitas dan teknologi deteksi internal dengan target membangun dataset domain AI slop terbesar di dunia
• Dataset ini rencananya akan digunakan untuk mengembangkan teknologi deteksi guna mencegah halusinasi AI, klaim palsu, dan disinformasi
• Kagi mengutip hasil investigasi NewsGuard yang menyebut bahwa 30–41% chatbot lain menghasilkan jawaban palsu
• Basis data ini akan dipublikasikan di masa mendatang, dan pengguna yang berminat dapat mendaftar untuk menerima pembaruan

Partisipasi pengguna dan perlindungan kualitas

• Kagi mendorong pengembangan solusi akhir yang otomatis melalui operasi SlopStop berbasis crowdsourcing
• Pengguna dapat berpartisipasi dengan mengklik ikon perisai di samping hasil pencarian → memilih ‘laporkan sebagai konten buatan AI’
• Semua laporan akan ditinjau dan diterapkan oleh tim peninjau Kagi, sehingga berkontribusi pada peningkatan kualitas pencarian
• Melalui dokumentasi teknis dan forum terkait SlopStop, Kagi menyediakan penjelasan cara kerja dan saluran umpan balik
• Kagi menekankan bahwa “partisipasi semua pengguna menciptakan pengalaman pencarian yang lebih tepercaya”

[GN⁺]

Opini Hacker News

• Ini benar-benar kabar yang menarik. Semoga HN juga mencontoh fitur seperti ini dan menambahkan penanda serupa
  • Sudah meminta akses basis data ke @freediver. Sepertinya akan segera diintegrasikan ke hcker.news
    Saya suka pendekatan berbasis komunitas dari Kagi. Daftar Small Web yang dibuka ke publik benar-benar berguna.
    Kalau menerapkan filter smallweb di HN, halaman depannya terasa jauh lebih segar
  • Setuju
• HN juga butuh hal seperti ini. Andai ada tempat berlindung yang aman dari konten yang seperti spam canggih
  • Solusinya sederhana. Tinggal minta verifikasi manusia untuk semua komentar. Misalnya, kirim satu tetes darah untuk setiap komentar
• Di dokumennya, mereka membedakan slop gambar, video, dan “halaman web”, jadi saya penasaran apakah ada cara untuk memfilter secara agresif hanya slop halaman web
  Kadang ada tulisan yang bernas tapi dipasangi gambar header buatan AI. Kalau isi utamanya asli, saya tidak ingin tulisan seperti itu tersaring. Saya penasaran apakah pembedaan di dokumen itu memungkinkan penyaringan sehalus ini
• Saya berharap ada orang pintar yang mau meneliti teori saya. Mungkin kunci deteksi ada pada mempelajari perbedaan entropi antara konten yang ditulis manusia dan yang ditulis LLM
  Misalnya seperti “tes Will Smith makan spaghetti”, rasanya kalau membandingkan entropi antara adegan nyata dan adegan hasil generasi, bedanya akan terlihat jelas. Pada akhirnya, sesuatu yang “terlihat nyata” berarti cocok dengan tingkat entropi yang kita harapkan
  • Saya tidak berpikir AI slop bisa menyelesaikan masalah AI slop. Dunia iklan dan ekonomi perhatian sudah lebih dulu menjadi slop, dan AI hanya membuatnya makin terlihat.
    Sangat mudah bagi AI untuk menaikkan entropi secara artifisial. Pada akhirnya akan terjadi perang informasi, dan manusialah yang akan jadi korbannya
  • Sebenarnya itulah prinsip dasar “detektor AI”. Model dilatih untuk mengklasifikasikan konten buatan manusia vs LLM, tapi seperti yang semua orang tahu, akurasi mereka buruk sekali
  • Upaya seperti itu sudah ada. Untuk gambar, ini bisa berhasil berkat artefak model difusi, tapi untuk teks hasilnya kurang bagus.
    Teks punya kepadatan informasi yang terlalu tinggi, dan model seperti GPT justru dilatih untuk meminimalkan entropi yang kamu maksud
  • Mungkin bisa berguna untuk membedakan foto nyata dan foto buatan AI, tapi saya rasa untuk teks entropi tidak sepenting itu.
    Lagi pula AI juga bisa saja dilatih untuk menipu deteksi semacam itu
  • Saya kira “tes Will Smith spaghetti” itu cuma lelucon, ternyata setelah dicari memang ada. Mengejutkan
• Internet belum mati, tapi sudah mulai tercium aneh
• Saya sudah jadi pengguna berbayar Kagi selama 1 tahun. Ini adalah pengeluaran paling berharga yang pernah saya lakukan sejauh ini.
  Baru-baru ini saya mencoba Google Search lagi, dan itu benar-benar mengerikan.
  Saya ingin internet yang tenang — tempat di mana saat bertanya, ada jawaban; tanpa motif, tanpa iklan, hanya jawaban yang tulus
• Saya rasa pendekatan yang bisa diskalakan pada akhirnya adalah membiarkan AI mengidentifikasi AI. Tentu saja tetap perlu peninjauan manusia
  Kebanyakan orang tampaknya tidak bisa membedakan teks AI yang keluar dari “suara default” lewat prompt
  • Model generasi berikutnya akan berkembang dengan mengecualikan sampel yang diklasifikasikan sebagai AI dari data latihnya.
    Siklus seperti ini akan terus berulang, dan ini mirip dengan struktur GAN (Generative Adversarial Network)
  • Membiarkan AI menangkap AI mirip dengan ilusi masalah alignment ala “AI baik mengalahkan AI jahat”. Mungkin saja, tapi terlalu bergantung pada banyak asumsi
  • Kalau AI benar-benar bisa mendeteksi AI, masalah ini seharusnya sudah selesai. Kurangnya keandalan adalah inti persoalannya
  • Kalau prompt ditangani dengan cermat, teks yang sulit dideteksi bisa dibuat.
    Tapi di web nyata, AI slop tetap melimpah.
    Saya sering mencari informasi yang kebenarannya penting, jadi dibanding apakah sesuatu terdeteksi sebagai AI atau tidak, keandalan sumber jauh lebih penting.
    Pada akhirnya yang penting adalah siapa yang menulis dengan mempertaruhkan nama atau reputasinya
• Dunia sekarang terasa terbagi menjadi dua semesta. Satu adalah semesta yang memaksakan konten generatif, yang lain adalah semesta yang menolaknya habis-habisan
  Saya tidak paham kenapa beberapa CEO begitu keras kepala. Orang-orang tidak suka konten artifisial, tapi mereka tetap terobsesi dengannya
  • Di YouTube ada basis penonton yang sangat besar yang menikmati konten buatan AI.
    Misalnya video ini dan video ini, keduanya dibuat dengan skrip tulisan GPT, ilustrasi AI, dan suara AI.
    Di Reddit juga, tulisan yang ditulis GPT bisa naik ke atas, dan orang-orang memujinya sebagai “metafora yang indah”.
    Pada akhirnya banyak orang menikmati konten AI tanpa sadar atau tanpa terlalu memikirkannya
  • Sikap keras kepala para CEO itu kebanyakan karena tekanan dewan direksi dan Wall Street. Pada dasarnya cuma orang-orang yang bahkan belum pernah benar-benar memakai LLM bereaksi terhadap sinyal pasar
  • Ini benar-benar jebakan sunk cost dan obsesi terhadap pertumbuhan. Yang berkuasa bukan logika, melainkan tren dan kegelisahan investor
  • Kagi juga tidak sepenuhnya menyingkirkan LLM. Mereka memang memakai LLM untuk ringkasan berita
    Seperti terlihat di isu terkait, pengecualian total sulit dilakukan karena efisiensi ekonomi
  • Kalau kreator harus mengungkapkan penggunaan AI, maka saya juga harus punya hak untuk memfilternya.
    Belakangan ini terlalu sulit menemukan konten yang asli.
    Masalahnya bukan sekadar konten AI itu sendiri, tetapi lingkungan yang menenggelamkan kreator yang sungguh-sungguh berkarya
• Situasi sekarang seperti AI bermain catur melawan dirinya sendiri.
  Deteksi makin canggih, AI makin licik. Duel deteksi versus penghindaran yang tiada habisnya sedang terus berlangsung
• “Perang slop telah dimulai”
  Saya mendukung semua upaya untuk menghentikan banjir AI slop di hasil pencarian.
  Rasanya seperti spam SEO zaman dulu kembali lagi, hanya saja kemasannya berbeda
  • Kali ini jauh lebih parah. Dulu spam SEO cepat ketahuan kalau dilihat manusia, tapi sekarang kita dibanjiri sampah yang tampak sempurna di permukaan.
    Alasan mesin pencari lain menyukai hal seperti ini adalah karena mereka bisa memperkuat peran mereka sebagai gerbang masuk tanpa harus membuat konten sendiri
  • Ironisnya, kelompok yang paling membenci konten AI adalah industri SEO.
    Karena ringkasan AI sedang menggantikan konten pancing klik mereka.
    Mungkin saja merekalah yang ada di balik gerakan penyaringan seperti ini