- Untuk membersihkan lingkungan web yang tercemar oleh spam buatan AI dan ladang konten, Kagi Search memperkenalkan sistem deteksi partisipatif komunitas bernama ‘SlopStop’
- SlopStop menampilkan ‘skor AI slop’ real-time untuk teks, gambar, dan video buatan AI di hasil pencarian, serta memungkinkan pengguna melaporkan langsung konten berkualitas rendah
- Melalui penurunan peringkat otomatis di tingkat domain dan fitur pemfilteran media buatan AI, sistem ini memperkuat penayangan informasi yang lebih tepercaya
- SlopStop terhubung dengan proyek ‘Small Web’, sehingga memprioritaskan kreator yang berpusat pada manusia dan konten yang autentik
- Melalui ini, Kagi menargetkan pembangunan dataset AI slop terbesar di dunia, yang nantinya akan digunakan untuk teknologi pertahanan terhadap halusinasi AI dan misinformasi
Definisi AI Slop dan respons Kagi
- AI slop berarti konten AI yang menipu atau bernilai rendah yang dibuat untuk memanipulasi peringkat pencarian atau menarik perhatian
- Contohnya mencakup ulasan palsu, keahlian palsu, informasi yang salah, dan ladang konten yang berorientasi pendapatan
- Kagi tidak menolak AI itu sendiri, tetapi menegaskan bahwa konten AI yang menggantikan wawasan dan koneksi manusia bersifat merugikan
- Filosofi Kagi adalah “pengalaman pencarian yang dikendalikan manusia”, dan selama ini mereka sudah menurunkan peringkat halaman berkualitas rendah yang berpusat pada iklan dan pelacak
- SlopStop memperluas filter gambar yang ada untuk mendeteksi seluruh spektrum konten buatan AI, termasuk video, artikel, dan domain
Cara kerja SlopStop
- Fitur penampilan skor AI slop ditambahkan ke hasil pencarian, sehingga pengguna bisa langsung memeriksa tingkat kepercayaan suatu konten
- Pengguna dapat melaporkan konten berkualitas rendah lewat fitur ‘laporkan sebagai konten buatan AI’ pada hasil web, gambar, dan video
- Kagi akan memverifikasinya dengan sinyal internal, lalu secara otomatis menurunkan peringkat domain yang memiliki proporsi konten AI tinggi
- Untuk domain campuran, label konten buatan AI hanya diberikan pada halaman individual
- Gambar dan video buatan AI akan diberi label dan otomatis diturunkan peringkatnya segera setelah terverifikasi, dan pengguna dapat memilih filter pemblokiran total media AI
- CEO Vlad menyebut bahwa “AI slop adalah ancaman eksistensial bagi internet yang berpusat pada manusia, dan SlopStop adalah langkah pertama untuk menghapusnya”
Kombinasi SlopStop dan Small Web
- Kecepatan perkembangan AI sangat tinggi, tetapi SlopStop dan Small Web bersama-sama bertujuan memulihkan ekosistem web yang berpusat pada manusia
- Small Web membangun whitelist kreator manusia yang terverifikasi untuk memprioritaskan konten yang autentik
- Semakin banyak konten AI yang disaring oleh SlopStop, semakin tinggi visibilitas konten yang kreatif dan manusiawi
- Kedua sistem ini berfungsi sebagai lapisan pertahanan ganda untuk melindungi internet dari komersialisasi dan pencemaran buatan
Pembangunan dan pemanfaatan dataset AI Slop
- SlopStop adalah tahap penguatan keandalan di seluruh ekosistem Kagi, yang menggabungkan laporan komunitas dan teknologi deteksi internal dengan target membangun dataset domain AI slop terbesar di dunia
- Dataset ini rencananya akan digunakan untuk mengembangkan teknologi deteksi guna mencegah halusinasi AI, klaim palsu, dan disinformasi
- Kagi mengutip hasil investigasi NewsGuard yang menyebut bahwa 30–41% chatbot lain menghasilkan jawaban palsu
- Basis data ini akan dipublikasikan di masa mendatang, dan pengguna yang berminat dapat mendaftar untuk menerima pembaruan
Partisipasi pengguna dan perlindungan kualitas
- Kagi mendorong pengembangan solusi akhir yang otomatis melalui operasi SlopStop berbasis crowdsourcing
- Pengguna dapat berpartisipasi dengan mengklik ikon perisai di samping hasil pencarian → memilih ‘laporkan sebagai konten buatan AI’
- Semua laporan akan ditinjau dan diterapkan oleh tim peninjau Kagi, sehingga berkontribusi pada peningkatan kualitas pencarian
- Melalui dokumentasi teknis dan forum terkait SlopStop, Kagi menyediakan penjelasan cara kerja dan saluran umpan balik
- Kagi menekankan bahwa “partisipasi semua pengguna menciptakan pengalaman pencarian yang lebih tepercaya”
Belum ada komentar.