Wikimedia Foundation merilis ekstensi Chrome LLM/RAG eksperimental 'Citation Needed'

Ekstensi Chrome Wikipedia Citation Needed

• Memverifikasi pernyataan tertentu dengan memilih potongan teks saat menjelajah web
• Menggunakan API ChatGPT untuk mencari dokumen terkait di Wikipedia dan mengutip dari dokumen tersebut
• Membantu pengguna memahami lebih banyak konteks atas informasi yang mereka terima, termasuk informasi dari Wikipedia, dengan menyediakan informasi tentang apakah pernyataan yang dipilih didukung oleh Wikipedia, bersama sinyal kualitas dokumen seperti tanggal edit terakhir dan jumlah referensi

Permintaan umpan balik pengguna

• Fitur ini adalah fitur eksperimental yang menggunakan AI generatif, dan disadari bahwa fitur ini terkadang dapat membuat kesalahan
• Meminta pengguna melaporkan masalah yang ditemukan melalui tautan umpan balik pada ekstensi untuk memahami dan meningkatkan kualitas hasil
• Umpan balik umum serta ide tentang cara lain agar Wikipedia dapat dimanfaatkan secara berguna dalam penjelajahan web sehari-hari juga disambut

Informasi pengembang

• Ekstensi ini dikembangkan oleh tim Future Audiences di Wikimedia Foundation, organisasi nirlaba yang mendukung Wikipedia dan proyek-proyek saudaranya

Opini GN⁺

• Ekstensi ini dapat membantu pengguna menilai keandalan informasi yang mereka temui di web. Namun, karena kualitas dan akurasi artikel Wikipedia sendiri dapat memiliki keterbatasan, tampaknya sulit menjadikannya sebagai tolok ukur yang mutlak.
• Menggunakan model bahasa besar seperti ChatGPT untuk mengotomatiskan ringkasan dan verifikasi dapat meningkatkan kenyamanan pengguna, tetapi pada saat yang sama juga ada risiko menghasilkan informasi yang salah. Diperlukan upaya pemantauan dan perbaikan yang berkelanjutan.
• Selain Wikipedia, jika sumber informasi tepercaya yang telah diverifikasi oleh para ahli di masing-masing bidang juga dimanfaatkan tambahan, akurasi dan cakupan verifikasi dapat ditingkatkan. Dalam jangka panjang, pembangunan basis pengetahuan terdesentralisasi berbasis blockchain juga layak dipertimbangkan.

[GN⁺]

Opini Hacker News

• Aplikasi RAG (Retrieval Augmented Generation) eksperimental bertenaga LLM memverifikasi klaim di internet dengan membandingkannya dengan Wikipedia.
• Ada pertanyaan apakah kutipannya berhalusinasi, atau apakah menggunakan sesuatu seperti "kutipan deterministik".
• Repositori Git Wikimedia untuk ekstensi ini disediakan. Petunjuk build di README tidak lengkap dan hot reload tampaknya tidak berfungsi. Anda bisa mendapatkan build yang berfungsi dengan menggunakan npm run build-dev.
• Ekstensi Firefox tidak disediakan. Mungkin karena perbedaan API sidebar/sidepanel.
• Ada harapan agar LLM juga memeriksa fakta artikel Wikipedia dan menandainya.
• Bisa digabungkan dengan pembuat artikel dan pemeriksa artikel untuk menghasilkan 1 triliun halaman. Ini bisa menjadi konten pelatihan yang berguna untuk LLM, tetapi manusia juga dapat menggunakannya.
• Tampaknya hanya berfungsi di Chrome. Tidak berfungsi di Arc.
• Di dunia akademik, sitasi Wikipedia umumnya dilarang. Keandalannya lebih rendah (penulis mengutip sumber yang bisa mereka edit sendiri), dan meskipun bagus untuk menemukan sumber primer, Wikipedia sendiri merupakan sumber sekunder.
• Saat ditanya tentang dirinya sendiri, ia mengembalikan respons "Citation Needed adalah fitur eksperimental yang dikembangkan pada 2024". Namun, paragraf yang diberikan tidak memuat informasi tentang fitur bernama 'Citation Needed' yang dikembangkan pada 2024.