Marginalia: Catatan 3 Tahun

 (marginalia.nu)
1 poin oleh GN⁺ 2024-02-26 | 1 komentar | Bagikan ke WhatsApp
  • Marginalia Search berawal dari eksperimen kecil untuk menemukan “internet yang keren”, dan dalam 3 tahun telah menjadi proyek penuh waktu, sementara mesin pencarinya juga mendekati kondisi paling stabil sejauh ini
  • Pekerjaan inti tahun ini adalah merapikan codebase dan menyederhanakan aplikasi agar beban operasional lebih rendah serta lebih mudah ditangani operator dan pengembang lain
  • Dulu pergantian indeks memerlukan penghentian layanan selama beberapa hari, tetapi kini gangguan saat pergantian sudah hilang, dan belakangan bahkan upgrade tanpa downtime juga menjadi mungkin
  • Kualitas pencarian membaik setelah dukungan kata kunci anchor text, dan seiring sinyal relevansi mulai matang, kemampuan menemukan hasil yang relevan meningkat pesat
  • Target pengindeksan 1 miliar dokumen terus berjalan, tetapi rasio signal-to-noise web yang rendah membuatnya lebih sulit dari perkiraan, dan fokus berikutnya adalah meningkatkan parsing serta eksekusi kueri

3 tahun berubah dari eksperimen menjadi proyek penuh waktu

  • Marginalia Search dimulai sebagai eksperimen kecil 3 tahun lalu, dan kini menjadi proyek yang dikerjakan penuh waktu
  • Mesin pencarinya masih punya ruang untuk ditingkatkan, tetapi dinilai berada pada tingkat yang bekerja paling baik sejauh ini
  • Salah satu tonggak terbesar adalah saat mesin pencari berpindah dari ruang keluarga ke server enterprise
  • Tahun ini fokus utamanya adalah menurunkan beban operasional ke tingkat yang dapat dikelola, serta merapikan codebase dan aplikasi agar mudah diakses operator dan pengembang lain
  • Cara operasinya juga banyak berubah
    • Dulu, pergantian indeks memerlukan penghentian layanan selama beberapa hari
    • Kini, gangguan saat pergantian indeks sudah tidak ada
    • Belakangan ini bahkan upgrade tanpa downtime juga dimungkinkan
    • Banyak pekerjaan yang dulu merupakan proses manual selama beberapa minggu kini berubah menjadi cukup menekan tombol di GUI

Kualitas pencarian dan perluasan indeks

  • Dukungan kata kunci anchor text memberi dampak besar pada relevansi pencarian
    • Tepat setelah perubahan, efeknya belum langsung jelas karena integrasinya belum cukup matang
    • Setelah sinyal relevansi baru mulai mapan, kemampuan mesin pencari menemukan hasil yang relevan meningkat pesat
  • Berkat dukungan dari NLnet, proyek ini menjadi pekerjaan penuh waktu sejak sekitar 8 bulan lalu
    • Tantangan yang tersisa adalah tidak bekerja terlalu banyak
    • Ada upaya untuk setidaknya beristirahat 1 hari per minggu, karena diyakini kerja menjadi lebih cerdas saat istirahat cukup
  • Target 1 miliar dokumen terindeks terus berjalan
    • Kesulitannya bukan pada kemampuan perangkat lunak memproses, melainkan pada buruknya rasio signal-to-noise web
    • Salah satu alasan besar mesin pencari ini bekerja relatif baik justru terletak pada apa yang tidak diindeks
    • Skala indeks bertambah dari 50 juta~100 juta setahun lalu menjadi 220 juta pada crawl terakhir
    • Setelah putaran crawl berikutnya selesai, berdasarkan pertumbuhan dua partisi yang sudah selesai, angkanya kemungkinan mencapai 290 juta~300 juta

Arah peningkatan berikutnya dan dukungan

  • Sasaran peningkatan berikutnya adalah parsing dan eksekusi kueri
    • Area ini masih memiliki banyak ruang untuk perbaikan
    • Sebelum pekerjaan besar dimulai, sedang dilakukan persiapan dengan merapikan kode yang terdampak
  • Lompatan besar proyek ini selalu datang dari eksperimen, dan meski ada pekerjaan yang direncanakan, hal yang benar-benar membawa perubahan besar kemungkinan adalah sesuatu yang tidak direncanakan, seperti anchor text
  • Ucapan terima kasih disampaikan kepada NLnet, FUTO, para pendukung Patreon, para pendukung, dan para pengguna

Bacaan terkait

1 komentar

 
GN⁺ 2024-02-26
Pendapat di Hacker News

  • Saya menandai ini dan menggunakannya untuk mencari materi yang sangat niche tentang pemodelan numerik
    Untuk materi terkait solver, pembuatan mesh, dan metode optimisasi, hasil yang ditemukan jauh lebih baik daripada yang bisa ditemukan di Google, dan materi dari era 80–90-an juga muncul dengan baik
    Bagi saya yang tidak hanya memakai paket komersial siap pakai, bisa menemukan pengetahuan semacam ini dan contoh kode Fortran sangatlah berharga

    • Saya penasaran apakah ada contoh halaman pakar niche yang lebih mudah ditemukan di Marginalia daripada di Google

  • Benar, ini benar-benar mirip pencarian lama
    Kalaupun tidak bisa menemukan pencarian seperti “all quiet on the western front book movie differences”, pada 1998 AltaVista juga tidak akan bisa menemukannya dengan cara seperti itu
    Sebaliknya, kalau hanya mengetik “all quiet on the western front”, akan muncul banyak situs langka seperti blog pribadi; kalau mengetik “polytopes”, akan muncul makalah universitas dan situs kode; dan “rust generics” juga memunculkan diskusi milis, blog, grup diskusi Rust, situs web pribadi, serta pembahasan yang mendalam
    Inilah pencarian web zaman dulu, dan yang membuat penasaran adalah bagaimana membuatnya berkelanjutan secara finansial dalam jangka panjang

    • Saat ini dijalankan dengan hibah dan donasi, dan berkat itu ada ruang gerak untuk beberapa tahun
      Biaya operasional riil hanya sekitar 100 dolar per bulan untuk colocation plus biaya hidup pribadi, jadi uang yang masuk ternyata bertahan lebih lama dari perkiraan
      Ke depannya, jika lebih dipoles, mungkin bisa ada pendanaan tambahan dari orang-orang yang sepemikiran, atau bisa juga menjual akses API ke mesin pencari lain
      Pencarian memang terkenal sulit menghasilkan uang selain lewat iklan, tetapi jika biayanya rendah, ini tampak bisa menjadi jalan yang cukup masuk akal

  • Saya mencoba mencari “transformers intuition” dan hasilnya benar-benar mengesankan
    Google mengarah ke situs-situs yang di-SEO, terutama Medium dan situs yang tampak mengilap di permukaan tetapi isinya kurang, sedangkan Marginalia jauh lebih baik

  • Thread retrospektif yang menunjukkan bahwa enam bulan setelah rilis, ini sudah berfungsi dengan baik tetapi pada saat yang sama masih punya sisi yang ambigu: https://news.ycombinator.com/item?id=28550764
    Namun, pada filter default saat ini, sepertinya hasil dari Reddit, Stack Exchange, dan Wikipedia agak terlalu banyak

  • Bagian yang paling mengena bagi saya adalah ini
    Bahwa ini lebih sulit dari perkiraan bukan karena perangkat lunaknya tidak sanggup, melainkan karena rasio sinyal terhadap noise di web buruk; dan salah satu alasan besar mesin pencari ini bekerja cukup baik adalah pada apa yang tidak diindeksnya

  • Karena sudah terbiasa dengan Google, saya tidak sering memakai Marginalia, tetapi proyeknya sendiri luar biasa
    Karena situs SEO spam dan jawaban yang dihasilkan AI tampaknya semakin banyak, rasanya saya akan lebih sering memakainya ke depan

    • Sepertinya masih butuh sedikit waktu sebelum bisa dipakai sebagai mesin pencari default untuk sehari-hari
      Secara optimistis, jika pekerjaan terkait kueri dan eksekusi selesai sekitar musim panas ini, mungkin bisa mendekati level itu

  • Saya penasaran kepada Viktor, apakah Common Crawl [0] bisa membantu
    Saat ini ukurannya sekitar 100 TB dan 3,35 miliar halaman, jadi jika tidak diproses langsung dari S3, pengunduhannya akan memakan waktu lama; rasio sinyal terhadap noise-nya juga saya tidak tahu
    [0] https://commoncrawl.org/overview

  • Mesin pencari yang keren
    Saya berencana segera melihat kodenya juga; ketika mencari “ROME2D16-2T”, ia memunculkan hasil terkait dari sumber yang sulit dipahami, dan itu berguna

  • Saya mencoba tiga pencarian Google terbaru
    “india test cricket lowest total” tidak memberi hasil atau jawaban yang bagus, sementara “raid calculator” hasilnya lumayan tetapi karena kata raid, ikut tercampur noise seperti halaman editor penyimpanan/cheat Pokemon
    “all quiet on the western front movie book differences” menghasilkan 0 hasil, benar-benar halaman kosong

    • Pada tahap ini, mesin pencari ini tidak bertujuan menyediakan knowledge graph
      Ini adalah alat untuk menemukan dokumen di internet, bukan untuk menjawab pertanyaan; fitur jawaban memang sesuatu yang mungkin diinginkan, tetapi sering kali mengorbankan kemampuan menemukan dokumen
      Hasil Pokemon itu membahas aplikasi bernama “raidcalc”, jadi dari sudut pandang mesin pencari yang sama sekali tidak membuat profil pengguna dan tidak mengetahui minatnya, itu tampak sebagai kecocokan yang cukup baik
      “all quiet on the western front movie book differences” sepertinya terkena batas panjang kueri; itu jejak lama dari masa ketika kueri panjang belum ditangani dengan baik, jadi tampaknya bisa dihapus
      Saya sudah mencoba menaikkan batasnya, tetapi hasilnya tetap tidak terlalu bagus, dan ini tepat masuk ke area pekerjaan berikutnya, yaitu pemahaman dan eksekusi kueri
      Mesin pencari saat ini belum bisa memahami kueri dengan mengelompokkannya seperti manusia melihat all quiet on the western front sebagai satu frasa yang bagus jika ada di judul atau muncul beberapa kali, sementara movie, book, dan differences penting dalam dokumen tetapi tidak harus muncul dalam urutan persis
      Saat ini caranya adalah mencari dokumen yang semua katanya muncul berdekatan, atau dokumen yang kata-kata individualnya punya relevansi tf-idf tinggi, sehingga tidak cocok untuk kueri ini

  • Menarik. Seseorang menemukan situs web acak [0] yang menambal binary C&C Tiberian Sun hanya untuk bersenang-senang agar memiliki dukungan IPv6
    Nuansa web lama yang dirindukan masih terasa kuat
    Anehnya, saya teringat Searchlores [1] milik Fravia; jika Umberto Eco tertarik pada komputer, mungkin rasanya akan seperti ini
    Situs itu sendiri juga terasa seperti labirin perpustakaan dalam The Name of the Rose: setiap belokan bisa menemukan sesuatu yang menakjubkan, lalu kelak hilang selamanya :D
    [0] http://ts.sesse.net/
    [1] https://www.biostatisticien.eu/www.searchlores.org/indexo.ht...