12 poin oleh xguru 2020-12-11 | 1 komentar | Bagikan ke WhatsApp
  • Alat untuk merayapi situs web secara lokal dan membantu analisis SEO

→ Memeriksa tag H1, H2, dan metadata

→ Mengekstrak informasi dari tiap halaman dengan XPath dan selector CSS

→ Memeriksa status dengan parser robots.txt

→ Memeriksa tautan rusak dan kode status (3xx, 4xx, 5xx)

→ Dapat mengecualikan URL dengan filter

  • Menyediakan file eksekusi untuk Windows/Mac/Linux

  • Mengekspor hasil crawl ke CSV (disimpan secara internal di sqlite)

  • Dapat berjalan bahkan pada spesifikasi rendah, tanpa batas ukuran

→ Sudah diuji pada situs dengan lebih dari 4 juta halaman

  • Juga tersedia sebagai kode Python dan paket PyPI (pip install greenflare)

1 komentar

 
xguru 2020-12-11

Setelah saya coba, tool ini cukup cepat mengambil dan memproses URL.

Untuk memuat 5.000 URL pun tidak butuh waktu lama.

Karena bisa membebani sisi server, harap gunakan secukupnya. ^^