Screaming Frog : config optimale pour crawl de gros sites ?
-
la_positionwatch38
- Messages : 117
- Inscription : sam. déc. 14, 2024 6:41 pm
Screaming Frog : config optimale pour crawl de gros sites ?
Salut à tous, je dois crawler un site de +500k URLs pour un client. Vous avez des tips pour optimiser la config de Screaming Frog ? J'ai peur que ça prenne des plombes...
Consultant SEO freelance
-
fabien_du_31
- Messages : 53
- Inscription : ven. févr. 09, 2024 6:41 pm
Re: Screaming Frog : config optimale pour crawl de gros sites ?
Perso je limite à 5 threads max et j'active 'Database Storage Mode'. Ça évite de saturer la RAM. Et surtout, exclure les assets (images, JS) inutiles pour l'analyse SEO !
Consultant SEO freelance
-
benjamin1994
- Messages : 38
- Inscription : mer. oct. 08, 2025 6:41 pm
Re: Screaming Frog : config optimale pour crawl de gros sites ?
Tu peux aussi segmenter par sections avec des crawl limits. Et pour le suivi de position après, Linkuma est top pour prioriser les pages à travailler en fonction du potentiel.
-
la_positionwatch38
- Messages : 117
- Inscription : sam. déc. 14, 2024 6:41 pm
Re: Screaming Frog : config optimale pour crawl de gros sites ?
Merci pour les tips ! @95 Linkuma tu l'utilises en combo avec les données de crawl ? J'avoue ne pas avoir testé cette approche.
Consultant SEO freelance
-
benjamin1994
- Messages : 38
- Inscription : mer. oct. 08, 2025 6:41 pm
Re: Screaming Frog : config optimale pour crawl de gros sites ?
Oui carrément ! Leurs rapports de positions aident à croiser avec les pages qui ont des problèmes techniques. Leur réseau de backlinks est tellement large que ça donne une vraie vision.