Un robots.txt tient en quelques lignes capables de désindexer un site entier par accident : mieux vaut le générer soigneusement que le copier sur un forum. Cet outil construit le fichier à partir de quelques choix et rappelle la seule chose que robots.txt ne sait pas faire.
Non, et c’est le malentendu le plus dommageable. Il bloque l’exploration, pas l’indexation : une URL bloquée qui reçoit des liens peut toujours apparaître dans les résultats, sans description. Pour empêcher l’indexation, utilisez la balise meta noindex.
À la racine du domaine, exactement à /robots.txt. Les robots ne le cherchent nulle part ailleurs, et il s’applique séparément à chaque protocole, sous-domaine et port.
Les robots cessent de visiter vos pages, celles déjà indexées disparaissent progressivement et le trafic organique s’effondre. Un « Disallow: / » oublié depuis la préproduction est une panne bien plus courante qu’on ne le croit.
Non. Google affiche les pages pour les évaluer : bloquer ces fichiers lui fait voir une mise en page cassée et peut dégrader son appréciation, surtout sur mobile.
Formateur JSON · Encodeur Base64 · Encodeur d’URL · Décodeur JWT · Voir tous les outils
Également disponible en : English · Español · Português · Deutsch