Bonjour,
Google Search Console indique que le fichier https://byanneceline.com/robots.txt retourne l'en-tête HTTP suivant :
X-Robots-Tag: noindex
Cela empêche Google d’indexer ce fichier, alors que je souhaite qu’il le fasse.
J’ai tenté de supprimer cette directive via le fichier .htaccess avec :
<Files "robots.txt">
Header unset X-Robots-Tag
</Files>
Mais cela ne fonctionne pas, probablement parce que la directive est injectée au niveau serveur.
Pouvez-vous me confirmer si cette directive est ajoutée automatiquement par OVH, et dans ce cas, la désactiver ?
Merci beaucoup,
Bonjour,
Votre robots.txt est géré par le plugin Yoast et n'inderdit aucun crawler:
# START YOAST BLOCK
# ---------------------------
User-agent: *
Disallow:
Sitemap: https://byanneceline.com/sitemap_index.xml
# ---------------------------
# END YOAST BLOCK
Merci pour votre retour !
Effectivement, le contenu du fichier robots.txt est correct et généré par Yoast.
Le problème vient de l’en-tête HTTP envoyé par le serveur OVH :
X-Robots-Tag: noindex
C’est cette directive qui empêche Google d’indexer le fichier, même s’il est accessible.
J’ai tenté de la supprimer via .htaccess, mais cela n’a aucun effet.
Elle semble injectée côté serveur, j'ai fait une demande auprès du support OVH mais ils ne me répondent pas.
Du coup, je me suis tournée vers la communauté
Merci pour votre retour !
Effectivement, le contenu du fichier robots.txt est correct et généré par Yoast.
Le problème vient de l’en-tête HTTP envoyé par le serveur OVH :
X-Robots-Tag: noindex
C’est cette directive qui empêche Google d’indexer le fichier, même s’il est accessible.
J’ai tenté de la supprimer via .htaccess, mais cela n’a aucun effet.
Elle semble injectée côté serveur, d’où ma demande auprès du support OVH mais qui ne m'a pas répondu. Du coup je me suis tournée vers la Communauté.
Bonjour@Byanneceline
Votre fichier .htaccess contient-il la ligne :
Options -Indexes
Bonjour,
Je n'ai rien de tel dans la réponse du serveur OVH:
La réponse du serveur renvoie bien un :
x-robots-tag noindex, followMais je ne vois pas vraiment le problème. Les robots.txt n'ont pas vocation à être indexé.
Gogole et les autres prennent quand même les instructions qui sont dedans.
Aussi bien Firefox (en http/2) que wget -d (en http/1.1) ne me montrent pas ce header:
s/ti/tu/
Effectivement...
J'ai juste regardé la console FF et du coup j'ai test avec Chromium :