自定义 robots.txt 在 Azure IIS 8 中被某些内容覆盖

自定义 robots.txt 在 Azure IIS 8 中被某些内容覆盖

我们的 IIS 云服务 Azure 网站的根目录中有一个自定义 robots.txt,当导航到 www.oursite.com/robots.txt 时无法正确显示。显示一个“不同的” robots.txt 文件,其中包含:

User-agent: LinkChecker  
Allow: /  
User-agent: *  
Disallow: /  

我们尝试过:
1. 删除根目录中的 robots.txt 文件 – 仍然显示错误的 robots.txt 文件。2
. 将 url-rewrite 规则添加到 web.config 以显示自定义 robots.txt – 正确的 robots.txt 将显示一段时间,然后恢复为不同的 robots.txt

知道是什么侵犯了我们的自定义 robots.txt 吗?

答案1

如果您使用 IIS 管理工具进行维护,似乎它可能已经有了自己的设置,它可能会覆盖这些设置 - 如果您没有在适当的位置对其进行配置:
IIS Robots 和 Sitemap 扩展

相关内容