我刚刚在 Yoast 网站上读到这里关于正确的 robots.txt 文件应如何与最新的 SEO 实践配合使用。在他们的示例中,Yoast 使用以下内容:
User-Agent: *
Disallow: /suggest/?*
line 到底起什么作用Disallow: /suggest/?*
?
答案1
Disallow: /suggest/?* 行到底起什么作用?
disallow
并将?*
阻止搜索引擎访问任何包含 的 URL ?
。
完全禁止:/suggest/?* 将阻止搜索引擎访问以下网址 yourwebsiteexample.com/suggest/?any.php=34
换句话说,它不会阻止搜索引擎访问其他具有?
yourwebsiteexample.com/anyother/?any.php=34
<--- 这将会被搜索引擎挤满
更多示例 https://geoffkenyon.com/how-to-use-wildcards-robots-txt/