我的 robots.txt 如下所示:
User-agent: *
Disallow: /system/
Disallow: /admin/
Disallow: /index.php
显而易见的目标是防止所有丑陋的 URL 被索引,因为它们都以“/index.php”开头。
但出于某种原因,所有像/我的美丽-sef-url-123列于抓取错误在 Google 网站管理员工具中,输入“受 robots.txt 限制的 URL”。(当我测试此类 URL 时,它会产生允许适用于 Googlebot 和 Googlebot-Mobile。
有人可以帮忙吗?
答案1
URL 是否类似/我的美丽-sef-url-123是真实页面还是重定向到其他页面?如果重定向,是否可以尝试在 Google Webmaster 中测试重定向到的页面?