Perishable Press 经常发布托管用户代理黑名单,用于阻止使用 htaccess 指令的恶意机器人。
文章可以在这里找到:http://perishablepress.com/press/2009/03/29/4g-ultimate-user-agent-blacklist/
您会推荐使用这样的黑名单吗?主要目的是减少我的服务器上的请求,因为我发现很多流量都被访问我网站的机器人消耗了。
干杯
答案1
如果它满足您的要求/需求,通常是可以的,除非您发现它们的定义和/或方法存在特定冲突。谨慎的做法是在初始实施期间密切监控,以确保它满足您的需求,而不会引入任何意料之外的副作用。
答案2
您最好使用robots.txt
来控制行为良好的机器人,并对恶意机器人请求速率限制。您不能对行为不端的机器人使用客户端控制的任何内容,因为它们可以修改自身以逃避您的过滤器。