我有一个使用 apache 的负载均衡器:http://httpd.apache.org/docs/2.2/mod/mod%5Fproxy%5Fbalancer.html
问题在于我们的带宽。我们想获得更多带宽,但 ISP 必须铺设新线路,并不断拖延我们的计划,因此我想限制蜘蛛的速度以节省带宽,直到我们获得更多带宽。我尝试了 mod cband,但它在负载平衡虚拟主机上不起作用。
是否有任何 apache 模块可以限制负载平衡虚拟主机上的流量?
答案1
不是一个 apache 模块,但您可以尝试使用 robots.txt 中的“抓取延迟”指令来减慢行为良好的蜘蛛的速度。
http://en.wikipedia.org/wiki/Robots_exclusion_standard#Crawl-delay_directive