使用 Nginx 镜像流量(以提高可用性并减少延迟)

使用 Nginx 镜像流量(以提高可用性并减少延迟)

我需要复制/镜像到达我服务器的流量。

我的意思是,我有 N 个后端服务器 A1 A2 ... An(n>=2)和一个 nginx 作为反向代理和负载均衡器。

所有进入 Nginx 的流量都会重定向到 Ax 和 Ay(x!=y)平行线,如果其中一个服务器宕机(超时或 5xx),则可以立即使用另一个服务器的响应并将结果返回给客户端。

通过镜像流量(不重试但并行发送重复的请求),我可以创建冗余,这意味着多个后端服务器可以同时处理一个请求。

我需要在 30 毫秒内响应客户端,如果设置重试次数 = 1,则超时必须设置为 15 毫秒(难以存档),因此镜像流量可以作为解决方案。

是否可以?

答案1

您的问题本身几乎就有答案了。您描述的只是带有健康检查的负载平衡。使用 nginx 绝对可以实现这一点,此类设置在它们的文档中有描述:http://nginx.org/en/docs/http/load_balancing.html

相关内容