预测与最小连接负载平衡技术

Question

我有一个基于 Windows 的桌面应用程序，它通过 TCP 与应用程序服务器通信。（Windows 2003）。客户端调用之间没有粘性会话。我们正好有 2 台服务器需要负载平衡，我们正在考虑使用 F5 硬件 NLB。

该应用程序是一种高负载类型，在服务中不执行太多业务逻辑，但大多数时候检索大量数据。可能平均每次都有 5000 到 10000 条记录。主要用于存储和检索数据，服务器端不运行任何特殊的数据处理或计算。

我倾向于“预测”，因为我的服务有时需要一段时间才能返回数据，因此跟踪反馈会产生一些更好的路由，就像预测一样。

我不确定给定的数据是否足以提出一些想法，但考虑到这些数据，在预测和最少连接之间有什么建议\需要考虑的事情\最好？

谢谢。

Answer 1

我记得，F5 上下文中的预测是对服务响应时间的持续监控。当通过 BiP 传递的 Web 请求预计具有相似的响应时间时，它的效果最好。如果后端服务器已加载，则其 TTR 将增加，并且 BiP 将减少其发送的连接数，直到 TTR 正常化。

如果您的服务请求具有高度可变的 TTR，则预测提供的价值将不那么重要。请记住，BiP 将响应视为响应的前沿；只要第一个回复数据包可靠地到达，流是 15 个数据包还是 50,000 个数据包都无关紧要。如果您的服务等到它拥有所有数据后才进行流式传输，那么您从预测中获得的价值就会减少。