我不完全确定这是否有可能，但我还是想问一下。
因此，我们有一个连接到流式 API 的服务，该 API 保持连接打开，我们接收 JSON 对象，然后将其放入消息代理中。不幸的是，我们只能打开一个连接，这意味着我们目前只有一个 VM 运行该实例。
理想情况下，我们希望能够随时扩展服务，所以我想我正在寻找某种形式的反向负载平衡器？
不确定是否存在这样的事情，但任何想法都会非常感激
答案1
在服务器端，您可以在应用服务器前面放置类似 HAProxy 的东西，以便在服务器之间实现负载平衡。
在客户端，您可以创建一个指向 HAProxies 的循环 DNS 条目，最好使用自动健康检查，如果发生故障，则从 DNS 中取出一个。