每个 IP 的出站速率限制（带缓冲区）

Question

我的软件必须通过 HTTP 请求与多个第三方服务进行交互，这些服务在其端强制执行速率限制器策略。如果我超出速率限制，运行我的软件的服务器可能会被 IP 禁止。

有没有办法实现出站速率限制器外部如何使用常见网络工具（如 iptables 等）来限制我的软件堆栈？理想情况下，此速率限制器应具有缓冲区，这样，如果我超出了给定 IP 的出站速率限制，则连接只会延迟，而不会断开。

这将使我摆脱将这种复杂性添加到仅应处理我的业务逻辑的代码中的负担。另外，我对此真的很好奇！:)