HTTP 请求的连接/等待时间非常长

Question

我们使用服务器作为聚合器，处理大量小收入 HTTP 请求（~1000 RPS）。当我们达到该 RPS 数量时，http 请求开始随机花费更长的时间（100 毫秒 - 4 秒）。这不是我们的应用服务器的问题，因为即使我们尝试通过 NGINX 访问静态 html 页面，也会发生这种延迟（http://5.153.4.91/ok.html）。

是否有可能以某种方式调查此问题并确定这是否是网卡/网络基础设施/不良内核设置/错误配置的服务器的限制？

准备显示任何配置文件。

Answer 1

采用科学方法。

安装监控。

• 收集统计数据。
• 根据收集到的信息对您的关键点做出决定。
• 根据做出的决定做出改变。
• 监控变更的有效性。
• 冲洗并重复。