☰

扩展到超过 65k 个打开文件（TCP 连接）

tag-icon • tag-icon linux ubuntu filesystems
扩展到超过 65k 个打开文件（TCP 连接）

我对 Ubuntu 14.04.3 LTS 服务器有一个要求，即通过 TCP 连接 65000 多个客户端。尽管我有多余的内存和 CPU，但我无法连接超过 65000 个客户端。我怀疑这是打开文件数限制问题，但是我按照 stackoverflow 上的许多现有解决方案更改了打开文件数限制，但仍然达到限制。我做了以下更改。

/etc/security/limits.conf

*    soft nofile 500000
*    hard nofile 500000
root soft nofile 500000
root hard nofile 500000

/etc/pam.d/common-session

session required pam_limits.so

/etc/pam.d/common-session-noninteractive

session required pam_limits.so

/etc/sysctl.conf

fs.file-max = 500000

当我检查 ulimit 时，它看起来已正确更新，如下所示......

:~$ ulimit -a
core file size          (blocks, -c) 0
data seg size           (kbytes, -d) unlimited
scheduling priority             (-e) 0
file size               (blocks, -f) unlimited
pending signals                 (-i) 30038
max locked memory       (kbytes, -l) 64
max memory size         (kbytes, -m) unlimited
open files                      (-n) 500000
pipe size            (512 bytes, -p) 8
POSIX message queues     (bytes, -q) 819200
real-time priority              (-r) 0
stack size              (kbytes, -s) 8192
cpu time               (seconds, -t) unlimited
max user processes              (-u) 30038
virtual memory          (kbytes, -v) unlimited
file locks                      (-x) unlimited

:~$ cat /proc/1739/limits
Limit                     Soft Limit           Hard Limit           Units
Max cpu time              unlimited            unlimited            seconds
Max file size             unlimited            unlimited            bytes    
Max data size             unlimited            unlimited            bytes
Max stack size            unlimited            unlimited            bytes
Max core file size        0                    unlimited            bytes
Max resident set          unlimited            unlimited            bytes
Max processes             30038                30038                processes
Max open files            500000               500000               files
Max locked memory         65536                65536                bytes
Max address space         unlimited            unlimited            bytes
Max file locks            unlimited            unlimited            locks
Max pending signals       30038                30038                signals
Max msgqueue size         819200               819200               bytes
Max nice priority         0                    0
Max realtime priority     0                    0
Max realtime timeout      unlimited            unlimited            us

不幸的是，似乎仍然存在一些限制，阻止添加额外的客户端，因为服务器达到了 65,589 个打开文件并且拒绝打开其他文件（tcp 连接）。

:~$ sudo ls /proc/1739/fd | wc -l
65589

ubuntu / linux 中是否还有其他设置需要更改？

更新

vm.max_map_count似乎已经通过设置 sudo sysctl vm.max_map_count=16777216和添加 vm.map_map_count 条目完成了这一任务/etc/sysctl.conf。

如你看到的...

:~$ sudo ls /proc/2391/fd | wc -l
73609
:~$ netstat -an | grep ESTABLISHED | wc -l
73561

当然，我必须小心地将打开文件的数量设置为与所需内存利用量相对应的限制。在@sysadmin1138提供的链接上，还有另一个页面推荐每个映射（打开TCP套接字）16K内存的粗略指南，这似乎是一个不错的起点。虽然我现在看到了不同的症状，当服务器尝试向连接的客户端发布消息时，打开的文件/套接字的数量会波动。因此，这需要进一步调查。

答案1

每Linux 上的最大套接字数量，sysctl 变量vm.max_map_count可能在这里有用。

答案2

您可能会遇到 16 位端口 (65536) 的限制。

答案3

正如其他人所说，您可能达到了单个接口上允许的最大端口数。

您可能需要在该 IP 上添加一个接口 alice 绑定您的应用并开始处理来自新 IP 的请求。

相关内容