单机如何实现百万并发TCP连接

一开始我无法理解，单机怎么可能实现百万并发连接，因为系统可用端口数只有：65535 - 1024 = 64511，每个TCP连接需要占用一个独立的端口，那最多也只能做到6W多并发连接。然而我忽视了一个很基本的问题，端口号在同一个IP下不能重复，但我们可以给一个网卡绑定多个IP地址，如果单机要主动发起100万并发连接，我们最少需要使用17个IP地址。

TCP服务器监听在指定端口接收客户端连接后，创建一个新的socket用于同客户端进行读写数据，但该socket并不需要也不会绑定一个新的端口，所以对于TCP服务器来说，不存在端口不够用的情况，TCP服务器能够保持多少个并发连接取决于服务器性能、内存大小、带宽大小以及服务器端设置（例如：进程能打开的文件数等）。以100W连接数为例，所需要总内存大小大约为：1,000,000 20K = 20G, 广播一个1KB的消息需要占用的带宽：1,000,000 1K = 1000M，所需打开文件描述符1,000,000个。

对于TCP服务器连接数压力测试来说，瓶颈在客户端，因为每个客户端要连接到TCP服务端需要使用一个本地端口，而对于一个IP地址来说，端口范围就是：0-65536，其中还要一些端口被系统或其他程序使用。所以从一台主机单个IP上发起同TCP服务器的连接数理论最大值为65535，当然我们可以给该主机绑定N个IP地址，同时从多个IP发起连接，所以理论上客户端可以发起的连接数为：IP数*65535，这时客户端的CPU、内存和带宽以及文件句柄资源就是限制。

场景很重要，比如一万并发的qps还是tps，这完全不同的概念。

服务器做做优化，现在通过epoll支撑百万连接十万并发没什么瓶颈。但是，这只是网络层，如果落到具体业务，那就另当别论了。比如redis可以十万并发，因为只需要网络io和访问内存。但是如果有业务处理，挂上了数据库，走了kafka，并且再走redis，那就要具体问题具体分析了。

数据库单存qps，我们原来基准测试结果是可以支撑六万到八万左右，但是有事务的增删改绝对不是这个量级。

其实你需要的是一个基准测试的结果，例如tcp，http基准测试；tomcat基准测试；应用框架基准测试；redis基准测试；mysql基准测试等。

我们做过应用框架基准测试，基于springboot，测试接口没什么逻辑，就是直接查询sql并返回结果。基准测试结果是八核16G内存，跑两个实例，可以撑到8万并发左右，应该还有优化空间吧。

你这问题就和一天跑一百公里要个什么车一样，也不说什么路，也不说拉什么货

撇开场景扯性能，扯吞吐量，扯并发都是耍流氓

几台服务器加F5，一台不牢靠

看你什么样的场景，业务复杂度，就个静态页面，给你两台ng就搞定了

允许配置全站加速吗？另外需求不明确

32核128G内存

不可以，如果是短期高并发，建议考虑挂载负载均衡服务器。

C10kp……这是很经典的问题啊，一般nio就做到了。

要看性能要求了，如果只讨论并发数量，用异步网络模型，并发一万个链接没啥问题吧，只是数据处理不过来，大多数链接都是在等待结果而已。服务器配置1核8g差不多够了吧

1. nginx最多只能维持(65535*后端服务器IP个数)条websocket的长连接，如果后端websocket服务器IP只有一个，那么就只能最多支持65535条连接。瓶颈就产生在了nginx上。

2. 建议采用LVS的DR模式来做负载均衡，这样最大长连接数目就只和websocket服务器资源（主要是内存）有关了，单台websocket服务器很轻松可以支撑百万级连接

用nginx做websocket的反向代理其中涉及到的资源有：

1. 内存（相关数据结构的存储）、cpu、网络

内存的占用分两部分，一部分是内核中tcp协议栈结构占用的内存，一部分是nginx中维持双向连接数据结构占用的内存

按照理想状况，一条tcp连接的数据结构在内存中占用大约4KB左右，nginx的内存占用，没有统计相关的结构体，这里就等于2KB（nginx的内存利用非常高效，有内存池）

对于现在的服务器来说内存、cpu、网络都不会是瓶颈，因此这里不做讨论。

2. 文件描述符数量

可能需要调整内核参数，文件描述符的数量其实也是和内存相关的，因为每打开一个tcp连接，就得占用一个文件描述符。

内核参数：fs.file-max

这是和系统资源相关的，也不会是瓶颈

3. 端口号数量

内核参数为：net.ipv4.ip_local_port_range，且最大值为65535

linux内核是通过{local_ip, local_port, remote_ip, remote_port}这个四元组来标识一条唯一的tcp连接的。

1）对于websocket服务器自身而言，local_ip, local_port是确定的，在内存、cpu足够的情况下，其可以支撑 （client_ip数量*2^16)条连接。也就是说只要服务器资源足够，一定不会是瓶颈。

2）对于nginx服务器来说，local_ip, local_port也是确定的，不同的是，它还要作为client去连接websocket服务器，这是要占用一个端口的。

博主更多好文请移步： http://wjhsmart.vip

自己喜欢建站的小伙伴也可以联系博主友联哦。

---