如何提高高性能服务器并发量

1、减少内存分配和释放

服务器在运行过程中，需要大量的内存容量来支撑，内存的分配和释放就尤为关键。用户在使用服务器的时候，可以通过改善数据结构以及算法制度来减少中间临时变量的内存分配和数据复制时间。

另外，可以选择使用共享内存模式来降低内存的分配和释放问题。共享内存在多处理器系统中，可以被不同的中央处理器访问，也可以有不同的进程共享，是一种非常快的进程通信方式。

2、使用持久链接

持久链接也被称为场链接，是通过TCP通信的一种方式。在一次TCP链接中持续发送多份数据而不断开连接。

从性能角度上来讲，建立TCP链接次数越少，越有利于性能的提升，尤其对于密集型图片或者网页等数据处理上来说有明显的加速作用。

3、改进I/O模型

I/O操作根据设备形式有不同的类型，例如我们常见的内存I/O，网络I/O，磁盘I/O。针对网络I/O和磁盘I/O, 它们的速度要慢很多，可以选择采用高带宽网络适配器可以提高网络I/O速度。

以上的I/O操作时需要CPU来调度的，这就需要CPU空出时间来等待I/O操作。如果在CPU调度上使用时间较少，也就能节约出CPU的处理时间，从这一点上来说也是提升高服务器并发处理能力的方式。

4、改进服务器并发数策略

服务器高并发策略的调整，是为了让I/O操作和CPU计算尽量重叠进行。一方面使CPU在I/O操作时等待时间内不要空闲，另一方面也是为了最大限度缩短等待时间。【感兴趣的话点击此处，了解一下】

消除瓶颈是提高服务器性能和并发能力的唯一途径。

如果你能够消除所有的瓶颈，你就能够最大的发挥硬件性能，让系统的性能和并发数到达最佳。

采用多线程多核编程，使用事件驱动或异步消息机制，尽量减少阻塞和等待操作（如I/O阻塞、同步等待或计时/超时等）。

原理：

1、多线程多核编程，消除cpu瓶颈。

2、采用IOCP或epoll，利用状态监测和通知方式，消除网络I/O阻塞瓶颈。

3、采用事件驱动或异步消息机制，可以消除不必要的等待操作。

4、如果是Linux，可以采用AIO来消除磁盘I/O阻塞瓶颈。

5、在事件驱动框架或异步消息中统一处理timer事件，变同步为异步，而且可以在一个线程处理无数timer事件。

6、深入分析外部的阻塞来源，消除它。

比如数据库查询较慢，导致服务器处理较慢，并发数上不去，这时就要优化数据库性能。

7、如果与某个其他server通信量很大，导致性能下降较多。

可以考虑把这两个server放在一个主机上，采用共享内存的方式来做IPC通信，可以大大提高性能。

并发数，计算机网络术语，是指同时访问服务器站点的连接数。

由于虚拟主机是建立在每台服务器多用户的基础上的，也就是多个用户共同使用一台服务器。为了避免同一台服务器上的某一个用户的IIS链接人数过多或占用服务器资源过多而影响其它用户的正常使用。

所以，目前所有虚拟空间提供商都对单个用户的IIS链接数，流量及服务器进程占用CPU的比率进行了相应的限制。 当某一个用户的站点超出了服务器上的设制后，访问站点时就会出现服务器忙，或目前访问该站点的人数过多，超出了WEB的处理能力等相关错误提示。

扩展资料：

并发连接数是衡量防火墙性能的一个重要指标。在市面上常见防火墙设备的说明书中大家可以看到，从低端设备的500、1000个并发连接，一直到高端设备的数万、数十万并发连接，存在着好几个数量级的差异。

在我们用电脑工作时，打开的一个窗口或一个Web页面，我们也可以把它叫做一个“会话”，扩展到一个局域网里面，所有用户要通过防火墙上网，要打开很多个窗口或Web页面发（即会话），那么，这个防火墙，所能处理的最大会话数量，就是“并发连接数”。

检查您的网站是否存在比较大的图片、FLASH、音乐、电影等文件，例如：某一个站点的访问用户并不是很多，IIS链接数也可能只有几十个，但是他在网页中使用了比较大的的FLASH或图片（如超过300K），以增强网页效果。

结果就可能会出现不能访问的情况，原因是该站点的流量（带宽）使用量超限，所以建议网页上尽量使用较小的文件，这样即能避免流量超限，也能增加客户端的下载速度，给客户更好的感觉！

最后请注意：服务器对于某一个链接的默认超时时间一般为15--20分钟，也就是当访问用户访问你的网页并关闭后，一般需要15--20分钟，服务器才从其内存中将其清除，视为无效链接！

参考资料来源：百度百科——并发数

---