如何提高高性能服务器并发量

1、减少内存分配和释放

服务器在运行过程中，需要大量的内存容量来支撑，内存的分配和释放就尤为关键。用户在使用服务器的时候，可以通过改善数据结构以及算法制度来减少中间临时变量的内存分配和数据复制时间。

另外，可以选择使用共享内存模式来降低内存的分配和释放问题。共享内存在多处理器系统中，可以被不同的中央处理器访问，也可以有不同的进程共享，是一种非常快的进程通信方式。

2、使用持久链接

持久链接也被称为场链接，是通过TCP通信的一种方式。在一次TCP链接中持续发送多份数据而不断开连接。

从性能角度上来讲，建立TCP链接次数越少，越有利于性能的提升，尤其对于密集型图片或者网页等数据处理上来说有明显的加速作用。

3、改进I/O模型

I/O操作根据设备形式有不同的类型，例如我们常见的内存I/O，网络I/O，磁盘I/O。针对网络I/O和磁盘I/O, 它们的速度要慢很多，可以选择采用高带宽网络适配器可以提高网络I/O速度。

以上的I/O操作时需要CPU来调度的，这就需要CPU空出时间来等待I/O操作。如果在CPU调度上使用时间较少，也就能节约出CPU的处理时间，从这一点上来说也是提升高服务器并发处理能力的方式。

4、改进服务器并发数策略

服务器高并发策略的调整，是为了让I/O操作和CPU计算尽量重叠进行。一方面使CPU在I/O操作时等待时间内不要空闲，另一方面也是为了最大限度缩短等待时间。【感兴趣的话点击此处，了解一下】

服务器并发指的是多个用户同时访问数据库中的同一字段的行为。

这样的用户行为对于服务器的性能是一种考验。 但是，再好的服务器也有自己的性能上限，当并发用户数过多的时候，再好的服务器也支持不住。事实上，我们在生活中经常能遇到由于并发用户过多而导致的系统缓慢甚至瘫痪现象。比方说，很多使用过那些在线考试报名系统的朋友都会发现，半夜登录系统报名比白天登录系统报名要容，网页反应速度也要快一些，这就是由于晚上的并发用户数比较小的原因。 对于IT运维人员来说服务器并发是恐怖的，因为服务器的最大用户并发数并不是IT运维人员所能控制的，我们能做到的只是采用各种手段来提升系统的性能，提升服务器的性能利用率。

消除瓶颈是提高服务器性能和并发能力的唯一途径。

如果你能够消除所有的瓶颈，你就能够最大的发挥硬件性能，让系统的性能和并发数到达最佳。

采用多线程多核编程，使用事件驱动或异步消息机制，尽量减少阻塞和等待操作（如I/O阻塞、同步等待或计时/超时等）。

原理：

1、多线程多核编程，消除cpu瓶颈。

2、采用IOCP或epoll，利用状态监测和通知方式，消除网络I/O阻塞瓶颈。

3、采用事件驱动或异步消息机制，可以消除不必要的等待操作。

4、如果是Linux，可以采用AIO来消除磁盘I/O阻塞瓶颈。

5、在事件驱动框架或异步消息中统一处理timer事件，变同步为异步，而且可以在一个线程处理无数timer事件。

6、深入分析外部的阻塞来源，消除它。

比如数据库查询较慢，导致服务器处理较慢，并发数上不去，这时就要优化数据库性能。

7、如果与某个其他server通信量很大，导致性能下降较多。

可以考虑把这两个server放在一个主机上，采用共享内存的方式来做IPC通信，可以大大提高性能。

---