生产级基于SpringCloud微服务架构性能优化实战，建议收藏

本文将从 Tomcat性能优化，SpringCloud开启重试机制，Zuul网关性能参数优化，Ribbon性能参数优化，Feign与Hystrix性能优化等 五个方面分享在生产环境如何做好SpringCloud性能优化。

一般基于SpringCloud的微服务能够脱离传统的tomcat，独立跑起来，SpringBoot功不可没，其原理是SpringBoot内嵌了tomcat（当然可以换成其他servlet容器，如jetty），能够以java -jar形式就能跑起来。

所以针对每个springboot服务，我们需要对tomcat的一些参数进行优化，以下是楼主项目组优化的tomcat参数配置，供大家参考。

tomcat参数说明：

maxThreads，acceptCount参数应用场景

场景一

场景二

场景三

maxThreads调优

一般说服务器性能要从两个方面说起：

1、cpu计算型指标

2、io密集型指标

所以大部分情况下，tomcat处理io型请求比较多，比如常见的连数据库查询数据进行接口调用。

另外，要考虑tomcat的并发请求量大的情况下，对于服务器系统参数优化，如虚拟机内存设置和linux的open file限制。

maxThreads设置多大合适？

我们知道线程过多，会导致cpu在线程切换时消耗的时间随着线程数量的增加越来越大；线程太少，服务器的请求响应吞吐量会急剧下降，所以maxThreads的配置绝对不是越大越好。

实际情况是设置maxThreads大小没有最优解，要根据具体的服务器配置，实际的应用场景不断的调整和优化。

acceptCount设置多大合适？

尽量与maxThreads的大小保持一致 ， 这个值应该是主要根据应用的访问峰值与平均值来权衡配置的。

当使用URL进行路由时，则需要对zuul.host.connect-timeout-millis和zuul.host.socket-timeout-millis参数控制超时时间。

请求连接的超时时间

请求处理的超时时间

对所有操作请求都进行重试

对当前实例的重试次数，针对同一个服务实例，最大重试次数（不包括首次调用）

对下个实例的重试次数，针同其它的服务实例，最大重试次数（不包括首次server）

注意Hystrix断路器的超时时间需要大于ribbon的超时时间，不然不会触发重试

Feign和Ribbon在整合了Hystrix后，首次调用失败的问题？

目前楼主的强烈做法是： 禁用Hystrix的超时时间，设为false

还有一种是官方提倡的是 设置超时时间。

在实际的项目中亲测，这种方式也有不好的地方， 如请求时间超过5s会出现请求数据时有时无的情况 ，给用户的感觉是 系统不稳定，要求整改 。

另外，禁用hystrix，官方不推荐 。

hystrix超时设置原则

问题：一个http请求，如果feign和ribbon都配置了重试机制，异常情况下一共会请求多少次？

请求总次数 n 为feignClient和ribbon配置参数的笛卡尔积：

n(请求总次数) = feign(默认5次) * (MaxAutoRetries+1) * (MaxAutoRetriesNextServer+1)

其中+1是代表ribbon本身默认的请求。

其实二者的重试机制相互独立，并无联系。但是因为用了feign肯定会用到ribbon，所以feign的重试机制相对来说比较鸡肋，一般会关闭该功能。ribbon的重试机制默认配置为0，也就是默认是去除重试机制的，建议不要修改。

生产环境应当有负责监控项目的一些系统。例如，kibana上可以查看哪些接口的响应时间比较长。数据库监控可以看到有没有慢查询，有的话去找运维要一下具体的慢查询语句，然后去分析这个慢查询产生的时间和都有哪些接口被调用了。去看这些接口的响应时间哪个能对的上。定位到对应的代码，进行优化。这个是个人认为比较常见的一种情况。

在生产环境上配置过JBOSS支持5000的并发，该种情况下对服务器本身有一定基本的要求

对云计算的全面支持

例如，对于云计算的支持，就是红帽最近几年在JBoss发展方面的重心之一。

“目前红帽JBoss产品线所包含的中间件产品已经非常完善，除了知名度最高的JBoss应用服务器之外，还有规则引擎、流程引擎ESB和SOA以及分布式缓存等产品。这些都能支持云计算环境中的运行，即不管是JBoss应用服务器，还是JBPM流程引擎，Fuse ESB等都能作为云计算环境中的资源随需进行弹性扩展。”

另外，在该系统后期建设规划中，也利用红帽的分布式缓存技术来提升系统处理响应时间和吞吐量，红帽的Fuse ESB组件来实现与其他内容服务商的集成交互都已进入车联网产品研发团队的日程中。刘长春认为，这个案例充分说明了红帽JBoss开源解决方案在车联网领域，乃至物联网领域的当前典型部署。

红帽在近期还推出了两款集成和消息传递产品JBoss Fuse和JBoss A-MQ，其轻量级的特点简化了集成解决方案的开发与维护，使企业能够通过互联网可靠地连接系统和设备，进一步实现物联网集成。

简单来说，红帽JBoss本身的定位是中间件平台提供者，红帽的产品和技术有很好的简化集成能力，通过建立高度集成化、自动化、可互操作、易管理的环境，协助企业提升敏捷性和响应速度，从而加速创新，支持云计算、物联网应用的实现。高度可扩展、动态灵活、快速响应、成熟稳定的产品，以及全方位的专业服务，加上超高的性价比正是红帽JBoss中间件的立足之本”。

---