如何对Tomcat服务进行压力测试

英文原文

如果你在测试一个由Tomcat servlet容器（或者Apache web服务器）组成的环境时，你很可能会碰到瓶颈，因为Tomcat servlet容器使用Apache JServ Protocol - AJP。所以，如果想要评估Tomcat引擎的性能的话，最合适的方式就是使用相同的AJP协议。

使用 Apache JMeter ，你可以通过采样器（sampler）模拟发送AJP请求并返回结果 -- 也就是AJP/1.3采样器。你也可以用这个JMeter采样器来压测WildFly，Jetty和GlassFish servlet等Web容器，它们都是用AJP协议。这篇文章将会讲解如何来进行测试。

AJP是一个致力于从web服务器路由请求到应用服务器的二进制通信协议。在web服务器和应用服务器之间通信，AJP协议比HTTP协议更加高效，因为它是使用了压缩的二进制协议。例如，对于一个请求方法（“POST”或者“GET”），AJP只需要一个字节来表示，并且每个请求头只需要两个字节。所以，需要发送的信息大大减少，也就是得每个请求的处理也更快。

请求的处理大致如下：

对于这样的应用架构，JMeter AJP/1.3 采样器可以通过在你的系统上建立AJP连接，然后发送AJP请求到应用服务器，从而进行压测达到查找应用瓶颈的目的。

目前有3个版本的AJP协议 -- 1.2（废弃的），1.3 和 1.4（实验版本）。JMeter的AJP/1.3采样器支持1.3版本的AJP协议。

现在，我们来演示如何使用它。

AJP/1.3 采样器可以将这里设置的HTTP请求转换成AJP请求。正如你所看到的，它的界面和HTTP采样器的十分相似。

AJP 采样器有一个限制 -- 当前版本的实现不支持在一个请求里上传多个文件。只有第一个文件会被上传。必须使用多个AJP 采样器来上传多个文件。

现在，让我们来看看AJP 采样器在JMeter脚本里是如何工作的。首先，我们先在本地机器上启动一个Tomcat实例，然后配置它来发送POST请求。 Tomcat 9 默认就带了一些servlet示例，可以用来测试AJP请求。

我们的测试场景是：

接下来，我们会使用 AJP 采样器 来产生同样的请求。

在前面的章节里，我们的servlet可以接受两个参数并在结果里返回它们的值。现在，我们使用AJP 采样器来发送带参数的AJP POST请求，通过JMeter执行，并在相应结果里拿到我们在请求里设置的参数。

设置完成后的采样器如下：

6.现在，我们可以运行结果，并在监听器里查看结果。

现在，可以看到我们的采样器已经顺利地把带有我们设定的参数的AJP请求发送到我们的服务器上。并且，可以看到之前设置的参数都列在“Paramater in this request”部分 -- 这意味着我们的服务已经收到我们的请求了。

恭喜！你现在知道怎么压测AJP协议以及Tomcat服务了。为了更加方便地去执行你的测试，你可以将脚本上传到 BlazeMeter 上，然后直接在云上运行。你能够很方便的进行扩展，协同合作，并且可以得到高级的报表。

ab命令对发出负载的计算机要求很低，既不会占用很多CPU，也不会占用太多的内存，但却会给目标服务器造成巨大的负载，因此是某些DDOS攻击之必备良药，老少皆宜。自己使用也须谨慎。否则一次上太多的负载，造成目标服务器直接因内存耗光死机，而不得不硬重启，得不偿失。

在带宽不足的情况下，最好是本机进行测试，建议使用内网的另一台或者多台服务器通过内网进行测试，这样得出的数据，准确度会高很多。远程对web服务器进行压力测试，往往效果不理想（因为网络延时过大或带宽不足）。

http://httpd.apache.org/docs/2.0/programs/ab.html

ab的原理：

ab是apachebench命令的缩写。

ab的原理：ab命令会创建多个并发访问线程，模拟多个访问者同时对某一URL地址进行访问。它的测试目标是基于URL的，因此，它既可以用来测试apache的负载压力，也可以测试nginx、lighthttp、tomcat、IIS等其它Web服务器的压力。

ab命令对发出负载的计算机要求很低，它既不会占用很高CPU，也不会占用很多内存。但却会给目标服务器造成巨大的负载，其原理类似CC攻击。自己测试使用也需要注意，否则一次上太多的负载。可能造成目标服务器资源耗完，严重时甚至导致死机。

在Windows系统的命令行下，进入ab.exe程序所在目录，执行ab.exe程序。

ab 的用法是：

例如：

上例表示总共访问 http://localhost:8081/skill/order/666666 这个脚本5000次，1000并发同时执行。

ab常用参数的介绍：

-n ：总共的请求执行数，缺省是1；

-c： 并发数，缺省是1；

-t：测试所进行的总时间，秒为单位，缺省50000s

-p：POST时的数据文件

-w: 以HTML表的格式输出结果

执行测试用例：ab -n 1000 -c 100 -w http://localhost:8081/skill/order/666666 >>d:/result.html

上面的测试用例表示100并发的情况下，共测试访问 http://localhost:8081/skill/order/666666 脚本1000次，并将测试结果保存到d:/result.html文件中。

结果参数分析：

web压力测试通过产生真实压力来发现问题需要关注以下方面：

1、对要测试的系统进行分析，明确需要对哪一块做压力测试。比如：淘宝网站双十一期间，秒杀跟支付，此模式用户操作中占比比较大

再比如：游戏，登录--开始战斗--结束战斗这种混合模式在用户操作中占比较大

那么就可以针对这种占比比较大的模式进行压力测试

2、明确了要测试的点后，如何对这些测试点进行施压呢？

第一种方式可以通过写脚本产生压力机器人对服务器进行发包收包操作；

第二种方式就是借助一些压力测试工具如:JMeter或LoadRunner

3、如何对这些测试点进行正确的施压呢？

那么就需要用压力测试工具或者其它方法来录制脚本，模拟用户的操作

4、对测试点该施加多大的压力比较合适？该施加多少的数据才能找出系统的瓶颈？

那么就需要明确压力测试所限制的数量，即用户并发量，这里分3种情况来明确：

1）根据上级的明确规定数量，来设定最确大值，然后根据情况往上或往下增减

2）上级未规定，由自己判断，从1开始慢慢递增。如：1，5，10，20等等

3）若做过压力测试，则可以根据上次的压力测试结果为基数进行测试

5、测试完之后，如何通过这些数据来定位性能问题呢？

虽然通过这些测试结果我们可以得到TPS(吞吐量)，平均响应时间等这些数据，可判断出服务器是否存在问题，但却不能定位问题。

---