# 并发能力
```
并发能力,是指 吞吐能力。
```
## 并发的2个问题针对解决:
1,是不是并发调度问题
2,是不是并发处理问题
## 压力测试简介:
[An Introduction to Load Testing | DigitalOcean](https://www.digitalocean.com/community/tutorials/an-introduction-to-load-testing)
*****
## 压力测试工具
1, AB 压力测试
```
sudo apt install apache2-utils
ab -n 5000 -c 500 https://yuan.liangdabiao.com/
```
参考文档:[ab(http)与abs(https)压测工具 - lsgxeva - 博客园 (cnblogs.com)](https://www.cnblogs.com/lsgxeva/p/12185925.html)
![](https://img.kancloud.cn/cc/69/cc695dfa4b77c168f88cb1a3680f6ed0_424x300.png)
> Requests per second: 19.66 [#/sec] (mean)
//**吞吐率**,大家最关心的指标之一,相当于 LR 中的每秒事务数,后面括号中的 mean 表示这是一个平均值
**Time per request**: 5087.180 [ms] (mean)
//用户平均请求等待时间,大家最关心的指标之二,相当于 LR 中的平均事务响应时间,后面括号中的 mean 表示这是一个平均值
**Time per request**: 50.872 [ms] (mean, across all concurrent requests)
//服务器平均请求处理时间,大家最关心的指标之三
*****
2,Pageload.io
非常不错的可视化压力测试工具,帮助进一步检查,作为最后是否通过的检测标准。
![](https://img.kancloud.cn/d2/3c/d23c4394012c2e55c8ee3d9f738ea644_692x404.png)
3,Jmeter
非常不错的本地压力测试,充分利用本地的强大计算和网络能力,可以对比测试结果,方便排查性能问题原因。
*****
*****
*****
*****
*****
## 需要多少并发能力:
1,从GA,日志等检查每天的流量,计算正常时间每分钟访问的流量和人次。
2,例如应付普通日常是 **250人/分钟** ,那么为了活动做好准备,同时也要并发测试 **2500人/分钟** ,。
3,同时也要为压力测试做好准备,达到 **10000人/分钟** ,能够让服务器不宕机。
4,要测试不同种类的页面并发能力。重点:**首页,结算页**,商品页,列表页。
**注意:** 我们不是BAT,没有那么高并发,流量都是要广告买回来的。按实际情况准备好10倍的应付能力就可以了。
*****
*****
## 并发测试流程:
> 注意:Jmeter压力测试工具测试,检查情况,吞吐率是多少。然后再检查性能监控的指标情况 【Tideways】,发现什么问题。然后迭代,进一步加大并发测试。
测试过程如下:
0,先把 外套都脱了 , (去掉缓存,静态缓存等)
1, 1核2g服务器 测试
2, 加上 负载均衡 + 强大服务器 测试
3, 通过日常并发 250人/min, 再通过活动并发 2500人/min,再通过10000人/min 压力测试。
4,每一个页面都进行最高压力测试,通过
*****
### 外套脱了
下架 redis对象缓存,下架页面静态缓存。
*****
### 1核2g服务器测试:
测试单核性能,找到标准吞吐率。
![](https://img.kancloud.cn/3c/20/3c2079d4148d29b7f1c5c532dbd34647_1151x102.png)
测试结果是:Requests per second = 1.7 , waiting = 658ms
性能检测结果:
![](https://img.kancloud.cn/ff/d0/ffd01dd9fc26db8d6089448fa8d2ad5d_1887x897.png)
发现问题: 1,sql太多。2,Unaccounted Wait 太久。
[What is "Unaccounted Wait"? :: Documentation (tideways.com)](https://support.tideways.com/documentation/reference/concepts/what-is-unaccounted-wait.html)
*****
### 那么,加服务器8核,加负载均衡:
![](https://img.kancloud.cn/3a/0b/3a0b2a8c73ac2415dcef1c8f51a52a72_1354x315.png)
![](https://img.kancloud.cn/2b/83/2b836c7205dd43f5134662d747eccad7_915x121.png)
![](https://img.kancloud.cn/94/4a/944ab3373c156787d28955b149124f65_613x428.png)
![](https://img.kancloud.cn/87/8c/878ccc344d69f6ec2fec457a0ab16905_1456x358.png)
![](https://img.kancloud.cn/df/91/df912f08e1423502df9184d003a959a8_1625x260.png)
*****
增加了一个8核8g的小型服务器,测试看看:
![](https://img.kancloud.cn/aa/bd/aabd7f4e40851b87ce4309a73a62422e_1126x130.png)
![](https://img.kancloud.cn/10/b9/10b95c08c5b113df34210e26dd72cb4e_1531x790.png)
测试结果是:Requests per second = 12-15 , waiting = 500ms ,并发处理能力增加8倍,对应着CPU的核数增加。
性能检测结果:
![](https://img.kancloud.cn/24/17/2417592bc6b39d18e066223dd5b247c4_1898x848.png)
发现问题: 1,sql太多。
*****
*****
*****
### 那么,加缓存:
希望:提升10倍,应付活动等并发:Requests per second =》 40/s - 160 /s,
开启redis对象缓存+页面静态缓存:
![](https://img.kancloud.cn/0c/a7/0ca74f53f6390518ed182895944b9346_899x157.png)
Jmeter测试:
![](https://img.kancloud.cn/59/de/59de430be95fa77084081f5b6c9b1a72_1142x140.png)
![](https://img.kancloud.cn/60/c9/60c927e047cca439bd444d057205126f_1477x836.png)
测试结果是:Requests per second = 80 , waiting = 263ms
同时,通过10000人/min 的压力测试。
性能检测结果:
![](https://img.kancloud.cn/cf/91/cf91fe3ff52addb7b3652caf46d5c5ff_525x284.png)
发现问题:都是几ms,没有问题,很好。
*****
### 最后用可视化 loader.io 测试 每一个页面:
**checkout页:**
> 备注: checkout url可以这样测试 https://woocommerce.liang/index.php/checkout/?add-to-cart=191&variation_id=193
因为有流量转化漏斗,这里只需要达到10分1的并发就可以。250人/min - 1000人/min , 看下图测试结果,1000人/min 并发的结算功能 是没有问题。
![](https://img.kancloud.cn/27/48/27485cbac22ca0df8844665b88b8d8b5_1532x859.png)
*****
**商品详情页:**
需要 2500 - 10000人/min,结果通过:
![](https://img.kancloud.cn/f3/8e/f38e588e984cfc40fab1cc3b5ca279b3_1463x815.png)
*****
**商品列表页:**
需要 2500 - 10000人/min,结果通过:
![](https://img.kancloud.cn/ab/da/abda1f12e60a1f3880cb225fdc4d09eb_1520x836.png)
*****
# 备注如下:
## "Unaccounted Wait" 很高 ?
当看到tideways显示,"Unaccounted Wait" 很高,那么就可能要垂直升级服务器性能了
![](https://img.kancloud.cn/6f/a8/6fa82160efb018342174002bbba5400e_514x294.png)
#### 1,先检查php.ini配置
![](https://img.kancloud.cn/f5/f5/f5f56444c2a89666ba20f633f5ca1b40_547x94.png)
php-fpm.conf有两个至关重要的参数:
一个是”**max\_children**”,另一个是”**request\_terminate\_timeout**”, 都检查。参考:[php-fpm占用cpu和内存过高100% 解决办法 - 上善若水-随 - 博客园 (cnblogs.com)](https://www.cnblogs.com/boundless-sky/p/9223942.html)
*****
*****
#### 2,考虑升级服务器,升级多大服务器呢? 【magic formula】
> 参考:[How to Estimate How Many Website Visitors Your Hosting Can Deal With (servebolt.com)](https://servebolt.com/articles/calculate-how-many-simultaneous-website-visitors/)
> The magic formula we use for our estimates, that captures the essence and provides us an approximate number of how many users you can have simultaneously on your site in Google Analytics is:
> **(number of CPU cores / Average Page Response Time in seconds) * 60 * User Click Frequency in seconds = Maximum simultaneous users**
(1),从GA看看,每分钟的用户有多少人在线。 例如,我们普通需求是平时 250人/min,要达到 2500人/min。
![](https://img.kancloud.cn/20/6a/206a4fe74f5bea1a35876a664cf8232e_1920x981.png)
(2),利用公式计算: ( cpu核数 / 页面响应时间) * 60 * 用户点击频率 = 最大并发用户数 。
用户点击频率 = 平均1次/min (普通独立站)
( 4核 / 0.400s ) * 60 * 1 = 600 人/min
(32核 / 0.323s) * 60 * 2 = 11 880人/min
*****
简化公式: 吞吐率 * 60 = 承受最大并发用户数的能力
250人/min , 那么就需要 吞吐率 达到 4/s Requests per second
2500人/min , 那么就需要 吞吐率 达到 40/s Requests per second
10000人/min, 那么就需要 吞吐率 达到 160/s Requests per second
*****
*****
*****
*****
## 负载均衡问题 ?
![](https://img.kancloud.cn/a6/14/a614dcea7d3855c14c6120cad76e780a_384x189.png)
RDS: 数据库需要统一放在RDS.
Offload 资源:
放在Cloudflare CDN:
https://wordpress.org/plugins/cloudflare/
放在 [S3/OSS](https://kinsta.com/knowledgebase/wordpress-amazon-s3/)
https://cn.wordpress.org/plugins/amazon-s3-and-cloudfront/
不停重定向,解决方法:
```
在config.php 加上:
$_SERVER['HTTPS'] = 'on';
$_SERVER['SERVER_PORT'] = '443';
```
*****
## redis性能问题?
![](https://img.kancloud.cn/5e/37/5e37a968bba599cb9d7ae2f73cc165d3_692x371.png)
![](https://img.kancloud.cn/0c/54/0c54bfe83caafb6086a1c92af446fed4_692x284.png)
解:升级。
*****
## mysql 性能问题?
![](https://img.kancloud.cn/f5/de/f5dea6f5392ec9d56e3cee91b5be7682_692x313.png)
解:升级。
*****
## 活动已经过去,去掉添加的高配服务器
![](https://img.kancloud.cn/7a/d3/7ad391ea24baabe7423feddab84ffa2f_1149x105.png)