简介
- 发压场景设计执行(压测建模-单系统-类-方法-数据存储/多系统-业务场景保真)，-> 压测平台的实现 -> 容量评估，流量预估
- 系统指标以及监控观测(全链路、发压系统)->观测指标->确定系统瓶颈以及高并发下的场景可能的问题：
OOM(内存溢出)
JVM GC情况(YGC、FGC)
CPU 内存 负载
线程池
IO
tcp连接数 /tcp重传、丢包、队列情况、超时延迟、带宽
可用率(业务配置) 分片情况 命中率
TP99/TP999...
各相关中间件、存储域的相应指标 - 系统架构环节，策略执行情况 -> 了解系统的架构 网络拓扑架构+ cdn +集群+分布式+mq(堆积)+缓存(redis，es，hbase....) +db(慢查询...)+链路之间影响 链路有多长辐射范围有多广，链路调用策略，整体链路(下水管道)对多个个机房的蓄水能力考验
- 问题定位，性能优化，流量大_数据大
- 流程规范的制定
Saas化能力分布
- 发压框架(loadrunner，jmeter，ab，nGrinder，locust，各公司自研平台)
- 指标收集：系统指标 网络指标 全链路指标 聚合展示
- 压测流程化 标准化(不影响 不污染)
- 压测常态化 自动化 自助化
- 性能定位 非功能性
- 故障演练 应急方案
- 压测报告自动化，数字化分析
- 流量收集，场景手机
平台化对质量赋能
1. 压测-质量保障-MSA-定量的检验(效率性、可靠性)
思考：
质量控制的标准行业标准自定义标准，质量提升的依据?
Ⅰ 压测前
why 目标 盘点
- 为什么要压测，压测的话要做什么，压测场景的设计，数据建模，链路的深度，链路的辐射， 关键链路梳理 -> 单系统内部、多系统交互、全链路
- 了解目前的压测流程以及使用技术，服务瓶颈发现，是否准备可靠，是否有可改进的地方
- 架构优化的思路，依据结果倒推
。。。。
常规步骤：
1、了解压测背景，制定整体压测计划，自上而下参与 准备：
流量预估、容量评估
1.1. 确定压测目标: 整体系统qps/tps 细分[单系统(读-写) 类、接口、方法] 业务分布 性能需求确定
1.2. 沟通协调：与开发沟通，指定压测指标（压测结果验收指标）---指标来源：容量预估/以往数据值，流量比例，或者之前宕机时的峰值，看是否能承载-> 监控平台，数据看板..
1.3. 脚本准备(成本，是否能达到边际成本最大化)，数据建模-- 依据目标设计压测场景，读写组合，接口组合，业务组合(部署机的业务部署架构)
测试数据整理，当然要考虑如何处理脏数据，数据脱敏，落入影子库
1.4. 预计压测中可能出现的问题，避免到时措手不及，有排查思路，比如从之前压测结果分析，可能出现的问题（比如说上下游哪个系统之前出现过问题），定位，及应急处理措施:
1.4.1 上下游依赖，强弱依赖，弱依赖可以使用开关
1.4.2 服务间通信问题，链路上rpc + mq，超时-重传
1.4.3 负载均衡问题
1.4.4 容灾问题
1.4.5 异常
1.4.6 业务识别
1.4.7. 压测机器准备
1.4.8. 接口压测标记
1.5 结束标准
2. 压测中
单机压测
链路压测
A. 发压开始，从哪个接口开始，还是所有接口一起，还是某几个方法组合，还是对某一个业务进行链路压，依据事先定义好的模型以及压测计划进行......
B. 监控: cpu、 内存、 IO、 带宽、 TP99、 TP999 、tcp连接数、 tcp重传、 qps、 tps、 可用率、 负载、 分片情况、 缓存命中率 gc...=>系统指标
C. 具体的指标值
D. 应急处理，熔断、限流、降级、隔离
E. 碰到的具体问题，根据运维监控数据采集进行分析或者dump分析
链路指标 + 系统指标 + 网络指标 + 故障注入 + 故障演练 +容量预估
限流降级熔断
应用启动顺序
故障根源定位
容量评估
常见故障画像：
1. Application/data：
1. 依赖超时，依赖异常
2. 进程被杀
3. 配置错误，误删，获取超时
4. 心跳异常，比如过zk环境出现问题
5. 流控不合理，下游调用策略问题(比如重复调用高)
6. 业务进程池满，中间件线程池满
2. Virtualization/Storage/Networking
2.1 服务器宕机假死
2.2 磁盘满，慢，坏
2.3 网络抖动，超时，DNS故障
3. Runtime | Middleware | O/S
3.1 负载均衡失效
3.2 CPU抢占
3.2 内存抢占
3.3 数据库宕机
3.4 数据同步延迟
3.5 上下文切换
3.6 数据库连接满
3.7 缓存热点
3.8 缓存切流
F. 故障演练，故障注入，链路上成员的职责和定位，系统外沟通处理，系统内的处理应急
G. 常见系统内部问题：
- 单台tps700多，应用cpu负载高
减少bean -map -json之间的数据转换- 数据库资源利用率高
数据库cpu跑满，但是qps不高，可能是sql执行耗费了时间，没有按索引查找或者索引失效- nginx转发配置问题
- 数据库无压力，应用增加多台后tps不变
nginx转发问题，导致time-wait- 增加服务器数量， tps增长不明显
服务器本身可能不是瓶颈，考虑是不是网络问题，监控网卡流量包，redis是否有报错- 促销
通过redis取数据，tps不高，但cpu占80%，说明程序内部有大量序列化反序列化操作，可能是json序列化的问题- 应用及联效应，造成的雪崩
https://www.cnblogs.com/panchanggui/p/10330924.html
3. 压测结束
数据收集，脏数据处理，整理问题，分析问题，复盘，改善方案为下一次压测准备，输出性能压测报告以及分析建议
依据流程规范，验收所有压测是否停止，环境恢复正常
压测性能分析思路
了解服务的整体架构与设计(系统设计，网络拓扑图)，熟悉各部分组成(包括硬件以及软件层面)、以及部署架构
常见的几个组成:
应用程序: 应用程序之间的通信行为、磁盘或网络上的数据访问模式
操作系统
系统资源: cpu 内存 磁盘IO利用率和延迟
服务器设备
网络环节：网络利用率
是否为混合部署
几个指标：
RT(Response time): 用户响应时间 = 服务器响应时间 + 网络时间(网络损耗，不同地域的网络供应商，带宽等)
传输数据量大，带宽上行，下载CPU分析：
检查相关系统日志(自动化运维聚合分析)，web服务器日志，DB日志，分布式中间件，了解cpu状态，是否被占用，被什么服务占用
阀值: 期望系统的平均可用CPU不少于20%
步骤: 查出被什么服务占用
java程序可通过自带的JVM命令工具:jstat、jmap、JConsole
Mysql监控工具:Spotlight、 Monyog、命令行工具
a 计算任务重
b GC频繁
c 上下文切换过多
d 大量异常填充栈信息
- 内存分析
当可用的内存太小，系统进程会被阻塞中，变得缓慢，失去响应，最后导致OOM从而引起应用程序被系统杀死，更严重导致系统重启
虚拟内存也是重要的指标，物理内存不够时，才进行内存交换，把长时间不用的释放掉，但是暂时放在虚拟内存中
创建对象过多
- 网络分析
网络带宽 响应时间 网络延迟 阻塞 网络抖动，机房情况
- I/O
访问应用离不开系统的磁盘数据读写，磁盘的I/O系统是系统中最慢的部分
日志记录可能影响
- 可用率、负载、TP99、TP999
常用性能测试分析调优
1 性能分析调优
2 基于单机的性能分析与调优
3 基于业务流程优化的性能调优
4 基于结构(分布式，业务拆分)的性能分析与调优
性能分析调优:
自底向上：通过监控硬件及操作系统性能指标(CPU、内存、磁盘、网络等硬件资源的性能指标) 链路拓扑结构(SGM系统监控)
自顶向下：通过生成负载来观察被测试等系统性能，比如响应时间、吞吐量
单机的性能分析与调优
常见的系统架构: 用户=>web=>application=>DB 以及中间件
性能分析流程:
Client(压测机) ==> Web Server (Nginx、Tomcat、WebLogic) ==> OS( Linux、Windows) ==> 系统资源(CPU、内存、磁盘、网络) ==> AppServer(应用服务) ==> DB(数据库服务器) 其它相关中间件
- 压测机:
RT(响应时间)
TPS
CPU(cpu利用率、cpu负载)
Mem(物理内存、虚拟内存)
Disks Network(带宽使用率，任务队列长度)
- WebServer:
可用率、负载、TP99、TP999
TCP连接数 可用netstat命令得到
Thread Pool，中间件建立的线程池、监控线程状态
JVM， JVM性能指标，比如GC情况，HEAP使用情况- DB:
中间件与数据库之间的建立的连接数及连接状态
DB Time
一般硬件评价表现
- CPU利用率过高，常见原因：
计算量大，比如远算、连接查询、数据统计
非等闲等待，比如IO等待、资源利用
过多的系统调用，比如Java项目中写日志- 内存吃紧:
过多的页交换与内存泄漏
操作系统会把原内存中的部分内容释放掉(移除或者写入磁盘)，然后把需要的内容载入，这个过程就是页交换- 磁盘繁忙，数据读写频繁
- 网络流量过大
常见压测时的问题，以及定位，应急处理
DB(数据库)
系统的性能好坏很大一部分是由数据库系统、应用程序数据库设计及如何使用数据库来决定的
表设计优化：避免null值，使用INT而非BIGINT
梳理索引 ，explain，选择合适的索引
1 读写分离
2 关键业务进行分区
3 常用查询数据放入es、hbase、redis
4 分库分表
。。。。
如何选择合适的索引
- 选择合适的数据类型
使用可存下数据的最小数据类型，整型<date,time<char,varchar<blob
使用简单的数据类型，整型比字符处理开销更小
使用合理的字段属性长度，固定长度表更快。使用enum，char而不是varchar
尽可能使用not null字段
- 选择合适的索引列
查询频繁的列，where，group by，order by，on...
where条件中出现的列
长度小的列，索引字段越小越好，数据库的存储单位是页，一页中能存下的数据越多越好，避免多次IO
- SQL语句优化
Middleware(中间件)
JVM：监控JVM堆内存使用情况，包括GC屏率，线程状态;
FULL GC 操作是对堆空间进行全面回收，此时是停止响应用户请求的，所以频繁的FULL GC会影响响应时间
Thread pool: 通过netstat统计
DB connections pool : 通过netstat统计
Web Server
页面控制与结果的渲染
关注问题:
a 页面Size ：动态数据、CSS、JS、图片等小小
b 不必要的数据传输
web服务性能优化：
a 页面静态化，减少DB负担
b 减少页面SIze
c 砍掉无用请求，无用数据传输
d 异步动态加载，后台json传输
e 只能DNS以及CDN加速，让响应数据离用户更近，回避缓解网络瓶颈
常见的优化手段
Java代码程序优化（使用池子，减少重复的初始化操作，连接初始化操作，日志落库），串行-> 并行。事件编排，深拷贝优化，去掉不必要的对象构造或调用
配置优化(最佳配置比，如对应线程数)
数据库连接池优化
线程优化
业务流程优化(增加用户操作，button可点击，答题页面，限制请求次数，合并请求次数..路径变短，减少各种IO次数)
集群结构(CDN优化)、部署架构抽取优化
消息体(数据压缩，减少序列化/反序列化，rpc，全量/增量)
中间件(kafka redis..，业务场景，读写)
网络传输(网络 带宽 拓扑结构 延时 报文大小 减少交互次数-如原来需要4次rpc交互确认，是否可以批处理减少到2次，重传设定)
减少不必要的监控节点，减少不必要数据内容
物理机器(带宽 拓扑结构 路径)
不阻塞，均衡的分配
直播优化
直播首开主要耗时： 获取url、dns解析、连接服务器、分析流信息
缓存dns解析，在之前提前解析ip
压测的专有名词
参考地址：
https://blog.csdn.net/zuozewei/article/details/84983834
《。。。》
