【稳定性】浅谈团队如何做好系统稳定性

超、凢脫俗 2024-04-28 13:26 7阅读 0赞

## 背景 ##

稳定性建设需要一系列具体的建设活动推进和落地，这些建设活动涉及人员、机制和文化，全方位的建设活动才能更好地落实建设模式。

## 一、稳定性保障机制 ##

**稳定性涉及团队所有不同水平技术人员、所有系统、研发所有环节、线上时时刻刻，单个技术人员是无法保障好的，必须建立团队流程机制来可持续保障。**

人为因素的根源一方面是专业能力不足，经验不足，另一方面很多都是无心之失，所以需要通过流程、规范来保住“底线”，减少人为因素导致的故障。大家严格遵守咱们的各种规范即可（CodeReview规范、发布xbp流程、上线后doublecheck机制）。**通过流程和doublecheck机制确保每个人发布不会太差，解决人的因素。永远要记住团队的力量是无穷的，要学会借力。**

### 1、规范先行 ###

稳定性关键还是要靠大家，如何靠大家呢？稳定性工作，规范先行.就是要落地一套稳定性的机制体系，用机制的严格执行来约束大家，不然无法展开。这套机制包括：

•**方案评审机制**：在完成系统的建设或改造方案初稿后，需通过由业务、技术、测试、运维领域组成的团队进行方案评审，才能进一步对方案进行实施。

•**架构设计规范**：概要设计、模块详细设计、API、Domain、数据缓存、容错设计、风险设计等。

•**代码编写规范**：规范覆盖代码基础、日志、配置、多线程、数据库、异常使用等多层面，提升代码质量；

•**代码评审规范**：changelist描述、兼容性、性能、复杂性、团队评审文化等。

•**代码提测规范**：Test单测、代码编译构建、系统运行稳定性等、

•**代码测试规范**：进入稳定性测试阶段，要严格审查系统是否达到测试准入条件，即满足测试实施的所有必要条件，如果未满足，则不开展稳定性测试。在稳定性测试实施结束后，严格检查所有测试准出条件是否满足，如：没有进行中的缺陷等，否则不予测试通过。

•**预发&引流压测规范**：黄金链路必须进行R2引流验证。

•**发布上线规范**：可灰度、可验证、可回滚等

•**验收规范：** 业务、产品验收规范

•**制定变更规范**：提供变更级别、角色职责、活动阶段以及输入输出的详细规定

•**制定运维操作规范**：针对公司日志标准，提供统一的日志排查命令及规范。

•**报警响应机制**：针对运维相关的监控告警制定告警处理流程、告警升级机制

•**值班及责任判定机制**：设置值班制度，每天有技术人员负责值班，值班周期内的所有问题由值班人员治理，不能及时完成的，添加到BUG定期跟踪并统计。在出现生产事件后，由专家团队对该问题进行详细分析，确定问题的发生原因、解决办法后，对该问题进行问责，明确责任团队、责任人、责任承担比例等内容。避免在稳定性治理中产生“囚徒困境”。

•**故障管理机制**：故障管理机制包括规范管理故障响应流程、故障升级机制、故障复盘机制，规范技术人员在应对突发故障时的操作流程，明确职责边界，提升沟通效率，推动故障闭环，提升故障处理效率

### 2、开发和SER的区别 ###

提到稳定性，先讲个概率SRE（Site Reliability Engineering，站点可靠性/稳定性工程师）

一说到 Software Developer，人们脑子里就能反映出需求评审、编码、调试、测试、上线、修 bug等具体工作内容。那 SRE 呢？SRE与普通的开发工程师（Dev）不同，也与传统的运维工程师（Ops）不同，SRE更接近是两者的结合，也就是2008年末提出的一个概念：DevOps，这个概念最近也越来越流行起来。SRE模型是Google对Dev+Ops模型的一种实践和拓展（可以参考《Google运维解密》一书），**SRE这个概念我比较喜欢，因为这个词不简单是两个概念的叠加，而是一种对系统稳定性、高可用、团队持续迭代和持续建设的体系化解决方案；**

都是做技术的，很多开发刚刚转向稳定性方面时，有些弯转不过来。 举个例子：对于“问题”，传统的开发人员更多的倾向于是“bug/错误”，而SRE倾向于是一种“风险/故障”，所以，两者对“问题”的处理方法是不一样的：

•开发：了解业务 -> 定位问题 -> 排查问题 -> 解决问题

•SRE：了解业务归属 -> 快速定位问题范围 -> 协调相关人投入排查 -> 评估影响面 -> 决策恢复手段

可见，**开发人员面对问题，会首先尝试去探究根因，研究解决方案；而SRE人员首先是评估影响，快速定位，快速止损恢复。目标和侧重点的不同，造成了SRE思考问题的特殊性**。

所以，成为一名SRE，就一定要从态度和方式上进行转变，切换到一个“团队稳定性负责人”的角度上去思考问题。

### 3、谈谈个人对SRE的几点要求 ###

1.**责任心、细心、耐心**。

1.**负责任是第一要素**，主动承担，对报警、工单、线上问题、风险主动响应，不怕吃苦；一个不负责任的人，遇到问题与我无关的人，边界感太强的人，难以做好稳定性的工作；

2.及时、快速的响应，这是最关键的一点，作为一个SRE，能够及时、快速的响应是第一要务，**遇到报警、工单、线上问题，能够第一时间冲上去，不要去问是不是自己的，而是要问这个事情的影响是什么，有没有坑，有没有需要优化的风险？**

3.**主动走到最前面**、主动想优化的办法、主动出头解决问题、主动挖掘系统风险薄弱点。

2.**不能只做当下，要看到未来的风险，善于总结**。

3.**把机制建立好，切实落地**。作为一个SRE，想做到“不出问题”这个基线，关键还是要靠大家。

## 二、稳定性建设方向 ##

### **1、地基要打牢** ###

**稳定性建设工作重在预防**，根据多年的工作经验，至少70%的线上故障都可以通过预防工作来消除。因此，在日常工作中，我们需要投入相应的精力来进行根基建设。所谓的根基建设，就是要把开发、测试和上线这三大流程做到透彻。包括：DesignReview、CodeReview、提测流程、上线流程、引流验证、性能测试等。

### **2、工作在日常** ###

俗话说养兵一日，用兵一时。稳定性工作不是一蹴而就，而是日常的点点滴滴，一步一个脚印走出来的。

需要团队人人参与、持续完善监控告警、检查每一个告警是否配置、及时消灭线上小隐患。可参考每周的稳定性会议。

•**梳理：** 主动梳理团队的业务时序、核心链路流程、流量地图、依赖风险，通过这个过程明确链路风险，流量水位，时序冗余；

•**技术债务治理：** 主动组织技术债务的风险治理，将梳理出来的风险，以专项的形式治理掉，防患于未然。**但需要注意别由于治理而导致线上问题，需要加强引流验证比对**。

•**演练：** 把风险化成攻击，在没有故障时制造一些可控的故障点，通过演练来提高大家响应的能力和对风险点的认知。

•**报警：** 除了前面说过的主动响应之外，还要经常做报警保险和机制调整，保证报警的准确度和大家对报警的敏感度。同时也要做到不疏忽任何一个点，因为疏忽的点，就可能导致问题。

### 3、预案是关键 ###

我们需要认识到预案的重要性，并投入相应的精力来进行预案的制定和更新。这样，我们才能更好地应对各种突发情况，保障项目的顺利进行。通过每周的稳定性去深入挖掘每个接口的隐患及不足，比如业务指标是否加上、业务指标是否能真实反馈该接口的特性等。

### 4、大促特殊场景 ###

系统在大促的稳定性和日常稳定性的区别在哪呢？个人理解核心是两点：

1、 **【技术】高并发流量**：大促流量峰值是日常的N倍（几十、几百倍），需要具备更高的并发流量处理能力，以保证系统的稳定性这方面。针对这评估好流量，做好容量规划即可。

2、 **【业务】业务场景多样化**：大促会增加很多日常用不到的场景，很明显的比如预售场景、Promise特殊时效控制、停运降级功能等。针对日常不用，大促才用的功能点。可整理功能点，在大促前1个月模拟大促，业务进行相关功能配置，演练全流程，类似每年大促都进行的预售场景演练。因为每年需求都在迭代增加，难免会影响之前的功能点。这样就可避免大促期间突然使用功能发现不好用的问题

### **5、执行是王道** ###

其实听复盘会学东西是一方面，最主要是应该问问我们系统是不是也存在这种问题，我该怎么规避或解决这类风险问题，别人暴露的我也存在，应该第一时间去解决，而不是我知道但我不做。

## 三、前置：扁鹊三兄弟 ##

与扁鹊三兄弟一样，如果想要让稳定性有价值，SRE同学一定不能站到系统的屁股后面等着擦屁股，必须走到前面，看到未来的风险。

**既要在发生问题时快速解决问题（做扁鹊）**

**也要把风险归纳总结，推动解决（做二哥）**

**还要在系统健康的时候评估链路，发现隐藏的问题（做大哥）；**

markdown

复制代码

`1. 做扁鹊大哥：擅长的是“事前控制”，具有敏锐的洞察力和战略眼光，防患于未然，在系统健康时发现问题。 2. 做扁鹊二哥：擅长的是“事中控制”，具有出手迅速、果断、干练的特点，在系统有隐患时发现问题。 3. 做扁鹊： 擅长的是“事后控制”，是临危受命型的关键人物，在系统发生问题时快速解决问题。`

复制代码

`根据《鶡冠子·卷下·世贤第十六》的记载，有一次，魏文王问扁鹊说：“你们家兄弟三人，都精于医术，到底哪一位最好呢？”扁鹊回答说：“长兄最好，中兄次之，我最差。 ”魏文王又问：“那么为什么你最出名呢？”扁鹊回答说：“长兄治病，是治病于病情发作之前，由于一般人不知道他事先能铲除病因，所以他的名气无法传出去； 中兄治病，是治病于病情初起时，一般人以为他只能治轻微的小病，所以他的名气只及本乡里；而我是治病于病情严重之时，一般人都看到我在经脉上穿针管放血，在皮肤上敷药等大手术， 所以以为我的医术高明，名气因此响遍全国。”`