1.收到故障告警的接口人立即召集团队人员上线,如果是白天就集中办公。
2.参与故障处理的人员分成3类角色,第1类负责快恢,第2类负责排查,第3类负责信息同步,其中快恢人员要2人以上。这里重点关注快恢人员和信息同步人员的操作。
3.快恢人员上线后分3路执行止血操作,第1路是重启和扩容,第2路是回滚,第3路是检查上下游依赖。
·重启与扩容:如果流量远小于集群容量,那么直接开始分批重启机器,重启成功的机器上问题恢复了的话,在保证容量的前提下将剩余的机器做下线处理;如果流量大于集群容量,或是遇到对流量敏感的故障,那么要先执行限流预案,再执行分批重启,同时进行扩容操作。
·回滚:快恢人员通过变更管控系统检查2小时以内是否有应用发布或配置变更的操作,立即停止正在进行中的发布和变更,并且进行回滚。
·上下游依赖:快恢人员检查上游来源、下游依赖、DB与Tair、网络与磁盘等,一旦发现是应用以外的问题,立即截图并发送给对应的接口人,并加进故障处理群。截图信息要包含3要素,即时间、地点(应用与容器)、错误(堆栈信息、流量统计等)。
4.第3步中的3种措施中任意1种令业务指标恢复就是达到了目标,为其他人员排查和根治故障争取到了时间。
5.负责信息同步的人员在整个恢复过程中,一方面需要向故障群、业务方、高层通报故障处理的进展,以及需要的支持;另一方面,在其他团队的人员加入排查时,提供信息的同步,帮助大家快速进入状态。
以上内容摘自《云上业务稳定性保障实践白皮书》电子书,点击https://developer.aliyun.com/ebook/download/7712可下载完整版
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。