运维工作经验总结:逃离系统故障的十个心得

简介:

系统故障,对于 DBA或是运维人员来说,都是心中永远的痛。而避免故障的原则却是殊途同归,现列如下,与君共勉。

一、变更要能回滚、先在同样的环境测试过

佛说:每次创伤、都是一次成熟、这便是运维人员的真实写照。从某种意义上讲、运维是一门经验的学科、是一门试错的学科。没有做过的东西、总是会给你不期而遇的痛击,请保护现场,让变更有回头的机会。

二、对破坏性的操作谨慎小心

什么是破坏性的操作?

比如:对 Oracle 而言:truncate table_name、delete table_name、drop table_name,这些语句执行起来轻松简单也惬意极了、但记住!即便数据可被回滚、代价也是非常大!

对 Linux 而言:rm -r 所有当前及其子目录的所有数据都将被删除。经历过这种故障的人、大多会给 rm 上个别名

alias rm='rm -i'

同理、cp 和 mv 也可以有同样的选项:

alias cp='cp -i' alias mv='mv -i'

三、设置好命令提示

在操作之前、先理清你所在的是主库、备库?当前目录?哪个 schema?session?时间?

比如:

对 Oracle 来讲:

[plain] view plaincopy idle> set sqlprompt 'RAC-node1-primary@10g>>' RAC-node1-primary@10g>>

当然、你也可以在 glogin.sql 里面设置。

  • 对于 Linux 而言、bash 环境的提醒可设置 PS1 来知道当前目录、登陆用户名和主机信息等;

  • 对 PS1 更多理解、请见:man PS1

四、备份并验证备份的有效性

人非圣贤、岂能无过?是机器总有计划内或计划外崩溃的一天。怎么办?备份!!!备份的学问很大、按照不同的维度可以分:冷备和热备;实时和非实时;物理和逻辑。OLTP 7*24 在线业务、DB 就需要有实时热备。这样就可以了吗?

如果开发人员的一个不带任何条件的 delete 误删所有数据,此时你除了实时、还需要有非实时的备份、把 DB 从逻辑错误中恢复出来。

备份有了、可以高忱无忧了吗?不行!尚须验证备份的有效性。一个总有那么几次、备份无法保证 100% 恢复,简单的验证就是找个空库恢复出来。

五、对生产环境永保敬畏之心

会计人员在从业之前、都有个职业操守的训练。同理、这也应该是运维人员进入行业首先需要具备的素养。

比如:

  • 于 Oracle 而言、你可以跑一个 RDA 巡检 DB 的健康状况;

  • 于 Linux 而言、是否有 password aging、隔离外网等。

六、交接和休假最容易出故障、变更请谨慎

  • 接手别人的工作要一而再,再而三的确认变更方案。请教人并不见得就是能力不行的表现;

  • 休假前最好各种可以做好的事情,最好能够准备一份文档,指明在什么情况下怎么做和联系哪些人;

  • 在别人放假的时候接手工作,“能拖则拖”,实在需要执行:必须不厌其烦的跟原运维者确认各个操作细节。

七、搭建报警、及时获取出错信息;搭建性能监控、预测趋势

运维人员赖于生存的工具就是报警和监控。

  • 报警可以让你及时知道系统出现了什么异常、以便及时跟进、把故障扼杀于摇篮;

  • 监控可以让你了解系统的历史性能信息、以历为鉴、可以知兴替嘛、早做优化。

报警和优化是衣宽带水的好兄弟、相铺相成、互相促进。

八、自动却换需谨慎

比如:Oracle 存储级的HA方案:Data Guard,主库提交了一笔订单,结果发生了 switchover,这笔订单没有同步到备库,那么卖家损失了一个销售单、对客户、对公司都是损失。

九、仔细一点,偏执一点,检查,检查,再检查

有这么一个人:

① 他在做一个变更的时候,会先提前一两周发送邮件并电话手机通知相关人

② 在测试机上写好脚本,召集大家 review 操作步骤和脚本

③ 测试完成以后拷贝到生产环境

④ 登录对应机器,“打开,关闭,打开,关闭”该脚本

⑤ 跟相关人员再次确认执行的操作,顺序,时间点,可能的影响和回滚是否都准备好了

⑥ 执行前还要退出这个机器,然后再登录进去,“打开,关闭”脚本

⑦ 最后才在后台运行脚本,同时在另外一个窗口登录着,随时ps和查看结果输出

期间姿势端正,呼吸急促而均匀,眼神凝重。操作的人不觉得累,倒是一边学习的人很累。

十、简单即是美

这有点禅的意境、和 GNU/Linux 的思想不谋而合。

我们总是面临各种诱惑:新的系统架构,新的更智能的命令和工具,最新的硬件平台,功能更全的HA软件...你可以在线下安装,测试,怎么做都行。但是如果想要在生产环境下使用起来、请三思!!

  • 能够使用系统内置命令的话,就不用考虑其他要专门下载安装的软件了

  • 脚本本身就能完成的功能,就没有必要专门找一个功能丰富的软件来做

  • Linux本身自带的字符界面比那些复杂的图形界面要简洁方便

......

最后祝大家运维工作一帆风顺,多福多寿,不出故障。


本文转自 linuxzkq 51CTO博客,原文链接:http://blog.51cto.com/linuxzkq/1583369


相关文章
|
9月前
|
机器学习/深度学习 人工智能 运维
不仅会运维,还会写诗!
在我们的印象中,运维工程师是一群十分专业的技术人员,他们的工作内容主要是维护和管理企业的计算机系统和网络设备,确保系统的正常运行。他们需要具备扎实的技术水平和丰富的经验,以应对各种各样的技术问题。恰逢7月24日是一个专属于 IT人的日子,寓意是7×24小时待命电脑不离手、保障业务7×24小时高效可用。他们运筹“维”幄,有紧急情况发生,他们会坚守在机房直到问题解决;他们“时来运转”,每逢重大节日、重大活动,就能看见运维人忙碌的身影像陀螺一样运转。但是,你是否想过,运维工程师还有可能会写诗吗?
251 1
不仅会运维,还会写诗!
|
11月前
|
消息中间件 运维 Prometheus
工作十几年,早点用监控就好了
工作十几年,早点用监控就好了
|
运维 监控 Linux
传统运维不得不会的zabbix监控(你早起,我早起,我们迟早在一起)(二)
传统运维不得不会的zabbix监控(你早起,我早起,我们迟早在一起)(二)
115 0
传统运维不得不会的zabbix监控(你早起,我早起,我们迟早在一起)(二)
|
运维 监控 前端开发
传统运维不得不会的zabbix监控(你早起,我早起,我们迟早在一起)(一)
传统运维不得不会的zabbix监控(你早起,我早起,我们迟早在一起)(一)
208 0
传统运维不得不会的zabbix监控(你早起,我早起,我们迟早在一起)(一)
|
运维 监控 安全
传统运维不得不会的zabbix监控(你早起,我早起,我们迟早在一起)(三)
传统运维不得不会的zabbix监控(你早起,我早起,我们迟早在一起)(三)
98 0
传统运维不得不会的zabbix监控(你早起,我早起,我们迟早在一起)(三)
|
SQL 缓存 安全
如何做好大促时的系统高可用
面对大促不确定的流量,我们需要做好全方位的流量控制与防护能力,确保我们的系统始终工作在预期的范围之内。首先我们需要有流量的实时监控以及水位诊断分析能力,确保我们知道当前系统所处的一个状态;在业务的链路入口,我们需要做好链路入口的容量评估以及峰值流量的限流配置、同时需要开启热点隔离能力,防止黑马商品、黑产刷单等不确定因素造成的稳定性影响;在微服务内部我们需要配置单机流控,针对微服务内部异步的流量我们可以配置流量平滑能力做到削峰填谷的效果;针对下游依赖的服务以及组件(数据库、缓存等),我们可以通过慢SQL发现以及熔断、慢调用隔离、热点探测等手段保障稳定性。
如何做好大促时的系统高可用
|
程序员 测试技术
等重构完这系统,我就提离职!
Part.1 为什么程序员一言不合就重构代码? 当你看到前任写成一团毛球的代码块;新增几行代码需先捋半天逻辑的超级大函数;好不容易在迷宫里找到方向,小心翼翼地添加上新代码,却将别的调用系统给弄垮时;还有运行缓慢的老系统…… 此时程序员只有两个选择:要么忍,要么重构。
1531 0
|
程序员
关于招聘:如何短时间全面评估一个程序员的能力
云栖社区有很多类似的讨论,有很多评估方式,之前好像在一些文章里也表达过自己的看法,但是在招聘时,时间很有限,最多也就一两小时,如何在这么短时间内评估一个人的技术能力呢?是个有意思的问题。我也招过一些技术人员,我觉的有两点很重要,也很简单。
3457 0
|
监控 安全 中间件
三年0故障总结,提升代码质量的秘诀
该文章来自于阿里巴巴技术协会(ATA)精选文章。 个人经历 对我代码质量影响最大的是在一家外资企业,在这家公司我觉得有以下几个方面做的很不错。 团队编码风格统一 统一到什么程度? 不看代码作者,你很难区分代码是谁写的(在目前公司一些团队也能达到这个标准)。
1693 0