监控的艺术

本文涉及的产品
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
云数据库 Tair(兼容Redis),内存型 2GB
简介: 每个企业都意识到监控工作的重要性,但80%企业的监控工作仍然处在监控的初级阶段。 什么是初级阶段呢?

监控的艺术

http://netkiller.github.io/journal/monitor.html

Mr. Neo Chen (陈景峯), netkiller, BG7NYT


中国广东省深圳市龙华新区民治街道溪山美地
518131
+86 13113668890


版权声明

转载请与作者联系,转载时请务必标明文章原始出处和作者信息及本声明。

文档出处:
http://netkiller.github.io
http://netkiller.sourceforge.net

微信扫描二维码进入 Netkiller 微信订阅号 

QQ群:128659835 请注明“读者”

2017-06-16

摘要

2015-03-16 第一版


1. 背景

每个企业都意识到监控工作的重要性,但80%企业的监控工作仍然处在监控的初级阶段。

什么是初级阶段呢?
  1. 被动监控,故障发生运维人员永远不是第一个发现故障的人
  2. 监控IP地址与TCP端口,很多时候HTTP 80端口正常接受请求,但WEB服务器不能正常工作。
  3. 人肉监控(人肉运维),采用人海战术,桌面摆放很多显示器,甚至投影仪,要求监控者盯着各种仪表板界面,制定各种工作流程以及KPI考核监控人员。
  4. 人肉测试,要求监控人员每间隔几分钟人工操作一次,以确认系统正常工作,例如(没15分钟登陆一次,下一笔顶单,做一次支付等等)。
  5. 万能的重启,定其重启所有的服务器。
什么是中级阶段呢?
  1. 报警:手机短信更靠谱,因为手机随身携带(邮件不算,邮件到达速度慢,各种因素不稳定)
  2. 监控服务:探测服务的可用性,而不是仅仅监控端口,注意我是指私有协议的监控(HTTP,SMTP,FTP,MySQL 不算在内)
  3. 故障分析:通过日志与调试工具分析软件BUG,指导开发人员改善软件质量,使其故障不会再次发生,达到不用restart重启方式解决故障
  4. 半自动化测试
什么是高级阶段呢?
  1. 我认为高级阶段是监控与灾备系统打通融合一体。
  2. 除此之外监控与开发密切相关,在开发阶段需要为监控数据采集做铺垫,每开发一个新功能就要想到未来这个功能是否需要监控,怎样监控。
  3. 数据前期采集与数据挖掘非常重要,监控不仅能做软件与硬件的性能分析,还能提供决策支持,这里又涉及了BI。
  4. 除了监控,另一个息息相关的是自动故障转移,有兴趣可以看看我的其他文章 http://netkiller.github.io/journal/

监控从初级向中继再到高级,是转被动到主动,从人工到自动化。

监控不应该局限在硬件与服务,还应该延伸到业务领域。

2. 概述

你在百度上搜索监控多半是一些开源或商业软件的安装配置指南。这些文章中会告诉你怎样监控CPU、内存、硬盘空间以及网络IP地址与端口号码。

开源软件无非是 Nagios, Cacti, Mrtg, Zibbix ..... 这些软件在我的电子出书《Netkiller Monitoring 手札》中都有详细说明安装与配置方法。

商业软件也有很多如 SolarWinds, Whit's Up,PRTG ......

所有的服务器,网络设备,监控你都做了,那么按照我上面的监控分级,你处于监控的那个阶段?

3. 怎样监控

监控都有哪些手段跟方式呢?

3.1. 卫星监测

中心卫星站为中心站点向外放射,通常是通过IP地址访问远程主机,实施监控,常用方法是SNMP,SSH,以及各种Agent(代理),方式是请求然后接收返回结果,通过结果判断主机状态。

			
      Monitor Server
            |
-------------------------------
  |         |           |
[Web]    [Mail]    [Database]
			
			

以监控服务器为中心,星型散射连接其他监控节点,没有什么优点,缺点是Web跟Mail节点的通信没有监控

3.2. 逐级诊断

一级一级的向下探测,寻找故障点,需要在各个节点埋探针。

			
      Monitor Server
              |
-------------------------------      
  |           |             |
  V           V             V
  |           |             |
[Web] ---> [Cache] ---> [Database]
  \                         ^
   `------------------------|			
			
			

首先监控服务器跟星型拓扑一样监控,再让Web节点去访问Cache节点然后返回监控结果,以此类推,让Cache节点访问Database, 让Web访问Database节点。

将所有业务逻辑都逐一模拟一次,任何一个环节出现问题,立即发出警告。

3.3. 模拟人工

这里主要监控服务是否可用,可以检查软件的工作情况,涉及测试环节。

通过自动化测试工具辅助监控,例如模拟鼠标点击,键盘输入,可以监控图形界面程序与网页程序。

Windows 监控可以通过 Windows Automation API实现,通过程序控制,能够模拟人工操作软件,实现操作匹配返回结果实现自动化监控

Web页面监控的方案就太多了,比较经典的是Webdriver衍生出的各种工具Selenium - Web Browser Automation最为出名。我通过这个工具模拟用户操作,例如用户注册,登陆,发帖,下单等等,然后匹配返回结果实现自动化监控与报警

3.4. 数据分析

通过数据分析,将故障消灭在故障发生前。举一个例子,开发人员忘记设置redis 时间,虽然程序一直完好工作,但redis内存不断增长,总一天会出现故障。

我们通过采集redis状态信息,分析一段时间内数据变化发现了这个问题。

3.5. 监控与开发

谈到监控很多人认为这是运维的事情,实则不然,不懂运维的测试不是好开发。

开发过程中需要考虑到监控,例如Nginx的status模块, MySQL的show status命令, Redis的info命令,都是为监控预留的。那么你开发的程序是否考虑到了监控这块呢?

你可以通过日志形式或者管道,再或者Socket将程序的运行状态提供给监控采集程序。

4. 总结

好的监控的能让你对系统了如指掌,做到心里有数。有数据才好说话。


相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore     ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
目录
相关文章
|
3月前
|
测试技术 持续交付 API
软件测试的艺术:从基础到高级的探索之旅
本文通过一个新手QA工程师小张的成长故事,展现了软件测试的丰富世界。从最初的困惑和迷茫,到逐步掌握测试的基本原则、设计策略,再到深入理解自动化测试的精髓,小张的经历象征着每一位测试人员技能提升的旅程。文章旨在鼓励所有软件测试从业者不断学习和成长,以适应不断变化的技术环境。
|
3月前
|
人工智能 运维 Prometheus
高效运维管理:从混沌到秩序的艺术
在当今信息技术飞速发展的时代,运维管理作为企业IT运营的核心组成部分,其重要性日益凸显。本文将通过深入浅出的方式,探讨如何从混沌的运维状态中抽丝剥茧,建立起一套高效、有序的运维管理体系。我们将从运维的基本概念入手,逐步深入到策略规划、流程优化、自动化工具应用以及团队建设等多个维度,揭示运维管理的最佳实践和成功案例。无论你是初涉运维领域的新手,还是寻求进一步提升的资深运维工程师,相信本文都能为你提供宝贵的参考和启示。
|
1月前
|
数据可视化 BI 项目管理
如何用看板工具提升生命管理质量?
看板管理源自企业项目管理,现应用于个人生活,通过任务可视化、灵活调整和持续优化,帮助人们在健康、工作、学习、家庭等多方面实现高效有序管理,使生活更加有条理,提高生活质量。
33 1
如何用看板工具提升生命管理质量?
|
1月前
|
敏捷开发 资源调度 数据可视化
2024年最适合职场人士的任务可视化工具盘点,你的工作利器已在此!
随着企业管理方式的不断创新,任务管理和团队协作的效率成为企业竞争力的关键。2024年,可视化办公软件因其直观、高效的特点,成为现代企业管理的核心工具。这些软件不仅帮助团队更好地进行任务管理、项目跟进和协作沟通,还通过多种功能如看板管理、任务分配、进度跟踪、团队协作、报告与统计等,显著提升了工作效率。例如,板栗看板、Jira、Basecamp、ClickUp和Smartsheet等工具,各自以其独特的功能和优势,满足不同规模和需求的企业,助力实现高效管理和协作。
|
1月前
|
存储 安全 Java
Java多线程编程的艺术:从基础到实践####
本文深入探讨了Java多线程编程的核心概念、应用场景及其实现方式,旨在帮助开发者理解并掌握多线程编程的基本技能。文章首先概述了多线程的重要性和常见挑战,随后详细介绍了Java中创建和管理线程的两种主要方式:继承Thread类与实现Runnable接口。通过实例代码,本文展示了如何正确启动、运行及同步线程,以及如何处理线程间的通信与协作问题。最后,文章总结了多线程编程的最佳实践,为读者在实际项目中应用多线程技术提供了宝贵的参考。 ####
|
2月前
|
运维 Prometheus 监控
运维之眼:监控的艺术与实践
在信息技术飞速发展的今天,运维监控已成为保障系统稳定运行的关键。本文将探讨运维监控的重要性,介绍常用的监控工具和方法,并通过实际案例分析,展示如何有效地实施监控策略,以确保系统的高可用性和性能。
|
1月前
|
运维 监控 安全
运维的艺术:从基础到精通的旅程
【10月更文挑战第27天】 本文旨在探讨运维(Operations)领域的艺术与科学,通过深入浅出的方式,带领读者从基础概念出发,逐步深入到高级实践技巧。我们将覆盖从系统监控、故障排查到自动化部署等关键领域,同时穿插真实案例分析,以期为读者提供一个全面而实用的学习路径。无论你是初入行的新手还是寻求进阶的老手,都能在此找到启发和指导。
39 0
|
4月前
|
jenkins 测试技术 持续交付
探索软件测试的艺术:从基础到高级
【8月更文挑战第27天】在软件开发的世界中,测试是确保产品稳定性和可靠性的关键步骤。本文将深入探讨软件测试的多个方面,包括基本概念、测试类型、测试用例设计方法,以及如何利用自动化工具提高测试效率。通过具体的代码示例,我们将展示如何在真实场景中应用这些测试技术,帮助读者构建更稳固的软件产品。
|
7月前
|
运维 Prometheus 监控
运维之眼:监控与自动化的融合艺术
【5月更文挑战第31天】随着信息技术的不断演进,运维领域正经历着一场静悄悄的革命。本文将探讨监控与自动化技术如何交织在一起,提升系统的可观测性和智能化水平,从而为现代企业带来更高效、稳定的IT环境。我们将深入分析监控数据的收集、处理和应用流程,以及自动化在故障预防、问题解决和系统优化中的关键作用。通过案例分析和最佳实践分享,本文旨在为运维专业人士提供一套实用的方法论,帮助他们构建更加智能和弹性的运维体系。
|
7月前
|
敏捷开发 算法 安全
如何精准展现C/C++项目亮点:高级工程师面试指南
如何精准展现C/C++项目亮点:高级工程师面试指南
154 1