小米监控系统open-falcon安装

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS PostgreSQL,集群系列 2核4GB
简介:

一、介绍

Open-Falcon 是小米的一款开源的互联网企业级监控系统解决方案。

a.特点

①数据采集免配置:agent自发现、支持Plugin、主动推送模式

②容量水平扩展:生产环境每秒50万次数据收集、告警、存储、绘图,可持续水平扩展。

③告警策略自发现:Web界面、支持策略模板、模板继承和覆盖、多种告警方式、支持回调动作。

④告警设置人性化:支持最大告警次数、告警级别设置、告警恢复通知、告警暂停、不同时段不同阈

值、支持维护周期,支持告警合并。

⑤历史数据高效查询:秒级返回上百个指标一年的历史数据。

⑥Dashboard人性化:多维度的数据展示,用户自定义Dashboard等功能。

⑦架构设计高可用:整个系统无核心单点,易运维,易部署。


b.安装

Open-Falcon,整体可以分为两部分,即绘图组件、告警组件。其中:

①安装绘图组件:负责数据的采集、收集、存储、归档、采样、查询、展示(Dashboard/Screen)等功能,可以单独工作,作为time-series data的一种存储展示方案。

②安装告警组件:负责告警策略配置(portal)、告警判定(judge)、告警处理(alarm/sender)、用户组管理(uic)等,可以单独工作。


注:以下安装操作皆来自于open-falcon book:http://book.open-falcon.org/zh/intro/index.html,可直接前往查看(环境所限并未演示告警部分)。


二、安装(二进制快速安装)

a.环境准备


①安装redis

1
# yum install -y redis


②安装MariaDB

1
# yum install -y mariadb*


③创建并进入工作目录

1
2
# mkdir open-falcon
# cd open-falcon


④初始化MariaDB表结构

1
2
3
4
5
6
7
8
# yum install -y git
# git clone https://github.com/open-falcon/scripts.git
# cd scripts/
# mysql -h localhost -u root --password="" < db_schema/graph-db-schema.sql
# mysql -h localhost -u root --password="" < db_schema/dashboard-db-schema.sql
# mysql -h localhost -u root --password="" < db_schema/portal-db-schema.sql
# mysql -h localhost -u root --password="" < db_schema/links-db-schema.sql
# mysql -h localhost -u root --password="" < db_schema/uic-db-schema.sql


⑤下载并解压编译好的二进制组件(只能跑64位Linux)

1
2
3
4
5
6
7
8
9
10
# DOWNLOAD="https://github.com/open-falcon/of-release/releases/download/v0.1.0/open-falcon-v0.1.0.tar.gz"
# cd open-falcon
# mkdir tmp
# wget $DOWNLOAD -O open-falcon-latest.tar.gz
# tar -zxf open-falcon-latest.tar.gz -C tmp/
# for x in `find ./tmp/ -name "*.tar.gz"`;do \    
       app=` echo  $x| cut  -d  '-'  -f2`; \    
       mkdir  -p $app; \    
       tar  -zxf $x -C $app; \
done


b.安装绘图组件


①安装Transfer

transfer默认监听在:8433端口上,agent会通过jsonrpc的方式来push数据上来。

1
2
3
4
5
6
7
8
9
# cd open-falcon
# cd transfer/
# mv cfg.example.json cfg.json  ##默认下(所有组件都在同一台服务器上),保持cfg.json不变即可
# ./control start                  ##启动transfer
falcon-transfer started..., pid=7447
# curl -s "http://127.0.0.1:7447/health"        ##检验服务
# ./control tail                   ##查看日志 
# ./control stop                   ##停止transfer
falcon-transfer stoped...


②安装Agent

每台机器上,都需要部署agent,agent会自动采集预先定义的各种采集项,每隔60秒,push到transfer。

1
2
3
4
5
6
7
8
9
10
11
12
# cd open-falcon/agent/
# mv cfg.example.json cfg.json
# cat cfg.json | sed -n 17,22p
     "transfer" : {
         "enabled" true ,          ##true,表示开启向transfer发送数据的功能,默认开启
         "addrs" : [                  ##改地址为transfer组件的监听地址, 为列表形式
             "127.0.0.1:8433" ,
             "127.0.0.1:8433"
         ],          ### 默认情况下(所有组件都在同一台服务器上),保持cfg.json不变即可
# ./control start             ##启动agent
falcon-agent started..., pid=9067
# ./control tail               ##查看日志


③安装Graph

graph组件是存储绘图数据、历史数据的组件。transfer会把接收到的数据,转发给graph。

1
2
3
4
5
6
# cd open-falcon/graph/
# mv cfg.example.json cfg.json  ##默认情况下(所有组件都在同一台服务器上),保持配置不变即可
# ./control start                ##启动graph
start ok, pid=9089
# ./control tail                ##查看日志
# curl -s "http://127.0.0.1:9089/health"      ##检验服务



④安装Query

query组件,绘图数据的查询接口,query组件收到用户的查询请求后,会从后端的多个graph,查询相应的数据,聚合后,再返回给用户。

1
2
3
4
5
# cd open-falcon/query/
# mv cfg.example.json cfg.json  ##默认情况下(所有组件都在同一台服务器上),保持配置不变即可
# ./control start                 ##启动query
start ok, pid=9146
# ./control tail                 ##查看日志




⑤安装Dashboard

dashboard是面向用户的查询界面,在这里,用户可以看到push到graph中的所有数据,并查看其趋势图。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
# yum install -y python-virtualenv mariadb-devel gcc
# cd open-falcon/dashboard/
# virtualenv ./env
New python executable  in  . /env/bin/python
Installing Setuptools.............................................................................................................................................................................................................................. done .
Installing Pip..................................................................................................................................................................................................................................................................................................................................... done .
# ./env/bin/pip install -r pip_requirements.txt
# cat rrd/config.py            ##默认情况下(所有组件都在同一台服务器上),保持默认配置即可
#-*-coding:utf8-*-
import  os
#-- dashboard db config --               ### dashboard的数据库配置
DASHBOARD_DB_HOST =  "127.0.0.1"
DASHBOARD_DB_PORT = 3306
DASHBOARD_DB_USER =  "root"
DASHBOARD_DB_PASSWD =  ""
DASHBOARD_DB_NAME =  "dashboard"
#-- graph db config --                  ### graph的数据库配置
GRAPH_DB_HOST =  "127.0.0.1"
GRAPH_DB_PORT = 3306
GRAPH_DB_USER =  "root"
GRAPH_DB_PASSWD =  ""
GRAPH_DB_NAME =  "graph"
#-- app config --                    ## dashboard的配置
DEBUG = True
SECRET_KEY =  "secret-key"
SESSION_COOKIE_NAME =  "open-falcon"
PERMANENT_SESSION_LIFETIME = 3600 * 24 * 30
SITE_COOKIE =  "open-falcon-ck"
#-- query config --                   ### query服务的地址
QUERY_ADDR =  "http://127.0.0.1:9966"
BASE_DIR =  "/home/work/open-falcon/dashboard/"
LOG_PATH = os.path. join (BASE_DIR, "log/" )
try:
     from rrd.local_config  import  *
except:
     pass
# ./control start            ##启动dashboard
falcon-dashboard started..., pid=11835
# ./control tail             ##查看日志
# ./control stop             ##停止dashboard


这时候就可以通过http://localhost:8081访问dashboard主页了;

在dashboard首页的endpoint字段中,搜索机器名并点击“刷新counter列表”就可以看到数据了。

wKiom1eQc6nx1fGaAADYDB9JF6U803.png





本文转自  结束的伤感  51CTO博客,原文链接:http://blog.51cto.com/wangzhijian/1833937



相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
监控 数据库
open-falcon 安装以及配置
环境准备 请参考环境准备 同时,请再次检查当前的工作目录设置: export HOME=/home/work export WORKSPACE=$HOME/open-falcon mkdir -p $WORKSPACE 安装Transfer transfer默认监听在:8433端口上,agent会通过jsonrpc的方式来push数据上来。
2323 0
|
测试技术 C++ 异构计算
Falcon 180B 目前最强大的开源模型
Technology Innovation Institute最近发布了Falcon 180B大型语言模型(LLM),它击败了Llama-2 70b,与谷歌Bard的基础模型PaLM-2 Large不相上下。
147 0
|
存储 数据采集 监控
CentOS7下部署Open-Falcon小米开源监控系统
CentOS7下部署Open-Falcon小米开源监控系统
466 0
CentOS7下部署Open-Falcon小米开源监控系统
|
存储 SQL 缓存
Google 大规模监控系统 --Monarch
Google 大规模监控系统 --Monarch
280 0
Google 大规模监控系统 --Monarch
|
SQL 数据可视化 BI
诸多改进!Superset 1.2.0 正式发布!
Apache Superset 是一个现代的、企业级的轻量BI平台,提供了大量数据可视化组件。 距离superset上一个版本发布已经过了近三个月的时间,我们终于等到了1.2.0版本。 之前就曾提到过Superset在不断增强与 Apache ECharts的整合。此版本继续加强这方面的改进,并且还带来了大量用户体验改进、API 改进、错误修复以及先前版本中包含的实验性功能的持续开发。
281 0
诸多改进!Superset 1.2.0 正式发布!
|
机器学习/深度学习 分布式计算 大数据
# Apache Spark系列技术直播# 第八讲 【 微软Azure平台利用Intel Analytics Zoo构建AI客服支持实践 】
**直播时间**: 2019.01.10(周四) 19:00 - 20:00 **主讲人:** 黄凯——Intel大数据技术团队软件工程师。 卫雨青——Microsoft C+AI 团队软件工程师。
1713 0
|
关系型数据库 MySQL 开发工具
分布式监控-open-falcon
一、环境准备 操作系统:centos7(minimal,www.centos.org下载的包是CentOS-7-x86_64-Minimal-1611.iso) 1.1 更换阿里yum(个人习惯)      步骤:      1)下载wget                    yu...
2789 0
|
Docker 容器 开发工具
open-falcon部署
#falcon-plus server部署: https://github.com/open-falcon/falcon-plus/tree/master/docker Running falcon-plus container docker pull openfalcon/falcon-plus:0.
1856 0