zabbix-API对接实录:关键基础设施数据清洗和封装函数(php数组函数、数据清洗、数据结构化)

本文涉及的产品
全局流量管理 GTM,标准版 1个月
云解析 DNS,旗舰版 1个月
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
简介: zabbix-API对接实录:关键基础设施数据清洗和封装函数(php数组函数、数据清洗、数据结构化)

前言

关键基础设施的四环图,是zabbix开发中的重点和难点。不管是数据处理的复杂程序,数据爬取→数据过滤→数据清洗→数据结构化→数据入库→数据输出→数据图表渲染和统计,基本上将数据可视化在前端的展示和后端的对接,充分调动了起来。


一、zabbix-API数据爬虫

zabbix-API数据爬虫,通过curl爬取对应的API即可。

/*
 * zabbix-API数据爬虫
 * $url,默认爬取地址;
*/
function getZabAPI($url, $group_id)
{
    $ch = curl_init();
    curl_setopt($ch, CURLOPT_URL, $url);
    curl_setopt($ch, CURLOPT_SSL_VERIFYPEER, false);
    curl_setopt($ch, CURLOPT_SSL_VERIFYHOST, false);
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
    $resp = curl_exec($ch);
    curl_close($ch);
    return $resp;
}


注意:配置访问https网站的时,是为true,否则可能会报400错误。


curl_setopt(c u r l , C U R L O P T S S L V E R I F Y P E E R , t r u e ) ; c u r l s e t o p t ( curl, CURLOPT_SSL_VERIFYPEER, true); curl_setopt(curl,CURLOPT

S

SL

V

ERIFYPEER,true);curl

s

etopt(curl, CURLOPT_SSL_VERIFYHOST, true);


CURLOPT_SSL_VERIFYPEER 设置为FALSE 禁止 cURL 验证对等证书(peer’s

certificate)。要验证的交换证书可以在 CURLOPT_CAINFO 选项中设置,或在

CURLOPT_CAPATH中设置证书目录。


CURLOPT_SSL_VERIFYHOST 设置为 1 是检查服务器SSL证书中是否存在一个公用名(common name)。公用名(Common Name)一般来讲就是填写你将要申请SSL证书的域名 (domain)或子域名(sub domain)。 设置成 2,会检查公用名是否存在,并且是否与提供的主机名匹配。 在生产环境中,这个值应该是 2(默认值)。


二、主机ID封装接口

1.封装API接口

    public function getZabBasics()
    {
        global $db, $res, $CONF;
        dbc();
        $quota = get_param("quota");//获取指标数量;
        $group = $this->getGroupId();
        $hostids = $group["basicsid"];
        if ($hostids && $hostids != "0") {
            $res = getZabAPI($CONF['zab_url'] . 'api/api.php?act=getItem&hostids=' . $hostids . '&token=' . $CONF['zab_token']);
            $dataInfo = json_decode($res, true);
            //01.按照设备名称进行数组合并;
            $list = array();
            foreach ($dataInfo as $v) {
                if (stripos($v["name"], 'CPU') !== false || stripos($v["name"], '内存') !== false || stripos($v["name"], '硬盘守护') !== false || stripos($v["name"], '网口守护') !== false || stripos($v["name"], '存储') !== false) {
                    $list[explode('|', $v['name'])[0]][] = $v;
                }
            }
            //02.筛选键值;
            $dName = array();
            foreach ($dataInfo as $v) {
                $key = explode('|', $v['name'])[0];
                if (!isset($dName[$key])) {
                    $dName[$key] = $v['name'];
                }
            }
            //保留唯一值;
            $unique = array_values($dName);
            $len = count($unique);
            //03前端数据格式;
            @$dataInfoNew = array();
            for ($n = 0; $n < $len; $n++) {
                $dataInfoNew[$n] = makeZabArr($list[explode('|', $unique[$n])[0]], $quota);
            }
            //echo "<pre>";
            //die(json_encode_lockdata($dataInfoNew));
            @$listArr = array();
            foreach ($dataInfoNew as $k => $v) {
                if (array_key_exists("name", $dataInfoNew[$k])) {
                    $listArr[] = $v;
                }
            }
            //04.将数据总条数入库;
            $len1 = count($listArr);
            $row = $db->fetch('basics', 'group_id,total', array('group_id' => $hostids), ' id DESC');
            if (!$row) {
                $db->insert('basics', array('group_id' => $hostids, 'total' => $len1));
            } else {
                $db->update('basics', array('total' => $len1), 'group_id=' . $hostids);
            }
            //05.输出JSON
            die(json_encode_lockdata($listArr));
        } else {
            $res["data"] = NULL;
            die(json_encode_lockdata($res));
        }
    }


2.数据处理封装函数

/*关键基础设施数据清洗封装函数*/
function makeZabArr($dd, $quota)
{
    //01.将数据遍历输出;
    $data = array();
    $bStatus = array();
    $cpu = array();
    $ddr = array();
    $disk = array();
    $wlan = array();
    $storage = array();
    $dhcp = array();//服务1
    $dns = array();//服务2
    for ($i = 0; $i < count($dd); $i++) {
        //var_dump($dd[$i]["state"] . " ");
        //设备名称;
        $data["name"] = explode('|', $dd[$i]["name"])[0];
        //CPU;
        if (stripos($dd[$i]["name"], 'cpu') !== false) {
            $cpu[] = $dd[$i]["lastvalue"];
            $bStatus["cpu"][] = [$dd[$i]["status"], $dd[$i]["triggers"][0]['value'], $dd[$i]["triggers"][1]['value']];
        }
        //内存;
        if (stripos($dd[$i]["name"], "内存") !== false) {
            $ddr[] = $dd[$i]["lastvalue"];
            $bStatus["ddr"][] = [$dd[$i]["status"], $dd[$i]["triggers"][0]['value'], $dd[$i]["triggers"][1]['value']];
        }
        //硬盘;
        if ($dd[$i]["name"] == '硬盘') {
            $disk[] = $dd[$i]["lastvalue"];
            $bStatus["disk"] = [$dd[$i]["status"], $dd[$i]["triggers"][0]['value'], $dd[$i]["triggers"][1]['value']];
        }
        //网口;
        if ($dd[$i]["name"] == "网口") {
            $wlan[] = $dd[$i]["lastvalue"];
            $bStatus["wlan"] = [$dd[$i]["status"], $dd[$i]["triggers"][0]['value'], $dd[$i]["triggers"][1]['value']];
        }
        //存储-列表API展示,图表不渲染;
        if (stripos($dd[$i]["name"], "存储") !== false) {
            $storage[] = $dd[$i]["lastvalue"];
            $bStatus["storage"][] = [$dd[$i]["status"], $dd[$i]["triggers"][0]['value'], $dd[$i]["triggers"][1]['value']];
        }
        //DHCP;
        if (stripos($dd[$i]["name"], "服务1") !== false) {
            $dhcp[] = $dd[$i]["lastvalue"];
            $bStatus["dhcp"][] = [$dd[$i]["status"], $dd[$i]["triggers"][0]['value'], $dd[$i]["triggers"][1]['value']];
        }
        //DNS;
        if (stripos($dd[$i]["name"], "服务2") !== false) {
            $dns[] = $dd[$i]["lastvalue"];
            $bStatus["dns"][] = [$dd[$i]["status"], $dd[$i]["triggers"][0]['value'], $dd[$i]["triggers"][1]['value']];
        }
    }
    //02.防止设备传入空数据;
    if (empty(count($cpu))) {
        $cpu = array("0" => 0);
        $bStatus["cpu"] = "0";
    }
    if (empty(count($ddr))) {
        $ddr = array("0" => 0);
        $bStatus["ddr"] = "0";
    }
    if (empty(count($disk))) {
        $disk = array("0" => 0);
        $bStatus["disk"] = "0";
    }
    if (empty(count($wlan))) {
        $wlan = array("0" => 0);
        $bStatus["wlan"] = "0";
    }
    if (empty(count($storage))) {
        $storage = array("0" => 0);
        $bStatus["storage"] = "0";
    }
    //03.六环指标 By Poleung 2021.07.24;
    if ($quota == "sixNorm") {
        if (empty(count($dns))) {
            $dns = array("0" => 0);
            $bStatus["dns"][] = "无设备";
        }
        if (empty(count($dhcp))) {
            $dhcp = array("0" => 0);
            $bStatus["dhcp"][] = "无设备";
        }
        $data["dhcp"] = round(array_sum($dhcp) / count($dhcp), 1);
        $data["dns"] = round(array_sum($dns) / count($dns), 1);
    }
    //04.输入$data;
    $data["cpu"] = round(array_sum($cpu) / count($cpu), 1);
    $data["ddr"] = round(array_sum($ddr) / count($ddr), 1);
    $data["disk"] = round(array_sum($disk) / count($disk), 1);
    $data["wlan"] = round(array_sum($wlan) / count($wlan), 1);
    $data["storage"] = round(array_sum($storage) / count($storage), 1);
    //05.状态灯;
    $data["status"] = $bStatus;
    return $data;
}


三、组ID封装接口

1.格式化数据所需格式

2.初始化默认数据

zabbix-API对接过来的数据,为统一设备下不同数据指标的json数据,同时内部存在很多非本项目需要的干扰数据。项目需求需将下面的数据格式化成为上述1所需的格式。


3.数据过滤

通过数据遍历,将name中含有CPU使用率、内存使用率、硬盘2和守护接口关键字符的数据筛选出来。

   //01.按照设备名称进行数组合并;
            $list = array();
            $dName = array();
            foreach ($dataInfo as $v) {
                if (stripos($v["name"], 'CPU使用率') !== false || stripos($v["name"], '内存使用率') !== false || stripos($v["name"], '硬盘2') !== false || stripos($v["name"], '守护接口') !== false) {
                    $key = $v["tags"][2]["value"];
                    $list[$v["tags"][2]["value"]][] = $v;
                    if (!isset($dName[$key])) {
                        $dName[$key] = $v["tags"][2]["value"];
                    }
                }
            }


4.数据结构化处理

数据遍历


  $unique = array_values($dName);
            $len = count($unique);
            //die(json_encode_lockdata($list[$unique[0]]));
            @$dataInfoNew = array();
            for ($n = 0; $n < $len; $n++) {
                $dataInfoNew[$n] = makeZabArr($list[$unique[$n]]);
            }


结构化数据makeZabArr函数

for ($i = 0; $i < count($dd); $i++) {
        //设备名称;
        $data["name"] = $dd[$i]["tags"][2]["value"];
        //设备状态;
        $triggers = $dd[$i]["triggers"];
        //CPU;
        if (stripos($dd[$i]["name"], 'CPU使用率') !== false) {
            $cpu[] = $dd[$i]["lastvalue"];
            for ($j = 0; $j < count($triggers); $j++) {
                $bStatus["cpu"][] = $triggers[$j]["value"];
            }
        }
        //内存;
        if (stripos($dd[$i]["name"], "内存使用率") !== false) {
            $ddr[] = $dd[$i]["lastvalue"];
            for ($j = 0; $j < count($triggers); $j++) {
                $bStatus["ddr"][] = $triggers[$j]["value"];
            }
        }
        //硬盘;
        if ($dd[$i]["name"] == "硬盘2") {
            $disk[] = $dd[$i]["lastvalue"];
            for ($j = 0; $j < count($triggers); $j++) {
                $bStatus["disk"][] = $triggers[$j]["value"];
            }
        }
        //守护接口;
        if (stripos($dd[$i]["name"], "守护接口") !== false) {
            $wlan[] = $dd[$i]["lastvalue"];
            for ($j = 0; $j < count($triggers); $j++) {
                $bStatus["wlan"][] = $triggers[$j]["value"];
            }
        }
    }


//02.防止设备传入空数据;
    if (empty(count($cpu))) {
        $cpu = array("0" => 0);
        $bStatus["cpu"] = "0";
    }
    if (empty(count($ddr))) {
        $ddr = array("0" => 0);
        $bStatus["ddr"] = "0";
    }
    if (empty(count($disk))) {
        $disk = array("0" => 0);
        $bStatus["disk"] = "0";
    }
    if (empty(count($wlan))) {
        $wlan = array("0" => 0);
        $bStatus["wlan"] = "0";
    }
   //03.输入$data;
    $data["cpu"] = $cpu[0];
    $data["ddr"] = $ddr[0];
    $data["disk"] = $disk[0];
    $data["wlan"] = $wlan[0];
    //05.状态灯;
    $data["status"] = $bStatus;
    return $data;

总结

在实际开发中,使用到array_values、array_key_exists等php array数据函数,以及字符串stripos包含函数,是快速处理数据和解决问题的关键;也只有在实战中,不断地按照目标的需求,去学习和总结,才是不断能提升和进步的关键所在。


@lockdata.cn

相关文章
|
2月前
|
存储 数据处理 PHP
深入浅出PHP编程之数组操作技巧
【10月更文挑战第30天】在PHP编程的海洋里,数组是一艘承载着数据结构的小船,掌握其操控之道,能让开发者在编码的旅程中乘风破浪。本文将带你领略数组的强大功能,从基础使用到高级应用,一步步揭开数组操作的神秘面纱。准备好你的航海装备,让我们启航吧!
43 4
|
2月前
|
缓存 NoSQL PHP
Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出
本文深入探讨了Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出。文章还介绍了Redis在页面缓存、数据缓存和会话缓存等应用场景中的使用,并强调了缓存数据一致性、过期时间设置、容量控制和安全问题的重要性。
44 5
|
2月前
|
存储 缓存 搜索推荐
优化PHP数组性能
优化PHP数组性能
44 8
|
2月前
|
算法 搜索推荐 Java
05 一文解决PHP数组操作
路老师带你深入PHP世界,从数组的基础知识讲起,包括数组的创建、赋值、类型(数字索引数组与关联数组)、多维数组,以及常用数组函数如遍历、统计、查询、添加、删除重复元素和排序等。实例讲解,轻松上手。下期预告:PHP面向对象。
25 2
|
4月前
|
存储 API PHP
php学习笔记-php数组的创建和使用,数组常用函数-day03
关于PHP数组的创建、使用以及常用函数的详细学习笔记。
php学习笔记-php数组的创建和使用,数组常用函数-day03
|
4月前
|
存储 PHP
PHP编程中的数组操作技巧
【9月更文挑战第28天】在PHP编程中,数组是一种基础且强大的数据结构,它可以存储多个值,并且允许我们使用键来访问这些值。本文将介绍一些实用的PHP数组操作技巧,包括创建数组、遍历数组、排序数组和合并数组等。通过掌握这些技巧,你将能够更高效地处理数据和解决实际问题。
|
4月前
|
存储 数据处理 PHP
深入理解PHP中的数组
【9月更文挑战第3天】在PHP编程中,数组扮演着不可或缺的角色。它们不仅提供了一种灵活的方式来存储和操作数据,还极大地丰富了开发者处理复杂信息结构的能力。本文将带你深入了解PHP数组的基础知识、高级特性以及如何高效地利用数组来简化代码逻辑,提升开发效率。
|
5月前
|
测试技术 PHP 开发者
PHP中的数组遍历技巧与性能优化
【8月更文挑战第31天】在PHP编程中,数组是最常用的数据结构之一。掌握数组的遍历技巧不仅能提高代码的可读性,还能在一定程度上提升程序的运行效率。本文将介绍几种常见的数组遍历方法,并通过实际代码示例对比它们的性能差异,帮助开发者在编写PHP代码时做出更优的选择。
|
2月前
|
C语言
【数据结构】栈和队列(c语言实现)(附源码)
本文介绍了栈和队列两种数据结构。栈是一种只能在一端进行插入和删除操作的线性表,遵循“先进后出”原则;队列则在一端插入、另一端删除,遵循“先进先出”原则。文章详细讲解了栈和队列的结构定义、方法声明及实现,并提供了完整的代码示例。栈和队列在实际应用中非常广泛,如二叉树的层序遍历和快速排序的非递归实现等。
230 9
|
2月前
|
存储 算法
非递归实现后序遍历时,如何避免栈溢出?
后序遍历的递归实现和非递归实现各有优缺点,在实际应用中需要根据具体的问题需求、二叉树的特点以及性能和空间的限制等因素来选择合适的实现方式。
37 1

热门文章

最新文章

推荐镜像

更多