jumpserver V2自动同步、更新阿里云资产

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: jumpserver V2自动同步、更新阿里云资产

一、注意事项

1.1  注意替换资产模板中nodes值,可以通过数据库assets_node表中获取,或者使用jumpserver 脚本获取资产信息查看

1.2 requirements.txt

aliyun-python-sdk-core==2.13.36
aliyun-python-sdk-ecs==4.24.30
aliyunsdkcore==1.0.3
requests==2.28.2
urllib3==1.26.14
PyMySQL~=1.0.2

二、相关脚本文件

aliyun_ecs.py

# -*- coding: utf-8 -*-
"""
@Time : 2023/2/27
@Author : Bowen
@File : aliyun_ecs
@Description : 
"""
# pip install requests drf-httpsig
import json
from aliyunsdkcore.client import AcsClient
from aliyunsdkecs.request.v20140526.DescribeInstancesRequest import DescribeInstancesRequest
from aliyunsdkecs.request.v20140526.DescribeDisksRequest import DescribeDisksRequest
class ecs_api(object):
    def __init__(self, region="cn-hangzhou"):
        self.region = region
        # 设置阿里云的AccessKeyID和AccessKeySecret
        self.AK = "xxxxxxx"
        self.AS = "xxxxxxx"
        self.client = AcsClient(self.AK, self.AS, self.region)
    def get_ecs_all(self):
        """
        获取所有ECS实例信息
        :return: list,包含当前AK用户当前地域下所有可查询ECS实例信息列表
        """
        request = DescribeInstancesRequest()
        request.set_accept_format('json')
        # 设置参数,每页返回的数量为10
        request.set_PageSize(10)
        # 设置页码,从第一页开始
        page_number = 1
        ecs_list = []
        while True:
            # 设置当前页码
            request.set_PageNumber(page_number)
            # 发送请求,获取响应
            response = self.client.do_action_with_exception(request)
            res = json.loads(str(response, encoding='utf-8'))
            res = res['Instances']['Instance']
            # 如果返回的数据为空,则退出循环
            if not res: break
            # 处理响应数据
            for ecs in res:
                ecs_list.append(ecs)
            # 增加页码
            page_number += 1
        return ecs_list
    def get_ecs_disk_size(self, instance_id):
        """
        阿里云ECS相关操作
        :param instance_id: ECS实例ID
        :return: int,返回当前实例系统盘容量大小,主要由于jumpserver 磁盘仅有容量字段,无法区分磁盘
        """
        system_disk_size = 0
        request = DescribeDisksRequest()
        request.set_accept_format('json')
        request.set_InstanceId('i-bp1bjhiosovwnd16u2tf')
        response = self.client.do_action_with_exception(request)
        res = json.loads(str(response, encoding='utf-8'))
        for disk in res['Disks']['Disk']:
            if disk['Device'] == "/dev/xvda":
                system_disk_size = disk['Size']
        return system_disk_size
if __name__ == '__main__':
    obj = ecs_api()
    obj.get_ecs_all()

jms_api.py

# -*- coding: utf-8 -*-
"""
@Time : 2023/2/27
@Author : Bowen
@File : jumpserver
@Description : 
"""
import requests
import json
from jms_mysql import get_asset_id
from aliyun_ecs import ecs_api
class jumpserver(object):
    def __init__(self):
        self.jms_url = 'http://192.168.1.136'
        self.token = '012cddf58f6f89f32631c9a7d49e8991b34a8c71'
        self.headers = {
            "Authorization": 'Token ' + self.token,
            'X-JMS-ORG': '00000000-0000-0000-0000-000000000002',
            'accept': 'application/json'
        }
        self.assets_url = self.jms_url + '/api/v1/assets/assets/'
        self.ecs_api = ecs_api()
    def get_assets_all(self):
        """
        获取jumpserver所有资产信息
        :return: List 包含jumpserver所有资产信息列表
        """
        req = requests.get(url=self.assets_url, headers=self.headers)
        assets_list = json.loads(req.content.decode())
        return assets_list
    @staticmethod
    def judge_ecs_in_jms(assets_list, ecs_list):
        """
        判断哪些阿里云ECS实例存在jumpserver中
        :param assets_list: List,jumpserver所有资产信息
        :param ecs_list: 阿里云所有ECS实例信息
        :return: List,List 分别返回阿里云实例已经存在和不存在jumpserver资产中的实例列表
        """
        jms_ip_set = set()
        ecs_ip_set = set()
        for assets in assets_list:
            jms_ip_set.add(assets['ip'])
        for ecs in ecs_list:
            ecs_ip = ecs['NetworkInterfaces']['NetworkInterface'][0]['PrimaryIpAddress']
            ecs_ip_set.add(ecs_ip)
        in_jmp_for_ecs = ecs_ip_set & jms_ip_set
        not_in_jump_for_ecs = ecs_ip_set - jms_ip_set
        not_in_ecs_for_jms = jms_ip_set - ecs_ip_set
        return in_jmp_for_ecs, not_in_jump_for_ecs, not_in_ecs_for_jms
    def create_assets(self, ecs_list, ip_list):
        """
        判断阿里云主机是否存在jumpserver中,不存在则创建jumpserver资产
        :param ecs_list: 所有ECS实例列表
        :param ip_list: 不存在jumpserver资产中的ECS实例ip
        :return: None  应当返回则创建的资产条目及摘要信息,懒得写了
        """
        assets_temp = {'id': '', 'hostname': '', 'ip': '', 'platform': 'Linux', 'protocols': ['ssh/34518'],
                       'is_active': True,
                       'public_ip': None, 'number': None, 'comment': '', 'vendor': None, 'model': None, 'sn': None,
                       'cpu_model': None, 'cpu_count': None, 'cpu_cores': None, 'cpu_vcpus': None, 'memory': None,
                       'disk_total': None, 'disk_info': None, 'os': None, 'os_version': None, 'os_arch': None,
                       'hostname_raw': None, 'cpu_info': '', 'hardware_info': '', 'domain': None, 'admin_user': None,
                       'admin_user_display': '', 'nodes': ['b0506981-d3e0-4e28-ba83-968c2521df6b'], 'nodes_display': ['/Default'], 'labels': [],
                       'labels_display': [],
                       'connectivity': 'failed', 'date_verified': '', 'created_by': '', 'date_created': '',
                       'org_id': '00000000-0000-0000-0000-000000000002', 'org_name': 'Default'}
        add_assets_list = []
        for ecs in ecs_list:
            ecs_ip = ecs['NetworkInterfaces']['NetworkInterface'][0]['PrimaryIpAddress']
            # 如果当前ECS实例IP不在jumpserver当前的资产中,则为该ECS创建对应的jumpserver资产
            if ecs_ip in ip_list:
                assets_temp['hostname'] = ecs['InstanceName'] + '-' + ecs_ip
                assets_temp['ip'] = ecs_ip
                assets_temp['memory'] = str(ecs['Memory'] / 1024) + 'GB'
                assets_temp['cpu_vcpus'] = ecs['Cpu']
                assets_temp['platform'] = ecs['OSType'].capitalize()
                assets_temp['os'] = ecs['OSName']
                assets_temp['cpu_count'] = ecs['CpuOptions']['ThreadsPerCore']
                assets_temp['cpu_cores'] = ecs['CpuOptions']['CoreCount']
                assets_temp['disk_total'] = str(self.ecs_api.get_ecs_disk_size(ecs['InstanceId'])) + 'GB'
                response = requests.post(self.assets_url, headers=self.headers, data=assets_temp)
                if response.status_code != 201:
                    print("新增资产失败")
                    print("失败资产信息:%s" % assets_temp)
                    print("失败原因:%s" % response.text)
                    break
                else:
                    add_assets_list.append(ecs_ip)
        if add_assets_list:
            print("新增资产条目:%s" % len(add_assets_list))
            print("新增资产IP:" + ' '.join(add_assets_list))
        else:
            print("无新增资产")
    def patch_assets(self, ecs_list, assets_list, exist_ip_list):
        """
        同步ECS信息到jumpserver
        :param ecs_list: 所有ECS实例列表
        :param assets_list: 所有jumpserver资产信息列表
        :param exist_ip_list: 已存在jumpserver中的ECS IP
        :return: None  应当返回发生变更的资产条目个数及具体信息,懒得写了
        """
        patch_list = []
        patch_ip_list = []
        # 循环jumpserver和阿里云并集的IP
        for exist_ip in exist_ip_list:
            flag = False
            # 找到jumpserver和阿里云相同的条目,获取相关条目信息,并对比相关条目信息,如主机名称 内存 磁盘等
            for ecs in ecs_list:
                if ecs['NetworkInterfaces']['NetworkInterface'][0]['PrimaryIpAddress'] == exist_ip:
                    ecs_info = ecs
                    break
            for assets in assets_list:
                if assets['ip'] == exist_ip:
                    assets_info = assets
                    break
            if assets_info['hostname'] != (ecs_info['InstanceName'] + '-' + exist_ip):
                assets_info['hostname'] = ecs_info['InstanceName'] + '-' + exist_ip
                flag = True
            if assets_info['memory'] != (str(ecs_info['Memory'] / 1024) + 'GB'):
                assets_info['memory'] = (str(ecs_info['Memory'] / 1024) + 'GB')
                flag = True
            if assets_info['cpu_vcpus'] != ecs_info['Cpu']:
                assets_info['cpu_vcpus'] = ecs_info['Cpu']
                flag = True
            if assets_info['cpu_count'] != ecs_info['CpuOptions']['ThreadsPerCore']:
                assets_info['cpu_count'] = ecs_info['CpuOptions']['ThreadsPerCore']
                flag = True
            if assets_info['cpu_cores'] != ecs_info['CpuOptions']['CoreCount']:
                assets_info['cpu_cores'] = ecs_info['CpuOptions']['CoreCount']
                flag = True
            if assets_info['disk_total'] != str(self.ecs_api.get_ecs_disk_size(ecs_info['InstanceId'])) + 'GB':
                assets_info['disk_total'] = str(self.ecs_api.get_ecs_disk_size(ecs_info['InstanceId'])) + 'GB'
                flag = True
            if flag:
                patch_list.append(assets_info)
                patch_ip_list.append(exist_ip)
        if patch_list:
            response = requests.put(self.assets_url, headers=self.headers, json=patch_list)
            if response.status_code != 200:
                print("更新资产失败")
                print("失败资产信息:%s" % assets_info)
                print("失败原因:%s" % response.text)
            else:
                print("更新资产条目:%s" % len(patch_list))
                print("更新资产IP:" + ' '.join(patch_ip_list))
        else:
            print("没有需要变更的资产")
    def delete_asset(self, ip_list):
        delete_ip_list = []
        for ip in ip_list:
            asset_id = get_asset_id(ip)
            url = self.assets_url + asset_id + '/'
            response = requests.delete(url, headers=self.headers)
            if response.status_code == 204:
                delete_ip_list.append(ip)
            else:
                print("删除资产失败")
                print("失败资产ip:%s" % ip)
                print("失败原因:%s" % response.text)
        if delete_ip_list:
            print("删除 %s 个条目" % len(delete_ip_list))
            print("删除资产IP:" + ' '.join(delete_ip_list))
        else:
            print("没有需要删除的资产")

jms_mysql.py

# -*- coding: utf-8 -*-
"""
@Time : 2023/2/28
@Author : Bowen
@File : jms_mysql
@Description : 
"""
import pymysql
def get_asset_id(ip):
    conn = pymysql.connect(
        host='192.168.1.135',  # 数据库地址
        port=3306,  # 数据库端口
        user='root',  # 数据库用户名
        password='Qwer@123',  # 数据库密码
        database='jumpserver'  # 数据库名称
    )
    # 创建游标对象
    cursor = conn.cursor()
    # 执行查询操作
    sql = "SELECT id FROM assets_asset WHERE ip = '%s'" % ip
    cursor.execute(sql)
    # 获取查询结果
    result = cursor.fetchone()[0]
    # 关闭游标和连接
    cursor.close()
    conn.close()
    return result

main.py

# -*- coding: utf-8 -*-
"""
@Time : 2023/2/8
@Author : Bowen
@File : main
@Description :
"""
from aliyun_ecs import ecs_api
from jms_api import jumpserver
if __name__ == '__main__':
    # 实例化aliyun及jumpserver对象
    aliyun_obj = ecs_api()
    jms_obj = jumpserver()
    # 获取所有ECS及jumpserver对象
    ecs_all = aliyun_obj.get_ecs_all()
    assets_all = jms_obj.get_assets_all()
    # 分别获取存在jumpserver及不存在jumpserver中的阿里云ECS机器列表
    exist_jms_list, not_exist_jms_list, not_exist_ecs_list = jumpserver.judge_ecs_in_jms(assets_list=assets_all, ecs_list=ecs_all)
    # 如果不存在jumpserver中,则在jumpserver中创建该资产
    if not_exist_jms_list:
        jms_obj.create_assets(ecs_all, not_exist_jms_list)
    # 如果存在jumpserver中,则校验ECS当前信息与jumpserver信息是否一致,如果不一致则参考ECS进行修改
    if exist_jms_list:
        jms_obj.patch_assets(ecs_list=ecs_all, assets_list=assets_all, exist_ip_list=exist_jms_list)
    # 如果jumpserver中的资产不存在阿里云上,则删除
    if not_exist_ecs_list:
        jms_obj.delete_asset(not_exist_ecs_list)

直接运行main文件,执行结果如下,更详细信息懒得写

 

 

相关实践学习
2分钟自动化部署人生模拟器
本场景将带你借助云效流水线Flow实现人生模拟器小游戏的自动化部署
7天玩转云服务器
云服务器ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,可降低 IT 成本,提升运维效率。本课程手把手带你了解ECS、掌握基本操作、动手实操快照管理、镜像管理等。了解产品详情: https://www.aliyun.com/product/ecs
相关文章
|
5月前
|
Prometheus DataWorks 安全
DataWorks产品使用合集之如何完成更新完自动推送到外部系统触发更新
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
8月前
|
缓存 数据管理 关系型数据库
数据管理DMS操作报错合集之DMS进行数据导入时遇到了无法识别新增加的实例而旧实例已过期但状态显示正常,如何解决
数据管理DMS(Data Management Service)是阿里云提供的数据库管理和运维服务,它支持多种数据库类型,包括RDS、PolarDB、MongoDB等。在使用DMS进行数据库操作时,可能会遇到各种报错情况。以下是一些常见的DMS操作报错及其可能的原因与解决措施的合集。
|
8月前
|
存储 监控 安全
内网屏幕监控软件的数据存储与管理:使用SQLite数据库保存监控记录和配置信息
在当今数字化时代,安全和监控在企业和组织中变得至关重要。内网屏幕监控软件作为一种关键工具,帮助组织监视员工的活动并确保信息安全。这种软件不仅需要高效地记录和管理监控数据,还需要能够方便地进行配置和调整。本文将讨论如何使用SQLite数据库来保存监控记录和配置信息,并介绍如何通过自动化机制将监控到的数据提交到指定网站。
246 2
|
弹性计算 安全 关系型数据库
使用管控策略(CP:Allow)实现企业可用产品白名单
作为「资源目录」的核心能力,「管控策略CP:Allow」为企业构建顶层合规方案,帮助企业简单、高效实现“可用产品白名单”管理
415 1
|
调度
任务同步管理的方法
任务同步管理的方法
104 0
CentOS8的阿里云源停止维护后的更新配置方法 2022-2-17
CentOS8的生命周期停止,阿里云源repo也不再维护了,旧的yum/dnf更新报错失效,官方的配置方法也失效无人维护,只好自己经过一段时间研究终于解决了使dnf/yum可以正常更新使用的方法。
|
存储 弹性计算 监控
日志审计多帐号采集方案升级--资源目录集成
阿里云SLS日志服务集成阿里云资源目录服务,支持跨账号实时自动化、中心化采集阿里云产品日志。
417 0
日志审计多帐号采集方案升级--资源目录集成
|
存储 算法 安全
同步工具(未完待更新)
在JDK1.7中,同步工具主要包括CountDownLatch(一次性栅栏)、Semaphore(信号量)、CyclicBarrier(循环同步栅栏)、Exchanger(线程间交换器)和Phaser。下面的篇幅中,将依次讲述每种同步工具的概念、用法和原理。
99 0
|
存储 应用服务中间件 文件存储
K8S集群中修改在线应用的存储卷信息
修改应用NAS版本:从v4到v3 1. 修改nfs版本,需要重挂载nas卷,则pod需要重启; 2. 如果使用deploy部署应用,参考下面示例,如果使用pod部署应用,下面示例中改为pod的部署模板; 修改前应用: pv.
2598 0