python实现定时任务下载release

简介: python实现定时任务下载release

1.python实现自动任务下载某产品版本

使用schedule类库

  介绍:
            schedule 是一个第三方轻量级的任务调度模块,可以按照秒,分,小时,日期或者自定义事件执行时间。
            schedule 允许用户使用简单、人性化的语法以预定的时间间隔定期运行 Python 函数(或其它可调用函数)
        定时任务格式如下:
            schedule.every(10).seconds.do(job)
            schedule.every(10).minutes.do(job)
            schedule.every().hour.do(job)
            schedule.every().day.at("10:30").do(job)
            schedule.every(5).to(10).minutes.do(job)
            schedule.every().monday.do(job)
            schedule.every().wednesday.at("13:15").do(job)
            schedule.every().minute.at(":17").do(job)

截图

image.png

2.案例

实现步骤:

1.连接vpn
2.获取url地址
3.使用curl命令下载输出指定目录
4.断开vpn
# coding=utf-8
"""
    作者:gaojs
    功能:
    新增功能:
            schedule 是一个第三方轻量级的任务调度模块,可以按照秒,分,小时,日期或者自定义事件执行时间。
            schedule 允许用户使用简单、人性化的语法以预定的时间间隔定期运行 Python 函数(或其它可调用函数)
        demo如下:
            schedule.every(10).seconds.do(job)
            schedule.every(10).minutes.do(job)
            schedule.every().hour.do(job)
            schedule.every().day.at("10:30").do(job)
            schedule.every(5).to(10).minutes.do(job)
            schedule.every().monday.do(job)
            schedule.every().wednesday.at("13:15").do(job)
            schedule.every().minute.at(":17").do(job)
    日期:2022/5/29 12:45
    blog: www.gaojs.com.cn
"""
import os
import schedule
import time
from schedule import every, repeat, run_pending
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
def conn_vpn():
    """
    连接vpn
    """
    try:
        # 修改工作目录到
        os.chdir('C:\\Program Files\\Array Networks\\MotionPro VPN Client')
        os.system('MotionPro.exe -connect xxxxxxxx 443 uname passwd 0 0 0 1')
        time.sleep(10)
    finally:
        os.system('ping 10.x.x.x')
        pass
def disconnect_vpn():
    """
    断开vpn连接
    """
    # 修改工作目录到
    try:
        os.chdir('C:\\Program Files\\Array Networks\\MotionPro VPN Client')
        os.system('MotionPro.exe -disconnect')
    finally:
        os.system('ping 10.x.x.x')
def mkdir_path():
    """
    创建目录
    """
    if not os.path.exists('release/'):
        os.mkdir('release/')
def download():
    """
    自动下载release
    """
    print('*************************** 正在刷新新版本,请稍等 *******************************')
    conn_vpn()
    url = 'http://xxxxxxx.html'
    chrome_options = Options()
    chrome_options.add_argument('--headless')
    driver = webdriver.Chrome(options=chrome_options)
    time.sleep(5)
    driver.get(url)
    driver.maximize_window()
    try:
        element = driver.find_element_by_xpath(xpath='/html/body/blockquote[1]/a[1]').text
        release_url = element.split(' ')[0]
        print(release_url)
        # 分离url和文件名称
        release_name = os.path.split(release_url)[1]
        print(release_name)
    finally:
        # os.system(r'curl -o E:\panglu_test_59\release\ + %s  %s' % (release_name, release_url))
        os.chdir('D:\\builds')
        if not os.path.exists('D:\\builds\\' + release_name):
            os.system(r'curl -o %s  %s' % (release_name, release_url))
    driver.close()
    # 断开vpn连接
    disconnect_vpn()
# 每隔一小时执行一次
schedule.every().hours.do(download)
while True:
  # 启动任务
    schedule.run_pending()
    time.sleep(1)

结果如下:

image.png

3.案例3–linux下配置

#!/bin/bash
# coding=utf-8
"""
    作者:gaojs
    功能:
    新增功能:
            schedule 是一个第三方轻量级的任务调度模块,可以按照秒,分,小时,日期或者自定义事件执行时间。
            schedule 允许用户使用简单、人性化的语法以预定的时间间隔定期运行 Python 函数(或其它可调用函数)
        demo如下:
            schedule.every(10).seconds.do(job)
            schedule.every(10).minutes.do(job)
            schedule.every().hour.do(job)
            schedule.every().day.at("10:30").do(job)
            schedule.every(5).to(10).minutes.do(job)
            schedule.every().monday.do(job)
            schedule.every().wednesday.at("13:15").do(job)
            schedule.every().minute.at(":17").do(job)
    日期:2022/5/29 12:45
    blog: www.gaojs.com.cn
"""
import os
import time
from selenium import webdriver
from selenium.webdriver import FirefoxOptions
def conn_vpn():
    """
    连接vpn
    """
    try:
        # 修改工作目录到
        os.system('iSecSP -h intranet.arraynetworks.com.cn -u gaojs -p  Bigdata_2013')
        time.sleep(40)
    finally:
        pass
def disconnect_vpn():
    """
    断开vpn连接
    """
    # 修改工作目录到
    try:
        os.chdir('cd /opt/')
        os.system('iSecSP -s')
    finally:
        os.system('ping 10.3.0.120')
def mkdir_path():
    """
    创建目录
    """
    if not os.path.exists('/opt/builds/'):
        os.mkdir('/opt/builds/')
def download():
    """
    自动下载release
    """
    print('*************************** 正在刷新新版本,请稍等 *******************************')
    url = 'http://10.3.0.120/sp2/build/rel_netiag_10_0_4.html'
    opts = FirefoxOptions()
    opts.add_argument("--headless")
    driver = webdriver.Firefox(options=opts)
    time.sleep(5)
    driver.get(url)
    driver.maximize_window()
    print('downloading')
    try:
        element = driver.find_element_by_xpath(xpath='/html/body/blockquote[1]/a[1]').text
        release_url = element.split(' ')[0]
        print(release_url)
        # 分离url和文件名称
        release_name = os.path.split(release_url)[1]
        print(release_name)
    finally:
        os.chdir('/var/www/html/builds/netIAG/')
        if not os.path.exists('/var/www/html/builds/netIAG/' + release_name):
            os.system(r'curl -o %s  %s' % (release_name, release_url))
    driver.close()
    # 断开vpn连接
    # disconnect_vpn()
download()

jenkins任务

image.png

每日晚上十点定时更新最新build


正则匹配去实现下载操作:

#!/bin/bash
# coding=utf-8
"""
    作者:gaojs
    功能:
    新增功能:
    日期:2022/7/11 14:29
"""
import os.path
import re
import requests
def get_release():
    """
    正则匹配版本号
    """
    url = 'http://10.3.0.120/sp2/build/rel_netiag_10_0_4.html'
    resp = requests.get(url)
    # print(resp.text)
    base_url = re.findall(r'http:\/\/10\.3\.0\.120\/sp2\/build\/nodebug-Rel_NetIAG_[0-9]_[0-9]_[0-9]_[0-9]\.click', resp.text)[0]
    print(base_url)
    base_name = os.path.split(base_url)[1]
    os.chdir('/var/www/html/builds/netIAG/')
    if not os.path.exists('/var/www/html/builds/' + base_name):
        os.system(r'curl -o %s  %s' % (base_name, base_url))
    print('*********************** 下载完成 **********************')
if __name__ == '__main__':
    get_release()
#!/bin/bash
# coding=utf-8
"""
    作者:gaojs
    功能:
    新增功能:
    日期:2022/7/11 14:29
"""
import os.path
import re
import requests
def get_release():
    """
    正则匹配版本号
    """
    url = 'http://10.3.0.120/sp2/build/rel_netiag_10_0_4.html'
    resp = requests.get(url)
    # print(resp.text)
    base_url = re.findall(r'http:\/\/10\.3\.0\.120\/sp2\/build\/nodebug-Rel_NetIAG_[0-9]_[0-9]_[0-9]_[0-9]\.click', resp.text)[0]
    print(base_url)
    base_name = os.path.split(base_url)[1]
    os.chdir('/var/www/html/builds/netIAG/')
    if not os.path.exists('/var/www/html/builds/' + base_name):
        os.system(r'curl -o %s  %s' % (base_name, base_url))
    print('*********************** 下载完成 **********************')
if __name__ == '__main__':
    get_release()

4.遇到问题

1.ubuntu部署jenkins
2.创建任务,定时任务配置
3.调试问题解决
4.调试通过
5.一定要注意ubuntu下jenkins的权限的问题
相关文章
|
1月前
|
PyTorch Linux 算法框架/工具
pytorch学习一:Anaconda下载、安装、配置环境变量。anaconda创建多版本python环境。安装 pytorch。
这篇文章是关于如何使用Anaconda进行Python环境管理,包括下载、安装、配置环境变量、创建多版本Python环境、安装PyTorch以及使用Jupyter Notebook的详细指南。
249 1
pytorch学习一:Anaconda下载、安装、配置环境变量。anaconda创建多版本python环境。安装 pytorch。
|
2月前
|
Python
下载python所有的包 国内地址
下载python所有的包 国内地址
|
3月前
|
调度 索引 Python
python3创建定时任务
python3创建定时任务
38 2
|
27天前
|
Java Python
> python知识点100篇系列(19)-使用python下载文件的几种方式
【10月更文挑战第7天】本文介绍了使用Python下载文件的五种方法,包括使用requests、wget、线程池、urllib3和asyncio模块。每种方法适用于不同的场景,如单文件下载、多文件并发下载等,提供了丰富的选择。
|
28天前
|
数据安全/隐私保护 流计算 开发者
python知识点100篇系列(18)-解析m3u8文件的下载视频
【10月更文挑战第6天】m3u8是苹果公司推出的一种视频播放标准,采用UTF-8编码,主要用于记录视频的网络地址。HLS(Http Live Streaming)是苹果公司提出的一种基于HTTP的流媒体传输协议,通过m3u8索引文件按序访问ts文件,实现音视频播放。本文介绍了如何通过浏览器找到m3u8文件,解析m3u8文件获取ts文件地址,下载ts文件并解密(如有必要),最后使用ffmpeg合并ts文件为mp4文件。
|
1月前
|
Python
Python 三方库下载安装
Python 三方库下载安装
26 1
|
1月前
|
机器学习/深度学习 缓存 PyTorch
pytorch学习一(扩展篇):miniconda下载、安装、配置环境变量。miniconda创建多版本python环境。整理常用命令(亲测ok)
这篇文章是关于如何下载、安装和配置Miniconda,以及如何使用Miniconda创建和管理Python环境的详细指南。
348 0
pytorch学习一(扩展篇):miniconda下载、安装、配置环境变量。miniconda创建多版本python环境。整理常用命令(亲测ok)
|
1月前
|
网络协议 Python
|
2月前
|
数据采集 NoSQL 调度
flask celery python 每月定时任务
flask celery python 每月定时任务
|
2月前
|
API Python
使用Python requests库下载文件并设置超时重试机制
使用Python的 `requests`库下载文件时,设置超时参数和实现超时重试机制是确保下载稳定性的有效方法。通过这种方式,可以在面对网络波动或服务器响应延迟的情况下,提高下载任务的成功率。
149 1