基于python从redmine-api中获取项目缺陷数据(1)

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
云数据库 RDS PostgreSQL,集群系列 2核4GB
简介: 1.引言本文主要内容是将如何利用 Python 对 Redmine缺陷进行缺陷数据获取操作。目前统计缺陷数据时基本是根据项目手动去redmine获取缺陷数据,至少要花费一个工作日去完成,目前的目标是通过python脚本通过 Redmine-API快速去获取各个维度的缺陷数据...

1.引言

本文主要内容是将如何利用 Python 对 Redmine缺陷进行缺陷数据获取操作。目前统计缺陷数据时基本是根据项目手动去redmine获取缺陷数据,至少要花费一个工作日去完成,目前的目标是通过python脚本通过 Redmine-API快速去获取各个维度的缺陷数据

需求:

需要输出 产品质量数据(总BUG数,每日新建bug数,每日关闭bug数,bug修复周期,bug提交者统计、bug严重程度比)

实现方案:

1.redmine API形式发布不同维度的缺陷数据统计接口
2.采用python调用api接口,获取缺陷数据,并存储在数据库

2.必备环境

Python3
pycharm IDE
mysql
自行安装Python需要的包
redminelib
datetime
json
pandas
charts

3.redmine-api理解

了解各个字段代表的含义,比如新建BUG、关闭BUG,优先级、作者,引入者、BUG状态等字段的定义及获取

4.基于python编码-获取缺陷数据

引入必须的python库及包

#coding=utf-8
#引入所需要的库
from redminelib import Redmine
from pandas import DataFrame;
from string import punctuation
import datetime
import time
import matplotlib
import charts
from mysql_save import Bugcount
import json

定义函数
由于篇幅有限及涉及项目业务,这里只摘抄一部分关键代码

首先定义函数
def __init__(self, userName, passWord):
        self.userName = userName
        self.passWord = passWord
        self.redMineURL = 'http://10.20.11.218:8222/redmine'
        try:
            self.redmine = Redmine(self.redMineURL, username=self.userName, password=self.passWord)
            self.project = self.redmine.project.get('f_project')
        except Exception as ex:
            raise RuntimeError('无法连接到Redmine,请检查网络!\n'+ str(ex))
        self.fields = None


#新建BUG数定义筛选
def creat_list(created_on,subject):
    redmine = MyRedMine("zhangmeiyuan656", "password")
    issues1 = redmine.redmine.issue.filter(
        project_id='f_project',
        created_on='><'+str(created_on)+'|'+str(created_on),
        #closed_on='><'+str(closed_on),
        status_id='*'
        subject=('~'+str(subject)).encode('utf-8'))
    result1=str(len(issues1))
    return result1
    
    #return issues
#关闭BUG数定义筛选
def closed_list(closed_on,subject):
    redmine = MyRedMine("zhangmeiyuan656", "password")
    issues2 = redmine.redmine.issue.filter(
        project_id='f_project',
        closed_on='><'+str(closed_on)+'|'+str(closed_on),
        status_id='*',
        subject=('~'+str(subject)).encode('utf-8'))
    result2=str(len(issues2))
    return result2
#数据处理及时间戳转换使用
if __name__ == '__main__':
    redmine = MyRedMine("zhangmeiyuan656", "PASSDWOR")
    start_time = "2017-08-01 00:00:00"
    end_time = "2017-08-16 00:00:00"
    start_time = int(time.mktime(time.strptime(start_time, "%Y-%m-%d %H:%M:%S")))
    end_time = int(time.mktime(time.strptime(end_time, "%Y-%m-%d %H:%M:%S")))
    c = start_time
    while (c < end_time):
        c = c + 86400
        d = datetime.datetime.utcfromtimestamp(c)
        f=str(d.strftime("%Y-%m-%d")
        #定义类,字典,导入MYSQL数据库
        bugCount = Bugcount()
        bug_data1 = {}
        bug_data1['date_time'] = f
        bug_data1['newbug'] = creat_list(f,"XXXv1.0")
        bug_data1['closebug'] = closed_list(f,"XXXv1.0")
        bugCount.insert_to_db(bug_data1)
        bug_data1_string = json.dumps(bug_data1)
        print ('json:',bug_data1_string)

4.数据存储

MYSQL安装:

在官网上下载mysqlserver 下一步一直安装
mysql配置

  • 1.step1:
    苹果->系统偏好设置->最下边点mysql 在弹出页面中 关闭mysql服务
    (点击stop mysql server)
  • 2.进入终端输入:cd /usr/local/mysql/bin/
    回车后 登录管理员权限 sudo su
    回车后输入以下命令来禁止mysql验证功能 ./mysqld_safe --skip-grant-tables &
    回车后mysql会自动重启(偏好设置中mysql的状态会变成running)
  • 3.输入命令 ./mysql
    回车后,输入命令 FLUSH PRIVILEGES;
    回车后,输入命令 SET PASSWORD FOR 'root'@'localhost' = PASSWORD('你的新密码');
    至此,密码修改完成,可以成功登陆。
    注意测试:mac终端基础操作mysql
    首先手动启动MySQL应用程序
    打开终端输入如下命令: /usr/local/MySQL/bin/mysql -u root -p
    *4、进入编码,新建脚本mysql_sav.py
    由于篇幅有限,这里只摘抄一部分
#coding=utf-8
#引入所需要的库
import pymysql
import json

    #"""docstring for Bugcount"""
    #连接数据库
    connect = pymysql.connect(
        host='localhost',
        user='root',
        passwd='jammy2017',
        db='test',
        port=3306,
        charset='utf8'
        )
    #获取cursor对象来进行操作
    cursor = connect.cursor()

    def __init__(self):
        pass

    #插入数据
    def insert_to_db(self, bug_data):
        self.cursor.execute("use test")
        self.cursor.execute(
            "insert into bug_line(date_time,newbug,closebug) values(%s,%s,%s)", (bug_data.get('date_time'), bug_data.get('newbug'), bug_data.get("closebug")))
        self.connect.commit()

5.数据展现

这里尝试了三种方式
1、一种是将数据通过pands方法转换后以csv格式导出,这种只适用于将获取到的数据导出excel表格
示例如下:

#生成CSV格式导出
# df = DataFrame({
#     '时间周期':['2017-07-24|2017-07-30','2017-07-20|2017-07-23','2017-07-10|2017-07-20'],
#     '每周新建bug数':[str(len(issues)),str(len(issues2)),str(len(issues3))],
#     '每周关闭bug数':[str(len(issues4)),str(len(issues5)),str(len(issues6))]
#     })
# print(df)
# df.to_csv(
#     "/Users/zhangmeiyuan/Desktop/爬虫脚本/bug趋势表格.csv",encoding='gb18030'
#     )

2、通过POTLY库生成图表,不过此方法是在线生成的图表,借助POTLY的服务器,不能存本地

 py.sign_in('jammy0528','erYbv2ED1VmGbWglVhHf')
 new_bug = Scatter(
     x=[1,2,3],
     y=[str(len(issues3)),str(len(issues2)),str(len(issues))],  
 )
 close_bug = Scatter(
     x=[1,2,3],
     y=[str(len(issues6)),str(len(issues5)),str(len(issues4))]
 )
 data = Data([new_bug,close_bug])

 py.plot(data, filename = 'bug-line')

3、通过hightcharts+jupyter生成图表

2C46FA55-FC46-41EC-A40D-8F8A1996F00D.png

6、关于数据可视化,未完待续

后续考虑通过web框架flask将获取到的数据进行web数据可视化

相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
10天前
|
人工智能 关系型数据库 MySQL
数据魔力,一触即发 —— Dataphin数据服务API,百炼插件新星降临!
本文通过一个利用百炼大模型平台和Dataphin数据服务API构建一个客户360智能应用的案例,介绍如何使用Dataphin数据服务API在百炼平台创建一个自定义插件,用于智能应用的开发,提升企业智能化应用水平。
数据魔力,一触即发 —— Dataphin数据服务API,百炼插件新星降临!
|
4天前
|
JSON API 数据格式
如何使用Python开发1688商品详情API接口?
本文介绍了如何使用Python开发1688商品详情API接口,获取商品的标题、价格、销量和评价等详细信息。主要内容包括注册1688开放平台账号、安装必要Python模块、了解API接口、生成签名、编写Python代码、解析返回数据以及错误处理和日志记录。通过这些步骤,开发者可以轻松地集成1688商品数据到自己的应用中。
19 1
|
7天前
|
XML 数据可视化 API
商品详情数据实战案例,API接口系列
淘宝商品详情数据在电商领域具有广泛的应用价值,而淘宝商品详情API接口则为开发者提供了获取这些数据的重要途径。通过合理利用这些接口和数据,可以提升业务效率、优化用户体验,为电商行业的发展注入新的活力。
|
11天前
|
SQL 缓存 API
在API接口数据获取过程中,如何确保数据的安全性和隐私性?
在API接口数据获取过程中,确保数据的安全性和隐私性至关重要。本文介绍了身份认证与授权、防止SQL注入和XSS攻击、加密传输、API版本控制、限流与熔断、压力测试与性能优化、备份与恢复以及法律和伦理考量等关键措施,帮助开发者和管理者有效保护API接口的数据安全和隐私性。
|
10天前
|
图形学 Python
SciPy 空间数据2
凸包(Convex Hull)是计算几何中的概念,指包含给定点集的所有凸集的交集。可以通过 `ConvexHull()` 方法创建凸包。示例代码展示了如何使用 `scipy` 库和 `matplotlib` 绘制给定点集的凸包。
19 1
|
11天前
|
JSON 数据格式 索引
Python中序列化/反序列化JSON格式的数据
【11月更文挑战第4天】本文介绍了 Python 中使用 `json` 模块进行序列化和反序列化的操作。序列化是指将 Python 对象(如字典、列表)转换为 JSON 字符串,主要使用 `json.dumps` 方法。示例包括基本的字典和列表序列化,以及自定义类的序列化。反序列化则是将 JSON 字符串转换回 Python 对象,使用 `json.loads` 方法。文中还提供了具体的代码示例,展示了如何处理不同类型的 Python 对象。
|
11天前
|
数据采集 Web App开发 iOS开发
如何使用 Python 语言的正则表达式进行网页数据的爬取?
使用 Python 进行网页数据爬取的步骤包括:1. 安装必要库(requests、re、bs4);2. 发送 HTTP 请求获取网页内容;3. 使用正则表达式提取数据;4. 数据清洗和处理;5. 循环遍历多个页面。通过这些步骤,可以高效地从网页中提取所需信息。
|
8天前
|
安全 API 网络架构
Python中哪个框架最适合做API?
本文介绍了Python生态系统中几个流行的API框架,包括Flask、FastAPI、Django Rest Framework(DRF)、Falcon和Tornado。每个框架都有其独特的优势和适用场景。Flask轻量灵活,适合小型项目;FastAPI高性能且自动生成文档,适合需要高吞吐量的API;DRF功能强大,适合复杂应用;Falcon高性能低延迟,适合快速API开发;Tornado异步非阻塞,适合高并发场景。文章通过示例代码和优缺点分析,帮助开发者根据项目需求选择合适的框架。
26 0
|
8天前
|
JSON API 数据安全/隐私保护
拍立淘按图搜索API接口返回数据的JSON格式示例
拍立淘按图搜索API接口允许用户通过上传图片来搜索相似的商品,该接口返回的通常是一个JSON格式的响应,其中包含了与上传图片相似的商品信息。以下是一个基于淘宝平台的拍立淘按图搜索API接口返回数据的JSON格式示例,同时提供对其关键字段的解释
|
10天前
|
索引 Python
SciPy 空间数据1
SciPy 通过 `scipy.spatial` 模块处理空间数据,如判断点是否在边界内、计算最近点等。三角测量是通过测量角度来确定目标距离的方法。多边形的三角测量可将其分解为多个三角形,用于计算面积。Delaunay 三角剖分是一种常用方法,可以对一系列点进行三角剖分。示例代码展示了如何使用 `Delaunay()` 函数创建三角形并绘制。
19 0