【Python】实现从AWR 报表上抓取指定数据

简介:   因为写关于数据库性能周报要查找和计算AWR报表上的一些关键指标的值,每次手工收集数据都花很长时间,写了一个python工具来获取自己想要的值,并做了计算!(现在看来还不太完善,以后会更贴近写周报的需求)import sysimport urllibimpor...
 
因为写关于数据库性能周报要查找和计算 AWR 报表上的一些关键指标的值,每次手工收集数据都花很长时间,写了一个 python 工具来获取自己想要的值,并做了计算!(现在看来还不太完善,以后会更贴近写周报的需求)
import sys
import urllib
import HTMLParser
import string

sum_Logical = 0
sum_Physical_reads = 0
sum_Physical_writes = 0
sum_Executes = 0
sum_Transactions = 0

##因为从awr获取的数值为unicode类型的,必须把值转换为数字!
def utof( s1 ):
   s2 = s1 . strip()
   s3 = s2 . encode( 'utf-8')
   s4 = s3 . split( ',')
   length = len( s4)
   if length 1 :
      t1= string.atof(s4[0])
      return t1
   elif length == 2:
      t1=string.atof(s4[1])+string.atof(s4[0])*1000
      return t1
   elif length == 3:           t1=string.atof(s4[2])+string.atoi(s4[1])*1000+string.atoi(s4[0])*1000000
      return t1
   else:
      return 0
##类是解析html并且从html上获取想要的数据
urltext = []
class CustomParser(HTMLParser.HTMLParser):
  selected=('table', 'h1', 'font', 'ul', 'li', 'tr', 'td', 'a')
  def reset(self):
      HTMLParser.HTMLParser.reset(self)
      self._level_stack = []

  def handle_starttag(self, tag, attrs):
       if tag in CustomParser.selected:
         self._level_stack.append(tag)

  def handle_endtag(self, tag):
      if self._level_stack \
         and tag in CustomParser.selected \
         and tag == self._level_stack[-1]:
         self._level_stack.pop()
 ##获取html上出去标签之后的文本数据
  def handle_data(self, data):
     if "/".join(self._level_stack) in ('table/tr/td','table/tr/td/h1/font','table/tr/td/ul/li') and data !='\n':
        urltext.append(data)    
##对传入的url 进行解析并获取数据
def gethtml(url):
    content = unicode(urllib.urlopen(url,params).read(), 'GB2312')
    parser = CustomParser()
    parser.feed(content)
    parser.close()

Logical=[]
Physical_reads=[]
Physical_writes=[]
Executes=[]
Transactions=[]
###计算想要的数据
def calucate(urltext):
    print '-----------------------------------------'
    global sum_Logical
    global sum_Physical_reads
    global sum_Physical_writes
    global sum_Executes
    global sum_Transactions
    k=0
    for item in urltext:
       k=k+1
       if k50 :
         continue
       elif item =='Logical reads:' :
         sum_Logical +=utof(urltext[k]) 
         print 'Logical reads:     ' ,urltext[k].strip()
       elif item == 'Physical reads:' :
         sum_Physical_reads +=utof(urltext[k])
         print 'Physical reads:    ',urltext[k].strip()
       elif item == 'Physical writes:' :
         sum_Physical_writes +=utof(urltext[k])
         print 'Physical writes:   ' ,urltext[k].strip()
       elif item =='Executes:':
         sum_Executes += utof(urltext[k])
         print 'Executes:          ' ,urltext[k].strip()
       elif item == 'Transactions:' :
         sum_Transactions += utof(urltext[k])
         print 'Transactions:      ',urltext[k].strip()
       elif k>86:
        break


if len(sys.argv) > 1:
  params = urllib.urlencode({'ip': sys.argv[1], 'action': 2})
else:
  params = None

um_Logical=0
sum_Physical_reads=0
sum_Physical_writes=0
sum_Executes=0
sum_Transactions=0
     
url=['http://127.0.0.1/cacti/spreport/rac3.yangql.com/sp_yangdb_20111211_10_16119_16120.html',
'http://127.0.0.1/cacti/spreport/rac3.yangql.com/sp_yangdb_20111211_17_16126_16127.html',
'http://127.0.0.1/cacti/spreport/rac3.yangql.com/sp_yangdb_20111210_17_16102_16103.html',
'http://127.0.0.1/cacti/spreport/rac3.yangql.com/sp_yangdb_20111210_10_16095_16096.html',
'http://127.0.0.1/cacti/spreport/rac3.yangql.com/sp_yangdb_20111209_17_16078_16079.html',
'http://127.0.0.1/cacti/spreport/rac3.yangql.com/sp_yangdb_20111208_17_16054_16055.html',
'http://127.0.0.1/cacti/spreport/rac3.yangql.com/sp_yangdb_20111209_10_16071_16072.html',
'http://127.0.0.1/cacti/spreport/rac3.yangql.com/sp_yangdb_20111208_10_16047_16048.html',
'http://127.0.0.1/cacti/spreport/rac3.yangql.com/sp_yangdb_20111207_17_16030_16031.html',
'http://127.0.0.1/cacti/spreport/rac3.yangql.com/sp_yangdb_20111207_10_16023_16024.html',
'http://127.0.0.1/cacti/spreport/rac3.yangql.com/sp_yangdb_20111206_17_16006_16007.html',
'http://127.0.0.1/cacti/spreport/rac3.yangql.com/sp_yangdb_20111206_10_15999_16000.html',
'http://127.0.0.1/cacti/spreport/rac3.yangql.com/sp_yangdb_20111205_17_15982_15983.html',
'http://127.0.0.1/cacti/spreport/rac3.yangql.com/sp_yangdb_20111205_10_15975_15976.html'
]

for val in url:
  print ' '
  gethtml(val)
  calucate(urltext)
  urltext = []
 
length=len(url)
print '-----------------------------------------'
print 'avg_Logical:       ',sum_Logical/length
print 'avg_Physical_reads:',sum_Physical_reads/length
print 'avg_Physical_writes',sum_Physical_writes/length
print 'avg_Executes       ',sum_Executes/length
print 'avg_Transactions   ',sum_Transactions/length
效果截图:
img_0cd33f4cb7b5014cc6c1a44ec41d2846.jpg

img_e25d4fb2f8de1caf41a735ec53088516.pngawr.JPG

目录
相关文章
|
Oracle 关系型数据库 Python
python脚本自动生成ORACLE AWR报告
#!/usr/bin/python #coding=gbk #2011-08-12 import os import sys import smtplib import pickle import mimetypes  from email.
779 0
|
BI Python 关系型数据库
【Python】实现从AWR 报表上抓取指定数据改进版
相对上一个脚本,该脚本修改了如下内容: 1 url的传入方式,只需将url保存到一个文本文件里,由程序自己读入并解析 2 增加了oracle 指标数据统计和分析,比较两周(我自己的需要)的数据变化趋势 #!/usr/b...
879 0
|
15天前
|
安全 Java 数据处理
Python网络编程基础(Socket编程)多线程/多进程服务器编程
【4月更文挑战第11天】在网络编程中,随着客户端数量的增加,服务器的处理能力成为了一个重要的考量因素。为了处理多个客户端的并发请求,我们通常需要采用多线程或多进程的方式。在本章中,我们将探讨多线程/多进程服务器编程的概念,并通过一个多线程服务器的示例来演示其实现。
|
15天前
|
程序员 开发者 Python
Python网络编程基础(Socket编程) 错误处理和异常处理的最佳实践
【4月更文挑战第11天】在网络编程中,错误处理和异常管理不仅是为了程序的健壮性,也是为了提供清晰的用户反馈以及优雅的故障恢复。在前面的章节中,我们讨论了如何使用`try-except`语句来处理网络错误。现在,我们将深入探讨错误处理和异常处理的最佳实践。
|
1天前
|
机器学习/深度学习 人工智能 数据可视化
Python:探索编程之美
Python:探索编程之美
9 0
|
1天前
|
机器学习/深度学习 人工智能 数据处理
Python编程的魅力与实践
Python编程的魅力与实践
|
2天前
|
SQL 关系型数据库 MySQL
第十三章 Python数据库编程
第十三章 Python数据库编程