调用API接口下载腾讯CDN访问日志

简介:

公司使用腾讯cdn为网站静态内容加速,由于业务需求,需要每天下载昨天的日志(因为腾讯方面给出回复,访问日志会有2个小时或以上时间的延迟,所以不建议下载当天日志,所以每天统计前一天的日志以做分析)。因为cdn是由运维来管理,但是这个需求是业务的,如果每天都由运维进行下载,再通过邮件或其他工具发送,可能就显得麻烦。所幸腾讯CDN提供了API接口,因此采用shell脚本调用API进行下载的方式,定期下载日志,这样只要业务人员运行这个脚本就能自行下载日志,解放了运维的工作。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
#!/bin/bash
#########################################################
#This script is to download yesterday's log \
#files in Telent CDN
#writed on 2016-08-11 
#########################################################
Timestamp=` date  +%s`
Nonce=$RANDOM
LastDay=` date  -d  "yesterday"  +%Y%m%d`
Domain=xxxxxxxxxxxxxxxxx       #此处为你需要下载日志的域名
ID=xxxxxxxxxxxxxxxxx           #此处为你在腾讯cdn上的secretId
key=xxxxxxxxxxxxxxxxx          #此处为你在腾讯cdn上的secretKey,可以在腾讯cdn后台生成
SURL= "GETcdn.api.qcloud.com/v2/index.php?Action=GenerateLogList&Nonce=${Nonce}&SecretId=${ID}&Timestamp=${Timestamp}&hostId=xxxxxx"   #hostId为你的域名的id,可通过腾
                           #讯提供的php脚本查看,当然也可以使shell或python\
sigure=` echo  -n $SURL | openssl sha1 -binary -hmac  "${key}"  | base64| sed  's/=/%3D/g;s/+/%2B/g;s/\//%2F/g' `
HTTP_SURL=` echo  -n $SURL |  sed  s #^GET#HTTPS://#`
Cur_URL=` echo  "${HTTP_SURL}&Signature=${sigure}" `
Log_URL=`curl -s -l --url $Cur_URL| sed   's/},{/\n/g' | grep  "$LastDay" | awk  -F '"'  '{print $14}' | sed  -e  's#\\\/#\/#g' `
#echo $Log_URL
cd  $HOME
if  [ -d . /cdnlogs/ $LastDay ] 
then 
      cd  . /cdnlogs/ $LastDay 
else 
      mkdir  -p . /cdnlogs/ $LastDay &&  cd  . /cdnlogs/ $LastDay
fi
if  [ -f $LastDay-$Domain.gz ]
then
      echo  "The file was exist now."
      exit  127
else
    
         wget -q -O $LastDay-$Domain.gz  $Log_URL >> /dev/null  2>&1
         
         if  [ $? - eq  0 ]
              then 
                    echo  -e   "\033[32mDownload log file successful.\033[0m"
              else 
                    echo  -e  "\033[31mDownload log file failed.\033[0m"
         fi
fi

 资料参考:

 https://www.qcloud.com/doc/api/231/3950

补充:在SURL中的接口参数是区分大小写的,因为在调试的时候hostId写成了hostid,大概调试了快一个小时都是错误4000,invalid parameter,这点需要注意。

https://github.com/QcloudApi/qcloudapi-sdk-php 如果会php的话,这里有现成的,可惜我不会,唉~



本文转自 jerry1111111 51CTO博客,原文链接:http://blog.51cto.com/jerry12356/1836944,如需转载请自行联系原作者

相关文章
|
8月前
|
缓存 网络协议
(问题日志)解决因代理设置导致的npm包ECONNREFUSED下载错误
在AIoT-IDE中使用`npm i`安装依赖时,若出现长时间无响应及ECONNREFUSED错误,可能是网络配置或代理冲突导致。通过指定镜像源与日志排查,确认为旧代理配置遗留问题。解决步骤包括:验证镜像源可用性、清除npm缓存、检查并更新代理配置。最终重新设置正确代理端口后,依赖安装恢复正常。
235 2
|
监控 数据挖掘 数据安全/隐私保护
Python脚本:自动化下载视频的日志记录
Python脚本:自动化下载视频的日志记录
|
API
天气预报-腾讯天气-7天-地址查询版免费API接口
这是一个免费的腾讯天气API接口,用于查询指定地址的7天天气预报。支持POST和GET请求方式。请求参数包括id、key、province、city、county等。返回参数包含日期、天气状况、温度等信息。 示例请求地址:https://cn.apihz.cn/api/tianqi/tengxun.php?id=88888888&key=88888888&province=四川省&city=绵阳市&county=。
1166 7
|
API
天气预报-腾讯天气-7天-IP查询版免费API接口教程
根据IP地址自动查询该IP归属地7天天气预报的腾讯天气API。请求地址为`https://cn.apihz.cn/api/tianqi/tengxunip.php`,支持GET和POST请求。需提供ID、Key和IP地址作为参数。返回数据包含天气预报信息。
560 3
【Azure Function & Application Insights】调用Function上传和下载文件,有时候遇见大于1MB的文件的日志没有记录在Application Insights中
【Azure Function & Application Insights】调用Function上传和下载文件,有时候遇见大于1MB的文件的日志没有记录在Application Insights中
134 0
|
存储 监控 安全
《SelectDB 新一代日志存储分析平台解决方案》白皮书重磅发布|立即下载
作为基于 Apache Doris 打造的现代化数据仓库,SelectDB 不拘泥于传统数仓的限制,针对日志数据的特点引入了多项创新性技术,使用户可基于 SelectDB 构建开放、高性能、低成本、统一的日志存储分析平台, 截至目前已在近百家行业内知名企业中落地。
460 0
《SelectDB 新一代日志存储分析平台解决方案》白皮书重磅发布|立即下载
|
数据安全/隐私保护
通过mac电脑的下载服务器的日志与日志筛选
通过mac电脑的下载服务器的日志与日志筛选
225 0
|
Linux
Log4cpp在Linux下载编译
Log4cpp在Linux下载编译
372 0
|
9月前
|
监控 容灾 算法
阿里云 SLS 多云日志接入最佳实践:链路、成本与高可用性优化
本文探讨了如何高效、经济且可靠地将海外应用与基础设施日志统一采集至阿里云日志服务(SLS),解决全球化业务扩展中的关键挑战。重点介绍了高性能日志采集Agent(iLogtail/LoongCollector)在海外场景的应用,推荐使用LoongCollector以获得更优的稳定性和网络容错能力。同时分析了多种网络接入方案,包括公网直连、全球加速优化、阿里云内网及专线/CEN/VPN接入等,并提供了成本优化策略和多目标发送配置指导,帮助企业构建稳定、低成本、高可用的全球日志系统。
956 54