varnish的日志和统计工具 Reporting and statistics

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介:

【环境】

varnish4.x


参考:https://www.varnish-cache.org/docs/4.1/users-guide/operation-logging.html

参考:http://book.varnish-software.com/4.0/chapters/Appendix_B__Varnish_Programs.html

参考:http://www.361way.com/varnish-log/2341.html

【关于日志的记录方式】

官网原文:

One of the really nice features in Varnish is the way logging works. Instead of logging to a normal log file Varnish logs to a shared memory segment, called the VSL - the Varnish Shared Log. When the end of the segment is reached we start over, overwriting old data


翻译:

varnish的一个很好的特性特点是varnish的记录日志的方式。varnish记录日志到一个共享内存空间取代记录到一个文件中的,叫做VSL(Varnish Shared Log)。当日志记录滚到了我们开始记录的那个点,就覆盖旧的数据日志。


【自带命令】

varnishlog

varnishnsca


【区别】

varnishlog 记录的是完成的varnish工作的日志过程。

varnishnsca 是以一个行模式记录有日志格式的方式记录如apache的日志格式。


【varnishlog用法】

直接运行varnishlog 记录的是正常request和respond的日志。(vxid格式)


varnishlog常用选项:

-g 日志输出格式

   

1
  [-g <session|request|vxid|raw>] Grouping mode (default: vxid)

arnishlog gives you the raw logs, everything that is written to the logs

应用: raw 可以查看所有的日志,包括健康检查

    

1
varnishlog -g raw


-I 过滤

   

1
  [-I <[taglist:]regex>]    Include by regex    过滤之匹配的


应用:

    

1
varnishlog -I MISS

 之匹配miss的字样 (-C  忽略大小写)


-C 忽略大小写


-X 排除输出


应用:

 

只看健康检查日志

1
varnishlog -g raw -i Backend_health


看返回码为500以上的

1
varnishlog -g request -q  'RespStatus >= 500'

排除完全不记录健康检查日志 等于: varnishlog

1
varnishlog -g raw -X  "healthy|ping|PONG"


【varnishnsca用法】

varnish日志工具

默认格式是:

"%h %l %u %t "%r" %s %b "%{Referer}i" "%{User-agent}i""


%h 远端主机

%l 远端登录名(由identd而来,如果支持的话),除非IdentityCheck设为”On“,否则将得到一个”-”。

%u user 通常为 -

%t 时间

%r  请求的第一行<method> <url> <version>

%b 以CLF格式显示的除HTTP头以外传送的字节数,也就是当没有字节传送时显示’-‘而不是0。

%{Referer}i  

%{User-agent}i



我需要定制加入的几个:

%T 处理完请求所花时间,以秒为单位

%{Varnish:hitmiss}x   是否命中或者miss

{Varnish:handling}x    下一步的处理方式




[root@dev-vhost011 ~]# varnishncsa 

10.59.74.33 - - [29/Oct/2016:11:59:38 +0800] "HEAD http://10.59.74.33/007.jpg HTTP/1.1" 200 0 "-" "curl/7.19.7 (x86_64-redhat-linux-gnu) libcurl/7.47.1 OpenSSL/1.0.1e zlib/1.2.3 libidn/1.18 libssh2/1.4.2 nghttp2/1.6.0"



自定义日志格式: 这是一种不错的格式

[root@dev-vhost011 ~]# varnishncsa   -F "%t %T %D %h %l %s %H %m %{Varnish:hitmiss}x %{Varnish:handling}x" 

[29/Oct/2016:12:09:46 +0800] 0 170 10.59.74.33 - 200 HTTP/1.1 HEAD hit hit


[29/Oct/2016:12:09:52 +0800] 0 2120 10.59.74.33 - 405 HTTP/1.1 POST miss pass



生产格式

1
varnishncsa -F  "%h %l %u %t %T " %r " %s %b \"%{Referer}i\" \"%{User-agent}i\" %{Varnish:hitmiss}x %{Varnish:handling}x"

如:

10.59.72.13 - - [30/Oct/2016:17:47:52 +0800] 0 GET http://10.59.74.33/007.jpg HTTP/1.1 200 7569 "-" "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/46.0.2490.86 Safari/537.36" hit hit 





问题1 如何记录处理时间

%D

In client mode, time taken to serve the request, in microseconds. In backend mode, time from the request was sent to the entire body had been received.



问题2: 如何记录被backend到了那个后端的哪个机器


只能使用-b 后端模式  %h就表示后端的主机


试试:

1
varnishncsa - bc  -F  "%{Varnish:side}x %h %l %u %D %t %T " %r " %s %b " %{Referer}i " " %{User-agent}i " %{Varnish:hitmiss}x %{Varnish:handling}x"



标记是client还是backend模式:

When running varnishncsa in both backend and client mode, it is strongly advised to include the format specifier %{Varnish:side}x to distinguish between backend and client requests.






【随意补充知识】

varnish默认添加的请求响应头部:

X-Varnish:

Via:

Age:


在这里GET命令的选项无所谓。需要注意的是varnish返回的响应,varnish会增加三个相应头信息,分别是“X-Varnish”、“Via”和“Age”。这些头信息在Varnish的处理过程中非常有用。X-Varnish头信息的后面会有一个或两个数字,如果是一个数字,就表明varnish在缓存中没有发现这个请求,这个数字的含义是varnish为这个请求所做的标记ID。如果X-Varnish后是两个数字,就表明varnish在缓存中命中了这个请求,第一个数字是请求的标识ID,第二个数字是缓存的标识ID。“Via”头信息表明这个请求将经过一个代理。“Age”头信息标识出这个请求将被缓存多长时间(单位:秒)。Age在varnish缓存中存在的时间。

本文转自残剑博客51CTO博客,原文链接http://blog.51cto.com/cuidehua/1867387如需转载请自行联系原作者


cuizhiliang

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
11天前
|
存储 运维 监控
API明细日志及运维统计日志全面提升API可运维性
在数字化转型的大潮中,数据已成为企业最宝贵的资产之一。而数据服务API可快速为数据应用提供数据接口。面对越来越多的API以及越来越多的应用调用,如何快速查看API的服务情况、异常情况及影响范围,以及查看API的调用详情,进行API的性能优化、错误排查变得越来越重要,本文将介绍如何配置和开通API运维统计及明细日志,以及如何查看日志进行介绍。
|
3月前
|
监控 Ubuntu 安全
如何在 VPS 上安装和使用 Logwatch 日志分析器和报告工具
如何在 VPS 上安装和使用 Logwatch 日志分析器和报告工具
46 1
|
3月前
|
Prometheus Cloud Native Perl
评测Loki日志工具
评测Loki日志工具
87 0
|
23天前
|
运维 Prometheus 监控
特定用途的日志分析工具
【10月更文挑战第20天】
44 5
|
23天前
|
存储 机器学习/深度学习 传感器
商业日志分析工具
【10月更文挑战第20天】
44 5
|
23天前
|
存储 运维 监控
开源日志分析工具
【10月更文挑战第20天】
49 3
|
5月前
|
机器学习/深度学习 数据可视化
【tensorboard】深度学习的日志信息events.out.tfevents文件可视化工具
【tensorboard】深度学习的日志信息events.out.tfevents文件可视化工具
|
1月前
|
开发工具 git
git显示开发日志+WinSW——将.exe文件注册为服务的一个工具+图床PicGo+kubeconfig 多个集群配置 如何切换
git显示开发日志+WinSW——将.exe文件注册为服务的一个工具+图床PicGo+kubeconfig 多个集群配置 如何切换
39 1
|
1月前
|
监控 网络协议 CDN
阿里云国际监控查询流量、用量查询流量与日志统计流量有差异?
阿里云国际监控查询流量、用量查询流量与日志统计流量有差异?
|
3月前
|
SQL 监控 关系型数据库
使用 pt-query-digest 工具分析 MySQL 慢日志
【8月更文挑战第5天】使用 pt-query-digest 工具分析 MySQL 慢日志
70 3
使用 pt-query-digest 工具分析 MySQL 慢日志
下一篇
无影云桌面