|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
|
日志格式：
log_format elk "$http_clientip | $http_x_forwarded_for | $time_local | $request | $status | $body_bytes_sent | "
" $request_body | $content_length | $http_referer | $http_user_agent | "
"$http_cookie | $remote_addr | $hostname | $upstream_addr | $upstream_response_time | $request_time";
日志实例：
36.110.211.42 | 10.10.130.101 | 23/Jun/2017:17:51:01 +0800 | GET /lvyou/dongjing/ HTTP/1.1 | 200 | 73181 | - | 0 | - | Mozilla/5.0 (Windows NT 6.3; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/33.0.1750.117 Safari/537.36 | JSESSION_O2O=0000F0jMLw1MnT6SFCvhcqW3oP9:19h7oe5dr; SessionID=10.10.130.101.1498210484146456; sCityCode=SZX; sCityName=%E6%B7%B1%E5%9C%B3; vac_ss_sid=4441002; vac_ss_uid=4441 | 10.10.130.100 | www1-n01 | 10.10.130.237:80 | 0.808 | 0.809
logstash实例：
input {
file {
type => "www1_access"
path => ["/usr/local/elk/elklog/nginxlog/log0/www1.log","/usr/local/elk/elklog/nginxlog/log1/www1.log"]
}
file {
type => "flight1_access"
path => ["/usr/local/elk/elklog/nginxlog/log0/flight1.log","/usr/local/elk/elklog/nginxlog/log1/flight1.log"]
}
file {
type => "m_access"
path => ["/usr/local/elk/elklog/nginxlog/log0/m.log"]
}
}
filter {
ruby {
init => "@kname = ['http_clientip','http_x_forwarded_for','time_local','request','status','body_bytes_sent','request_body','content_length','http_referer','http_user_agent','http_cookie','remote_addr','hostname','upstream_addr','upstream_response_time','request_time']"
code => "new_event = LogStash::Event.new(Hash[@kname.zip(event.get('message').split(' | '))])
new_event.remove('@timestamp')
event.append(new_event)"
}
if [request] {
ruby {
init => "@kname = ['method','uri','verb']"
code => "new_event = LogStash::Event.new(Hash[@kname.zip(event.get('request').split(' '))])
new_event.remove('@timestamp')
event.append(new_event)
"
}
if [uri] {
ruby {
init => "@kname = ['url_path','url_args']"
code => "new_event = LogStash::Event.new(Hash[@kname.zip(event.get('uri').split('?'))])
new_event.remove('@timestamp')
event.append(new_event)
"
}
kv {
prefix => "url_"
source => "url_args"
field_split => "& "
remove_field => [ "url_args","uri","request" ]
}
}
}
mutate {
convert => ["body_bytes_sent" , "integer", "content_length", "integer", "upstream_response_time", "float","request_time", "float"]
}
grok {
match => [
"message", "%{IP:clientip} \| %{USER} \| %{HTTPDATE:timestamp}"
]
}
date {
match => [ "timestamp", "dd/MMM/YYYY:HH:mm:ss Z" ]
locale => "en"
}
geoip
{
source => "clientip"
}
mutate {
remove_field => "timestamp"
remove_field => "http_clientip"
}
useragent {
source => "http_user_agent"
target => "useragent"
}
}
output {
redis {
host => "10.10.45.200"
data_type => "list"
key => "elk_frontend_access:redis"
port=>"5379"
}
}
注意：分隔符为“空格+table+空格”
|
nginx访问日志 logstash 配置文件实例2
2017-11-08
1094
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
目录
相关文章
|
26天前
|
存储
JSON
应用服务中间件
Higress的日志收集中，底层用的是Envoy，可不可以实现类似NGINX的rsyslog发送？
【2月更文挑战第30天】Higress的日志收集中，底层用的是Envoy，可不可以实现类似NGINX的rsyslog发送？
15
2
2
|
1月前
|
前端开发
Java
应用服务中间件
|
3月前
|
JSON
应用服务中间件
API
|
8天前
|
运维
监控
应用服务中间件
|
9天前
|
应用服务中间件
网络安全
nginx
|
18天前
|
应用服务中间件
nginx
|
26天前
|
前端开发
应用服务中间件
nginx
|
1月前
|
域名解析
网络协议
应用服务中间件
nginx-ingress通过ipv6暴露服务，并在nginx ingress日志中记录客户端真实ipv6的ip地址
本文主要通过阿里云提供的clb和nlb来实现，建议是提前创建好双栈的vpc和vsw（使用clb可以不用双栈vpc和vsw）
175
1
1
|
3月前
|
负载均衡
Ubuntu
应用服务中间件
|
3月前
|
负载均衡
应用服务中间件
nginx
热门文章
最新文章
1
docker 安装nginx 设置配置文件就启动不了
2
弱结构化日志 Flink SQL 怎么写？SLS SPL 来帮忙
3
全新架构！日志服务 SLS 自研免登录方案发布
4
使用 SPL 高效实现 Flink SLS Connector 下推
5
spdlog中的异步日志方案
6
nginx-ingress通过ipv6暴露服务，并在nginx ingress日志中记录客户端真实ipv6的ip地址
7
nacos常见问题之日志一直报403如何解决
8
利用Scala编写公司内部监控软件的实时日志监控模块
9
安装 Dozzle：一个出色的实时 Docker 日志查看器
10
ELK架构监控MySQL慢日志
1
[MySQL]事务原理之redo log,undo log
41
2
在云效中，如果你看不到错误日志，可能是因为错误日志没有被正确地输出或者存储
13
3
Windows环境下面启动jar包，输出的日志出现乱码的解决办法
42
4
Flink CDC产品常见问题之sql运行中查看日志任务失败如何解决
28
5
全新架构！日志服务 SLS 自研免登录方案发布
87421
6
Python使用多线程解析超大日志文件
20
7
Loguru：Python中强大的日志库
39
8
Python如何在打印日志时隐藏明文密码？
29
9
【二十九】springboot整合logback实现日志管理
51
10
【七】springboot整合AOP实现日志操作
41
