logstash问题记录:Attempted to resurrect connection to dead ES instance, but got an error

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: logstash问题记录:Attempted to resurrect connection to dead ES instance, but got an error

问题描述



发现kibana中日志不在更新了,停留在了一个时间点没有继续更新,然后就去检查各个服务,发现es、logstash、kibana均正常,不过发现es里面没有新日志产生,初步怀疑是logstash没有成功推送过来日志。


问题解决



1.检查logstash日志,logstahs是java开发的,笔者将日志记录到了nohup.out文件中

检查日志文件发现错误:Attempted to resurrect connection to dead ES instance, but got an error


2.然后再次检查es服务健康度,发现es的三个结点均无问题。


3.再次怀疑是logstash问题,发现logstash接收日志都正常,只是将日志输送到es时出了问题,最后还是怀疑问题出在了es。


4.然后c了一下,有网友提供修改es索引数量限制的配置,笔者尝试了下,发现不行。


5.检查es日志(elasticsearch.yml里面配置的日志路径),发现日志里报出了大量的overheap,虽然不是OOM,但是猜测还是和jvm的对大小配置有关,尝试将所有结点的堆容量提升了一倍,栈大小提升了9倍。配置如下:

fed430e6accf43f38d7c4b4f4b95c1a9.png

-Xms4g
-Xmx4g
-Xss10m


6.然后重启了es三个结点、logstash、kibana,之后恢复正常。


问题总结



定位问题,排除了所有不可能,即使剩下的选项再不可能,那问题也一定是在他身上。大胆假设小心求证,就能顺利解决问题。

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
Web App开发 前端开发
【前端异常】Unchecked runtime.lastError: Could not establish connection. Receiving end does not exist.
【前端异常】Unchecked runtime.lastError: Could not establish connection. Receiving end does not exist.
882 0
|
2月前
|
消息中间件 数据库
RabbitMQ启动报错:Error during startup: {error, {schema_integrity_check_failed,
通过上述步骤,可以逐步排查和解决RabbitMQ启动时出现的 `Error during startup: {error, {schema_integrity_check_failed, ...}}`错误。这些步骤包括检查磁盘空间、修复文件权限、清理Mnesia数据库、检查日志文件以及升级或重装RabbitMQ。希望这些方法能帮助您解决问题,使RabbitMQ顺利启动并正常运行。
177 1
|
7月前
|
存储
Elasticsearch exception [type=cluster_block_exception, reason=blocked by: [FORBIDDEN/12/index r【已解决】
Elasticsearch exception [type=cluster_block_exception, reason=blocked by: [FORBIDDEN/12/index r【已解决】
164 1
|
7月前
|
Java
【ERROR】‘<>‘ operator is not allowed for source level below 1.7
【ERROR】‘<>‘ operator is not allowed for source level below 1.7
81 0
|
索引
ES报错:“type“=>“cluster_block_exception“, “reason“=>“blocked by: [FORBIDDEN/12/index read-only / allow
ES报错:“type“=>“cluster_block_exception“, “reason“=>“blocked by: [FORBIDDEN/12/index read-only / allow
386 0
ES报错:“type“=>“cluster_block_exception“, “reason“=>“blocked by: [FORBIDDEN/12/index read-only / allow
|
NoSQL MongoDB
运行 mongo 出现 Error: couldn‘t connect to server 127.0.0.1:27017, connection attempt failed
运行 mongo 出现 Error: couldn‘t connect to server 127.0.0.1:27017, connection attempt failed
1093 0
运行 mongo 出现 Error: couldn‘t connect to server 127.0.0.1:27017, connection attempt failed
|
Java Android开发
is not allowed for source level below 1.7 的解决办法
is not allowed for source level below 1.7 的解决办法
213 0
|
存储 NoSQL Linux
redis异常 Commands that may modify the data set are disabled, because this instance is
MISCONF Redis配置为保存RDB快照,但目前无法在磁盘上持久化。可能修改数据集的命令被禁用,因为该实例被配置为在RDB快照失败时报告错误(stop-write -on-bgsave-error选项)。请检查Redis的日志RDB错误的详细信息.
redis异常 Commands that may modify the data set are disabled, because this instance is