开发者社区> 问答> 正文

deployer同步到es后不会增加自定义的字段?

环境信息

canal version mysql version

问题描述

deployer从mysql同步数据到kafka上,然后借由logstash拉取数据后,在es上看到的是,所有数据都在message中,没有自动mapping。 有办法实现自动mapping吗?

原提问者GitHub用户wajika

展开
收起
古拉古拉 2023-05-08 13:35:34 84 0
2 条回答
写回答
取消 提交回答
  • 可以按照canal.adapter来实现es mapping的工作

    原回答者GitHub用户agapple

    2023-05-09 17:42:22
    赞同 展开评论 打赏
  • 随心分享,欢迎友善交流讨论:)

    可以通过配置logstash的filter插件来自动映射字段。

    在你的logstash配置文件中,可以使用以下的filter插件示例:

    filter { json { source => "message" } } 这个filter插件将会解析message字段中的json数据,并映射为es中的相应字段。如果json数据中包含了自定义字段,它们也将被自动映射到es中。

    当然,如果您想要更详细的映射控制,您可以在filter插件中使用mutate、rename等其他插件来自定义映射。这些插件可以在logstash官方文档中找到。

    2023-05-08 13:37:07
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载