开发者社区> 问答> 正文

spark streaming接loghub数据的输出格式

已解决

spark streaming接loghub数据的输出格式

展开
收起
封神 2016-06-07 13:10:41 5262 0
1 条回答
写回答
取消 提交回答
  • 专注在大数据分布式计算、数据库及存储领域,拥有13+年大数据引擎、数据仓库、宽表引擎、平台研发经验,6年云智能大数据产品技术一号位经验,10年技术团队管理经验;云智能技术架构/云布道师; 研发阿里历代的大数据技术产品包括ODPS、DLA、ADB,最近五年主导宽表引擎研发、DLA、ADB湖仓研发;
    采纳回答

    例子:https://github.com/aliyun/aliyun-emapreduce-demo/blob/master/src/main/scala/com/aliyun/emr/example/LoghubSample.scala

    sparkStreaming的LoghubUtils.createStream返回的DStream里面都是包含一条条的json日志记录的。

    可以用json框架解析的,

    请每条记录在原始的日志上多几个字段,请按照业务需求获取。

    2019-07-17 19:29:48
    赞同 2 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载