Spark Streaming SQL是什么?-问答-阿里云开发者社区-阿里云

开发者社区> 问答> 正文
阿里云
为了无法计算的价值
打开APP
阿里云APP内打开

Spark Streaming SQL是什么?

Spark Streaming SQL是什么?

展开
收起
Lee_tianbai 2021-01-07 16:29:39 937 0
1 条回答
写回答
取消 提交回答
  • Lee_tianbai

    Spark Streaming SQL 在 Spark Structured Streaming 之上提供了 SQL 能力, 降低了实时业务开发的门槛,使得离线业务实时化更简单方便。

    Spark Streaming SQL 支持的语法如下:

    image.png image.png

    下面以实时消费 SLS 为例:

    # 创建 loghub 源表
    spark-sql> CREATE TABLE loghub_intput_tbl(content string)
    > USING loghub
    > OPTIONS
    > (...)
    # 创建 delta 目标表
    spark-sql> CREATE TABLE delta_output_tbl(content string)
    > USING delta
    > OPTIONS
    > (...);
    # 创建流式 SCAN
    spark-sql> CREATE SCAN loghub_table_intput_test_stream
    > ON loghub_intput_tbl
    > USING STREAM;
    # 将 loghub 源表数据插入 delta 目标表
    spark-sql> INSERT INTO delta_output_tbl SELECT content FROM loghub_table_i
    ntput_test_stream;
    
    2021-01-07 16:30:36
    赞同 展开评论 打赏
来源圈子
更多
收录在圈子:
+ 订阅
E-MapReduce是构建于阿里云ECS弹性虚拟机之上,利用开源大数据生态系统,包括Hadoop和Spark,为用户提供集群、作业、数据等管理的一站式大数据处理分析服务。加入钉钉群聊阿里云E-MapReduce交流2群,点击进入查看详情 https://qr.dingtalk.com/action/joingroup?code=v1,k1,cNBcqHn4TvG0iHpN3cSc1B86D1831SGMdvGu7PW+sm4=&_dt_no_comment=1&origin=11
问答排行榜
最热
最新
相关电子书
更多
Comparison of Spark SQL with Hive
立即下载
GeoMesa on Spark SQL
立即下载
Spark SQL:Another 16x faster
立即下载