备案控制台
开发者社区> 问答> 正文

Spark Streaming中的输入、计算和输出是什么？

Spark Streaming中的输入、计算和输出是什么？

展开
收起
游客daliwbfb2wo66 2021-12-07 20:45:09 248 0
1 条回答
写回答
取消 提交回答
  • 游客k7rjnht6hbtk6

    1. 输入：可以从Kafka，Flume,HDFS等获取数据

    2. 计算：我们可以通过map，reduce,join等一系列算子通过spark计算引擎进行计算（基本和RDD一样，使用起来更方便。）

    3. 输出：可以输出到HDFS,数据库，HBase等。

    2021-12-07 20:45:23
    赞同 展开评论 打赏
问答分类：
分布式计算 流计算 Spark
问答标签：
apache spark计算 apache spark streaming apache spark streaming计算
问答地址：
开发者社区 > 大数据 > 问答

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

相关问答
大数据计算MaxCompute的Maxcompute Spark 任务，开启动态资源调度，怎么报错？
101
3
0
在 Spark Structured Streaming 中，水印是如何计算和使用的？
21
1
0
大数据计算MaxCompute中maxcompute spark如何读取 oss 上面的文件？
182
3
0
Spark计算框架的官网地址是什么？
72
2
0
大数据计算MaxCompute怎么看到每个spark任务的具体花费，只能看到每种类型任务的总花费吗？
36
1
0
大数据计算MaxCompute spark任务的费用是按照运行成功的任务的资源消耗计费么？
55
1
0
问怎么使用flink做批计算？尝试使用flink做批计算，感觉怎么也没有spark方便。
47
1
0
你好，请问大数据计算MaxCompute我这边在dataworks中建了ODPS Spark
57
3
0
adb做数仓 做计算 是基于本身的计算能力还是基于spark？
282
2
0
如何计算spark中的数据集，在加入内存中的大小
588
0
0
问答排行榜
最热
最新
1 通过阿里云代备案系统进行个人快速备案 2699929
2 【大咖问答】对话PostgreSQL 中国社区发起人之一，阿里云数据库高级专家 德哥 1818341
3 据说在家办公的程序员是这样写代码的？ 1792375
4 阿里云开放端口权限 689939
5 如何升级配置 536078
6 【藏经阁一起读（27）】本周推荐《Apache Flink案例集（2022版）》，你有哪些心得？ 522479
7 【精品问答】python技术1000问(1) 514009
8 Flink Forward Asia 2021 有奖问答 512811
9 Linux Bash严重漏洞修复紧急通知（已全部给出最终修复方案） 456925
10 OceanBase 使用动画（持续更新） 359275
11 阿里云LNAMP(Linux + Nginx + Apache + MySQL + PHP)环境一键安装脚本 329726
12 OSS存储服务-客户端工具 321353
13 为体验实验室取一个新名字。 307337
14 企业邮箱发送邮件时，若出现投递失败产生退信，内容提示包含如下： the mta server of * reply:550 failed to meet SPF requirements 或者 the mta server of 163.com — 163mx01.mxmail.netease.com(220.181.14.141) reply:550 MI:SPF mx14,QMCowECpA0qTiftVaeB3Cg—.872S2 1442548128 http://mail.163.com/help 303875
15 Win Server 2003-2016 加密勒索事件必打补丁合集 295174
16 FLASH播放器，在IE浏览器下显示请确定您的域名已完成备案和CNAME绑定 283674
17 安全组详解，新手必看教程 277264
18 写code还是做管理，开发者如何进行职业规划？ 268495
19 惊喜翻倍：免费ECS+免费环境配置~！(ECS免费体验6个月活动3月31日结束) 255834
20 阿里云手机和阿云浏览器连接问题专帖 235636
1 丹青-千变万换，体验图片局部内容替换，分享使用过程、输出结果及使用体验 249
2 使用PAI-EAS一键部署ChatGLM，并应用LangChain集成外部数据 174
3 使用通义灵码冲刺备战求职季，你有哪些深刻体验？ 315
4 通用大模型VS垂直大模型，你倾向于哪一方？ 242
5 如何破除工作中的“路径依赖”？ 221
6 一键生成你眼中的未来城市，分享部署过程、输出结果及使用体验 859
7 展示你用AI工具生成动漫头像，并分享配置过程及使用体验 593
8 ModelScope有部署qwen2-72b的么，正常推理需要多大的显存？ 101
9 国内AI大模型高考数学成绩超GPT-4o，如何看待这一结果？ 747
10 如何避免“写代码5分钟，调试2小时”的尴尬？ 858
11 通义灵码生成Git Commit的时候，偶尔生成中文，偶尔生成英文，根本无法控制生成的语言。 237
12 一键部署3D卡通风格模型，分享部署过程及使用体验 664
13 展示你通过AI修饰的自然风光照片，并讲述你的拍摄和编辑过程 1150
14 机器学习PAI现在一直在重试，怎样停掉？ 274
15 请问机器学习PAI eas服务拉取dockerhub失败怎么办？ 225
16 机器学习PAI dlc一直卡在预分配怎么解决？没有日志吗？ 143
17 请教下机器学习PAI的代码配置没有链接测试吗？ 165
18 平头哥芯片W800:芯片如何购买？ 188
19 阿里云Grafana升级10后 已有的 飞书webhook 报警机器人不再工作。 请问如何排查？ 185
20 在钉钉中AI助理如何删除？ 113

相关课程

更多
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第二阶段
    276
    28
    去学习
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第三阶段
    118
    25
    去学习
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第五阶段
    146
    32
    去学习
  • 大数据实战项目 - 反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第六阶段
    198
    21
    去学习
  • 大数据实战项目 - 反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第七阶段
    342
    9
    去学习
  • 大数据实时计算框架Spark快速入门
    958
    93
    去学习
    • 推荐问答
    乘风问答官招募中！机械键盘免费拿

    相关文章

  • Spark快速大数据分析PDF下载读书分享推荐
  • 麻省理工IOT教授撰写的1058页Python程序设计人工智能实践手册！
  • Hadoop使用Combiner缓解数据倾斜
  • Hadoop 配置Job使用Combiner来缓解数据倾斜
  • Hadoop使用Combiner来缓解数据倾斜局部聚合

    • 相关电子书

    更多
    • Hybrid Cloud and Apache Spark 立即下载
    Scalable Deep Learning on Spark 立即下载
    Comparison of Spark SQL with Hive 立即下载