在实时数仓的解决方案中，怎样凭借 Flink 的流式处理优势做到实时读写 Hive？
在实时数仓的解决方案中，怎样凭借 Flink 的流式处理优势做到实时读写 Hive？
展开
收起
1
条回答
写回答
写回答
-
Hive写入：FLIP-115 完善扩展了 FileSystem connector 的基础能力和实现，Table/SQL 层的 sink 可以支持各种格式（CSV、Json、Avro、Parquet、ORC），而且支持 Hive table 的所有格式。Partition 支持：数据导入 Hive 引入 partition 提交机制来控制可见性，通过sink.partition-commit.trigger 控制 partition 提交的时机，通过 sink.partition-commit.policy.kind 选择提交策略，支持 SUCCESS 文件和 metastore 提交。Hive 读取：实时化的流式读取 Hive，通过监控 partition 生成增量读取新 partition，或者监控文件夹内新文件生成来增量读取新文件。
2022-05-14 08:15:33赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
flink怎么能够快速消费kafka数据，需要设置什么参数呢？
1316
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3350
使用flink on yarn的模式，怎么进行内存资源调优呢，如何配置flink内存
543
Apache Flink未授权访问上传导致的RCE漏洞，这个漏洞目前方案解决吗？
445
flink本地启动webUI，TaskManager的Logs日志可以正常查看怎么办？
316
Flink如何配置Task Manager？
437
"flink-cdc-connector-mysql，这个报错怎么解决的？
1916
flink的1cu是指1cpu还是1cpu+4g存储？
545
请问flink-connector-jdbc在sink时，如何设置批量写入？
2948
Flink1.17为什么需要JDK 11呢？JDK8我试了也能运行
1695
展开全部
Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
23249
使用 Kafka 和 Flink 构建实时数据处理系统
12862
日均百亿级日志处理：微博基于 Flink 的实时计算平台建设
7751
基于实时计算（Flink）与高斯模型构建实时异常检测系统
7951
如何分析及处理 Flink 反压？
15571
Apache Flink 进阶（三）：Checkpoint 原理解析与应用实践
9935
小红书如何实现高效推荐？解密背后的大数据计算平台架构
8547
Flink 的经典场景和业务故事有哪些？看看他们就知道了
2669
都在这儿了！5月 Flink 社区发版、更新汇总
1482
如何在 Flink 中规划 RocksDB 内存容量？
1950
展开全部
相关课程
更多
相关电子书
更多
