flink落地到hdfs的文件，在hive中读不到数。查看对应路径下文件为.inprogress文件。
原因：.inprogress文件为未完成文件，hive读取不到点开头的文件
flink写hdfs，正在写的文件会是.inprogress的，写完成会滚动为正常文件
通过withRollingPolicy的DefaultRollingPolicy设置合理的最大文件大小和滚动时间。
注意：文件大小如果设置过大，则一直是不可见文件；设置过小，则会产生很多小文件
flink写hdfs inprogress文件问题
2021-08-17
2846
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
简介：
flink落地到hdfs的文件，在hive中读不到
相关实践学习
实时计算 Flink 实战课程
如何使用实时计算 Flink 搞定数据处理难题？实时计算 Flink 极客训练营产品、技术专家齐上阵，从开源 Flink功能介绍到实时计算 Flink 优势详解，现场实操，5天即可上手！ 欢迎开通实时计算 Flink 版： https://cn.aliyun.com/product/bigdata/sc Flink Forward Asia 介绍： Flink Forward 是由 Apache 官方授权，Apache Flink Community China 支持的会议，通过参会不仅可以了解到 Flink 社区的最新动态和发展计划，还可以了解到国内外一线大厂围绕 Flink 生态的生产实践经验，是 Flink 开发者和使用者不可错过的盛会。 去年经过品牌升级后的 Flink Forward Asia 吸引了超过2000人线下参与，一举成为国内最大的 Apache 顶级项目会议。结合2020年的特殊情况，Flink Forward Asia 2020 将在12月26日以线上峰会的形式与大家见面。
目录
相关文章
|
SQL
存储
API
Flink实践：通过Flink SQL进行SFTP文件的读写操作
虽然 Apache Flink 与 SFTP 之间的直接交互存在一定的限制，但通过一些创造性的方法和技术，我们仍然可以有效地实现对 SFTP 文件的读写操作。这既展现了 Flink 在处理复杂数据场景中的强大能力，也体现了软件工程中常见的问题解决思路——即通过现有工具和一定的间接方法来克服技术障碍。通过这种方式，Flink SQL 成为了处理各种数据源，包括 SFTP 文件，在内的强大工具。
378
15
15
|
9月前
|
Java
java实现从HDFS上下载文件及文件夹的功能，以流形式输出，便于用户自定义保存任何路径下
java实现从HDFS上下载文件及文件夹的功能，以流形式输出，便于用户自定义保存任何路径下
271
34
34
|
11月前
|
Java
|
11月前
Hadoop-09-HDFS集群 JavaClient 代码上手实战！详细附代码 安装依赖 上传下载文件 扫描列表 PUT GET 进度条显示（二）
Hadoop-09-HDFS集群 JavaClient 代码上手实战！详细附代码 安装依赖 上传下载文件 扫描列表 PUT GET 进度条显示（二）
113
3
3
|
11月前
|
分布式计算
Java
Hadoop
Hadoop-09-HDFS集群 JavaClient 代码上手实战！详细附代码 安装依赖 上传下载文件 扫描列表 PUT GET 进度条显示（一）
Hadoop-09-HDFS集群 JavaClient 代码上手实战！详细附代码 安装依赖 上传下载文件 扫描列表 PUT GET 进度条显示（一）
119
2
2
|
11月前
|
分布式计算
Hadoop
网络安全
Hadoop-08-HDFS集群 基础知识 命令行上机实操 hadoop fs 分布式文件系统 读写原理 读流程与写流程 基本语法上传下载拷贝移动文件
Hadoop-08-HDFS集群 基础知识 命令行上机实操 hadoop fs 分布式文件系统 读写原理 读流程与写流程 基本语法上传下载拷贝移动文件
144
1
1
|
11月前
|
存储
机器学习/深度学习
缓存
Hadoop-07-HDFS集群 基础知识 分布式文件系统 读写原理 读流程与写流程 基本语法上传下载拷贝移动文件
Hadoop-07-HDFS集群 基础知识 分布式文件系统 读写原理 读流程与写流程 基本语法上传下载拷贝移动文件
220
1
1
|
11月前
|
消息中间件
资源调度
大数据
大数据-112 Flink DataStreamAPI 程序输入源 DataSource 基于文件、集合、Kafka连接器
大数据-112 Flink DataStreamAPI 程序输入源 DataSource 基于文件、集合、Kafka连接器
160
0
0
|
Prometheus
监控
Cloud Native
实时计算 Flink版产品使用问题之怎么关闭HDFS的Web界面
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架，广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器，提供了一套全面的解决方案，以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点，使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
271
1
1
|
存储
分布式计算
Hadoop
热门文章
最新文章
1
「48小时极速反馈」阿里云实时计算Flink广招天下英雄
2
淘宝闪购基于Flink&Paimon的Lakehouse生产实践：从实时数仓到湖仓一体化的演进之路
3
Flink基于Paimon的实时湖仓解决方案的演进
4
Apache Flink 漫谈系列(10) - JOIN LATERAL
5
Flink on YARN（上）：一张图轻松掌握基础架构与启动流程
6
Flink 靠什么征服饿了么工程师？
7
【最佳实践】实时计算 Flink 版在金融行业的实时数仓建设实践
8
【建议收藏】Mysql+Flink CDC+Doris 数据同步实战（中）
9
Flink类型系统的根及基本接口
10
基于 Flink CDC 打通数据实时入湖
1
HDFS 如何实现容错
465
2
Hadoop 中的分布式缓存有什么用处？为什么 HDFS 无法读取小文件？
207
3
Hadoop重新格式化HDFS的方案
293
4
Hadoop中将数据从HDFS复制到本地文件系统
1989
5
构建NLP 开发问题之如何支持其他存储介质（如 HDFS、ODPS Volumn）在 transformers 框架中
153
6
hadoop格式化HDFS的命令
1034
7
Hadoop配置文件hdfs-site.xml
945
8
实时计算 Flink版操作报错合集之Hadoop在将文件写入HDFS时，无法在所有指定的数据节点上进行复制，该如何解决
797
9
hadoop格式化HDFS问题
324
10
ClickHouse(22)ClickHouse集成HDFS表引擎详细解析
410