AI 助理
备案控制台
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink sql写filesystem时，怎么合并小文件啊？

flink sql写filesystem时，怎么合并小文件啊？

展开
收起
真的很搞笑 2023-08-01 12:02:37 94 0
1 条回答
写回答
取消 提交回答
  • 清风拂袖

    Flink SQL 可以通过 UNION ALL 语句将多个小文件合并成一个大文件。

    2023-09-26 11:20:35
    赞同 展开评论 打赏
问答分类：
SQL 流计算 实时计算 Flink版
问答标签：
SQL文件 实时计算 Flink版文件 flink SQL 实时计算 Flink版SQL SQL flink
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关产品：
实时计算 Flink版

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

相关问答
实时计算 Flink版
Flink CDC GTID模式，源库主备切换后，binlog文件是存在的，只是文件名称变了为啥？
47
0
0
Flink CDC里全量阶段开了之后，checkpoint的文件过大，现在不知道怎么优化了？
77
1
0
在SQL数据源读取查询时，为什么要合并小文件？
28
1
0
请问一下flink cdconnector filesystem中参数能指定kerberos配置吗？
23
0
0
在Flink CDC中，这个flink老是会产生，这个目录下的日志文件没滚动删除，咋个配置目录转移？
21
0
0
Flink jar文件以什么参数类型上传的？
9
1
0
Flink无意中发现，这个配置项更新了吗？现在不支持 filesystem 了吗？
21
0
0
Flink CDC写paimon表，配置文件指定filesystem，但是出现dlf异常有遇到吗？
19
1
0
通过flink sql把数据写入hdfs，如何设置对生产的文件进行压缩？
84
1
0
请给出一个使用UNION合并两张表数据的SQL示例？
17
1
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问

相关产品

  • 实时计算 Flink版
    文档详情 产品详情

    • 热门讨论

    热门文章

  • FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
    2966
  • Caused by: org.apache.kafka.common.errors.TimeoutE
    2820
  • flink怎么能够快速消费kafka数据，需要设置什么参数呢？
    994
  • 请问如何用flink sql客户端用yarn application模式提交任务呢？
    1164
  • Flink CDC 能适配达梦不？
    955
  • flink 1.18必须配套JDK11吗 1.8是不是不行了呢？
    1469
  • 就是我在使用flink 将数据写入kafka 的时候出现错误，这个问题咋解决呀？
    514
  • 请问flink-connector-jdbc在sink时，如何设置批量写入？
    2754
  • 在Flink CDC中人大金仓可以兼容PG的wal2json和Decoderbufs插件不？
    206
  • Flink sql将数组炸开，实现hive的explode函数的效果，还有什么其他好的方式？
    1166
    • 展开全部
  • 权威详解 | 阿里新一代实时计算引擎 Blink，每秒支持数十亿次计算
    24228
  • 流计算StreamCompute
    18621
  • 通过Flink实时构建搜索引擎的索引
    17420
  • Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
    23080
  • 流计算精品翻译: The Dataflow Model
    19179
  • 接着！！Apache Flink 全领域干货合集（持续更新）
    16470
  • Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现
    16540
  • 为什么说流处理即未来？
    9940
  • Apache Flink 的迁移之路，2 年处理效果提升 5 倍
    9704
  • 基于实时计算（Flink）打造一个简单的实时推荐系统
    14265
    • 展开全部

    相关课程

    更多
  • 大数据Flink实时旅游平台环境篇 2020版
    604
    29
    去学习
  • Apache Flink 入门到实战 - Flink开源社区出品
    1602
    16
    去学习
  • 实时计算 Flink 版产品入门与实操
    3999
    10
    去学习
  • 开源 Flink 极速上手教程
    1849
    7
    去学习
  • 大数据实时计算框架Spark快速入门
    992
    93
    去学习
  • Apache Flink 入门
    5089
    9
    去学习

    • 相关文章

  • 网络盾牌：构筑信息安全的防线
  • 网络安全与信息安全：漏洞、加密技术与安全意识的三重奏
  • 网络安全的护城河：漏洞、加密与意识
  • 数字堡垒之下：网络安全漏洞、加密技术与安全意识的三重奏
  • MySQL查询（万字超详细版）

    • 相关电子书

    更多
    • Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载

    相关实验场景

    更多
  • 使用SQL语句实现数据表管理
    128
    2.0小时
    去实验
  • 使用SQL语句实现数据插入、修改和删除操作
    84
    2.0小时
    去实验
  • 使用SQL语句实现数据查询操作
    83
    2.0小时
    去实验
  • 使用Flink实时发现最热Github项目
    1032
    1.0小时
    去实验