写回答
-
意中人就是我呀！dataworks这边记录上次停止的位点 然后从这个位点再读取。 此回答整理自钉群“DataWorks交流群(答疑@机器人)”
2023-04-05 13:50:40赞同 展开评论 打赏 -
公众号：网络技术联盟站，InfoQ签约作者，阿里云社区签约作者，华为云 云享专家，BOSS直聘 创作王者，腾讯课堂创作领航员，博客+论坛：https://www.wljslmz.cn，工程师导航：https://www.wljslmz.com阿里云DataWorks中的断点续传功能是通过DataHub中的订阅功能来实现的。
DataHub是阿里云数据流服务的一部分，支持高吞吐量的数据流实时处理和传输，具有低延迟、高可靠性和灵活性等特点。在DataWorks中，您可以通过DataHub作为数据源，实现数据的抽取、清洗、同步等任务。
在数据抽取过程中，如果出现网络中断、任务中止等情况，阿里云DataWorks可以通过DataHub中的订阅功能，自动记录上次抽取数据的位置和状态，从而实现断点续传的功能。具体来说，DataWorks会将订阅位置信息和状态存储在元数据中，并在下次任务启动时读取元数据，从上次位置继续抽取数据，确保数据抽取的连续性和完整性。
需要注意的是，为了实现DataWorks中的断点续传功能，您需要在DataHub中创建一个订阅，并在DataWorks中设置订阅相关的参数和配置，以便正确地读取和处理数据。同时，建议您根据实际情况和需求，选择合适的DataHub订阅类型和配置，以确保数据抽取的效率和稳定性。
2023-04-05 09:30:08赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎，为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。
