如何开发dataworks脚本配置?
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
通过脚本模式开发的详情请参见通过脚本模式配置任务。脚本配置示例如下,具体参数的填写请参见上述的参数说明。{"type": "job","version": "2.0",//版本号。"steps": [{"stepType": "stream","parameter": {},"name": "Reader","category": "reader"},{"stepType": "loghub",//插件名。"parameter": {"datasource": "",//数据源。"column": [//字段。"col0","col1","col2","col3","col4","col5"],"topic": "",//选取topic。"batchSize": "1024",//一次性批量提交的记录数大小。"logstore": ""//目标LogService LogStore的名称。},"name": "Writer","category": "writer"}],"setting": {"errorLimit": {"record": ""//错误记录数。},"speed": {"throttle":true,//当throttle值为flase时,mbps参数不生效,表示不限流;当throttle值为true时,表示限流。"concurrent":3, //作业并发数。"mbps":"12"//限流}},"order": {"hops": [{"from": "Reader","to": "Writer"}]}} https://help.aliyun.com/document_detail/137771.html,此回答整理自钉群“DataWorks交流群(答疑@机器人)”
DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。