开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 正文

dataworks 中OSS Reader脚本开发介绍是什么?

dataworks 中OSS Reader脚本开发介绍是什么?

展开
收起
真的很搞笑 2023-05-13 09:07:18 89 0
1 条回答
写回答
取消 提交回答
  • 使用脚本模式开发的详情请参见通过脚本模式配置任务。脚本配置样例如下所示,具体参数填写请参见参数说明。{"type":"job","version":"2.0",//版本号。"steps":[{"stepType":"oss",//插件名。"parameter":{"nullFormat":"",//定义可以表示为null的字符串。"compress":"",//文本压缩类型。"datasource":"",//数据源。"column":[//字段。{"index":0,//列序号。"type":"string"//数据类型。},{"index":1,"type":"long"},{"index":2,"type":"double"},{"index":3,"type":"boolean"},{"format":"yyyy-MM-dd HH:mm:ss", //时间格式。"index":4,"type":"date"}],"skipHeader":"",//类CSV格式文件可能存在表头为标题情况,需要跳过。"encoding":"",//编码格式。"fieldDelimiter":",",//字段分隔符。"fileFormat": "",//文本类型。"object":[]//object前缀。},"name":"Reader","category":"reader"},{"stepType":"stream","parameter":{},"name":"Writer","category":"writer"}],"setting":{"errorLimit":{"record":""//错误记录数。},"speed":{"throttle":true,//当throttle值为flase时,mbps参数不生效,表示不限流;当throttle值为true时,表示限流。"concurrent":1 //作业并发数。"mbps":"12",//限流}},"order":{"hops":[{"from":"Reader","to":"Writer"}]}} https://help.aliyun.com/document_detail/137726.html,此回答整理自钉群“DataWorks交流群(答疑@机器人)

    2023-05-13 09:22:04
    赞同 展开评论 打赏

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

相关产品

  • 大数据开发治理平台 DataWorks
  • 热门讨论

    热门文章

    相关电子书

    更多
    DataWorks数据集成实时同步最佳实践(含内测邀请)-2020飞天大数据平台实战应用第一季 立即下载
    DataWorks调度任务迁移最佳实践-2020飞天大数据平台实战应用第一季 立即下载
    DataWorks商业化资源组省钱秘籍-2020飞天大数据平台实战应用第一季 立即下载