开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

请问大家dataworks可以通过odpsshell监控oss文件到达吗?

请问大家dataworks可以通过odpsshell监控oss文件到达吗?

展开
收起
JWRRR 2023-04-10 16:16:10 431 0
2 条回答
写回答
取消 提交回答
  • 可以看下DataWorks的shell节点 ,能访问oss。但具体做监控,我理解需要跟其他节点配合,比如赋值节点。此回答整理自钉群“MaxCompute开发者社区2群”

    2023-04-10 16:56:02
    赞同 展开评论 打赏
  • 坚持这件事孤独又漫长。

    可以的。

    • 可以通过ODPS SQL语句中的ODPSSHELL函数来执行一些Linux命令。在ODPS SQL语句中使用ODPSSHELL函数,可以实现对oss文件的监控,当文件到达时执行相应的操作,比如加载数据到MaxCompute或者进行一些统计分析。
    • 需要注意的是,在使用ODPSSHELL函数之前,需要先创建好相应的资源以及配置相应的安全组等信息。
    2023-04-10 16:36:50
    赞同 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关电子书

更多
DataWorks数据集成实时同步最佳实践(含内测邀请)-2020飞天大数据平台实战应用第一季 立即下载
DataWorks调度任务迁移最佳实践-2020飞天大数据平台实战应用第一季 立即下载
基于DataWorks数据服务构建疫情大屏-2020飞天大数据平台实战应用第一季 立即下载