在这里请教个机器学习PAI有办法判断一个表的某个分区 写操作完成了吗?

"在这里请教个机器学习PAI问题哈~dataworks上,有办法判断一个表的某个分区 写操作完成了吗?
"

展开
收起
真的很搞笑 2023-10-29 20:28:48 73 分享 版权
3 条回答
写回答
取消 提交回答
  • 问题1:在阿里云的DataWorks上,你可以通过查看Hive日志来判断一个表的某个分区的写操作是否已经完成。你可以登录到Hive客户端,然后执行以下命令:

    hive> show logs;
    

    这将显示当前的Hive日志。你可以搜索日志中的关键字,如 "Created table"、"Added partition"、"Completed writing to" 等来判断分区的写操作是否已经完成。

    问题2:要判断一个新分区是否在,你可以通过执行以下命令来实现:

    hive> SHOW PARTITIONS <table_name>;
    

    这将列出指定表的所有分区。如果新分区已经存在,那么它将出现在这个列表中。

    2023-10-30 11:33:50
    赞同 展开评论
  • 有很多办法,比如写完再写一个新分区,比如xxx.done,新分区里写一条空数据,判断新分区在不在就好了,可以用个pyodps节点判断下,此回答整理自钉群“【EasyRec】推荐算法交流群”

    2023-10-30 08:05:16
    赞同 展开评论
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    问题1:在这里请教个机器学习PAI问题哈~dataworks上,有办法判断一个表的某个分区 写操作完成了吗?
    问题2:这是怎么判断新分区在不在的啊?

    2023-10-29 22:33:59
    赞同 展开评论

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

还有其他疑问?
咨询AI助理