在这里请教个机器学习PAI有办法判断一个表的某个分区 写操作完成了吗?

"在这里请教个机器学习PAI问题哈~dataworks上,有办法判断一个表的某个分区 写操作完成了吗?
"

展开
收起
真的很搞笑 2023-10-29 20:28:48 59 发布于黑龙江 分享
分享
版权
举报
3 条回答
写回答
取消 提交回答
  • 问题1:在阿里云的DataWorks上,你可以通过查看Hive日志来判断一个表的某个分区的写操作是否已经完成。你可以登录到Hive客户端,然后执行以下命令:

    hive> show logs;
    

    这将显示当前的Hive日志。你可以搜索日志中的关键字,如 "Created table"、"Added partition"、"Completed writing to" 等来判断分区的写操作是否已经完成。

    问题2:要判断一个新分区是否在,你可以通过执行以下命令来实现:

    hive> SHOW PARTITIONS <table_name>;
    

    这将列出指定表的所有分区。如果新分区已经存在,那么它将出现在这个列表中。

    2023-10-30 11:33:50 发布于河北 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
  • 有很多办法,比如写完再写一个新分区,比如xxx.done,新分区里写一条空数据,判断新分区在不在就好了,可以用个pyodps节点判断下,此回答整理自钉群“【EasyRec】推荐算法交流群”

    2023-10-30 08:05:16 发布于黑龙江 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    问题1:在这里请教个机器学习PAI问题哈~dataworks上,有办法判断一个表的某个分区 写操作完成了吗?
    问题2:这是怎么判断新分区在不在的啊?

    2023-10-29 22:33:59 发布于河南 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

还有其他疑问?
咨询AI助理
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等