DataWorks中如何获取odps任务的logview URL地址?
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
在DataWorks中获取ODPS任务的Logview URL地址,可以通过以下几种方式实现:
在DataWorks中运行Spark on MaxCompute任务时,可以手动执行Spark节点,并从任务执行日志中获取Logview和Jobview的URL。具体步骤如下: - 在DataWorks中定义并提交Spark任务。 - 手动执行Spark节点后,系统会生成任务执行日志。 - 在日志中查找并复制Logview URL,用于进一步查看与诊断任务运行情况。
对于SQL等任务,可以通过MaxCompute SDK中的Instance
对象调用get_logview_address
方法来获取Logview地址。例如:
instance = o.run_sql('SELECT * FROM my_table')
print(instance.get_logview_address())
此方法适用于通过SDK提交的任务,能够直接获取到Logview链接。
在DataWorks中,您可以通过作业管理页面快速定位并获取Logview URL。具体操作步骤如下: 1. 登录MaxCompute控制台,选择对应的区域。 2. 单击管家页签,进入MaxCompute管家页面。 3. 在左侧导航栏中单击作业,然后在右侧单击作业管理。 4. 根据InstanceID
在操作列中选择对应的Logview链接进行查看。
wait
命令获取Logview URL在MaxCompute客户端(odpscmd)中,您可以使用wait
命令获取指定Instance的Logview URL。命令格式如下:
wait <instance_id>;
执行该命令后,系统会返回对应Instance的Logview链接。需要注意的是: - 最近3天内的Instance对应的Logview链接可正常打开。 - 超过3天的Instance对应的Logview链接虽然可以获取,但由于过期可能无法打开。
如果您需要通过编程方式生成Logview URL,可以使用MaxCompute SDK提供的generateLogView
方法。示例代码如下:
Instance i = odps.instances().get("<instance_id>");
String logviewUrl = odps.logview().generateLogView(i, <hours>);
参数说明: - instance_id
:要查看的Instance ID。 - hours
:超时时间,单位为小时(例如7*24表示7天)。
在MaxCompute Studio中,您可以通过以下两种方式查看Logview: - 输入Logview URL:在IntelliJ IDEA顶部菜单栏中,单击MaxCompute > 打开Logview,将有效的Logview URL粘贴到对话框中。 - 双击作业列表中的作业:在作业列表中双击某个作业实例,即可查看其详细信息。
如果使用MaxFrame提交作业,可以通过以下方式获取Logview URL: - 在DataWorks中提交作业后,直接单击生成的Logview链接即可打开界面。 - 在本地环境中,使用session.get_logview_address()
方法获取并打印Logview URL,然后将其复制到浏览器中访问。
通过以上方法,您可以根据实际需求灵活获取ODPS任务的Logview URL地址,并利用Logview工具对任务进行监控、诊断和优化。
DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。