问题一:在我本地python3.10的版本中没有这样的报错大数据计算MaxCompute这种问题该怎么解决?
我在本地训练好一个sklearn的模型,现在导入dataworks的时候出现No module named 'scipy.sparse._csr'这样的报错,我在网上看到并没有这样的独立包。在我本地python3.10的版本中没有这样的报错,大数据计算MaxCompute这种问题该怎么解决?
参考回答:
dw目前是3.7版本,可以先本地验证一下是不是版本问题
关于本问题的更多回答可点击原文查看:
https://developer.aliyun.com/ask/607573
问题二:大数据计算MaxComputepolicy里加了CreateInstance也不行,如何解决?
大数据计算MaxCompute我新建了一个角色权限, 在dw面板是可以查询pro环境的数据,但是通过mc客户端却报错,policy里加了CreateInstance也不行?
参考回答:
主账号或者管理员这样给一下:https://help.aliyun.com/zh/maxcompute/user-guide/manage-user-permissions-by-using-commands?spm=a2c4g.11186623.0.0.1ad74f0clLPvFS#1fe48e886cozs
走policy方式授权的话应该这样写
关于本问题的更多回答可点击原文查看:
https://developer.aliyun.com/ask/607570
问题三:大数据计算MaxCompute在命令行下报这个错,应该怎么处理?
大数据计算MaxCompute在命令行下报这个错,应该怎么处理?
FAILED: ODPS-0420095: Access Denied - Authorization Failed [4003], You have NO privilege to do the PROJECT SECURITY OPERATION for {acs:odps:*:projects/goo_dev/authorization/configurations/security_configuration}. Context ID:3066297b-c1fe-4a65-b427-6f41496dfe79. --->Tips: Pricipal:RAM$fhu:zhengxiaofei;
o
参考回答:
https://help.aliyun.com/zh/maxcompute/user-guide/odps-0420095?spm=a2c4g.11174283.0.i2授权文档:https://help.aliyun.com/zh/maxcompute/user-guide/maxcompute-permissions
关于本问题的更多回答可点击原文查看:
https://developer.aliyun.com/ask/607566
问题四:大数据计算MaxCompute报警联系人咋激活呀?
大数据计算MaxCompute报警联系人咋激活呀?
这里一直显示等待激活
参考回答:
重新编辑,重新发送激活信息试试。
https://help.aliyun.com/zh/dataworks/user-guide/configure-and-view-alert-contacts?spm=a2c4g.11174283.0.i2
关于本问题的更多回答可点击原文查看:
https://developer.aliyun.com/ask/607564
问题五:大数据计算MaxCompute这个报错根本原因是资源不够导致的嘛?调参能解决根本问题嘛?
大数据计算MaxCompute这个报错根本原因是资源不够导致的嘛?调参能解决根本问题嘛?ODPS-0010000:System internal error - kWorkerOutOfMemory(errCode:256) at Odps/hh_process_cjzh_zb_der_20240314223106686g0i6vss6_SQL_0_0_0_job_0/M1@401c07108.cloud.c08.am9#299. Detail error msg: KILL_NAKILL_NA: plannedResource({Memory=1024, SInstance=1, CPU=70}) usedResource({Memory=952, CPU=107})
参考回答:
参考下:https://help.aliyun.com/zh/maxcompute/user-guide/odps-0010000-1?spm=a2c4g.11186623.0.i243#Pp3NN
需要调一下
比如:
执行MaxCompute SQL过程中,返回报错 :FAILED: ODPS-0010000:System internal error - kWorkerOutOfMemory(errCode:256) at Odps/**_SQL_0_0_0_job_0/M1@k12g10-kangaroo190d658d18f0.sa127#691. Detail error msg: KILL_NAKILL_NA: plannedResource({Memory=1152, SInstance=1, CPU=100}) usedResource({Memory=2510, CPU=156})
产生原因:
在作业的运行过程当中,任务的某个节点实际使用的资源超过了计划资源。
解决措施:
usedResource({Memory=2510, CPU=100})为实际使用资源的信息、plannedResource({{Memory=1152, SInstance=1, CPU=100})计划用多少资源M1@k12g10-kangaroo190d658d18f0.sa127#691这里可以看到哪个worker上报错,这里就是map阶段报错;
首先确认计划和实际使用资源差多少和具体哪个works上报错之后,可以根据具体情况进行调参,
参考报错为例,可以根据报错调mapper的内存(要大于Memory=2510 )
如:set odps.stage.mapper.mem=3096; mapper的cpu(大于CPU=156)
map阶段failed,调整map的内存;join阶段failed,调整join的内存; reduce阶段failed,调整reduce的内存;
调参可以参考:https://help.aliyun.com/zh/maxcompute/user-guide/flag-parameters?spm=a2c4g.11186623.0.i254#concept-2278178
关于本问题的更多回答可点击原文查看: