开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

在大数据计算MaxCompute中,发现数据有点不准确,是因为走的mr任务吗?

在大数据计算MaxCompute中,能帮我看一下这段sql ,用这个逻辑 出来的数据 cn_rate 在某个维度 数据全是一样的,这个跑的是 mc 的 sql,发现 数据有点不准确,是因为走的mr任务吗?
select
user_agent,
country_code,
platform,
os_version,
model
from (select
GET_JSON_OBJECT(json_log,'$.country_code') as country_code ,
GET_JSON_OBJECT(json_log,'$.platform') as platform,
GET_JSON_OBJECT(json_log,'$.os_version') as os_version,
GET_JSON_OBJECT(json_log,'$.user_agent')as user_agent,
GET_JSON_OBJECT(json_log,'$.model')as model,
GET_JSON_OBJECT(json_log,'$.deviceType')as device_type
from hehe_data_produce.ods_exter_dsp_last7d_df where pt1 = '${dt_3}') t1
where device_type = '3'
union ALL

select
user_agent,
country_code,
platform,
os_version,
model
from (select
GET_JSON_OBJECT(json_log,'$.country_code') as country_code ,
GET_JSON_OBJECT(json_log,'$.platform') as platform,
GET_JSON_OBJECT(json_log,'$.os_version') as os_version,
GET_JSON_OBJECT(json_log,'$.user_agent')as user_agent,
GET_JSON_OBJECT(json_log,'$.model')as model,
GET_JSON_OBJECT(json_log,'$.deviceType')as device_type
from hehe_data_produce.ods_exter_dsp_last7d_df where pt1 = '${dt_4}') t1
where device_type = '3'

)

log view:
https://logview.aliyun.com/logview/?h=http://service.us-east-1.maxcompute.aliyun-inc.com/api&p=hehe_data_produce&i=20240815043016498g55xisr4xe21&token=WE9jL1lDSnRMNE50aTB2bEFzTnk2TGNVTi9ZPSxPRFBTX09CTzpwNF8yMDY4MTEyMTgxNTcwNjU0MTMsMTcyNjI4ODIxNyx7IlN0YXRlbWVudCI6W3siQWN0aW9uIjpbIm9kcHM6UmVhZCJdLCJFZmZlY3QiOiJBbGxvdyIsIlJlc291cmNlIjpbImFjczpvZHBzOio6cHJvamVjdHMvaGVoZV9kYXRhX3Byb2R1Y2UvaW5zdGFuY2VzLzIwMjQwODE1MDQzMDE2NDk4ZzU1eGlzcjR4ZTIxIl19XSwiVmVyc2lvbiI6IjEifQ==

展开
收起
我睡觉不困 2024-08-16 15:06:11 28 0
1 条回答
写回答
取消 提交回答
  • 你把cn_rate写在窗口函数里边呢,order by cn_rate desc这种,排一下顺序;并且cn_rate最好不好有重复值,我看这个SQL跑挺长时间的,如果要排查,得逐步排查,一次次执行不大合适;你可以把with as语句的SQL执行落一下结果表,然后直接用结果表查你想要的窗口函数效果,逐步排查一下看看哪里有问题,有什么问题,是SQL问题还是mc的问题。此回答整理自钉群“MaxCompute开发者社区2群”

    2024-08-16 15:20:46
    赞同 6 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关产品

  • 云原生大数据计算服务 MaxCompute
  • 相关电子书

    更多
    Data+AI时代大数据平台应该如何建设 立即下载
    大数据AI一体化的解读 立即下载
    极氪大数据 Serverless 应用实践 立即下载