开发者社区> 问答> 正文

MaxCompute计算函数round产生偏差

已解决

MaxCompute计算函数round产生偏差

展开
收起
提个问题 2024-06-08 17:06:55 10 0
1 条回答
写回答
取消 提交回答
  • 开发者社区问答官方账号
    官方回答
    采纳回答
    对于手工输入的数值,MaxCompute会自动将数值转换为DOUBLE类型,因为转换DOUBLE类型数值时无法保证精度,所以ROUND函数处理结果会产生偏差。具体详情请参考ROUND函数精度问题案例
    2024-06-08 17:06:56
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
大数据AI一体化的解读 立即下载
极氪大数据 Serverless 应用实践 立即下载
大数据&AI实战派 第2期 立即下载