开发者社区 问答 正文

请问下,有人遇到过这种情况吗?

原始数据小数点后都是只有两位的,做了个SUM,小数点后面就多出了好多位
1

展开
收起
云栖大讲堂 2018-12-18 15:29:00 1568 分享 版权
1 条回答
写回答
取消 提交回答
  • 擅长前端领域,欢迎各位热爱前端的朋友加入我们( 钉钉群号:23351485)关注【前端那些事儿】云栖号,更多好文持续更新中!

    如果是double类型就可能出现这种情况,看下double的存储逻辑就明白了。十进制转二进制的时候没有整乘

    2019-07-17 23:22:50
    赞同 展开评论
问答地址: