Mysql 乘法除法精度不一致,除法后四位小数

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: DECIMAL的参数可以百度看这个,基本创建过表结构的都能明白。 @x和@y就是除数和被除数。 同时我还提出疑问,是否能在mysql里设置默认除法精度,我们就可以不用每次sql都使用函数计算了。 前辈回复:如果你不想有时候出现出乎意料的情况,那么需要每次都强制使用类型转换。

问题


今天在写项目功能的时候,有一个统计金额的情况,然后需要进行单位转换,所以写下了大概如下功能的语句,但得到的数据为小数点后4位精度,正常我们只需要2位就足够。


select total_fee / 100 from orders


继续排查寻找资料,进行精度转换,找了一圈的资料都不太满意,继续进行测试


测试


测试bug和未知情况,我们一定要最小复现,精简测试,防止其他语句对结果产生干扰。


select 1 / 100;
// 得到 0.0100
select 1 * 0.01;
// 得到 0.01


并且在3/4台设备上运行,不同mysql版本环境都是这样子的结果。 所以初步得知Mysql中,乘法和除法对小数点后的精度不一致 在国内的论坛中没有找到合适的资料,于是到国外论坛寻找,提问,交流。


答案


首先感谢其他前辈对问题的解答和指点,我们也将尽量详细地记录问题的排查。 文明之所以能延续,是因为它们有记忆。希望文章也能帮到更多的朋友。


  • 除法的精度默认是小数点后4位
  • 乘法的精度使用操作数的精度和的方式来判断,如例子中的1*0.01 精度分别是小数点后0位和2位,那么就是0+2 =2


结果也将使用2位精度


测试


select 1.00 * 0.01;
// 结果 0.0100


符合上诉结论。感谢国外前辈指教。 原文链接 Siam博客 宣言博https://blog.siammm.cn/archives/242


除法使用2位精度


那么我们的问题 如果是要坚持用除法解决,我们可以使用函数来进行转换精度,


CAST( @x / @y AS DECIMAL(m,n) )


DECIMAL的参数可以百度看这个,基本创建过表结构的都能明白。 @x和@y就是除数和被除数。 同时我还提出疑问,是否能在mysql里设置默认除法精度,我们就可以不用每次sql都使用函数计算了。 前辈回复:如果你不想有时候出现出乎意料的情况,那么需要每次都强制使用类型转换。


mysql相关说明文献


https://dev.mysql.com/doc/refman/8.0/en/arithmetic-functions.html


In division performed with /, the scale of the result when using two exact-value operands is the scale of the first operand plus the value of the div_precision_increment system variable (which is 4 by default). For example, the result of the expression 5.05 / 0.014 has a scale of six decimal places (360.714286).


除法的精度规则


由上面引用的文献可知:当使用两个数值进行计算时,结果的精度由第一个操作数的精度 + 系统变量

div_precision_increment的值决定,如我们例子中的1 精度是0,系统变量精度是4位默认,所以得到的结果是4位精度


set div_precision_increment = 2;
// 再运行select 1 / 100; 得到 0.01 符合想要的结果


所以我们还可以通过修改默认变量,来改变除法的默认精度。 此时我们再测试


select 1.0 / 100;
// 结果 0.010 符合上文所述结论
相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
6月前
|
关系型数据库 MySQL
MySQL对小数进行四舍五入等操作
MySQL对小数进行四舍五入等操作
74 0
|
3月前
|
存储 SQL 关系型数据库
mysql百分数转小数点格式
在MySQL中,将百分数转换为小数点格式是一个简单直接的操作,可以通过基本的数学表达式和函数实现。无论是处理以字符串形式存储的百分数值,还是直接以数值形式表示的百分比,都可以通过适当的转换查询轻松实现这一目标。通过理解和应用这些基本的转换方法,可以有效地处理和分析数据库中的百分比数据。
50 5
|
关系型数据库 MySQL
MySql 数据类型 - 小数型
MySql 数据类型 - 小数型
106 1
|
关系型数据库 MySQL
MySQL保留2位小数
MySQL保留2位小数
148 0
|
关系型数据库 MySQL 数据库
mysql将字符串类型字段后面的小数点和零去掉
mysql将字符串类型字段后面的小数点和零去掉
275 0
|
关系型数据库 MySQL Java
Java和MySQL中将浮点数保留两位小数位输出
Java和MySQL中将浮点数保留两位小数位输出
182 0
|
存储 关系型数据库 MySQL
MySQL数据库(8):数据类型-小数
MySQL数据库(8):数据类型-小数
176 0
|
关系型数据库 MySQL
MySQL - ROUND 函数真能“完全”保留小数位数吗?
MySQL - ROUND 函数真能“完全”保留小数位数吗?
124 0
|
关系型数据库 MySQL 数据库
数据集成同步到mysql~小数点后面数据同步不过来
数据集成同步任务时候,用会出现这样一种现象:odps 表里的数据是 11490877.44 ,mysql数据源目标表字段类型float(16,2) 同步过来是11490877小数点后面数据没有同步过来。
|
SQL 关系型数据库 MySQL
MySQL 字符串转double转换栈帧(可能丢失精度)
简单记录栈帧以备后用 欢迎关注我的《深入理解MySQL主从原理 32讲 》,如下: 一、转换案例 最近有朋友讨论字符串转换double丢失精度的问题案例如下: 本案例来自朋友徐晨亮 root@mysqldb 22:12: [xucl]> show create table t1\G *************************** 1.
4789 0
下一篇
无影云桌面