JS/PHP 浮点数精确运算-阿里云开发者社区

开发者社区> 航空母舰> 正文

JS/PHP 浮点数精确运算

简介:
+关注继续查看

如果用PHP的算术计算浮点数的时候,可能会遇到一些计算结果错误的问题

Java代码  收藏代码
  1. <?php  
  2. $a = 0.1;  
  3. $b = 0.7;  
  4. var_dump(($a + $b) == 0.8); //false  
  5. $f = 0.58;  
  6. var_dump(intval($f * 100)); //为啥输出57  

解决方案:安装bcmath这个扩展

bc是Binary Calculator的缩写。bc*函数的参数都是操作数加上一个可选的 [int scale],比如string bcadd(string $left_operand, string $right_operand[, int $scale]),如果scale没有提供,就用bcscale的缺省值。这里大数直接用一个由0-9组成的string表示,计算结果返回的也是一个string
bcadd — 将两个高精度数字相加
bccomp — 比较两个高精度数字,返回-1, 0, 1
bcdiv — 将两个高精度数字相除
bcmod — 求高精度数字余数
bcmul — 将两个高精度数字相乘
bcpow — 求高精度数字乘方
bcpowmod — 求高精度数字乘方求模,数论里非常常用
bcscale — 配置默认小数点位数
bcsqrt — 求高精度数字平方根
bcsub — 将两个高精度数字相减
js浮点数精确计算函数(加,减,乘,除)
Java代码  收藏代码
  1. <script type="text/javascript">  
  2.     var Digit = {};  
  3.     /** 
  4.      * 四舍五入法截取一个小数 
  5.      * @param float digit 要格式化的数字 
  6.      * @param integer length 要保留的小数位数 
  7.      * @return float 
  8.      */  
  9.     Digit.round = function (digit, length) {  
  10.         length = length ? parseInt(length) : 0;  
  11.         if (length <= 0return Math.round(digit);  
  12.         digit = Math.round(digit * Math.pow(10, length)) / Math.pow(10, length);  
  13.         return digit;  
  14.     };  
  15.     /** 
  16.      * 舍去法截取一个小数Digit.floor(1.653,2) 
  17.      * @param float digit 要格式化的数字 
  18.      * @param integer length 要保留的小数位数 
  19.      * @return float 
  20.      */  
  21.     Digit.floor = function (digit, length) {  
  22.         length = length ? parseInt(length) : 0;  
  23.         if (length <= 0return Math.floor(digit);  
  24.         digit = Math.floor(digit * Math.pow(10, length)) / Math.pow(10, length);  
  25.         return digit;  
  26.     };  
  27.     /** 
  28.      * 进一法截取一个小数 
  29.      * @param float digit 要格式化的数字 
  30.      * @param integer length 要保留的小数位数 
  31.      * @return float 
  32.      */  
  33.     Digit.ceil = function (digit, length) {  
  34.         length = length ? parseInt(length) : 0;  
  35.         if (length <= 0return Math.ceil(digit);  
  36.         digit = Math.ceil(digit * Math.pow(10, length)) / Math.pow(10, length);  
  37.         return digit;  
  38.     }  
  39.   
  40.     //浮点数加法运算  
  41.     function FloatAdd(arg1, arg2) {  
  42.         var r1,r2,m;  
  43.         try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}  
  44.         try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}  
  45.         m=Math.pow(10,Math.max(r1,r2))  
  46.         return (arg1*m+arg2*m)/m  
  47.     }  
  48.   
  49.     //浮点数减法运算  
  50.     function FloatSub(arg1, arg2) {  
  51.         var r1,r2,m,n;  
  52.         try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}  
  53.         try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}  
  54.         m=Math.pow(10,Math.max(r1,r2));  
  55.         //动态控制精度长度  
  56.         n=(r1>=r2)?r1:r2;  
  57.         return ((arg1*m-arg2*m)/m).toFixed(n);  
  58.     }  
  59.   
  60.     //浮点数乘法运算  
  61.     function FloatMul(arg1, arg2) {  
  62.         var m=0,s1=arg1.toString(),s2=arg2.toString();  
  63.         try{m+=s1.split(".")[1].length}catch(e){}  
  64.         try{m+=s2.split(".")[1].length}catch(e){}  
  65.         return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)  
  66.     }  
  67.   
  68.     //浮点数除法运算  
  69.     function FloatDiv(arg1, arg2) {  
  70.         var t1=0,t2=0,r1,r2;  
  71.         try{t1=arg1.toString().split(".")[1].length}catch(e){}  
  72.         try{t2=arg2.toString().split(".")[1].length}catch(e){}  
  73.         with(Math){  
  74.             r1=Number(arg1.toString().replace(".",""))  
  75.             r2=Number(arg2.toString().replace(".",""))  
  76.             return (r1/r2)*pow(10,t2-t1);  
  77.         }  
  78.     }  
  79.   
  80.     /** 这个函数可以添加分隔逗号或者进行四舍五入。 
  81.      *   Usage:  (123456.789).number_format(2, '.', ','); 
  82.      *   result: 123,456.79 
  83.      **/  
  84.     Number.prototype.number_format = function (decimals, decimal_sep, thousands_sep) {  
  85.         var n = this,  
  86.             c = isNaN(decimals) ? 2 : Math.abs(decimals),  
  87.             d = decimal_sep || '.',  
  88.             t = (typeof thousands_sep === 'undefined') ? ',' : thousands_sep,  
  89.             sign = (n < 0) ? '-' : '',  
  90.             i = parseInt(n = Math.abs(n).toFixed(c)) + '',  
  91.             j = ((j = i.length) > 3) ? j % 3 : 0;  
  92.   
  93.         return sign + (j ? i.substr(0, j) + t : '') + i.substr(j).replace(/(\d{3})(?=\d)/g, "$1" + t) + (c ? d + Math.abs(n - i).toFixed(c).slice(2) : '');  
  94.     }  
  95.   
  96.     /*  给数字添加"st, nd, rd, th"等序数词。 
  97.      *   Usage: 
  98.      *   var myNumOld = 23 
  99.      *   var myNumNew = myNumOld.toOrdinal() 
  100.      *   Result: 23rd 
  101.      */  
  102.     Number.prototype.toOrdinal = function () {  
  103.         var n = this % 100;  
  104.         var suffix = ['th''st''nd''rd''th'];  
  105.         var ord = n < 21 ? (n < 4 ? suffix[n] : suffix[0]) : (n % 10 > 4 ? suffix[0] : suffix[n % 10]);  
  106.         return this + ord;  
  107.     }  
  108. </script>  

MySQL对于浮点值,结果是不准确的:

Java代码  收藏代码
  1. SELECT .1E0 + .2E0 = .3E0;  

在MySQL 5.1中,对于DECIMAL列和准确值数值,采用了“半值向上舍入”规则。对于小数部分等于或大于0.5的值,以0为分界舍入至最近的整数

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
php浮点数计算比较及取整不准确解决方法
原文:php浮点数计算比较及取整不准确解决方法 php有意思的现象,应该是很多编程语言都会有这样的现象。这个是因为计算机的本身对浮点数识别的问题..... [php] view plaincopy   $f = 0.
821 0
阿里云服务器ECS远程登录用户名密码查询方法
阿里云服务器ECS远程连接登录输入用户名和密码,阿里云没有默认密码,如果购买时没设置需要先重置实例密码,Windows用户名是administrator,Linux账号是root,阿小云来详细说下阿里云服务器远程登录连接用户名和密码查询方法
2916 0
面试官疯了吗,问我为什么浮点数不精确?
很多人都知道,Java 中的浮点数并不精确,需要用 BigDecimal进行精确计算,但是,很少有人知道为什么浮点数不精确呢?不精确为什么还要用呢?本文就来展开分析一波;
23 0
阿里云服务器端口号设置
阿里云服务器初级使用者可能面临的问题之一. 使用tomcat或者其他服务器软件设置端口号后,比如 一些不是默认的, mysql的 3306, mssql的1433,有时候打不开网页, 原因是没有在ecs安全组去设置这个端口号. 解决: 点击ecs下网络和安全下的安全组 在弹出的安全组中,如果没有就新建安全组,然后点击配置规则 最后如上图点击添加...或快速创建.   have fun!  将编程看作是一门艺术,而不单单是个技术。
4518 0
Java浮点数精确计算
BigDecimal是Java提供的一个不变的、任意精度的有符号十进制数对象。
511 0
阿里云服务器安全组设置内网互通的方法
虽然0.0.0.0/0使用非常方便,但是发现很多同学使用它来做内网互通,这是有安全风险的,实例有可能会在经典网络被内网IP访问到。下面介绍一下四种安全的内网互联设置方法。 购买前请先:领取阿里云幸运券,有很多优惠,可到下文中领取。
9445 0
阿里云服务器远程登录用户名和密码的查询方法
阿里云服务器远程连接登录用户名和密码在哪查看?阿里云服务器默认密码是什么?云服务器系统不同默认用户名不同
482 0
如何设置阿里云服务器安全组?阿里云安全组规则详细解说
阿里云安全组设置详细图文教程(收藏起来) 阿里云服务器安全组设置规则分享,阿里云服务器安全组如何放行端口设置教程。阿里云会要求客户设置安全组,如果不设置,阿里云会指定默认的安全组。那么,这个安全组是什么呢?顾名思义,就是为了服务器安全设置的。安全组其实就是一个虚拟的防火墙,可以让用户从端口、IP的维度来筛选对应服务器的访问者,从而形成一个云上的安全域。
3882 0
+关注
514
文章
0
问答
文章排行榜
最热
最新
相关电子书
更多
文娱运维技术
立即下载
《SaaS模式云原生数据仓库应用场景实践》
立即下载
《看见新力量:二》电子书
立即下载