浮点数精度问题解决

简介: 笔记
// 浮点数精度问题
   //减法 其他方法以此类推
    floatRemove(val, ele) {
      let b = val.toString().split(".")[1];
      let d = ele.toString().split(".")[1];
      let num = 0;
      //以防不是小数报错
      b ? (b = Math.pow(10, b.length)) : (b = 0);
      d ? (d = Math.pow(10, d.length)) : (d = 0);
      b > d ? (num = b) : (num = d);
      if (num == 0) {
        num = 1;
      }
      return (val * num - ele * num) / num;
    },
目录
相关文章
|
Ubuntu Linux Python
Linux(15)Ubuntu安装ninja构建工具
Linux(15)Ubuntu安装ninja构建工具
3389 0
|
小程序 JavaScript
小程序自定义弹窗禁止底部内容滚动(滚动穿透问题)
小程序自定义弹窗禁止底部内容滚动(滚动穿透问题)
2071 0
conda常用操作和配置镜像源
conda常用操作和配置镜像源
31963 0
|
4月前
|
存储 前端开发 安全
实现“永久登录”:针对蜻蜓Q系统的用户体验优化方案(前端uni-app+后端Laravel详解)-优雅草卓伊凡
实现“永久登录”:针对蜻蜓Q系统的用户体验优化方案(前端uni-app+后端Laravel详解)-优雅草卓伊凡
233 5
|
分布式计算 监控 调度
给技术新人的ODPS优化建议
数据开发基本都是从陌生到熟悉,但是写多了就会发现各种好用的工具/函数,也会发现各种坑,本文分享了作者从拿到数据到数据开发到数据监控的一些实操经验。
96545 127
|
前端开发 JavaScript
uniapp动态修改css样式(通过js来修改css样式)
uniapp动态修改css样式(通过js来修改css样式)
|
调度 开发者 Python
python超详细的日期操作【建议收藏备用】
python超详细的日期操作【建议收藏备用】
259 0
|
数据可视化 计算机视觉 Python
使用Albumentations 对关键点 做增强
使用Albumentations 对关键点 做增强
759 0
使用Albumentations 对关键点 做增强
|
SQL 安全 Linux
Centos7安装Docker搭建DVWA靶场
Centos7安装Docker搭建DVWA靶场
Centos7安装Docker搭建DVWA靶场