前端BUG录- 科学记数法是什么?

简介: 科学记数法是一种记数的方法。 特性:精度丢失、节省空间

什么是科学计数法



把一个数表示成a与10的n次幂相乘的形式(1≤|a|<10,a不为分数形式,n为整数)。19971400000000 == 1.99714×10^13 == 1.99714e13


当我们要标记或运算某个较大或较小且位数较多时,用科学记数法免去浪费很多空间和时间。


问题起源



在一个群里,有个人问我:保留小数问题。经过一番排查是他没有处理科学计数法。


bVcH1mo.webp.jpg


JavaScript 能够准确表示的整数范围在 -2^532^53 之间(不含两个端点),超过这个范围,无法精确表示这个整数。


同样,因为存储规范的原因,小数也存在精度问题。


https://www.ecma-international.org/ecma-262/#sec-ecmascript-language-types-number-type

JavaScript 的 Number


JavaScript 的 Number 对象是经过封装的能让你处理数字值的对象。Number 对象由 Number() 构造器创建。

JavaScript 的 Number 类型为双精度IEEE 754 64位浮点类型。

最近出了 BigInt 任意精度数字类型,已经可以尝鲜了

安全数


  • Number.MAX_SAFE_INTEGER JavaScript 中最大的安全整数 (2**53 - 1)。


bVcH1r1.webp.jpg


  • Number.MAX_VALUE JavaScript 中能表示的最大正数。最小的负数是 -MAX_VALUE。


bVcH1sW.webp.jpg


  • Number.MIN_SAFE_INTEGER JavaScript 中能表示的最小的安全整数 (-(253 - 1))。


bVcH1ta.webp.jpg


  • Number.MIN_VALUE JavaScript 中能表示的最小正数即最接近 0 的正数 (实际上不会变成 0)。最大的负数是 -MIN_VALUE


bVcH1t1.webp.jpg


代码



function number2string(num){
    num = String(num)
    var eSplit = num.split('e')
    var e = +(eSplit[1] || 0)
    var pad = '0'.repeat(500)
    var numSplit = eSplit[0].split('.')
    var str
    var numSplit1 = numSplit[1] || ''
    if(e < 0){
        str = ('0.' + (pad + numSplit[0]).slice(e) + numSplit1)
    }else{
        str = (numSplit[0] + (numSplit1 + pad).slice(0,e) + '.' + numSplit1.slice(e))
    }
    return str.replace(/\.?0*$/,'').replace(/^0*/,'').replace(/^\./,'0.') || '0'
}
// number2string('1.23456789e-1')
// number2string('1.23456789e0')
// number2string('1.23456789e1')
arr = [];
for(var i = -20; i < 20; i++){
    arr.push(`1.23456789e${i}`)
    //arr.push(`0001.23456789000e${i}`)
    //arr.push(`00000.0000001e${i}`)
     //arr.push(`${i}`)
    //arr.push(`${.5 - Math.random()}`)
}
arr.forEach((v)=>{
    console.log(String(v).padEnd(30, ' '), number2string(v))
})


相关文章
|
前端开发 测试技术
你发现一个bug,如何定位这个是前端还是后端缺陷?建议收藏
你发现一个bug,如何定位这个是前端还是后端缺陷?建议收藏
490 0
|
Web App开发 前端开发 开发者
|
前端开发 安全 程序员
测试大姐趁我下班点又提了个bug!前端你咋多个options请求?
测试大姐趁我下班点又提了个bug!前端你咋多个options请求?
87 0
|
12天前
|
前端开发 JavaScript 开发者
前端开发的终极技巧:如何让你的代码既简洁又高效,还能减少bug?
【10月更文挑战第30天】前端开发充满挑战与创新,如何编写简洁高效且少bug的代码是开发者关注的重点。本文介绍五大技巧:1. 模块化,提高代码复用性;2. 组件化,降低代码耦合度;3. 使用现代框架,提高开发效率;4. 统一代码规范,降低沟通成本;5. 利用工具,优化代码质量。掌握这些技巧,让前端开发更高效。
27 1
|
5月前
|
前端开发 安全 JavaScript
如何区分是前端BUG还是后端BUG
1 基于经验 前端BUG特点: (1)界面排版、布局错误、兼容性问题 (2)网络不稳定导致JS或CSS未完全加载或请求超时(一般不需要提BUG),正常网络下加载超时 后端BUG特点: 业务逻辑、性能问题、数据问题、安全性问题 2 通过HTTP请求和响应信息 可以通过浏览器开发者工具(F12)、postman、fiddler(移动端可通过该工具抓包)、Charles、Proxyman、Wireshark、HttpCanary、tcpdump等工具。
85 1
|
4月前
|
前端开发 JavaScript 流计算
前端 JS 经典:打印对象的 bug
前端 JS 经典:打印对象的 bug
42 0
|
6月前
|
前端开发 安全 JavaScript
怎么判断bug是前端问题还是后端问题?
怎么判断bug是前端问题还是后端问题?
131 0
|
6月前
|
前端开发
elementui-upload组件自定义样式上传(upload中常用的属性,但是网络上却找不到教程)(解决bug删除之后再次上传会上传删除的图片)专注后端工程师的前端速成
elementui-upload组件自定义样式上传(upload中常用的属性,但是网络上却找不到教程)(解决bug删除之后再次上传会上传删除的图片)专注后端工程师的前端速成
696 0
|
6月前
|
JSON 缓存 前端开发
编写代码前,如何规避尽可能多的前端bug?
编写代码前,如何规避尽可能多的前端bug?
70 0
|
前端开发 芯片
【芯片前端】“异步FIFO全解析”的BUG——格雷码连续性
【芯片前端】“异步FIFO全解析”的BUG——格雷码连续性
132 1