舍入模式

简介: Julia支持基本数据类型如整数和浮点数,以及字面量表示固定值。默认浮点数舍入模式是RoundNearest,确保值靠近并简化为最少有效位。例如,`BigFloat`示例显示舍入到最接近的可表示数:1.5是1.510564889、1.550564889和1.560564889的共同近似值。

Julia 数据类型

在编程语言中,都有基本的数学运算和科学计算,它们常用的数据类型为整数和浮点数。
另外还有一个"字面量"的术语,字面量(literal)用于表达源代码中一个固定值的表示法(notation),整数、浮点数以及字符串等等都是字面量。

舍入模式

一个数如果没有精确的浮点表示,就必须被舍入到一个合适的可表示的值。

Julia 所使用的默认模式总是 RoundNearest,指舍入到最接近的可表示的值,这个被舍入的值会使用尽量少的有效位数。

实例

julia> BigFloat("1.510564889",2,RoundNearest)
1.5

julia> BigFloat("1.550564889",2,RoundNearest)
1.5

julia> BigFloat("1.560564889",2,RoundNearest)
1.5

相关文章
|
11天前
|
存储
【BigDecima】不可变的,任意精度的有符号十进制数。
【BigDecima】不可变的,任意精度的有符号十进制数。
29 0
西门子S7-1200的转换指令、取整和截取指令、上取整和下取整指令、标定和标准化指令,各参数的含义是什么?
西门子S7-1200中的转换指令包括转换指令、取整和截取指令、上取整和下取整指令、标定和标准化指令。
西门子S7-1200的转换指令、取整和截取指令、上取整和下取整指令、标定和标准化指令,各参数的含义是什么?
|
2天前
如何实现后台返回的数据有.00或.0,显示时若是整数不显示小数点和小数电以后的0,小数显示小数点
如何实现后台返回的数据有.00或.0,显示时若是整数不显示小数点和小数电以后的0,小数显示小数点
7 0
|
11天前
|
计算机视觉
浮点数向下取整
浮点数向下取整
24 0
|
SQL Oracle 关系型数据库
SQL中数据小数处理(向上取整、向下取整、四舍五入)
SQL中数据小数处理(向上取整、向下取整、四舍五入)
06:浮点数向零舍入
06:浮点数向零舍入
178 0
|
Java
位移运算---为何负数不断地无符号向右移动的最小值是1呢?
位移运算---为何负数不断地无符号向右移动的最小值是1呢?
167 0
位移运算---为何负数不断地无符号向右移动的最小值是1呢?
|
Linux Perl Shell
Linux脚本中带有小数点的数值比较大小
shell的 test 对于数值的判断都是基于整数的,没办法对带有小数的数值直接进行对比。而且小数位数不一样,也会有问题。
6252 0
|
PHP
PHP数学函数实践四:将浮点数从零舍入到指定的小数位数
哈喽~今天我将给大家继续之前的PHP数学函数实践系列的文章,那么在上一篇《PHP数学函数实践三:随机函数rand()的巧妙运用》中给大家介绍了怎么使用rand()函数,感兴趣的朋友可以学习了解~ 本文带来PHP数学函数实践四!主要内容则是讲解如何将浮点数从零舍入到指定的小数位数? 首先给大家简单介绍下PHP中的浮点数是什么? 浮点型(也叫浮点数 float,双精度数 double 或实数 real)可以用以下任一语法定义:
190 0
|
存储 Java iOS开发
数值计算:注意精度、舍入和溢出问题
在《Effective Java》这本书中也提到这个原则,float和double只能用来做科学计算或者是工程计算,在商业计算中我们要用java.math.BigDecimal
985 0
数值计算:注意精度、舍入和溢出问题