科学计数法转换浮点数【golang】

简介: 科学计数法转换浮点数【golang】

说明

科学计数法转换为小数点

代码

工具类


func ScientificNotationTransform(numStr string) string {
  decimalNum, err := decimal.NewFromString(numStr)
  decimalNum = decimalNum.Abs()
  if err != nil {
    logrus.Errorf("decimal.NewFromString error, numStr:%s, err:%v", numStr, err)
    return numStr
  }
  return decimalNum.String()
}

测试

func TestScientificNotationTransform(t *testing.T) {
  var str = "7.814E-7"
  s := ScientificNotationTransform(str)
  assert.Equal(t, s, "0.0000007814")

  str = "-12E-7"
  rs := ScientificNotationTransform(str)
  assert.Equal(t, rs, "0.0000012")
}

原地址: https://blog.csdn.net/qq_40374604/category_11938137.html

目录
相关文章
|
8月前
|
编译器 C语言
C语言中整数如何自动转换为浮点数
C语言中整数如何自动转换为浮点数
458 0
|
4月前
|
存储 Go
Golang语言基础数据类型之浮点型
这篇文章介绍了Go语言中浮点型数据的概念、存储方式、表示方法以及精度问题,并通过示例代码展示了如何声明和使用浮点型变量。
55 7
|
4月前
|
Go
Golang语言基础数据类型之整型
这篇文章详细介绍了Go语言中的整型数据类型,包括各种有符号和无符号整数类型、特殊整型如int、uint、uintptr、rune和byte,以及如何在程序中使用这些类型和它们所占的内存空间大小。
40 7
|
5月前
|
Python
python中的二进制、八进制、十六进制的相互转换
python中的二进制、八进制、十六进制的相互转换
89 0
|
8月前
|
Python
Python的整型在计算中的精度可以通过使用二进制或十进制表示来体现
【5月更文挑战第6天】Python整型支持十、二、八、十六进制表示,其中十进制默认,二进制(0b前缀)、八进制(0o前缀)、十六进制(0x前缀)。计算时以二进制精度处理,确保结果准确。例如:123的二进制是0b1111011,八进制是0o173,十六进制是0x7b。
51 0
|
8月前
|
Go
Golang深入浅出之-Go数据类型详解:整型、浮点型与布尔型
【4月更文挑战第20天】Go语言基础数据类型包括整型(有符号和无符号,如`int8`、`uint32`)、浮点型(`float32`、`float64`)和布尔型(`true`、`false`)。理解它们的范围和特性,以及注意溢出、精度损失、类型转换等问题,是编写高效Go代码的关键。例如,整型溢出可能导致模运算,浮点数比较可能有精度误差,布尔型不应用于数值计算。了解这些易错点,能帮助写出更健壮的代码。
76 0
|
8月前
|
存储 Java 程序员
基本概念【变量和数据类型和运算符、二进制和十进制、十进制转二进制 、二进制转十进制 】(一)-全面详解(学习总结---从入门到深化)
基本概念【变量和数据类型和运算符、二进制和十进制、十进制转二进制 、二进制转十进制 】(一)-全面详解(学习总结---从入门到深化)
346 0
|
Python
python十六进制怎么转换成十进制
python十六进制怎么转换成十进制
197 0
|
Python
python中整型与浮点型的数值转换
python中整型与浮点型的数值转换
304 0
Golang:输出Emoji表情符号
Golang:输出Emoji表情符号
276 0
Golang:输出Emoji表情符号

热门文章

最新文章