Golang 处理浮点数遇到的精度问题(使用decimal)
作者:头秃猫轻王 发布时间:2024-04-25 15:01:15
一、浮点数是什么?
浮点数,是属于有理数中某特定子集的数的数字表示,在计算机中用以近似表示任意某个实数。浮点数在计算机中主要用来表示小数,浮点数就是小数点可以出现改变的数字。
因为在计算机的机器语言中,只有二进制,机器语言只能识别0和1。所以,计算机也是不可能存储小数的,所以需要有另一种变通的存储方案。
这种方案就是:
1.指数方案
指数形式:其数值部分是一个小数,小数点前的数字是零,小数点后的第一位数字不是零。一个实数可以有多种指数表示形式,但只有一种属于标准化指数形式。
12.3 | 1.23*10^-1 |
1.23 | 1.23*10^0 |
1.23 | 0.123*10^1 |
上面的表格,我们可以很清晰的了解指数方案。同样的我们也就能发现这样表达小数会有一个严重的问题,那就是指数表示形式太多了,如果不能约定好唯一形式,不同代码之间沟通将会出现问题。
2.规范化指数形式
在指数形式的多种表示方式中把小数部分中小数点前的数字为0、小数点后第1位数字不为0的表示形式称为规范化的指数形式。
1.23 的规范化的指数形式 0.123*10^1
一个实数只有一个规范化的指数形式,在程序以指数形式输出一个实数时,必然以规范化的指数形式输出。
0.123e001
1.为什么要以 0 开头
1.23456要二进制存放需分别存整数部和小数部,而0.123456则只需存小数部,这样在占用相同字节的情况下,后一种方法可容纳更大精度的浮点数。
2.为什么 e 后面要加 0 ,e001 和 e1 一样吗
后面加 0 是 %e 的输出格式,并不是规范化的指数形式所必需的,
e001 和 e1 是一样的
3.IEEE 754标准
由于不同机器对浮点数的表示有较大差别,这不利于软件在不同计算机之间的移植。为此,美国IEEE提出了一个从系统角度支持浮点数的表示方法,称为IEEE754标准(IEEE,1985),当今流行的计算机几乎都采用了这一标准。
IEEE 754规定了四种表示浮点数值的方式:单精确度(32位)、双精确度(64位)、延伸单精确度(43比特以上,很少使用)与延伸双精确度(79比特以上,通常以80位实现)。只有32位模式有强制要求,其他都是选择性的。
二、出现精度问题的情况
1.浮点数加减运算
输入数据:
a = 2.3329 b = 3.1234
代码如下(示例):
package main
import "fmt"
func main() {
// a = 2.3329 b = 3.1234
a, b := 2.3329, 3.1234
c := a + b
fmt.Println(c) //5.456300000000001}
}
结果精度出现问题
2.3329 + 3.1234 = 5.456300000000001
已经出错
2.float64与float32之间转换
输入数据:
a = 9.99999
代码如下(示例):
package main
import "fmt"
func main() {
var a float32
a = 9.99999
b := float64(a)
fmt.Println(b) //9.999990463256836}
}
结果精度出现问题
9.99999 = 9.999990463256836
已经出错
3.int64和float64,int32和float32转换
1.int32和float32转换
输入数据:
a = 9.99999
代码如下(示例):
package main
import "fmt"
func main() {
var a int32
a = 999990455
b := float32(a)
fmt.Printf("%f\n", b) //999990464.000000}
}
结果精度出现问题
999990455= 999990464.000000
已经出错
2.int64和float64转换
输入数据:
a = 999999942424527242
代码如下(示例):
package main
import "fmt"
func main() {
var a int64
a = 999999942424527242
b := float64(a)
fmt.Printf("%f\n", b) //999999942424527232.000000}
}
结果精度出现问题
999999942424527242 = 999999942424527232.000000
已经出错
4.float64位直接乘100
输入数据:
a = 999999942424527242
代码如下(示例):
package main
import "fmt"
func main() {
var a float64
a = 1128.61
b := a * 100
fmt.Println(b) //112860.99999999999}
}
结果精度出现问题
1128.61 * 100= 112860.99999999999
已经出错
三、decimal 解决精度问题
利用 Decimal 包解决精度问题
go get github.com/shopspring/decimal
1.浮点数加减运算
输入数据:
a = 2.3329 b = 3.1234
代码如下(示例):
package main
import (
"fmt"
"github.com/shopspring/decimal"
)
func main() {
// a = 2.3329 b = 3.1234
a, b := 2.3329, 3.1234
c := decimal.NewFromFloat(a)
d := decimal.NewFromFloat(b)
fmt.Println(a, b)
fmt.Println(c, d)
fmt.Println("此时ab 与 cd 相同")
fmt.Println(a + b) //5.456300000000001}
fmt.Println(c.Add(d)) //5.4563}
}
结果精度不再出现问题
2.float64与float32之间转换
输入数据:
a = 9.99999
代码如下(示例):
package main
import (
"fmt"
"github.com/shopspring/decimal"
)
func main() {
var a float32
a = 9.99999
c := decimal.NewFromFloat32(a)
b := float64(a)
c.Float64()
fmt.Println(b) //9.999990463256836}
fmt.Println(c.Float64()) //9.99999}
}
结果精度不再出现问题
3.float64位直接乘100
输入数据:
a = 999999942424527242
代码如下(示例):
package main
import (
"fmt"
"github.com/shopspring/decimal"
)
func main() {
var a float64
a = 1128.61
c := decimal.NewFromFloat(a)
b := a * 100
fmt.Println(b) //112860.99999999999}
fmt.Println(c.Mul(decimal.NewFromInt(100))) //112861}
}
结果精度不再出现问题
来源:https://blog.csdn.net/moer0/article/details/122992424


猜你喜欢
- 方法一、简单安装(通过yum)1.安装epel-releaserpm -ivh http://dl.fedoraproject.
- 下载,安装先检查系统中是否有mysql ,MariaDB,如有,先卸载rpm -qa | grep mysqlrpm -qa | grep
- 关于ajax的responseText乱码的问题这个问题让我和纠结百度了好多都说是javascript的编码问题但是我的 javascrip
- 目录原理先行实践篇完整代码原理先行作为一个资深的小说爱好者,国内很多小说网站如出一辙,什么 🖊*阁啊等等,大都是 get 请求返回 html
- 下面我们以论坛排行榜举例说明:<% @ LANGUAGE="VBSCRIPT" %&
- 什么是xml?xml即可扩展标记语言,它可以用来标记数据、定义数据类型,是一种允许用户对自己的标记语言进行定义的源语言。abc.xml<
- IPython是Python的交互式Shell,提供了代码自动补完,自动缩进,高亮显示,执行Shell命令等非常有用的特性。特别是它的代码补
- call_user_func函数类似于一种特别的调用函数的方法,使用方法如下: function a($b,$c) { echo $b; e
- 算法简介SOM网络是一种竞争学习型的无监督神经网络,将高维空间中相似的样本点映射到网络输出层中的邻近神经元。训练过程简述:在接收到训练样本后
- 1.自定义浏览器窗口大小或全屏from selenium import webdriverimport timedriver = webdr
- 安装并导入模块打开命令行窗口,输入:pip install -i https://mirrors.aliyun.com/pypi/simpl
- Vue.js绑定HTML class数组语法错误,详情如下所示:昨天在官网教程上发现一个错误是这样的,下面看图http://cn.vuejs
- 概述日志文件是MySQL数据库的重要组成部分。MySQL有几种不同的日志文件,通常包括错误日志文件,二进制日志,通用日志,慢查询日志,等等。
- 1.查询数据库当前进程的连接数: select count(*) from v$process; 2.查看数据库当前会话的连接数: elec
- 实现方法: 建立一个用户附加表InviteUser_NewUser,结构如下: 然后跟着我的思路走: 用户接这个链接后 =》 进
- 代码很简单,只需要2行代码就可实现想要的功能,虽然很短,但确实使用,主要使用了requests库。测试2XX, 3XX, 4XX, 5XX都
- 如何在一台服务器上安装两个或者更多个的mysql呢?下面是详细的操作步骤,一起来学习学习吧。一、环境mysql软件包:  
- 官方文档https://developers.weixin.qq.com/miniprogram/dev/framework/open-ab
- 有过Web经验的人喜欢使用:<meta http-equiv="refresh" content="1;
- 1 问题在使用pyecharts绘制可视化地图信息时候,默认出现的图像是带有圆点标记,比如官网代码运行输出如下:2 问题解决方式一: sho