java为什么会出现精度丢失这种现象你知道吗
作者:扛麻袋的少年 发布时间:2023-07-04 05:24:38
很多人都知道:浮点数值不适用于无法接受舍入误差的金融计算中,即:我们常说的丢失精度问题。
这是为什么呢?
很多人还知道这样一句话:这种舍入误差的主要原因是浮点数值采用二进制系统表示, 而在二进制系统中无法精确地表示分数 1/10。这就好像十进制无法精确地表示分数 1/3—样。
针对十进制,1除以3是除不尽的。很好理解,因为我们一直接触的就是十进制,等于0.333333… 很好理解
但是:二进制系统中无法精确地表示分数 1/10。为啥呢。就有点不理解了
《Java核心技术卷》书上也是这么写的。
接下来我们就深究一下为什么!!!
重点这句话:这种舍入误差的主要原因是浮点数值采用二进制系统表示。就是说我们在代码中编写的 System.out.println(4.0 - 3.6); 这样一段代码,
计算过程:
①将十进制的 4.0 转换成 二进制,将十进制的 3.6 转换成二进制;
②使用转换后的二进制,进行减法运算
3.6 转换成二进制,就类似于 1除以3一样,是除不尽。所以 System.out.println(4.0 - 3.6); 就会输出 0.3999999999999999
备注:
十进制的 3.6 转换成二进制为:11.100110011001…(一直循环除不尽),就类似于 1/3 是 0.33333333333…除不尽。所以System.out.println(4.0 - 3.6); 就会输出 0.3999999999999999
十进制的 3.6 转换成二进制为:11.100110011001…
转换过程参考下文⬇⬇⬇ 【4.(小数)十进制转二进制(除不尽)】
此处涉及到进制转换,参考下文:
涉及到:
1.二进制 转 十进制
2.十进制 转 二进制
3.(小数)十进制 转 二进制
接下来,举几个二进制和十进制之间转换的例子 。你就知道为什么【除不尽】了
1.二进制转十进制
2.(整数)十进制转二进制
3.(小数)十进制转二进制(可除尽)
4.(小数)十进制转二进制(除不尽)
总结:
因为 3.6 转成二进制为 11.10011001....,除不尽的
所以 System.out.println(4.0 - 3.6); 就会输出 0.3999999999999999
本片文章就到这里了,希望能够给你带来帮助,也希望您能够多多关注脚本之家的更多内容!
来源:https://blog.csdn.net/lzb348110175/article/details/119957903


猜你喜欢
- 一、new 对象的几种说法初学 Java 面向对象的时候,实例化对象的说法有很多种,我老是被这些说法给弄晕。public class Tes
- 本文初步讲述了C#的CLR内存原理。这里所关注的内存里面说没有寄存器的,所以我们关注的只有托管堆(heap),栈(stack), 字符串常量
- 前言在Android开发中我们可能会有延时执行某个操作的需求,例如我们启动应用的时候,一开始呈现的是一个引导页面,过了两三秒后,会自动跳转到
- 什么是二叉堆二叉堆就是完全二叉树,或者是靠近完全二叉树结构的二叉树。在二叉树建树时采取前序建树就是建立的完全二叉树。也就是二叉堆。所以二叉堆
- 前言直接使用项目或直接复制libs中的so库到项目中即可(当前只构建了armeabi),需要其他ABI可检下项目另外使用CMake构建即可。
- 1.什么是servlet?sun(oracle)公司制订的一种用来扩展web服务器端功能的组件规范。背景:常用的web服务器:apache
- https://www.jb51.net/article/152879.htm上节,我们明白了proc文件系统的作用,接下来我们在已经写好的
- 模仿网易新闻客户端阅读偏好的频道选择,先看实现的页面: 直接上代码:import android.content.res.Resources
- 本文实例讲述了java GUI编程之监听操作。分享给大家供大家参考,具体如下:当点击Frame中的component组件时,会产生相应的效果
- C# 获取硬件参数的实现方法示例代码:private static string GetIdentifier(string wmiClass
- Swing包的介绍Java基础类数据库(Java Foundation Class)给java应用程序增加了图形界面、丰富的功能性以及与用户
- springcloud微服务包含的技术种类众多,eureka作为其注册中心,一直处于主流,但在今年已经处于永久停更状态,但其优秀的能力还是值
- 随着使用Spring进行开发的个人和企业越来越多,Spring从一个单一简介的框架变成了一个大而全的开源软件,最直观的变化就是Spring需
- springboot和springmvc的区别spring boot 内嵌tomcat,Jetty和Undertow容器,可以直接运行起来,
- 第一种方法:string s=abcdeabcdeabcde;string[] sArray=s.Split(c) ;foreach(str
- Android获取系统内核版本的方法 &nbs
- 本文实例为大家分享了java实现斗地主发牌系统的具体代码,供大家参考,具体内容如下玩家类package com.softeem.exampl
- 由于CPU的计算频率非常高,每秒计算数十亿次,因此可以将CPU的时间从毫秒的维度进行分段,每一小段叫作一个CPU时间片。目前操作系统中主流的
- 1.短信平台购买次数地址https://market.aliyun.com/products/57000002/cmapi00046920.
- 在一个完整的项目中,如果每一个控制器的方法都返回不同的结果,那么对项目的维护和扩展都会很麻烦;并且现在主流的开发模式时前后端分离的模式,如果