C#中float的取值范围和精度分析
作者：shichen2014 发布时间：2023-05-19 01:03:21
本文实例分析了C#中float的取值范围和精度。分享给大家供大家参考。具体分析如下：
float类型的表现形式：
默认情况下，赋值运算符右侧的实数被视为 double。 因此，应使用后缀 f 或 F 初始化浮点型变量，如以下示例中所示：
float x = 3.5F;
如果在以上声明中不使用后缀，则会因为您尝试将一个 double值存储到 float 变量中而发生编译错误。
float的取值范围
float占用4个字节,和int是一样,也就是32bit.
1bit（符号位） 8bits（指数位） 23bits（尾数位）
存储方式如下图：
取值范围基本表达法
（浮点）数值 = 尾数 × 底数 ^ 指数，（附加正负号）----------------
于是，float的指数范围为-127~128，而double的指数范围为-1023~1024，并且指数位是按补码的形式来划分的。其中负指数决定了浮点数所能表达的绝对值最小的数；而正指数决定了浮点数所能表达的绝对值最大的数，也即决定了浮点数的取值范围。
float的范围为-2^128 ~ +2^128，也即-3.40E+38 ~ +3.40E+38；double的范围为-2^1024 ~ +2^1024，也即-1.79E+308 ~ +1.79E+308。
其他特殊表示
1.当指数部分和小数部分全为0时,表示0值,有+0和-0之分(符号位决定),0x00000000表示正0,0x80000000表示负0. 2.指数部分全1,小数部分全0时,表示无穷大,有正无穷和负无穷,0x7f800000表示正无穷,0xff800000表示负无穷. 3.指数部分全1,小数部分不全0时,表示NaN,分为QNaN和SNaN,Java中都是NaN.
结论: 可以看出浮点数的取值范围是:2^(-149)~~(2-2^(-23))*2^127,也就是Float.MIN_VALUE和Float.MAX_VALUE.
精度
float和double的精度是由尾数的位数来决定的。浮点数在内存中是按科学计数法来存储的，其整数部分始终是一个隐含着的“1”，由于它是不变的，故不能对精度造成影响。
float：2^23 = 8388608，一共七位，这意味着最多能有7位有效数字，但绝对能保证的为6位，也即float的精度为6~7位有效数字；
希望本文所述对大家的C#程序设计有所帮助。
0
投稿猜你喜欢
- 这篇文章主要介绍了Spring MVC处理方法返回值过程解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需
最近在定制Android系统音量条，发现代码还是蛮多的，下面总结一下。 代码是基于5.1.1版本的。 系统音量条的代码是在/framewor- public class TimeUtil { public static final int SECO
- 引入dll 本次程序中引入的是Spire.Pdf.dll，引入方法如下：【方法1】通过NuGet安装。可以在Visual Stud
- 缓存淘汰算法在高并发、高性能的质量要求不断提高时，我们首先会想到的就是利用缓存予以应对。第一次请求时把计算好的结果存放在缓存中，下次遇到同样
- 思路如下：创建一个类，通过extends使其继承窗体类JFrame；创建一个JFrame对象，使用JFrame类的setVisible()方
- 本文实例讲述了C#文件断点续传实现方法。分享给大家供大家参考。具体实现方法如下：/// <summary>/// 下载局域网文件
- 谈到 Java 的线程池最熟悉的莫过于 ExecutorService 接口了，jdk1.5 新增的 java.util.concurren
- 本文实例介绍了Android实现手机震动、抖动效果，分享给大家供大家参考，具体内容如下（1）布局文件如下<RelativeLayout
- 前言以下内容科班同学学过UML和数据库的应该比较熟悉数据模型：数据模型是对数据库特征的抽象，也就是用户从数据库中看到的模型，例如一张数据表或
- 一、简介使用了static 修饰符的方法为静态方法，反之则是非静态方法。 静态方法是一种特殊的成员方法，它不属于类的某一个具体的实
- 在这里就分享两条开发中曾经忽略的问题：1、Union（联合体）的字节对齐先看代码：#pragma pack(4)struct com{&nb
- eclipse运行tomcat提示端口被占用今天碰到一个问题，在eclipse中运行一个程序，eclipse里面的tomcat一启动就报错说
- 在C#中调用C（C++）类的DLL的时候，有时候C的接口函数包含很多参数，而且有的时候这些参数有可能是个结构体，而且有可能是结构体指针，那么
- 最近一个项目中，需要用到Java的websocket新特性，于是就学了一下，感觉这技术还挺好玩的，瞬间知道网页上面的那些在线客服是怎么做的了
- 简介网上对于 Camera2 的介绍有很多，在 Github 上也有很多关于 Camera2 的封装库，但是对于那些库，封装性太强，有时候我
- 前言Android12 有很多令人惊喜的变化，比如基于 Material You 的全新 UI，基于 SplashScreen 的应用启动画
- 在Android开发中，我们经常遇到Android读取图片大小超过屏幕显示的图（一般只要显示一定规格的预览图即可），在图片特别多或者图片显示
- java中 Set与Map排序输出到Writer详解及实例一般来说java.util.Set,java.util.Map输出的内
- 大家好，因为近期做需求中遇到了文件上传这个东西，而且我这个还是跨服务去传输文件的所以我这边使用了httpclient和RestTemplat
