浅谈c# 浮点数计算
作者：大稳·杨 发布时间：2023-08-04 22:10:09
标签：c#,浮点数
给大家看个计算题，看看大家的算术能力。
0.1 +0.1 +0.1 - 0.3 等于几？
大家可能会说这么简单的问题，是不是看不起我？肯定等于0啊。
如果大家直接算的是没有问题的，但是如果用计算机呢？
见证奇迹的时刻到了，看代码：
void Main()
{
var f = 0.1 +0.1 +0.1 -0.3;
Console.WriteLine("f=={0}",f);
}
运行结果：
这是因为计算机的精度的问题，在计算机的内部存储和运算的精度缺失等问题，我解释的可能不太明白，不过，大家可以用下面的方案进行解决：
void Main()
{
//var f = 0.1 +0.1 +0.1 -0.3;
//Console.WriteLine("f=={0}",f);
var f1 = new Decimal(0.1) + new Decimal(0.1) + new Decimal(0.1) - new Decimal(0.3);
Console.WriteLine("f1 == {0}",f1);
}
运行结果：
这样就是正常的运算结果了。
啦啦啦！！！！
来源：http://www.cnblogs.com/dawenyang/p/7553728.html
0
投稿猜你喜欢
Java设计模式的模板方法模式定义一个操作中算法的框架，而将一些步骤延迟到子类中，使得子类可以不改变算法的结构即可重定义该算法中的某些特定步- 本文实例讲述了Spring使用ClassPathResource加载xml资源。分享给大家供大家参考，具体如下：一 代码package le
- 微信公众号，仿照企业号的思路，增加了标签管理的功能，对关注的粉丝可以设置标签管理，实现更加方便的分组管理功能。开发者可以使用用户标签管理的相
- 一、前言我们在日常学习中，对一个java代码有问题，不知道jvm内部怎么进行解析的时候；有个伟大壮举就是反编译，这样就可以看到jvm内部怎么
- 1、多态性多态性是面向对象的最后一个特征，它本身主要分为两个方面： 方法的多态性：重载与覆写1、重载：同一个方法名称，根据参数类型以及个数完
- 一、数组创建1.1 声明并赋值int[] a = {1,2,3};1.2 声明数组名开辟空间并且赋值int[] a;a = new int[
- 本文实例为大家分享了C#添加Windows服务的具体方法，供大家参考，具体内容如下源码下载地址：http://xiazai.jb51.net
- 主要讲解Android Studio中生成aar文件以及本地方式使用aar文件的方法，具体内容详情如下所示：在Android Studio中
- 面试中可能会被问到为什么我们调用start()方法时会执行run()方法，为什么我们不能直接调用run()方法？Java 创建线程的方法实际
- 回顾：上一篇文章总结了影院售票系统核心部分-售票，整个项目也就完成了2/3了，需求中也要求了对销售信息的保存，今天就继续总结销售信息的保存以
- string filePath = @"E:\Randy0528\中文目录\JustTest.rar"; &n
- 包含不重复元素的集合称为“集（set）”。.NET Framework包含两个集HashSet<
- java调用外部程序的方法 在一个java应用中，可能会遇到这样的需求，就是需要调用一些外部的应用做一些处理，比如调用excel，
- 最近在研究dubbo时，发现了JAVA的SPI特性。SPI的全名为Service Provider Interface，是JDK内置的一种服
- 实现代码一、import java.io.File;import java.io.*;public class DelNullDir {pu
- 更新: 工作中突然想起来，关于Yaml的使用，并不属于Spring的范畴，是org.yaml.snakeyaml处理的。所以yaml的使用应
- 最近一段时间，大家在用 Spring Security OAuth2 时可能发现有很多类过期了。大家在选择 OAuth2 依赖的时候，可能也
- 出现乱码请修改为BufferedReader br = new BufferedReader(new InputStreamReader(n
- 1 顺序结构顺序结构比较简单，就是代码一行一行的执行，本节之前写的所有代码都是顺序结构。例如：public static void main
- 观察者模式:对象间的一种一对多的依赖关系，让多个观察者对象同时监听某一个主题对象(被观察)。 以便一个对象的状态发生变化时，所有
