Python decimal模块使用方法详解
作者:wenbin_ouyang 发布时间:2022-09-06 12:04:33
标签:Python,decimal,模块
decimal 模块:decimal意思为十进制,这个模块提供了十进制浮点运算支持
1.可以传递给Decimal整型或者字符串参数,但不能是浮点数据,因为浮点数据本身就不准确。
2.要从浮点数据转换为Decimal类型
from decimal import *
Decimal.from_float(12.222)
# 结果为Decimal('12.2219999999999995310417943983338773250579833984375')
3.通过设定有效数字,限定结果样式
from decimal import *
getcontext().prec = 6
Decimal(1)/Decimal(7)
# 结果为Decimal('0.142857'),六个有效数字
4.四舍五入,保留几位小数
from decimal import *
Decimal('50.5679').quantize(Decimal('0.00'))
# 结果为Decimal('50.57'),结果四舍五入保留了两位小数
5.Decimal 结果转化为string
from decimal import *
str(Decimal('3.40').quantize(Decimal('0.0')))
# 结果为'3.4',字符串类型
Python3中decimal处理计算精度问题示例
#!/usr/bin/python3
# coding:utf-8
import decimal
from decimal import Decimal, getcontext
def demo():
"""
取整问题:
ROUND_CEILING 总是趋向无穷大向上取整
ROUND_DOWN总是趋向0取整
ROUND_FLOOR 总是趋向负无穷大向下取整
ROUND_HALF_DOWN如果最后一个有效数字大于或等于5则朝0反方向取整;否则,趋向0取整
ROUND_HALF_EVEN类似于ROUND_HALF_DOWN,不过,如果最后一个有效数字值为5,则会检查前一位。
偶数值会导致结果向下取整,奇数值导致结果向上取整
ROUND_HALF_UP 类似于ROUND_HALF_DOWN,不过如果最后一位有效数字为5,值会朝0的反方向取整
ROUND_UP朝0的反方向取整
ROUND_05UP如果最后一位是0或5,则朝0的反方向取整;否则向0取整
"""
# 1.常规计算
getcontext().prec = 9
r1 = Decimal(1) / Decimal(3)
print("r1 ", r1) # r1 0.333333333
# 2.但是getcontext().prec会包含小数点前面的所有长度,当前面长度有变化时并不能固定控制小数点后的位数
r2 = Decimal(10) / Decimal(3)
print("r2 ", r2) # r2 3.33333333
# 3.想要固定控制小数点后面的位数则需要使用decimal.quantize(Decimal('0.00000000')),注意不能超过getcontext().prec的位数
r3 = Decimal(1) / Decimal(3)
print("r3 ", r3.quantize(Decimal('0.00000000'))) # r3 0.33333333
r4 = Decimal(10) / Decimal(3)
print("r4 ", r4.quantize(Decimal('0.00000000'))) # r4 3.33333333
r5 = Decimal(10) / Decimal(str(1.5))
print("r5 ", r5.quantize(Decimal('0.00000000'))) # r5 6.66666667
# 4.向上取整
getcontext().rounding = getattr(decimal, 'ROUND_CEILING') # 总是趋向无穷大向上取整
r6 = Decimal(10) / Decimal(str(1.5)) # r6 6.66666667
print("r6 ", r6.quantize(Decimal('0.00000000')))
r7 = Decimal(10) / Decimal(3) # r7 3.33333334
print("r7 ", r7.quantize(Decimal('0.00000000')))
# 5.向下取整
getcontext().rounding = getattr(decimal, 'ROUND_FLOOR') # 总是趋向无穷大向下取整
r8 = Decimal(10) / Decimal(str(1.5)) # r8 6.66666666
print("r8 ", r8.quantize(Decimal('0.00000000')))
r9 = Decimal(10) / Decimal(3) # r9 3.33333333
print("r9 ", r9.quantize(Decimal('0.00000000')))
if __name__ == '__main__':
demo()
来源:https://www.cnblogs.com/xy-ouyang/p/13040615.html
0
投稿
猜你喜欢
- 下面先给大家介绍python实现版本号对比功能,具体内容如下所示:相同位置版本号大小比较:def abc(str1, str2): &nbs
- windows下安装Virtualenvwrapper我们可以使用Virtualenvwrapper来方便地管理python虚拟环境,但是在
- 1.什么是SQL语句sql语言:结构化的查询语言。(Structured Query Language),是关系数据库管理系统的标准语言。它
- 一、前言我们在使用pycharm写代码时可能出现过下面这种情况,不小心点到了ignore ....:这样会导致整个代码都没有错误提示了,类似
- 一、设计范式问题: 什么是范式化设计,为什么需要反规范化设计 ?范式来自来自英文Normal From 。开发过程中要设计一个好的数据库逻辑
- 今天有一位同学给了我一个excel文件,要求读取某些行,某些列,然后我试着做了一个demo,这里分享出来,希望能帮到大家:首先安装xlrd:
- 网站开发时经常需要在某个页面需要实现对大量图片的浏览,如果考虑流量的话,大可以像pconline一样每个页面只显示一张图片,让用户每看一张图
- 一、测试平台:解决分散用例执行方式,提供统一测试用例执行过程、用例管理、测试报告主要是基于: fastapi+vu
- 每个存储过程都有默认的返回值,默认值为0。下面我们分别看看在management studio中如何查看输出参数,返回值以及结果集,然后我们
- 如果要用某个开源框架,需要安装多个依赖包可以如下操作:如依赖文件形式如下(可以不要版本号):txt文件名为requirements.txt,
- python和PHP相比较,python适合做爬虫。原因如下抓取网页本身的接口相比与其他静态编程语言,如java,c#,C++,python
- <div> <a 
- 如何优雅地解析命令行选项随着我们编程经验的增长,对命令行的熟悉程度日渐加深,想来很多人会渐渐地体会到使用命令行带来的高效率。自然而然地,我们
- 一、前言相关知识来自《python算法设计与分析》。初级排序算法是指几种较为基础且容易理解的排序算法。初级排序算法包括插入排序、选择排序和冒
- 起序:本文是在 python 自己的虚拟环境下做的,不是在 Anaconda 下做的。一、安装想要更改 jupyterlab 的默认启动位置
- 建立一个查询,执行下面的语句生成函数fn_GetPy --生成拼音首码 CREATE function fn_GetPy(@str nvar
- 本文实例讲述了Django框架反向解析操作。分享给大家供大家参考,具体如下:1. 定义:随着功能的增加会出现更多的视图,可能之前配置的正则表
- 实验介绍增量恢复一般适用的场景:1、人为的sql语句破坏了数据库2、在进行下一次完全备份之前发生系统故障导致数据库数据丢失3、在主从架构中,
- 一、前言最近经常碰到开发误删除误更新数据,这不,他们又给我找了个麻烦,我们来看下整个过程。二、过程由于开发需要在生产环节中修复数据,需要执行
- 可以直接参考官方文档:https://docs.microsoft.com/zh-cn/sql/linux/quickstart-insta