python 中的 decimal 模块提供十进制浮点运算支持

a = 1.1
b = 2.2
print(a + b) 

结果竟然是:

输出不是期望的 3.3,这是由于原生的二进制浮点数本身存在误差,直接计算的话会得到不精确的结果。 为了消除这种误差,可以用 decimal 模块进行更加精确的浮点计算。

from decimal import Decimal
#参数这里是字符串
a = Decimal('1.1')
b = Decimal('2.2')
print(a + b) 

运算结果:

getcontext().prec 设置有效数字

from decimal import Decimal
from decimal import getcontext
#此处设置有效数字为6位
getcontext().prec = 6
print(Decimal('2.2')/Decimal('1.3'))

运行结果:

设定小数位数

Deicmal() 函数可以四舍五入设置保留的小数位,且不用管小数原来的形式

from decimal import Decimal
m='3.4'
n=4.5
#设置留5位小数
print(Decimal(m).quantize(Decimal('0.000000')))
print(Decimal(n).quantize(Decimal('0.000000')))

运行结果:

 

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐