前言:
此刻同学们对“float数据精度”大致比较关注,你们都想要学习一些“float数据精度”的相关文章。那么小编也在网摘上网罗了一些有关“float数据精度””的相关知识,希望兄弟们能喜欢,我们一起来学习一下吧!python的浮点数介绍
浮点数简单讲就是数学中的小数,比如+0.1,-0.1,也可以通过float()函数定义。
但是在实际使用中经常会遇到加减乘除或者四舍五入后精度失真的问题,会导致计算结果不准确。通常使用自带的decimal模块,通过构建decimal.Decimal对象,解决浮点数计算精度失真的问题。
加减法运算遇到精度问题
float_num2 = 1.09 - 0.1print(float_num2)
打印结果:0.9900000000000001
结果并不是我们想要的0.99,而是在后面增加了很多小数位。
通过round()函数实现四舍五入时也会遇到类似精度问题
print(round(2.675,2))
打印结果返回的是2.67,并不是2.68
以上精度问题其实都是跟计算机的二进制机制有关系(IEEE 7.4标准是IEEE浮点数标准,定义了一种由32位或64位字表示的浮点数格式。由于IEEE 7.4标准中定义的浮点数格式是有限的,因此无法精确表示所有的小数值。)
使用decimal模块解决计算精度问题
引入Deciaml
from decimal import Decimal
Decimal要求传入字符串,计算结果如下:
print(f"计算结果: {Decimal('1.09') - Decimal('0.1')}")
计算结果: 0.99#以上结果确实是我们想要的结果通过Decimal.from_float看计算机上实际存在的浮点值
print(Decimal.from_float(1.09-0.1))打印结果如下:小数点后面有53位数字0.99000000000000010214051826551440171897411346435546875使用decimal模块解决四舍五入精度问题
使用uantize函数实现四舍五入,传入的0.00表示精确到小数点2位,以此类推。q
print(Decimal('2.675').quantize(Decimal("0.00")))打印结果为2.68,正是我们想要的精度。
使用float('inf')和float('-inf')表示正无穷和负无穷
print(float('inf') > 99999999999999999999999)print(float('-inf') < -99999999999999999999999)
打印结果都为True
共勉: 东汉·班固《汉书·枚乘传》:“泰山之管穿石,单极之绠断干。水非石之钻,索非木之锯,渐靡使之然也。”
-----指水滴不断地滴,可以滴穿石头;
-----比喻坚持不懈,集细微的力量也能成就难能的功劳。
----感谢读者的阅读和学习,谢谢大家。
标签: #float数据精度