博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
python 解决浮点数四舍五入的时候 丢失精度
阅读量:6589 次
发布时间:2019-06-24

本文共 572 字,大约阅读时间需要 1 分钟。

python 使浮点数精准的四舍五入

浮点数 在使用round方法的时候

python 解决浮点数四舍五入的时候 丢失精度
保留两位小数,小数点后第三位是5却没有进1.这就是浮点数会丢失精度。
使用浮点数保持两位数的时候也是这种情况
python 解决浮点数四舍五入的时候 丢失精度

所以需要自己写一个方法来实现

需要导decimal这个模块
from decimal import Context,ROUND_HALF_UP
导进来的这个包在对于大于1的数进行四舍五入的时候是没有问题的,但在小于1的数的时候就会出问题
def get_num(num):
num = str(num)
if float(num)>=1:
a = "%.2f" % float(num)
c = Context(prec=(len(a)-1), rounding=ROUND_HALF_UP).create_decimal(num)
return float(str(c))
if float(num)<1:
d = float(num)*100
if d-int(d)<0.5:
return float(int(d)/100)
else:
i = (int(d)+1)/100
return float(i)
这是我在使用decimal加上自己的写的一个方法 全部解决

转载于:https://blog.51cto.com/13961889/2369479

你可能感兴趣的文章
CSS3+JS实现静态圆形进度条【清晰、易懂】
查看>>
关于树形插件展示中数据结构转换的算法
查看>>
图片加载框架之Fresco
查看>>
Spotify开源其Cassandra编排工具cstar
查看>>
高性能web建站规则(将js放在页面底部)
查看>>
Java EnumMap工作原理及实现
查看>>
阐述Spring框架中Bean的生命周期?
查看>>
虚拟内存管理
查看>>
注水、占坑、瞎掰:起底机器学习学术圈的那些“伪科学”
查看>>
大数据小视角1:从行存储到RCFile
查看>>
JavaScript常用设计模式
查看>>
第18天:京东网页头部制作
查看>>
好消息:Dubbo & Spring Boot要来了
查看>>
面向对象封装的web服务器
查看>>
南开大学提出新物体分割评价指标,相比经典指标错误率降低 69.23%
查看>>
看Facebook如何基于物理安全保护数据
查看>>
初创公司MindMaze研发情绪反应VR,让VR关怀你的喜怒哀乐
查看>>
绕开“陷阱“,阿里专家带你深入理解C++对象模型的特殊之处
查看>>
ElasticSearch
查看>>
2018“一带一路”阿里巴巴诸神之战全球创客大赛全面启动
查看>>