浮点数计算值不对,视频里计算没问题

浮点数计算值不对,视频里计算没问题

# 具体遇到的问题
浮点数计算结果有问题
# 报错信息的截图

http://img1.sycdn.imooc.com//climg/5fd4438d09897a8919201030.jpg# 相关课程内容截图

# 尝试过的解决思路和结果

# 粘贴全部相关代码,切记添加代码注释(请勿截图)

在这里输入代码,可通过选择【代码语言】突出显示

正在回答 回答被采纳积分+1

登陆购买课程后可参与讨论,去登陆

1回答
好帮手慕小轩 2020-12-12 15:20:00

同学,你好!是因为计算机在存储浮点数时会有误差,导致在使用浮点数计算的时候同样会产生误差,但这些误差在极小范围内的,如下示例:
http://img1.sycdn.imooc.com//climg/5fd4597409f8f22202720328.jpg
http://img1.sycdn.imooc.com//climg/5fd4595709e05ed303120323.jpg

  • 提问者 慕仔8113846 #1

    谢谢,但是我还有一下疑问,首先你做出的这个处理的含义是什么

    其次  在这节课的视频中,计算小慕的总花费tot时,视频中没有做任何处理结果就是准确的,我和视频中相同的代码结果却是有误差的,这是为什么呢。

    2020-12-12 15:27:33
  • 好帮手慕燕燕 回复 提问者 慕仔8113846 #2

    同学,你好!

    1. %.2f意思是保留小数点后两位小数
    2. 不同的数字存储的结果不一样,则输出的结果不一样

    2020-12-12 16:30:52
  • 提问者 慕仔8113846 回复 好帮手慕燕燕 #3

    嗯嗯好吧,谢谢,我以为视频中用了什么手段,后来我把我的运算语句中变量的顺序换了一下就和视频中一样了

    2020-12-12 16:50:37
问题已解决,确定采纳
还有疑问,暂不采纳

恭喜解决一个难题,获得1积分~

来为老师/同学的回答评分吧

0 星
请稍等 ...
意见反馈 帮助中心 APP下载
官方微信

在线咨询

领取优惠

免费试听

领取大纲

扫描二维码,添加
你的专属老师