将长整型的数赋值给float类型之后出现的数据和预期的不一致

将长整型的数赋值给float类型之后出现的数据和预期的不一致

http://img1.sycdn.imooc.com//climg/5aafb0c60001664008770222.jpg,按理来说这个应该会是一个1.0E12的结果,但是现在显示的是9.99E12的一个数,请问这个是什么情况?

正在回答

登陆购买课程后可参与讨论,去登陆

1回答

float 接受不了那么多 所以有数据丢失

  • 风中随影 提问者 #1
    但是从老师课程中的事例来看还没有超出变量的接受范围啊,事例中使用的10的14次方的数字
    2018-03-19 21:54:47
  • irista23 回复 提问者 风中随影 #2
    long转float会有精度的丢失
    2018-03-20 09:50:30
  • 风中随影 提问者 回复 irista23 #3
    但是当时的视频示例中指出如果是带小数的科学计数法是会存在精度丢失,而都是整数的不会存在精度丢失啊
    2018-03-21 08:55:01
问题已解决,确定采纳
还有疑问,暂不采纳

恭喜解决一个难题,获得1积分~

来为老师/同学的回答评分吧

0 星
请稍等 ...
意见反馈 帮助中心 APP下载
官方微信

在线咨询

领取优惠

免费试听

领取大纲

扫描二维码,添加
你的专属老师