网页资讯视频图片知道文库贴吧地图采购
进入贴吧全吧搜索

 
 
 
日一二三四五六
       
       
       
       
       
       

签到排名:今日本吧第个签到,

本吧因你更精彩,明天继续来努力!

本吧签到人数:0

一键签到
成为超级会员,使用一键签到
一键签到
本月漏签0次!
0
成为超级会员,赠送8张补签卡
如何使用?
点击日历上漏签日期,即可进行补签。
连续签到:天  累计签到:天
0
超级会员单次开通12个月以上,赠送连续签到卡3张
使用连续签到卡
06月26日漏签0天
javascript吧 关注:269,243贴子:906,445
  • 看贴

  • 图片

  • 吧主推荐

  • 游戏

  • 0回复贴,共1页
<<返回javascript吧
>0< 加载中...

浮点数精度疑惑

  • 只看楼主
  • 收藏

  • 回复
  • lion_sea1
  • var
    1
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
var r1 = 0.1 +0.2;
//r1的值为0.30000000000000004
根据IEEE754的规定,全部转成浮点数二进制形式后相或,再转回显示形式时出现了上面的精度误差,这个好理解。
但是
var r2 = 0.3;
这个表达式中的r2在内存中也是以浮点数二进制形式存储,在显示的时候也应该转换成显示形式,我理解也该在转换的时候出现精度误差,可是上面的的表达式显示时却能精确的显示0.3,这就不明白了。
哪位大大能解解疑惑呢。


登录百度账号

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频!
  • 贴吧页面意见反馈
  • 违规贴吧举报反馈通道
  • 贴吧违规信息处理公示
  • 0回复贴,共1页
<<返回javascript吧
分享到:
©2025 Baidu贴吧协议|隐私政策|吧主制度|意见反馈|网络谣言警示