Izz*_*zzy 1 c++ precision double
我分为9501/100.0f期望得到95.01f的结果,但由于一些不正常的原因,结果是95.01000000002f.
我知道舍入错误,并且划分两个较大的浮点数会产生不正确的结果,但这两个数字相对较小,它们不应该给出错误的答案.
我已将浮动更改为双打,但只能看到相同的结果.
所以我的答案是,为什么我看到这个错误的输出？
并最终解决方法,而无需将数字复制到字符串和返回.
jos*_*ley 6
浮点数不精确,处理它们有很多特质.
每个计算机科学家应该知道的浮点运算
我也很喜欢Bruce Dawson 关于浮点值的博客文章.
归档时间：
11 年，11 月 前
查看次数：
175 次
最近记录：