小编use*_*466的帖子

一系列花车中最大的不准确度是多少?

给定两个浮点值(fLowfHigh),您如何计算两个连续值之间的最大或最大步幅/差距?

例如:

在范围16777217f20000000f答案是2,因为值有效四舍五入到最接近的两位.

将其推广到任意范围让我摸不着头脑 - 任何建议?

干杯,

这应该是语言中立的,但我正在使用C#(我认为这符合IEEE-754).

c# floating-point precision

2
推荐指数
1
解决办法
122
查看次数

标签 统计

c# ×1

floating-point ×1

precision ×1