Sau*_*ron 6 .net c# floating-point comparison
我刚刚阅读了有关浮点值比较的声明
不能使用==或!=运算符比较浮点值.大多数浮点值没有精确的二进制表示,并且精度有限.
如果是这样,比较两个浮点值的最佳方法是什么?
以下扩展方法可能有助于实现Kevin的建议:
public static bool IsEqualTo(this double a, double b, double margin)
{
return Math.Abs(a - b) < margin;
}
public static bool IsEqualTo(this double a, double b)
{
return Math.Abs(a - b) < double.Epsilon;
}
Run Code Online (Sandbox Code Playgroud)
所以现在你可以这样做:
if(x1.IsEqualTo(x2)) ...
if(x1.IsEqualTo(x2, 0.01)) ...
Run Code Online (Sandbox Code Playgroud)
只需将其更改IsEqualTo为更合适的名称,或者将默认边距更改为更好double.Epsilon,如果需要的话.
| 归档时间: |
|
| 查看次数: |
4436 次 |
| 最近记录: |