Baa*_*ukh 127 c# floating-point int expression casting
我有以下简单的代码:
int speed1 = (int)(6.2f * 10);
float tmp = 6.2f * 10;
int speed2 = (int)tmp;
speed1和speed2应该具有相同的值,但事实上,我有:
speed1 = 61
speed2 = 62
我知道我应该使用Math.Round而不是cast,但我想了解为什么值不同.
我查看了生成的字节码,但除了存储和加载外,操作码是相同的.
我也在java中尝试了相同的代码,我正确地获得了62和62.
有人可以解释一下吗？
编辑: 在实际代码中,它不是直接6.2f*10而是函数调用*常量.我有以下字节码:
速度1:
IL_01b3: ldloc.s V_8
IL_01b5: callvirt instance float32 myPackage.MyClass::getSpeed()
IL_01ba: ldc.r4 10.
IL_01bf: mul
IL_01c0: conv.i4
IL_01c1: stloc.s V_9
速度2:
IL_01c3: ldloc.s V_8
IL_01c5: callvirt instance float32 myPackage.MyClass::getSpeed()
IL_01ca: ldc.r4 10.
IL_01cf: mul
IL_01d0: stloc.s V_10
IL_01d2: ldloc.s V_10
IL_01d4: conv.i4
IL_01d5: stloc.s V_11
我们可以看到操作数是浮点数,唯一的区别是stloc/ldloc
至于虚拟机,我尝试使用Mono/Win7,Mono/MacOS和.NET/Windows,结果相同
Ray*_*hen 167
首先,我假设您知道6.2f * 10由于浮点舍入(实际上当表示为a时的值为61.99999809265137 double)并不完全是62 ,并且您的问题仅仅是为什么两个看似相同的计算导致错误的值.
答案是,在这种情况下(int)(6.2f * 10),你double取值61.99999809265137并将其截断为一个整数,产生61.
在这种情况下float f = 6.2f * 10,您将获取双精度值61.99999809265137并舍入到最近的值float,即62.然后将其截断float为整数,结果为62.
练习:解释以下操作顺序的结果.
double d = 6.2f * 10;
int tmp2 = (int)d;
// evaluate tmp2
更新:由于在评论所指出的,表达6.2f * 10是一个正式的float,因为第二参数具有一个隐式转换到float其更好比隐式转换double.
实际问题是允许(但不要求)编译器使用比正式类型更高精度的中间件.这就是为什么你在不同的系统上看到不同的行为:在表达式中(int)(6.2f * 10),编译器可以选择6.2f * 10在转换之前将值保持在高精度中间形式int.如果是,则结果为61.如果不是,则结果为62.
在第二个示例中,显式赋值float强制在转换为整数之前进行舍入.
dkn*_*ack 11
浮动数字很少.6.2f是这样的6.1999998....如果将其强制转换为int,则会截断它,而**10会导致61.
看看Jon Skeets DoubleConverter课程.使用此类,您可以将浮点数的值可视化为字符串.Double并且float都是浮点数,十进制不是(它是一个定点数).
DoubleConverter.ToExactString((6.2f * 10))
// output 61.9999980926513671875
看一下IL：
IL_0000: ldc.i4.s 3D // speed1 = 61
IL_0002: stloc.0
IL_0003: ldc.r4 00 00 78 42 // tmp = 62.0f
IL_0008: stloc.1
IL_0009: ldloc.1
IL_000A: conv.i4
IL_000B: stloc.2
编译器将编译时常量表达式减小为它们的常量值，并且我认为在将常量转换为时，在某个时候会做出错误的近似int。在的情况下speed2，此转换不是由编译器进行的，而是由CLR进行的，它们似乎应用了不同的规则...
| 归档时间： |
|
| 查看次数： |
17845 次 |
| 最近记录： |