Ven*_*ana 2 c# floating-point precision double
我在 c# 中有双倍值10293.01416015625,我正在尝试转换为浮点数。由于 float 只有 24 位,我想得到的结果为10293.0141。但我得到的价值为10293.0137
double value = 10293.01416015625;
float converted = (float)value;
Run Code Online (Sandbox Code Playgroud)
预期值- 10293.0141
我得到的价值- 10293.0137
提前致谢
单个值具有最多 7 位十进制数字的精度,但内部最多保留 9 位数字。
您的结果最多 7 位有效数字 (10293.01) 是正确的。您不应期望使用float.
float最接近 10293.01416015625的s的确切值是 10293.013671875 和 10293.0146484375。两者都与您要表示的值相差 0.00048828125。
| 归档时间: |
|
| 查看次数: |
213 次 |
| 最近记录: |