小编use*_*833的帖子

.NET Float Precision似乎是9位数?

我正在将一个应用程序从.NET移植到Mono Runtime,并且在代码中的某一点我可以看到浮点数具有该值158136.422.我对浮动的理解是它是7位精度,那么这个数字怎么可以接受?正如我所料,Mono将其修剪为7位数.

如果在C#我这样做

float f = 158136.422f;
Run Code Online (Sandbox Code Playgroud)

它变为158136.4.

c# precision

2
推荐指数
1
解决办法
474
查看次数

标签 统计

c# ×1

precision ×1