小编Alb*_*ing的帖子

VB.NET 单一数据类型计算问题

我想使用 vb.net 用小数执行基本计算。

Dim a As Single= 7200.5
Dim b As Single= 7150.3
Dim c As Single= a - b

'Expected result = 50.2
MsgBox(a.ToString + " - " + b.ToString + " = " + c.ToString.Trim)
'Produced result is: 50.2002

Dim single1 As Single
Dim single2 As Single
Dim single3 As Single

single1 = 425000
single2 = 352922.2
single3 = single1 - single2

'Expected result is: 72077.8
MsgBox(single3.ToString)
'Produced result is: 72077.81
Run Code Online (Sandbox Code Playgroud)

这么简单的计算,结果怎么会这么不准确呢?当我将数据类型更改为 时,问题解决了Decimal,但Decimal对象消耗了更多内存(16 字节)。是否有任何替代数据类型可用于执行具有准确结果的简单分数计算?

vb.net vb.net-2010

3
推荐指数
1
解决办法
7884
查看次数

标签 统计

vb.net ×1

vb.net-2010 ×1