Cod*_*313 5 decimal fpu
十进制数学是否使用 FPU?
我认为答案是肯定的,但我不确定,因为小数不是浮点数,而是固定精度数。
我主要在寻找 .NET,但一般的答案也很有用。
Joh*_*sch 3
对于 .NET,更具体地说,C#,不,System.Decimal不使用 FPU,因为该类型是在软件中模拟的。
System.Decimal
此外,System.Decimal 它是一个浮点数,而不是数据库中常见的固定精度数字。该类型实际上是使用 10 作为基数的十进制浮点,而不是使用 2 作为基数的二进制浮点(即System.Single或)。System.Double如果您尝试存储无法精确表示的分数(例如 1/3),它仍然存在相同的精度问题。
System.Single
System.Double
归档时间:
13 年,10 月 前
查看次数:
195 次
最近记录: