在 Go 算法中处理浮点数精度？

Question

我对在 Go 中准确减去 2 个浮点数的方法感兴趣。

我尝试使用该 math/big库，但无法获得准确的结果。

我在 Javascript 中使用了big.js库来解决这个问题。是否有类似的 Go 算法库/方法？

    package main

    import (
        "fmt"
        "math/big"
    )

    func main() {
        const prec = 200
        a := new(big.Float).SetPrec(prec).SetFloat64(5000.0)
        b := new(big.Float).SetPrec(prec).SetFloat64(4000.30)
        result := new(big.Float).Sub(a, b)
        fmt.Println(result)
    }
    Result: 999.6999999999998181010596454143524169921875

https://play.golang.org/p/vomAr87Xln

Answer 1

包大

导入“数学/大”

func (*Float) 字符串

func (x *Float) String() string

字符串格式 x 像 x.Text('g', 10)。（必须显式调用字符串，Float.Format 不支持 %s 动词。）

使用字符串输入并舍入输出，例如，

package main

import (
    "fmt"
    "math/big"
)

func main() {
    const prec = 200
    a, _ := new(big.Float).SetPrec(prec).SetString("5000")
    b, _ := new(big.Float).SetPrec(prec).SetString("4000.30")
    result := new(big.Float).Sub(a, b)
    fmt.Println(result)
    fmt.Println(result.String())
}

输出：

999.6999999999999999999999999999999999999999999999999999999995
999.7

对于十进制，根据定义，二进制浮点数是一个近似值。例如，十进制数0.1不能精确表示，它大约是1.10011001100110011001101 * (2**(-4))。

您已经习惯了这种事情，因为您知道重复小数，即有理数的近似值：1 / 3 = .333...和3227 / 555 = 5.8144144144...。

请参阅每个计算机科学家应该了解的有关浮点运算的知识。