相关疑难解决方法(0)

在Matlab中处理有理数而不失计算精度?

我想在计算中使用这个有理数,而不会丢失Matlab中图片的准确性:

f = 359.0 + 16241/16250.0
Run Code Online (Sandbox Code Playgroud)

我认为存储,例如f = uint64(359.0 + 16241/16250.0)失去准确性,在Matlab中被视为360.

我认为处理这个问题的最好方法是永远不要存储价值,而是存储它的因素

% f = a + b/c
a = 359
b = 16241
c = 16250
Run Code Online (Sandbox Code Playgroud)

然后通过变量a,b和c进行计算,并将结果作为图片给出.

这是保持准确性的好方法吗?

matlab computation

3
推荐指数
2
解决办法
682
查看次数

标签 统计

computation ×1

matlab ×1