相关疑难解决方法(0)

浮点数学是否破碎?

请考虑以下代码:

0.1 + 0.2 == 0.3  ->  false
Run Code Online (Sandbox Code Playgroud)
0.1 + 0.2         ->  0.30000000000000004
Run Code Online (Sandbox Code Playgroud)

为什么会出现这些不准确之处?

language-agnostic math floating-point floating-accuracy

2798
推荐指数
28
解决办法
28万
查看次数

如何在Python中将字符串解析为float或int?

在Python中,我如何解析数字字符串,如"545.2222"相应的浮点值,545.2222?或者将字符串解析为"31"整数,31

我只是想知道如何将一个浮点数 解析str为a float,并且(单独)将一个int 解析str为一个int.

python floating-point parsing integer type-conversion

2108
推荐指数
21
解决办法
371万
查看次数

如何很好地将浮动数字格式化为字符串而不必要的小数0?

64位双精度可以精确地表示整数+/- 2 53

鉴于这一事实,我选择将double类型用作所有类型的单一类型,因为我的最大整数是无符号32位.

但现在我必须打印这些伪整数,但问题是它们也与实际双打混合在一起.

那么如何在Java中很好地打印这些双打?

我试过了String.format("%f", value),这很接近,除了我得到很多小值的尾随零.

这是一个示例输出 %f

232.00000000
0.18000000000
1237875192.0
4.5800000000
0.00000000
1.23450000

我想要的是:

232
0.18
1237875192
4.58
0
1.2345

当然,我可以编写一个函数来修剪这些零,但由于字符串操作,这会导致很多性能损失.我可以用其他格式代码做得更好吗?

编辑

Tom E.和Jeremy S.的答案是不可接受的,因为它们都可以任意舍入到小数点后两位.请在回答之前先了解问题.

编辑2

请注意,String.format(format, args...)区域设置相关的(见下面的答案).

java string format floating-point double

472
推荐指数
15
解决办法
57万
查看次数

为什么这些数字不相等?

以下代码显然是错误的.有什么问题?

i <- 0.1
i <- i + 0.05
i
## [1] 0.15
if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15")
## i does not equal 0.15
Run Code Online (Sandbox Code Playgroud)

floating-point r floating-accuracy r-faq

263
推荐指数
4
解决办法
4万
查看次数

C++:如何将double舍入到int?

可能重复:
C++中float的round()

我有一个双(称为x),意味着55,但实际存储为54.999999999999943157,我刚才意识到.

所以,当我这样做

double x = 54.999999999999943157;
int y = (int) x;
Run Code Online (Sandbox Code Playgroud)

y = 54而不是55!

这困惑了我很久了.如何让它正确圆?

c++ floating-point rounding

88
推荐指数
4
解决办法
34万
查看次数

检查差异是否小于机器精度的正确/标准方法是什么?

我经常遇到需要检查获得的差异是否高于机器精度的情况。似乎为此目的,R 有一个方便的变量:.Machine$double.eps. 但是,当我转向 R 源代码以获取有关使用此值的指南时,我看到了多种不同的模式。

例子

以下是stats库中的一些示例:

t.test.R

if(stderr < 10 *.Machine$double.eps * abs(mx))
Run Code Online (Sandbox Code Playgroud)

chisq.test.R

if(abs(sum(p)-1) > sqrt(.Machine$double.eps))
Run Code Online (Sandbox Code Playgroud)

积分

rel.tol < max(50*.Machine$double.eps, 0.5e-28)
Run Code Online (Sandbox Code Playgroud)

影响力

e[abs(e) < 100 * .Machine$double.eps * median(abs(e))] <- 0
Run Code Online (Sandbox Code Playgroud)

原理图

if (any(ev[neg] < - 9 * .Machine$double.eps * ev[1L]))
Run Code Online (Sandbox Code Playgroud)

等等。

问题

  1. 一个如何理解这些不同背后的理由10 *100 *50 *sqrt()修饰?
  2. 是否有关于.Machine$double.eps用于调整因精度问题而导致的差异的指南?

floating-point precision r rounding

36
推荐指数
2
解决办法
1276
查看次数

为什么 Number("x") == BigInt("x") ... 只是有时?

我认为 JavaScript 的松散相等运算符很好,让我可以将 Numbers 与 BigInts 进行比较:

42 == 42n  // true!
Run Code Online (Sandbox Code Playgroud)

所以我尝试了一个大于Number.MAX_SAFE_INTEGER. 我认为由于数字会自动四舍五入,因此我可能还必须四舍五入 BigInt 才能将它们视为相等:

9999999999999999 == 10000000000000000   // true - rounded to float64

9999999999999999  == 9999999999999999n  // false - makes sense!
10000000000000000 == 9999999999999999n  // false - makes sense!
9999999999999999  == 10000000000000000n // true  - makes sense!
Run Code Online (Sandbox Code Playgroud)

太好了,有道理——所以我尝试了另一个四舍五入的大数字:

18446744073709551616 == 18446744073709552000   // true - rounded to float64

18446744073709551616 == 18446744073709551616n  // true?!
18446744073709552000 == 18446744073709551616n  // true?!
18446744073709551616 == 18446744073709552000n  // false?!
Run Code Online (Sandbox Code Playgroud)

我在 Chrome、Safari …

javascript

28
推荐指数
1
解决办法
1543
查看次数

在转换int期间精度是否会稍微改变,以便在Java中加倍?

我读过这个 - 为什么浮点数不准确?

因此,有时精度可以在浮点数中改变,因为它的表示风格(带有指数和尾数的科学记数法).

但是如果我将一个整数值转换为double,是否有机会在Java中稍微改变double的精度?

我的意思是,

    int i = 3;
    double d = (double) i;

    System.out.println(d);
Run Code Online (Sandbox Code Playgroud)

我得到的输出3.0正如我所料.

但是,有没有机会像3.000001Java中的双重表示风格那样进行精确更改?

java precision casting

25
推荐指数
2
解决办法
1608
查看次数

使用numpy.rint()舍入到最接近的int,与.5不一致

numpy的round int似乎与它处理xxx.5的方式不一致

In [2]: np.rint(1.5)
Out[2]: 2.0

In [3]: np.rint(10.5)
Out[3]: 10.0
Run Code Online (Sandbox Code Playgroud)

1.5向上舍入而10.5向下舍入.是否有一个原因?它只是和浮动不准确的神器?

编辑

有没有办法获得所需的功能,其中n.5被四舍五入,即n = 1或n = 1的n + 1?

python numpy

20
推荐指数
5
解决办法
1万
查看次数

为什么在C中转换为int而不是所有双打

鉴于C代码:

#include <math.h>  
#include <stdio.h>  
int main(){  
 int i;  
 double f=log(2.0)/log(pow(2.0,1.0/2.0));  
 printf("double=%f\n",f);  
 printf("int=%d\n",(int) f);  
}
Run Code Online (Sandbox Code Playgroud)

我得到输出:

double=2.000000
int=1
Run Code Online (Sandbox Code Playgroud)

f显然至少是2.0.为什么施法值不是2?

c floating-point

19
推荐指数
3
解决办法
1641
查看次数