标签: floating-point

请考虑以下代码:

0.1 + 0.2 == 0.3  ->  false

0.1 + 0.2         ->  0.30000000000000004

为什么会出现这些不准确之处？

在Python中,我如何解析数字字符串,如"545.2222"相应的浮点值,545.2222？或者将字符串解析为"31"整数,31？

我只是想知道如何将一个浮点数 解析str为a float,并且(单独)将一个int 解析str为一个int.

我正在对科学应用进行一些数值优化.我注意到的一件事是GCC会pow(a,2)通过编译来优化调用a*a,但调用pow(a,6)没有优化,实际上会调用库函数pow,这会大大降低性能.(相比之下,英特尔C++编译器,可执行文件icc,将消除库调用pow(a,6).)

我很好奇的是,当我更换pow(a,6)与a*a*a*a*a*a使用GCC 4.5.1和选项" -O3 -lm -funroll-loops -msse4",它采用5分mulsd的说明:

movapd  %xmm14, %xmm13
mulsd   %xmm14, %xmm13
mulsd   %xmm14, %xmm13
mulsd   %xmm14, %xmm13
mulsd   %xmm14, %xmm13
mulsd   %xmm14, %xmm13

如果我写(a*a*a)*(a*a*a),它会产生

movapd  %xmm14, %xmm13
mulsd   %xmm14, %xmm13
mulsd   %xmm14, %xmm13
mulsd   %xmm13, %xmm13

这将乘法指令的数量减少到3. icc具有类似的行为.

为什么编译器不能识别这种优化技巧？

是什么区别decimal,float并double在.NET？

什么时候会有人使用其中一种？

我希望a四舍五入到13.95.

>>> a
13.949999999999999
>>> round(a, 2)
13.949999999999999

该round功能不像我预期的那样工作.

检查字符串是否可以在Python中表示为数字的最佳方法是什么？

我目前拥有的功能是:

def is_number(s):
    try:
        float(s)
        return True
    except ValueError:
        return False

这不仅是丑陋而且缓慢,似乎很笨重.但是我没有找到更好的方法,因为调用floatmain函数更糟糕.

为什么这段代码,

const float x[16] = {  1.1,   1.2,   1.3,     1.4,   1.5,   1.6,   1.7,   1.8,
                       1.9,   2.0,   2.1,     2.2,   2.3,   2.4,   2.5,   2.6};
const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812,
                     1.923, 2.034, 2.145,   2.256, 2.367, 2.478, 2.589, 2.690};
float y[16];
for (int i = 0; i < 16; i++)
{
    y[i] = x[i];
}

for (int j = 0; j < 9000000; j++)
{
    for (int i = 0; i < 16; i++)
    {
        y[i] *= …

我总是被告知永远不要代表钱double或float类型,这次我向你提出问题:为什么？

我确信有一个很好的理由,我根本不知道它是什么.

根据html5.org,"数字"输入类型的"值属性,如果指定且不为空,则必须具有有效浮点数的值."

然而它简直(在最新版本的Chrome中,无论如何),一个带有整数的"updown"控件,而不是浮点数:

<input type="number" id="totalAmt"></input>

是否存在HTML5原生的浮点输入元素,或者使数字输入类型与浮点数一起使用的方法,而不是整数？或者我必须使用jQuery UI插件？

我想格式化我的数字,以便始终显示2位小数,在适用的地方进行舍入.

例子:

number     display
------     -------
1          1.00
1.341      1.34
1.345      1.35

我一直在用这个:

parseFloat(num).toFixed(2);

但它显示1为1,而不是1.00.