在javascript计算中32.48*10 = 324.79999999999995

Question

var quantity = $(this).find('td:eq(2) input').val()*1;
var unitprice = $(this).find('td:eq(3) input').val()*1;
var totaltax = 0;
$(this).find('td:eq(4) input[name^=taxamount]').each(function(){
    totaltax = (totaltax*1)+($(this).val()*1);
});
var subtotal = (unitprice+totaltax);
alert(subtotal+' is unit subtotal, to mulitply by '+quantity);
var total = subtotal*quantity;
$(this).find('td:last').html('$'+total);

在这种情况下,基于我的DOM,结果都是整数(特别是因为我确保我将*1修饰符应用于值以确保它们是数字,而不是字符串).

在这种情况下,这些是在上述代码的前7行内返回的值(并通过警报命令验证)数量:10 unitprice:29 totaltax:3.48 subtotal = 32.48

当我乘以总变量的小计*数量时,总回报:总计:324.79999999999995

所以最后,我得到了td:last满$ 324.79999999999995而不是$ 324.80这更正确.

奇怪,我知道.我在不同的点尝试了各种警报,以确保没有错误等.

Answer 1

这被问了一万亿次.

请阅读:每个计算机科学家应该知道的关于浮点运算的内容