在Ruby on Rails 3中使用小数

Question

我正在尝试计算产品的平均净价.我的产品型号中有:total_sold和:total_net_revenue.在方法中进行直接划分似乎总是导致0.我使用BigDecimal,因为我认为这是问题...但是使用我最新的代码迭代,当答案出现时,我仍然会得到零小数.

def avg_price
  BigDecimal(total_sold.to_s) / (BigDecimal(total_net_revenue.to_s) / 100)
end  

净收入是美分,这就是我除以100的原因.有人可以指出我做错了什么或应该做什么？

Answer 1

total_net_revenue / total_sold

要么

total_net_revenue / total_sold / 100.0

要么

total_net_revenue.to_f / total_sold / 100

如果您需要,这三种方法可以提高精度.请记住,"平均价格"是"平均价格/销售.这是每件物品的金额,因此您将希望按特定顺序进行分割.

Answer 2

第一:你分道错了.

100件/ $ 150 = .667件每美元

与

$ 150/100项目=每件1.50美元

第二:与其他语言一样,您需要强制等式中的一个数字为小数,以便将结果转换为一个.由于您的收入是一个整数,这意味着所有三个值都是整数,这意味着您得到一个整数.要获取小数,请将其中一个作为浮点数.

换句话说,要获得所需,请执行以下操作:

price_per_item = (total_net_revenue.to_f / 100) / total_sold

Answer 3

你正在做的是整数除法,它会丢弃任何余数,因为它在整数中是不可表达的,例如:

1 / 3 # == 0

正如其他受访者所提到的,您可以强制进行浮点划分.你需要通过调用.to_f强制第一个参数成为float(这里是1).第二个参数将自动强制转换为浮点数,即:

1.to_f / 3 # ~ 0.3333...

请注意,一旦移动到浮点数,一般来说,结果不再准确.这就是我放〜0.333的原因.

准确的细节更多涉及.在二进制浮点运算中,在今天的微处理器中很常见,我相信2的幂仍然是精确的.但是,例如,整数3不再精确表示,而是仅在浮点表示的精度内(通常为1E-16或"双"精度的左右).

简而言之,这是一条经验法则:如果你正在处理货币价值,精确度很重要(曾经注意到电话账单上有1美分的差异？)不存储计算结果,也不存储数值在浮点.而是使用整数或十进制数据类型(在内部存储字符串).如果可能,计算浮点结果仅用于显示和按需.避免在浮点数时将大值和小值相加,并避免浮点数中的链式计算.重写你的代数以避免分裂直到结束.Ruby还支持Rational数据类型,它精确地表示分数,可能很有用.

这些问题属于"浮点错误传播"的科学,您可以根据需要查找更多信息.