Ruby 1.8.7中的Exponentiation返回错误的答案

Question

我尝试在irb中计算3**557时遇到了这个问题.Ruby和MacRuby都安装在我的Mac(OS X 10.8)中.红宝石的版本是1.8.7,MacRuby 0.12(ruby 1.9.2).rib和macirb在计算3**557时给了我两个不同的答案.(macirb是对的.)

$ irb
>> 3**557
=> 54755702179342762063551440788945541007926808765326951193810107165429610423703291760740244724326099993131913104272587572918520442872536889724676586931200965615875242243330408150984753872526006744122187638040962508934109837755428764447134683114539218909666971979603

$ macirb
irb(main):001:0> 3**557
=> 57087217942658063217290581978966727348872586279944803346410228520919738045995056049600505293676159316424182057188730248707922985741467061108015301244570536546607487919981026877250949414156613856336341922395385463291076789878575326012378057561766997352898452974964563

然后我尝试了更大的东西,例如3**5337,这次我得到了相同的答案.

那么,这是Ruby 1.8.7中的一个错误,还是我应该使用另一种方法来计算取幂？

Answer 1

计算时，当数字超出 Fixnum 的范围时，Ruby 应该从 Fixnum 转换为 Bignum。对于旧版本的 Ruby，使用 ** 运算符会失败：

$ ruby --version
ruby 1.8.7 (2012-02-08 patchlevel 358) [universal-darwin12.0]
$ irb
>> 2 ** 62
=> 4611686018427387904
>> 2 ** 63
=> -9223372036854775808
>> 2 ** 64
=> 0

失败的地方取决于架构的字大小。本例中 iMac 上的 64 位字。在内部，Fixnum 被强制转换为长整型，并且运算符使用长整型进行处理。长整型在字大小上溢出，而 Ruby 通过返回 0 来处理这个问题。

请注意，* 运算符可以正常工作（转换为 Bignum），而 ** 则失败：

>> a = 2 ** 62
=> 4611686018427387904
>> 2 ** 63
=> -9223372036854775808
>> a * 2
=> 9223372036854775808
>> 2 ** 64
=> 0
>> a * 4
=> 18446744073709551616

迁移到较新版本的 Ruby 将解决此问题。如果您无法迁移到较新的版本，请避免使用具有大幂的 Fixnum 和 **。