我正面临着BigDecimal的问题.
这段代码:
x = BigDecimal.new('1.0') / 7
puts x.to_s
Run Code Online (Sandbox Code Playgroud)
输出:
0.142857142857142857E0
Run Code Online (Sandbox Code Playgroud)
我想增加位数.
在JAVA中,我可以这样做:
BigDecimal n = new BigDecimal("1");
BigDecimal d = new BigDecimal("7");
n = n.divide(d,200, RoundingMode.HALF_UP);
System.out.println(n);
Run Code Online (Sandbox Code Playgroud)
输出是:
0.1428571428571428571428571428571428571428571428571428571428... (200 digits)
Run Code Online (Sandbox Code Playgroud)
我查看了BigDecimal文档,并尝试在实例化数字时设置数字,然后尝试使用BigDecimal.limit设置限制,但我无法打印超过18位数.
我错过了什么?
我在Windows 7 64位上运行ruby 1.9.3p0(2011-10-30)[i386-mingw32]
该div方法允许您指定数字:
x = BigDecimal.new('1.0').div( 7, 50 )
puts x
Run Code Online (Sandbox Code Playgroud)
结果是:
0.14285714285714285714285714285714285714285714285714E0
Run Code Online (Sandbox Code Playgroud)