获取三位有效数字的方法

Kal*_*a-W -1 ruby rounding

我想将值四舍五入为三位有效数字。我想得到如下答案:

39.07 -> 39.1
9.0712 -> 9.07
9.0071-> 9.01
0.01523 -> 0.0152
0.00150 -> 0.0015
39.01233 -> 39
Run Code Online (Sandbox Code Playgroud)

如果小数点前的有效数字超过三位,则应显示小数点前的所有数字:

11327 -> 11327
11327.314 -> 11327
11327.84 -> 11328
Run Code Online (Sandbox Code Playgroud)

Gag*_*ami 5

class Float
  def signif(signs)
    Float("%.#{signs}g" % self)
  end
end

> (39.07).signif(3) #=> 39.1
> (9.0712).signif(3) #=> 9.07 
> (9.0071).signif(3) #=> 9.01
> (0.01523).signif(3) #=> 0.0152 
> (0.00150).signif(3) #=> 0.0015 
> (39.01233).signif(3) #=> 39.0 
Run Code Online (Sandbox Code Playgroud)

或者

> require 'bigdecimal'
> BigDecimal.new(39.07, 3).to_f #=> 39.1
> BigDecimal.new(9.0712, 3).to_f #=> 9.07 
> BigDecimal.new(9.0071, 3).to_f #=> 9.01
> BigDecimal.new(0.01523, 3).to_f #=> 0.0152 
> BigDecimal.new(0.00150, 3).to_f #=> 0.0015 
> BigDecimal.new(39.01233, 3).to_f #=> 39.0
Run Code Online (Sandbox Code Playgroud)

更新:

如上解决方案不支持小数点前三位以上的有效数字。所以我已经采取了重要的动态,现在你可以传递任何大数字。没有必要通过显着。根据Cary Swoveland 的评论,如果该值等于 Integer 版本,则应返回 Integer 值而不是 Float。

class Float
  def dynamic_signif
    f = Float("%.#{self.to_i.to_s.size}g" % self)
    n = (f==f.to_i) ? f.to_i : f
  end
end  

> (11327.314).dynamic_signif #=> 11327
> (11327.84).dynamic_signif #=> 11328
Run Code Online (Sandbox Code Playgroud)

注意:由于此方法属于Float类,因此不适用于FixNum,您可能需要将 Fixnum 转换为 Float。