标签: numbers

Lua中一个数字的最大值是多少?

在文档中似乎没有明确的答案.

我有兴趣增加一个time计算程序启动后秒数的变量.如果最大值可以计入未来,例如100年,那么我不关心让变量永远增量.否则我将不得不考虑重置time为0 的好点.

time lua numbers

21
推荐指数
2
解决办法
3万
查看次数

如何在Java中舍入*向下*整数?

我想在Java中将整数舍入到最接近的1000.

例如:

  • 13,623轮到13,000轮
  • 18,999轮到18,000轮
  • 等等

java numbers

21
推荐指数
2
解决办法
4万
查看次数

检查NaN号码

是否可以检查号码是否有问题NaN

c++ numbers

21
推荐指数
2
解决办法
2万
查看次数

使大小数字人类可读

我想以人性化的方式在C#中打印我的小数字,例如:

30µfor 3E-5456.789nfor 0.000000456789.

我知道C中的BSD 的Humanize_number()函数,但只与bit int兼容,而不是浮点数和双精度数.在C#中有相同的支持吗?

此外,它在显示数字时应保持一定的精度,例如:

0.003596应显示为3.596µ,而不是3.6µ(或更糟).

这里可能的答案是:使用.NET格式化大数字但适用于负数log10会将数字截断为逗号后的1位数.在我看来,这还远未完成.

我想如何呈现东西的例子:

3000        3K
3300        3.3K
3333        3.333K
30000       30k
300000      300k
3000000     3M
3000003     3.000003M // or 3M if I specify "4 digits precision"
0.253       253m
0.0253      25.3m
0.00253     2.53m
-0.253003   -253.003m
Run Code Online (Sandbox Code Playgroud)

我无法在SO中提出我的问题以找到相关的答案,所以如果问题已经得到解答,请开火!

c# numbers humanize human-readable

21
推荐指数
1
解决办法
1756
查看次数

将单个数字转换为单个数字Python

我想把一个数字,例如43365644变成单个数字[4,3,3 ....,4,4]

并将其附加到列表中

python numbers list

21
推荐指数
4
解决办法
12万
查看次数

将css width string转换为常规数字

在尝试计算隐藏元素的宽度时,我发现jquery.width()为该元素的宽度返回0.

我发现使用jquery.css('width')会通过使用声明的样式宽度返回正确的宽度(即使该值与初始样式表不同).问题是css('width')方法返回一个字符串,通常是"100px"方式.我的问题解决了:如何从"100px"字符串中检索数字?有一个简单的方法吗?

javascript css jquery numbers width

20
推荐指数
2
解决办法
3万
查看次数

在javascript中将十六进制转换为float

这个问题让我问下面的问题.

我想将基数为10的数字转换为基数为16的数字.

var myno = 28.5;

var convno = myno.toString( 16 );
alert( convno );
Run Code Online (Sandbox Code Playgroud)

一切都很好.现在我想将它转换回十进制.
但现在我不能写

var orgno = parseInt( convno, 16 );
alert( orgno );
Run Code Online (Sandbox Code Playgroud)

因为它不返回小数部分.

并且不能使用parseFloat,因为根据MDC,parseFloat的语法是

parseFloat(str);
Run Code Online (Sandbox Code Playgroud)

如果我必须转换回int,那将不会是一个问题,因为parseInt语法是

parseInt(str [, radix]);
Run Code Online (Sandbox Code Playgroud)

那么有什么替代方案呢?

免责声明:我认为这是一个微不足道的问题,但谷歌搜索没有给我任何答案.

javascript hex numbers

20
推荐指数
3
解决办法
1万
查看次数

Python:将numpy默认为float32

是否有任何干净的方法来设置numpy以使用float32值而不是全局使用float64?

python numbers numpy

20
推荐指数
2
解决办法
8314
查看次数

为什么0乘以截断小数?

我最近发现了这段JavaScript代码:

Math.random() * 0x1000000 << 0
Run Code Online (Sandbox Code Playgroud)

我知道第一部分只是生成0到0x1000000(== 16777216)之间的随机数.

但第二部分似乎很奇怪.执行0位移位有什么意义?我不认为它会做任何事情.然而,经过进一步调查,我注意到0的偏移似乎截断了数字的小数部分.此外,无论是右移,左移,还是无符号右移,都无关紧要.

> 10.12345 << 0
10
> 10.12345 >> 0
10
> 10.12345 >>> 0
10
Run Code Online (Sandbox Code Playgroud)

我用Firefox和Chrome测试过,行为是一样的.那么,这个观察的原因是什么?它只是JavaScript的细微差别,还是也出现在其他语言中?我以为我理解了位移,但这令我感到困惑.

javascript numbers operators bit-shift bitwise-operators

20
推荐指数
3
解决办法
5713
查看次数

使用继承的重载方法

我有两节课:

public class ClassA {
    public void method(Number n) {
        System.out.println("ClassA: " + n + " " + n.getClass());
    }
}
Run Code Online (Sandbox Code Playgroud)

和:

public class ClassB extends ClassA {            
    public void method(Integer d) {
        System.out.println("ClassB: " + d + " " + d.getClass());
    }
}
Run Code Online (Sandbox Code Playgroud)

但是当我跑步时:

ClassA a = new ClassB(); 
a.method(3);
Run Code Online (Sandbox Code Playgroud)

我明白了:

ClassA: 3 class java.lang.Integer
Run Code Online (Sandbox Code Playgroud)

我的问题是,为什么没有ClassB使用方法? a是的实例ClassB,以及ClassBmethod()有一个Integer参数...

java methods inheritance integer numbers

20
推荐指数
3
解决办法
9415
查看次数