标签: numerical

在16位,32位和64位IEEE-754系统中可以表示哪些数字?

我知道浮点数是如何表示的,但是还不够,我害怕.

一般问题是:

对于给定的精度(对于我的目的,基数10中的精确小数位数),可以为16位,32位和64位IEEE-754系统表示什么范围的数字?

具体来说,我只对16位和32位数字的范围感兴趣,精确到+/- 0.5(那些位置)或+/- 0.0005(千分位数).

floating-point precision numerical ieee-754

71
推荐指数
4
解决办法
7万
查看次数

如何在python中键入浮点无限文字

如何在python中键入浮点无限文字?

我听说

 inf = float('inf')
Run Code Online (Sandbox Code Playgroud)

是不便携的.因此,我有以下建议:

 inf = 1e400
Run Code Online (Sandbox Code Playgroud)

是这些标准,还是便携式的?什么是最佳做法?

python floating-point portability numerical

71
推荐指数
3
解决办法
5万
查看次数

如何确定一组值的标准偏差(stddev)?

我需要知道一组数字与一组数字相比是否超出了平均值的1 stddev等.

c# math statistics numerical

45
推荐指数
4
解决办法
4万
查看次数

如何将数据框的某些列转换为因子?

可能重复:
使用R识别或编码唯一因子

我和R有点麻烦

我有一个类似于以下的数据集,但更长.

A B Pulse
1 2 23
2 2 24
2 2 12
2 3 25
1 1 65
1 3 45
Run Code Online (Sandbox Code Playgroud)

基本上,前两列是编码的.A有1,2表示2个不同的权重. B有1,2,3代表3个不同的时间.

由于它们是编码数值,因此R将它们视为数值变量.我需要使用因子函数将这些变量转换为因子.

救命?

numerical r factors

39
推荐指数
2
解决办法
18万
查看次数

SQL ORDER字符数字

我有一列数字存储为字符.当我为此列执行ORDER BY时,我得到以下内容:

100
131
200
21
30
31000

我如何以数字方式订购这些字符?我需要转换某些内容还是已经有SQL命令或函数?

谢谢.

sql numerical type-conversion sql-order-by char

38
推荐指数
3
解决办法
7万
查看次数

开源替代MATLAB的fmincon函数?

是否有一个开源替代MATLAB的fmincon约束线性优化功能?我正在重写一个MATLAB程序来使用Python/NumPy/SciPy,这是我找不到的唯一函数.基于NumPy的解决方案将是理想的,但任何语言都可以.

python matlab numerical numpy scientific-computing

31
推荐指数
4
解决办法
3万
查看次数

JavaScript是否具有双浮点数精度?

我知道这是一个奇怪的问题,但JavaScript是否有能力使用double而不是单个浮点数?(64位浮点数与32位.)

javascript floating-point numerical double-precision

30
推荐指数
2
解决办法
3万
查看次数

如何编写快速(低级)代码?

我想更多地了解低级代码优化,以及如何利用底层机器架构.我正在寻找关于在哪里阅读有关此主题的好指示.

更多细节:

我感兴趣的是在C/C++等低级语言中进行科学计算(大量数字处理,但不仅仅是)的优化.我特别感兴趣的是那些不明显的优化方法,除非人们对机器的工作原理有很好的了解(我还没有).

例如,很明显,更好的算法更快,而不知道它运行的机器的任何信息.如果首先在矩阵的行或行中循环,那么这一点并不明显.(最好循环遍历矩阵,以便连续读取存储在相邻位置的元素.)

关于该主题的基本建议或文章指针是最受欢迎的.

答案

得到了许多伟大指针的答案,比我有时间阅读的要多得多.这是所有这些的列表:

我需要一点时间来决定使用哪一个(没有时间).

c c++ optimization performance numerical

29
推荐指数
5
解决办法
8876
查看次数

比pow()更快的速度来计算C++中的整数幂10?

我知道2的幂可以使用<<运算符来实现.10的力量怎么样?喜欢10 ^ 5?在C++中有没有比pow(10,5)更快的方法?这是一个非常直接的计算手工.但由于数字的二进制表示,计算机似乎并不容易......让我们假设我只对整数幂,10 ^ n感兴趣,其中n是整数.

c++ numerical

29
推荐指数
4
解决办法
3万
查看次数

一个人的补充是一个现实世界的问题,还是一个历史问题?

另一个问题是关于确定C中的奇数/偶数,并且惯用(x&1)方法被正确地标记为基于补体的系统被破坏,C标准允许.

系统真的存在于计算机博物馆之外的"现实世界"吗?自1970年代以来,我一直在编码,我很确定我从来没有见过这样的野兽.

有人在为这样的系统开发或测试代码吗?如果没有,我们是否应该担心这些事情,还是应该将它们与纸带和打卡一起放入101室

c history numerical

28
推荐指数
8
解决办法
5528
查看次数