标签: numeric

SQL服务器,数值的最大值(16,8)?

当尝试将大值保存11545545645.00到具有类型的列中时,刚刚被MS SQL严重咬了numeric(16, 8).

有没有办法根据其精度和比例计算出这样一个数字列可以拥有的最大值?

sql-server numeric sqldatatypes

5
推荐指数
1
解决办法
1万
查看次数

对std :: valarray切片感到困惑(slice_array,gslice_array,mask_array和indirect_array)

我想获得一个std::valarray范围,该范围引用另一个valarray对象的值范围,而不制作值的副本。文档有关的指标规定[]操作,我需要使用std::slice std::gslice或布尔std::valarray对象作为参数来实现这一点,在这种情况下,我会得到一个slice_arraygslice_arraymask_array为回报:

   slice_array<T> operator[] (slice slc);
  gslice_array<T> operator[] (const gslice& gslc);   
    mask_array<T> operator[] (const valarray<bool>& msk);
indirect_array<T> operator[] (const valarray<size_t>& ind);
Run Code Online (Sandbox Code Playgroud)

当我查看这些返回类型的描述时,它们都是一样的!查看以下描述:slice_arraygslice_arraymask_arrayindirect_array

那么我应该在哪种情况下使用呢?我理解这一点,mask_array并且indirect_array似乎更倾向于专门从某个范围中选择值,但是slice_array/ gslice_array呢?

就我而言,我正在考虑使用slice_array它,因为这听起来很像我在做什么(我正在切片,对吧?)。但我更喜欢一些具体的东西!

c++ numeric

5
推荐指数
0
解决办法
980
查看次数

构造与函数或其他数组成比例的数组间距

我有一个函数(f:黑线),它在一个特定的小区域(衍生f':蓝线和二阶导数f'':红线)中急剧变化.我想以数字方式集成这个函数,如果我均匀地分配点(在对数空间中),我会在急剧变化的区域(图中附近)2E15中出现相当大的误差.

如何构造一个数组间距,以便在二阶导数较大的区域(即与二阶导数成比例的采样频率)中进行非常好的采样?

我碰巧使用python,但我对一般算法很感兴趣.


编辑:
1)能够仍然控制采样点的数量(至少大致)是很好的.
2)我已经考虑过构造一个像二阶导数一样的概率分布函数并从中随机抽取 - 但我认为这会提供较差的收敛性,而且一般来说,似乎更确定的方法应该是可行的.

在此输入图像描述

python algorithm numeric numerical-methods

5
推荐指数
1
解决办法
228
查看次数

找到最近的较小数字

有一个带有以下数字的向量

f<-c(1,3,6,8,10,12,19,27)
Run Code Online (Sandbox Code Playgroud)

哪个元素最接近18.因此19将是最接近的元素,但函数需要返回6(这意味着值12),因为向量中的元素总是较小,除非它等于输入.如果输入为19则输出需要为7(索引)...

r numeric vector

5
推荐指数
3
解决办法
3453
查看次数

Clojure中的机器学习

我们在Python中使用theano和numpy来进行符号和数值计算,优化我们的机器学习计算(例如:矩阵乘法和GPU使用).Clojure中用于机器学习的相关工具(或者至少是矩阵乘法等)?

numeric machine-learning clojure symbolic-math

5
推荐指数
2
解决办法
2008
查看次数

带有gettersetter的Angular 1.4.x数字字段不适用于十进制数字

我在chrome(47)中遇到问题,当使用类型编号的输入结合ng-model-options ="{getterSetter:true}"时,不允许在字段中输入十进制数字.

使用getterSetter :(不工作)

<input ng-model="amount" ng-model-options="{ getterSetter: true }" step="0.01" type="number" >
Run Code Online (Sandbox Code Playgroud)

没有getterSetter :(有效)

<input ng-model="_amount" step="0.01" type="number">
Run Code Online (Sandbox Code Playgroud)

请参阅plunker进行演示 http://plnkr.co/edit/qu8UXCUtkJaFwjgGE1NX?p=preview

javascript numeric getter-setter angularjs

5
推荐指数
1
解决办法
139
查看次数

JavaScript Math.sqrt性能

通过代码分析,我发现Math.sqrt函数特别是在程序中每个时间步运行的大型双嵌套循环中的主要瓶颈。有什么办法可以改善其性能?我应该内联某种迭代计算还是基于查找表的计算?

任何帮助将不胜感激!

我不能用平方计算代替它,因为它不是比较。

编辑:代码的相关部分大致如下

var width = 2000;
var height = 2000;

function update() {
    for (var j = 0; j < height; ++j) {
        for (var i = 0; i < width; ++i) {
            array[i][j] = Math.sqrt(/* some expression involving i and j */);
        }
    }
}

var fps = 60;
setInterval(update, 1000 / fps);
Run Code Online (Sandbox Code Playgroud)

javascript optimization profiling numeric numerical-methods

5
推荐指数
1
解决办法
826
查看次数

Golang中负整数转二进制

在 Go 中如何使用二进制补码表示法将负整数表示为二进制?
例如:

n := int64(-1)
fmt.Printf("%b", n)
fmt.Println(strconv.FormatInt(n, 2))
Run Code Online (Sandbox Code Playgroud)

两行都打印-1。结果应该是这样的ffffffffffffffff

binary numeric go twos-complement

5
推荐指数
1
解决办法
5061
查看次数

Julia - 非常高性能的矩阵计算 -&gt; 高效的内存管理

我有一个关于 Julia 中矩阵乘法的计算问题。事实上我今天开始学习 Julia。以前我经常使用Python、numpy 等。

\n

但是,我有一个 6x6 矩阵A ,我想将其与已有的初始向量x 1相乘,然后将另一个向量a 1添加到乘积中。然后我使用它的输出向量x 2作为具有相同矩阵A的相同操作的输入,但不同的向量a 2等等。

\n

那是:

\n
    \n
  1. 迭代:x 1
  2. \n
  3. 迭代:x 2 = A x 1 + a 1
  4. \n
  5. 迭代x 3 = A x 2 + a 2
  6. \n
  7. 迭代...
  8. \n
\n

涉及的对象非常小,但问题是,我想多次执行此操作:大约 ~10 11到 ~10 13次。此外,我需要非常高的数值精度,远远高于 Float64 给出的精度。

\n

我能够编写一种直接的方法,它可以满足我的要求并达到我想要的精度。在良好/成熟的Python实践中,我已经预定义了我的数组,并在进行过程中用计算值填充它们。然而,我感觉我受到低效内存管理的瓶颈,正如分配数量可能表明的那样。

\n

时不时地(比如每 1000 次迭代)我想将当前迭代的向量x i保存到另一个数组m,这是函数的输出和我的结果。

\n

我认为用第 i …

math numeric matrix julia

5
推荐指数
1
解决办法
420
查看次数

在文件的每一行前面添加前导零

我有一个如下所示的文件:

1:line1
14:line2
135:line3
15:line4
Run Code Online (Sandbox Code Playgroud)

我需要在每行前面添加前导零,使其看起来像这样:

00001:line1
00014:line2
00135:line3
00015:line4
Run Code Online (Sandbox Code Playgroud)

在 Linux 中是否有一种简单的方法可以做到这一点?

我尝试过使用

awk '{printf "%05d:%s\n", FNR, $0}' file
Run Code Online (Sandbox Code Playgroud)

但这输出:

00001:1:line1
00002:14:line2
00003:135:line3
00004:15:line4
Run Code Online (Sandbox Code Playgroud)

我应该注意我没有写这个命令,我从谷歌那里得到它并且并不真正理解它是如何工作的

string awk numeric zero-padding

5
推荐指数
1
解决办法
263
查看次数