标签: numerical

mysql 中 REAL() 数据类型的目的/要点是什么?

mysql 中 REAL() 数据类型的目的/要点是什么?您有我理解的浮点数、双精度数和十进制数,但是“真实”数据类型从何而来?有任何想法吗?

先感谢您 ;-)

real 与 float 或 double 相同吗?

php mysql sql precision numerical

1
推荐指数
2
解决办法
3826
查看次数

测试小数是否足够接近有理数

给定一个十进制x,我想测试x是否在有理数的10 ^ -12范围内,分母为9999或更小.显然,我可以通过查看x,2x,3x等来查看,并查看其中是否有任何一个足够接近整数.但是有更高效的算法吗?

algorithm numerical

1
推荐指数
1
解决办法
280
查看次数

在c#中求点的数值积分

我在 C# 中有一些点(不是定函数),我需要对它们进行数值积分(更喜欢 e 梯形)。有没有任何库或函数可以做到这一点?我看到Math.Net的OnClosedInterval,但它需要明确的功能。(注意:可以在点之间创建一个插值作为函数并将其提供给 OnClosedInterval 但我需要知道是否有任何库可以直接进行数值积分。)

c# numerical point integrate

1
推荐指数
1
解决办法
3802
查看次数

关闭输入文件时出现 Fortran 分段错误

希望有人可以帮助我解决这个问题。这将不胜感激。

背景。我正在为我们的研究小组扩展一段旧代码,该代码可以进行一些传热、热对流等类型的数值建模。我想做的是读取温度输入文件,以便我可以随着模型的进展及时调整模型的温度。虽然这些信息基本上无关紧要。在尝试关闭我打开并正在读取的文件时,我不断遇到分段错误。我附上了下面的代码以及典型的温度输入文件的样子(但由于有数千个数据点而大大简化)。在消除分段错误和/或纠正代码以使其更加高效方面的任何帮助将不胜感激。

subroutine Read_Temp_Input(Temp_in)!(dt)!(filename)!,dt,Temp_out)
implicit none

character*80                                :: filename
integer, parameter                          :: dp = selected_real_kind(15)
real(kind=dp), allocatable, dimension(:,:)  :: Temp_in, Temp_out
integer                                     :: i,j,ierror,n
real (kind=dp)                              :: in_time, in_temp, dt, inter_time, inter_temp, max_time
character*80                                :: line


!Variable definitions
!in_time is the time given from the input file
!in_temp is the temp given from the input file
!inter_time is the interpolated time using dt, max_time, and linear interpolation
!inter_temp is the interpolated temp using dt, max_time, and linear interpolation
!max_time is …
Run Code Online (Sandbox Code Playgroud)

io modeling fortran numerical

1
推荐指数
1
解决办法
311
查看次数

"e"字符是否用于表示图形数据中的无效数字?

我有一个图形程序,它导出一个数字文件,例如:-1.33227e-015-4.02456e-016.

我一直对"电子"符号感到困惑.它是否用于表示无效的数字?我可以从上面的数字中提取什么样的有效值?他们想说什么?

numerical

0
推荐指数
1
解决办法
205
查看次数

你怎么称呼这种赋值:float aFloat = 4.f;

我想知道你怎么称呼它,我想到了"隐式数据类型",但似乎这真的不是我想象的.

我也想知道Java中的所有可能性,就像我知道你可以为其他数值做这些,比如字节,整数,长整数等.我自己搜索,但我仍然不知道如何定义这个一种数值变量赋值,或者如何命名它.

我对此很好奇,但我还是真的想知道!

提前致谢.

java numerical types

0
推荐指数
1
解决办法
158
查看次数

线段相交、数值稳定测试

我需要对二维中的 2 条线段相交进行精确且数值稳定的测试。有一种可能的解决方案检测 4 个位置,请参见下面的代码。

getInters ( double x1, double y1, double x2, double y2, double x3, double y3, double x4, double y4, double & x_int, double & y_int  )
{
    3: Intersect in two end points,
    2: Intersect in one end point,
    1: Intersect (but not in end points)
    0: Do not intersect 

unsigned short code = 2;

//Initialize intersections
x_int = 0, y_int = 0;

//Compute denominator
    double denom =  x1 * ( y4 - y3 ) + …
Run Code Online (Sandbox Code Playgroud)

c++ testing numerical intersection

0
推荐指数
1
解决办法
7179
查看次数

Scala的行为/理解数值类型的隐式变换?

我试图理解Scala for-loop隐式盒子/拆箱"数字"类型的行为.为什么这两个首先失败但其余的失败?

1)失败:

scala> for (i:Long <- 0 to 10000000L) {}

      <console>:19: error: type mismatch;<br>
      found   : Long(10000000L)
      required: Int
              for (i:Long <- 0 to 10000000L) {}
                                  ^
Run Code Online (Sandbox Code Playgroud)

scala> for (i <- 0 to 10000000L) {}

      <console>:19: error: type mismatch;
      found   : Long(10000000L)
      required: Int
          for (i <- 0 to 10000000L) {}
                         ^
Run Code Online (Sandbox Code Playgroud)

scala> for (i:Long <- 0L to 10000000L) {}

scala> for (i <- 0L to 10000000L) {}

scala> for (i:Long <- 0 to 10000000L) {}

      <console>:19: error: type …
Run Code Online (Sandbox Code Playgroud)

autoboxing numerical types scala numerical-methods

0
推荐指数
1
解决办法
313
查看次数

可能的Javascript数字错误

此代码段:

Math.pow(10,20)+20000 == Math.pow(10,20) + 10000
Run Code Online (Sandbox Code Playgroud)

评估为真.这是一个JS错误吗?

javascript numerical

0
推荐指数
1
解决办法
46
查看次数

在MATLAB/Octave中创建一个递增的整数交替序列

我正在尝试找到一种方法来创建一个如下所示的数字模式

0,1,-2,3,-4,5....

请注意:它需要达到200000,但我会将它们分成2000组.

我找到了一个似乎可以在http://oeis.org/A181983上运行的公式,但是当我在MATLAB/Octave中创建公式时,数字不匹配:

f_num= @(x) x / (1 + x)^2;
numval = f_num(1)
numval =  0.25000
Run Code Online (Sandbox Code Playgroud)

还有另一种方法我应该这样做吗?

matlab numerical octave numerical-methods

0
推荐指数
1
解决办法
871
查看次数

isNaN 在 Firefox 中不起作用

我有一个文本框设置如下:

<input type="text" name="CardNumber" id="CardNumber" maxlength="7" onkeypress="if(isNaN(this.value+String.fromCharCode(event.keyCode))) return false;" onblur="ValidateCardNumber()"/>
Run Code Online (Sandbox Code Playgroud)

(注意:ValidateCardNumber() 是一个单独的函数,用于检查长度等内容,但它不是将字段限制为数值的一部分)。

这在 IE 中工作得很好。它将允许我输入数字,但忽略非数字按键。

在 Firefox 中,我无法在该文本框中输入任何内容。

有什么想法吗?

我愿意以不同的方式坚持到底。

谢谢。

javascript firefox numerical nan

-1
推荐指数
1
解决办法
1368
查看次数

perl - 按数字顺序排序,然后按字母顺序排序

好的,这是手头的任务:获取一个平面数据文件,并根据数组中某个元素的数值对内容进行排序,然后按字母顺序排序(同时保留降序数字排序顺序).

数据文件是这样的:

data1*oranges*3
data2*zebras*23
data3*apples*456
data4*pears*2
data5*orangutans*3
data6*peaches*1
Run Code Online (Sandbox Code Playgroud)

所以我们希望输出为:

data3*apples*456
data2*zebras*23
data1*oranges*3
data5*orangutans*3
data4*pears*2
data6*peaches*1
Run Code Online (Sandbox Code Playgroud)

我很茫然,无法找到解决我需要做的事情的任何事情.我很感激任何人在解决这个问题上的意见.

sorting perl numerical alphabetical

-2
推荐指数
1
解决办法
158
查看次数

javascript和数学运算中的数值变换

这是代码:

alert(typeof(+"13t"));
alert(1 + (+"13t"));
Run Code Online (Sandbox Code Playgroud)

为什么在第一行输出是"数字"而在第二行输出是"NaN"?

javascript numerical numbers transformation

-2
推荐指数
1
解决办法
54
查看次数