标签: numeric

如何从DWORD构造std :: string?

我有以下代码:

Tools::Logger.Log(string(GetLastError()), Error);
Run Code Online (Sandbox Code Playgroud)

GetLastError()返回一个DWORD数值,但构造函数std::string不接受a DWORD.

我能做什么?

c++ numeric stdstring

17
推荐指数
4
解决办法
3万
查看次数

查找Oracle中不包含数字数据的行

我试图在一个非常大的Oracle表中找到一些有问题的记录.该列应包含所有数字数据,即使它是varchar2列.我需要找到不包含数字数据的记录(当我尝试在此列上调用它时,to_number(col_name)函数会引发错误).

sql oracle varchar numeric varchar2

17
推荐指数
3
解决办法
9万
查看次数

浮动到双重转换 - 单元测试中的最佳断言?

鉴于这些陈述

float f = 7.1f;
double d = f;
Run Code Online (Sandbox Code Playgroud)

我们可以在单元测试中断言d?


例如,这不起作用:

Console.WriteLine(d == 7.1d); // false
Console.WriteLine(d < 7.1d + float.Epsilon); // true by luck
Console.WriteLine(d > 7.1d - float.Epsilon); // false (less luck)
Run Code Online (Sandbox Code Playgroud)

到目前为止,我发现的最好方法是将值转换回来:

float f2 = (float)d;
Console.WriteLine(f2 == f); // true
Run Code Online (Sandbox Code Playgroud)

这与粗野的说法相同

Console.WriteLine(d == 7.1f); // 7.1f implicitly converted to double as above
Run Code Online (Sandbox Code Playgroud)

这个问题一般不是关于double和float精度的,而是关于单元测试如何最好地描述d的限制的实用问题.在我的例子中,d是由轻量代码生成生成的代码中发生的转换的结果.在测试这个代码生成时,我必须对这个函数的结果做出断言,这最终归结为上面的简单问题.

c# floating-point double numeric

17
推荐指数
1
解决办法
933
查看次数

确定DataColumn是否为数字

有没有比这更好的方法来检查DataTable中的DataColumn是否为数字(来自SQL Server数据库)?

  Database db = DatabaseFactory.CreateDatabase();
  DbCommand cmd = db.GetStoredProcCommand("Get_Some_Data");
  DataSet ds = db.ExecuteDataSet(cmd);

  foreach (DataTable tbl in ds.Tables) {
    foreach (DataColumn col in tbl.Columns) {
      if (col.DataType == typeof(System.Single)
        || col.DataType == typeof(System.Double)
        || col.DataType == typeof(System.Decimal)
        || col.DataType == typeof(System.Byte)
        || col.DataType == typeof(System.Int16)
        || col.DataType == typeof(System.Int32)
        || col.DataType == typeof(System.Int64)) {
        // this column is numeric
      } else {
        // this column is not numeric
      }
    }
  }
Run Code Online (Sandbox Code Playgroud)

c# numeric datacolumn

16
推荐指数
1
解决办法
4万
查看次数

MySql不像Regexp?

我正在尝试找到第一个字符不是数字的行.我有这个:

SELECT DISTINCT(action) FROM actions 
WHERE qkey = 140 AND action NOT REGEXP '^[:digit:]$';
Run Code Online (Sandbox Code Playgroud)

但是,我不确定如何确保它只检查第一个字符......

regex mysql numeric

16
推荐指数
2
解决办法
3万
查看次数

诊断C++程序中的浮点溢出

我有一种情况,就是一些数值结果(包括浮点运算与doublefloat)成为不正确的大尺寸输入,而不是小的.

一般来说,我想知道哪些工具可用于诊断数值溢出和有问题的精度损失等条件.

换句话说:是否存在一个抱怨溢出等的工具,就像valgrind抱怨内存错误一样?

c++ floating-point double numeric overflow

16
推荐指数
1
解决办法
3454
查看次数

R中是否有数据类型"Decimal"?

DECIMAL从MySQL-Table中读取以格式存储的数据.我想对R内的那些数字进行计算.

我过去常常使用它们进行数字再现as.numeric(),但文档说:

numeric与double(和real)相同.

但是R中还有一个数据类型Decimal吗?(没有舍入错误的数据类型,...)

这里有一个舍入错误问题的简单示例:

numbersStrings = c("0.1", "0.9")
numbersNumeric = as.numeric(numbersStrings)
numbersMirror  = c(numbersNumeric, 1-numbersNumeric)

str(numbersMirror)

numbersMirror
unique(numbersMirror)  # has two times 0.1 ...

sprintf("%.25f", numbersMirror)
sprintf("%.25f", unique(numbersMirror))  # ... because there was a rounding error
Run Code Online (Sandbox Code Playgroud)

r rounding-error numeric decimal

16
推荐指数
2
解决办法
4161
查看次数

在 R 中使用整数值代替数值(例如 1L 与 1)作为常量的好处

在 R 源代码中,大多数(但不是全部)函数使用整数值作为常量:

colnames <- function(x, do.NULL = TRUE, prefix = "col")
{
    if(is.data.frame(x) && do.NULL)
    return(names(x))
    dn <- dimnames(x)
    if(!is.null(dn[[2L]]))
    dn[[2L]]
    else {
        nc <- NCOL(x)
    if(do.NULL) NULL
        else if(nc > 0L) paste0(prefix, seq_len(nc))
        else character()
    }
}
Run Code Online (Sandbox Code Playgroud)

R语言定义说:

在大多数情况下,整数和数值之间的差异并不重要,因为 R 在使用数字时会做正确的事情。然而,有时我们想显式地为常量创建一个整数值。

  • 在哪些情况下需要强制常量使用整数值而不是简单地使用数值?例如,例如 1 会失败,但例如 1L 不会失败的示例是受欢迎的。
  • 相反,在哪些情况下不需要使用整数值(例如交互式使用与编程、使用常量索引等)?

问题是关于良好实践和基本原理,而不是关于“L”符号本身整数类和数字类之间的差异比较数字

integer interactive r function numeric

16
推荐指数
1
解决办法
796
查看次数

如何删除R中向量中的NA值

我有一个存储超过1000个值的向量.前50个值是NA,我怎么能摆脱它?

c(NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, 
NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, 
NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, 
NA, NA, NA, 1.5741, 1.583, 1.605, 1.633, 1.6465, 1.6475, 1.6329, 
1.6413, 1.685, 1.692, 1.7087, 1.7055, 1.6985, 1.6807, 1.6745, 
1.673, 1.6625, 1.6805, 1.689, 1.667, 1.684, 1.6675, 1.6867, 1.6688, 
1.6643, 1.6685, 1.7025, 1.737, 1.7663, …
Run Code Online (Sandbox Code Playgroud)

r numeric vector na

15
推荐指数
2
解决办法
4万
查看次数

std :: partial_sum和std :: inclusive_scan之间有什么区别?

在阅读有关std :: inclusive_scan的内容时,似乎没有任何示例.
它让我觉得非常类似于std :: partial_sum.

partial_sum:

template< class InputIt, class OutputIt >
OutputIt partial_sum( InputIt first,
                      InputIt last, OutputIt d_first );
Run Code Online (Sandbox Code Playgroud)

inclusive_scan:

template< class InputIt, class OutputIt >
OutputIt inclusive_scan( InputIt first,
                         InputIt last, OutputIt d_first );
Run Code Online (Sandbox Code Playgroud)

有人可以详细说明他们的分歧吗?我何时会选择一个而不是另一个?

c++ numeric stl-algorithm c++17

15
推荐指数
2
解决办法
1323
查看次数