相关疑难解决方法(0)

T-SQL十进制分区准确度

有谁知道为什么,使用SQLServer 2005

SELECT CONVERT(DECIMAL(30,15),146804871.212533)/CONVERT(DECIMAL (38,9),12499999.9999)
Run Code Online (Sandbox Code Playgroud)

给了我11.74438969709659,

但是当我将分母上的小数位数增加到15时,我会得到一个不太准确的答案:

SELECT CONVERT(DECIMAL(30,15),146804871.212533)/CONVERT(DECIMAL (38,15),12499999.9999)
Run Code Online (Sandbox Code Playgroud)

给我11.74438969

t-sql precision

24
推荐指数
4
解决办法
4万
查看次数

标签 统计

precision ×1

t-sql ×1