MySQL中的精确十进制除法

Question

如何DECIMAL在MySQL中正确划分两个值并获得精确到列类型中定义的位数的结果？

例:

select cast(1/2 as decimal(4,4)),
cast(1 as decimal(4,4))/2,
cast(1 as decimal(4,4))/cast(2 as decimal(4,4));

结果:

'0.5000', '0.49995000', '1.00000000'

为什么第二个结果是否真空？为什么第三个结果不是"0.5000"？

注意:我不能只使用第一个表单,我需要使用存储为小数的列执行计算.

Answer 1

问题是DECIMAL数据类型声明需要2个参数,第一个是总数,包括小数部分.

根据文档(http://dev.mysql.com/doc/refman/5.7/en/precision-math-decimal-characteristics.html):

DECIMAL列的声明语法是DECIMAL(M,D).MySQL 5.1中参数的值范围如下:

M是最大位数(精度).它的范围是1到65.(旧版本的MySQL允许范围为1到254).

D是小数点右边的位数(刻度).它的范围为0到30,且不得大于M.

所以,如果你使用5位数而不是4位数,一切都可以:

select cast(1/2 as decimal(5,4)),
cast(1 as decimal(5,4))/2,
cast(1 as decimal(5,4))/cast(2 as decimal(5,4)),
cast(cast(1 as decimal(5,4))/cast(2 as decimal(5,4)) as decimal(5,4));

结果

0.5000, 0.50000000, 0.50000000, 0.5000