SQL设置浮点精度

Cod*_*lus 9 sql floating-point precision truncate

对于正在转换为float的SQL int,如何设置浮点数的精度?

这是我想截断到两个或三个小数位的选择:

AVG(Cast(e.employee_level as Float))avg_level,
Run Code Online (Sandbox Code Playgroud)

谢谢!

Bor*_*ort 22

在TSQL中,您可以为float,24或53 指定两种不同的大小.这将分别将精度设置为7或15位.

如果你要做的就是截断到一定数量的小数位,你可以使用ROUND,即:

ROUND(AVG(CAST(e.employee_level as float)), 3)
Run Code Online (Sandbox Code Playgroud)

  • 应该注意,如果你使用浮点数(n)除了24或53以外的某些n,它会被四舍五入到24或53 (2认同)