1 lua sqrt
我在数字500000上使用sqrt函数.但我得到的结果是707.10681152344这有点不准确,因为正确的数字应该是707.106781187(谷歌和任何其他计算器给出).为什么会这样？我可能会错过一些东西,因为我对LUA很新.非常感谢
Kei*_*son 5
您看到的结果与32位浮点运算一致.
Lua通常使用64位双精度浮点(对应于C类型double),但根据此链接:
double
编译Lua很容易,因此它使用另一种类型的数字,例如long或单精度浮点数.这对于没有浮点硬件支持的平台特别有用.有关详细说明,请参阅分发.
显然,这就是您正在使用的Lua实现的配置方式.
归档时间：
11 年，1 月 前
查看次数：
161 次
最近记录：