小编Die*_* Hu的帖子

在Lua中使用modulo时不准确

我刚刚在Lua使用了modulo(%),我注意到它出于某种原因非常不准确.我在"魔兽世界"中使用它,但我认为它至少在某种程度上是最新的.

无论如何,使用以下示例,输出将为1;

print((0.6/(0.1^(2-1)))%1)
Run Code Online (Sandbox Code Playgroud)

但是当我使用以下内容时,它将返回0;

print((0.6*(10^(2-1)))%1)
Run Code Online (Sandbox Code Playgroud)

就我受过教育而言,0.6/0.1应相当于0.6*10.

这不是一个问题或问题,但我只是对原因感到好奇.在我看来,数学中的不准确性会非常具有破坏性.

floating-point lua floating-accuracy modulo

5
推荐指数
1
解决办法
647
查看次数

标签 统计

floating-accuracy ×1

floating-point ×1

lua ×1

modulo ×1