小编Sim*_*mon的帖子

科学记数法会影响Perl的精确度吗?

我在Perl中遇到了一个奇怪的行为.以下减法应该得到零作为结果(它在Python中):

print 7.6178E-01 - 0.76178
-1.11022302462516e-16
Run Code Online (Sandbox Code Playgroud)

它为什么会发生以及如何避免它?

PS Effect出现在"为x86_64-linux-gnu-thread-multi构建的v5.10.0"(Ubuntu 9.04)和"为darwin-2level构建的v5.8.9"(Mac OS 10.6)

precision perl numbers

2
推荐指数
1
解决办法
720
查看次数

标签 统计

numbers ×1

perl ×1

precision ×1