相关疑难解决方法(0)

英特尔x64 FPU中的NaN算法有多慢?

提示和指控比比皆是,使用NaN的算法在硬件FPU中可能"慢".特别是在现代的x64 FPU中,例如在Nehalem i7上,这仍然是真的吗?无论操作数的值如何,FPU乘法都会以相同的速度进行转换?

我有一些插值代码可以离开我们定义的数据的边缘,我正在尝试确定在那里和任何地方检查NaN(或其他一些哨兵值)是否更快,或者只是在方便的点.

是的,我将对我的特定情况进行基准测试(它可能完全由其他东西支配,比如内存带宽),但我很惊讶没有看到一个简洁的摘要来帮助我的直觉.

我将从CLR中做到这一点,如果它对生成的NaN的味道有所不同.

clr 64-bit nan fpu

5
推荐指数
1
解决办法
621
查看次数

标签 统计

64-bit ×1

clr ×1

fpu ×1

nan ×1