相关疑难解决方法(0)

在OpenGL着色器中检测NaN的最佳方法

今天早上我遇到了一个似乎是一个神秘的小虫,我觉得非常幸运,很快就偶然发现了一个解决方案.

我正在用计数器除以产生片段着色器的平均值,当然当计数器为零时,得到的颜色值变为NaN.

在混合期间,NVidia优雅地将NaN视为0值,但英特尔不会并且似乎级联NaN,从而导致黑色碎片.

所以这个bug一直存在,直到我在Intel机器上测试代码.

我想知道我能做些什么来"捕获"无效的值.看起来,就像在常规编程中一样,唯一可靠的(即使那时它也感觉不到防范)处理这种情况的方法是在划分数字时仔细考虑所有可能的情况.

检测NaN的标准方法是查看数字是否与自身不相等.我是否可以构建一个调试着色器来检查每个片段以查看它是否与自身不相等,如果满足该条件,设置一个闪烁的,显眼的颜色?GLSL是否允许我以这种方式检测NaN,或者只要值无效,我是否会遇到未定义的行为?

opengl glsl nan

17
推荐指数
2
解决办法
9848
查看次数

标签 统计

glsl ×1

nan ×1

opengl ×1