use*_*938 5 c++ linux windows floating-point gcc
我已编码以下算法将十进制值转换为二进制/十六进制等.
string toFormatFromDecimal(long long t, Format format) {
int digitCount = ceil(log(t) / log((int) format));
string hex = "";
for (int i = 0; i < digitCount; i++) {
long double cur = (long double)t / (long double)(format);
long long ganzzahl = (long long) cur;
long double kommazahl = cur - ganzzahl;
hex += digits[(long long) (kommazahl * format)];
t = ganzzahl;
}
return string(hex.rbegin(), hex.rend());
}
Run Code Online (Sandbox Code Playgroud)
我在Linux上使用GCC,在Windows上使用Visual Studio c ++编译器似乎我在"整数"部门得到了不同的值:
long long ganzzahl = (long long) cur;
Run Code Online (Sandbox Code Playgroud)
任何想法如何发生这种情况?在Linux和Windows上有不同的预测吗?
谢谢弗洛里安
- 解 -
string toFormatFromDecimal(long long t, Format format) {
int digitCount = ceil(log(t) / log((int) format));
string hex = "";
for (int i = 0; i < digitCount; i++) {
hex += digits[(int) (t%format)];
t = t/format;
}
return string(hex.rbegin(), hex.rend());
}
Run Code Online (Sandbox Code Playgroud)
Pas*_*uoq 16
是的,GCC和Visual Studio C++有不同的long double
类型.在GCC上为x86生成代码,long double
是80位双扩展IEEE 754格式(*),而Visual Studio C++则long double
类似于64位双精度IEEE 754格式(*).
所以(long double)t
在两个平台上都不一定是相同的数字,并且划分也不一样.虽然您已将问题标记为"整数除法",但它是不同浮点类型之间的浮点除法.
(*)几乎:它的行为非常类似于具有15个指数位和63个有效位的79位IEEE 754类型,但它具有稍宽的指数范围,因为它使用显式位作为有效数中的前导1.
(**)几乎:因为编译器生成的指令在将x87配置为53位有效数字后使用历史x87指令,非规范结果可能是双舍入的(引用).
归档时间: |
|
查看次数: |
2055 次 |
最近记录: |