nco*_*hen 2 iphone floating-point cocoa core-data
我在我的SQLite中存储一个浮点数(通过核心数据),如下所示:
unit.conversion = [NSNumber numberWithFloat:0.001];
当我查看SQLite数据库时,该值为0.0010000000474974513
unit.conversion是我的datamodel中的可选浮点数...
这有什么问题?
谢谢
mar*_*ton 5
浮点数不是(总是)精确表示 - 它们是近似值.
请参阅每个计算机科学家应该知道的关于浮点运算的背景知识.
归档时间:
15 年,5 月 前
查看次数:
610 次
最近记录:
13 年,9 月 前