相关疑难解决方法(0)

什么是浮点/舍入误差的简单示例?

我在使用浮点变量时听说过"错误".现在我正在尝试解决这个难题,我想我得到了一些舍入/浮点错误.所以我最终要弄清楚浮点错误的基础知识.

什么是浮点/舍入误差的简单示例(最好是在C++中)?

编辑:例如说我有一个成功概率为p的事件.我做了10次此事件(p没有变化,所有试验都是独立的).两次成功试验的概率是多少?我把它编码为:

double p_2x_success = pow(1-p, (double)8) * pow(p, (double)2) * (double)choose(8, 2);
Run Code Online (Sandbox Code Playgroud)

这是浮点错误的机会吗?

c++ floating-accuracy

32
推荐指数
7
解决办法
3万
查看次数

如何使用Double函数获得短值?

可能重复:
从C#创建Excel(.XLS和.XLSX)文件在C#中
舍入双值

我的double函数生成这样的值

  56,365989365
Run Code Online (Sandbox Code Playgroud)

我想要这样的价值56,36 如何得到这个?

c#

2
推荐指数
1
解决办法
272
查看次数

标签 统计

c# ×1

c++ ×1

floating-accuracy ×1