小编msk*_*her的帖子

如何在c#中使100.02f - 100 == 0.02f为真?

这似乎是四舍五入的问题.我有float []数组和这个数组的一些操作.我需要为此功能编写单元测试,但是将预期值与结果值进行比较恰好不是考虑到这种舍入问题的简单任务.有没有办法在我的阵列上测试数学运算?谢谢

.net c# floating-point rounding

0
推荐指数
2
解决办法
510
查看次数

C/Objective C指针声明

我有一个函数,需要一个类型的参数float**,但我不知道如何声明和初始化这个变量.

任何人都可以给我任何建议吗?更好的是,它是什么类型的变量?我已经查了几天了,任何搜索结果都是空的.

谢谢

编辑

这是有问题的功能

    - (OSStatus)getBuffersInner:(float**)buffers numberOfBuffers:(int)chnls samples:(int)samples
    {
        int i, j ;
        UInt32 frames ;

        // zero out requested buffers if client needs more channels than exist in the channel map
        for ( i = numberOfMappedChannels; i < chnls; i++ ) memset( buffers[i], 0, samples*sizeof( float ) ) ;

        //  place buffer pointers into bufferList, following the channelMap
        for ( i = 0; i < fileDescriptor.mChannelsPerFrame; i++ ) {
            j = inverseChannelMap[i] ;
            resampledBufferList.list.mBuffers[i].mData = ( …
Run Code Online (Sandbox Code Playgroud)

floating-point pointers objective-c

0
推荐指数
1
解决办法
246
查看次数

C#将double转换为float,如何在第七位之后删除垃圾

我在数据库中有一个名为Profit的字段.在我的应用程序中我计算利润:

myFunds.Profit = float.Parse(Math.Round(myFunds.Profit.Value * myFunds.Stake / myFunds.Stake, 3, MidpointRounding.AwayFromZero).ToString());
Run Code Online (Sandbox Code Playgroud)

myFunds.Profit的类型是int?.Math.Round返回值为double并且正在转换为float.在数据库中,利润保存为5,40000009536743.我知道float的精度低于double.是否可能在小数点后七位之后减少数字?

谢谢

c# floating-point double

0
推荐指数
1
解决办法
1636
查看次数

从Long转换为Float数

在我的类中我有一个属性,fileSize 类型很

我不想更改为float/double,因为我使用数据库,现在我不能只编辑数据类型(到了晚)

文件大小通常是以KB为单位(理由为什么)..但是一旦我想以MB显示它(即fileSize/1024) - >我得到0,因为类型不是float/double ..

我如何解决问题,以便在不更改fileSize的DataType的情况下获得0.54MB的bE

c# floating-point types long-integer

0
推荐指数
1
解决办法
4896
查看次数

如何在python中将float映射到32位整数

来自AR Drone开发人员指南:

根据IEEE-754格式,数字-0.8作为32位字存储在存储器中,其值为BF 4CCCCD(16).这个32位字可以被认为是保持32位整数值-1085485875(10).

在python中有一个"简单的方法"(内置函数/现有模块)吗?

python floating-point

0
推荐指数
1
解决办法
745
查看次数

CSS:流体包装高度取决于浮动元素

我知道这个问题可能是12324次,但我仍然找不到任何可靠的答案:/

以下是示例代码:http: //tinkerbin.com/c0wqtfSa

根据浮动图像,换行应采用自动高度,但如何?:/

非常感谢!!!

ps,我不能添加任何额外的div,如"clear:both",它应该是只有css的解决方案

在此输入图像描述

html css height clear css-float

0
推荐指数
1
解决办法
1312
查看次数

如何让UITouch返回一个浮点而不是一个int?

我正在基于UITouch分配视图的中心.我读到UITouch返回一个int值 - 这意味着它没有给我确切的触摸位置.有没有办法投射触摸值,以便我得到接触点的未接地位置?

CGPoint touchPoint = [touch locationInView:self];
 self.thumb.center = CGPointMake(touchPoint.x, touchPoint.y);
Run Code Online (Sandbox Code Playgroud)

floating-point integer casting objective-c uitouch

0
推荐指数
1
解决办法
358
查看次数

printf函数如何处理%f规范?

我有几个程序,其输出我无法理解:

计划1

#include <stdio.h>
int main(void)
{
  int i=1;
  float k=2;
  printf("k is %f \n",k);
  printf("i is %f \n",i);
  return 0;
}
Run Code Online (Sandbox Code Playgroud)

输出位于http://codepad.org/ZoYsP6dc

k is 2.000000 
i is 2.000000
Run Code Online (Sandbox Code Playgroud)

计划2

再举一个例子

#include <stdio.h>

int main(void)
{
  char i='a';
  int a=5;
  printf("i is %d \n",i);  // here %d type cast char value in int
  printf("a is %f \n",a);  // hete %f dont typecast float value
  printf("a is %f \n",(float)a);  // if we write (float) with %f then it works
  return …
Run Code Online (Sandbox Code Playgroud)

c floating-point string-formatting

0
推荐指数
2
解决办法
885
查看次数

我如何让Math.Sqrt返回Bignum而不是Float?

我正在尝试计算Ruby中一个非常大的数字的平方根.我遇到的问题是Math.sqrt函数看起来像这样

sqrt(numeric) ? float

如果我给它一个非常大的数字,它会给我FloatDomainError:Infinity.

sqrt()返回BigNum 的最佳方法是什么?是否可能有一个宝石或我是否必须编写自己的函数来计算平方根?

在这种情况下,最简单的方法是做什么?泰勒系列?数字的平方根将始终为整数.

ruby floating-point bignum sqrt

0
推荐指数
1
解决办法
2068
查看次数

如何在python中进行浮点计算?

如何在python中进行浮点计算?

  for j in range(10 , 50):      
         print "(10/(j+1)) is %f " % (10/(j+1))
Run Code Online (Sandbox Code Playgroud)

为什么输出都是0?

j必须是整数,但我需要浮动结果.

谢谢

python floating-point

0
推荐指数
1
解决办法
101
查看次数