相关疑难解决方法(0)

将double转换为float而不使用Infinity

我用旧的把双倍换成漂浮物float myFloat = (float)myDouble.

然而,这有时会导致"无限",这对我正在进行的进一步处理不利.只要它指向一般方向作为原始数字(我要转换的所有数字的相对数量'强度'必须保持),我对损失没问题.

如何将float转换为double并避免Infinity?

背景:
我正在从wav/mic读取一个字节流,将其转换为float,转换为double,通过FFT计算运行它(这是需要的double),现在我想要它回来float(将数据存储在32位图像容器中) ).

c# floating-point double types

28
推荐指数
2
解决办法
9万
查看次数

运行时错误6 - 如何使Mod处理双精度?

我在vba中总是遇到运行时错误:

 Sub rsa()

Dim c1 As Long
Dim c2 As Long
Dim z As Long
Dim e As Long

pt = "xa"
n = 187
e = 7

For i = 1 To Len(pt)

    b = Mid$(pt, i, 1)

        If b <> " " Then

             z = Asc(UCase(b))
             'Here is the problem:
             c = z ^ e Mod n
             Text = Text & c

        Else

        Text = Text & " "

        End If

Next i
Cells(20, 4).Value = Text
End …
Run Code Online (Sandbox Code Playgroud)

excel vba excel-vba

6
推荐指数
1
解决办法
3232
查看次数

标签 统计

c# ×1

double ×1

excel ×1

excel-vba ×1

floating-point ×1

types ×1

vba ×1