关于大数组声明的OutOfMemoryException

Question

我必须创建一个相当大的双阵列12000ish x 55000ish.不幸的是,我得到了一个内存不足的例外.我曾经用Java开发,可以改变内存设置.这可能与C#有关还是不可能？我正在使用VS 2008.

Answer 1

每个double都是8个字节,所以你试图分配一个只有5GB以上的单个数组.即使对于64位CLR,CLR的每个对象限制大约为2GB IIRC.换句话说,问题不在于可用内存的总量(尽管如果没有足够的内存,显然会出现问题),但是每个对象的大小.

我建议你把它分成更小的数组,也许是在一些描述的外观之后.我不相信有任何方法可以解决单个阵列的限制问题.

编辑:你可以去一个阵列数组 - 也就是一个锯齿状的数组:

double[][] array = new double[12000][];
for (int i = 0; i < array.Length; i++)
{
    array[i] = new double[55000];
}

这对你来说可以接受吗？

(您不能使用矩形数组(double[,]),因为它会产生相同的每个对象大小问题.)

Answer 2

由于无法创建大于2GB的对象,因此可以尝试使用MemoryMappedFile来处理所需大小的内存块.

var data = MemoryMappedFile.CreateNew("big data", 12000L * 55000L);
var view = data.CreateViewAccessor();
var rnd = new Random();

for (var i = 0L; i < 12000L; ++i)
{
    for (var j = 0L; j < 55000L; ++j)
    {
        var input = rnd.NextDouble();
        view.Write<double>(i * 55000L + j, ref input);
    }
}

Answer 3

如果您的总内存足够，您可以通过创建一堆较小的数组并将它们包装在单个IList<T>或其他索引接口中来防止由于 LOH 碎片导致的内存不足异常。

这是一个描述它的链接：

BigArray<T>, getting around the 2GB array size limit

致谢：这篇文章（C# 分块数组）。