小编Thi*_*ink的帖子

读取大型CSV文件并在C#中处理.有什么建议?

我有一个25G左右的大型CSV文件.我需要解析每行约10列并进行一些处理,最后将其保存到带有解析数据的新文件中.

我使用字典作为我的数据结构.为了避免内存溢出,我在500,000条记录之后写入文件并清除字典.

任何人都可以建议这是否是一种好的做法.如果没有,还有其他更好的方法吗?现在需要30分钟来处理25G文件.

这是代码

        private static void ReadData(string filename, FEnum fileType)
    {

       var resultData = new ResultsData
                        {
                            DataColumns = new List<string>(),
                            DataRows = new List<Dictionary<string, Results>>()
                        };

                    resultData.DataColumns.Add("count");
                    resultData.DataColumns.Add("userid");

                    Console.WriteLine("Start Processing : " + DateTime.Now);
                    const long processLimit = 100000;
                        //ProcessLimit : 500000, TimeElapsed : 30 Mins;
                        //ProcessLimit : 100000, TimeElaspsed - Overflow

                    Stopwatch stopwatch = new Stopwatch();

                    stopwatch.Start();
                    Dictionary<string, Results> parsedData = new Dictionary<string, Results>();

                    FileStream fileStream = new FileStream(filename, FileMode.Open, FileAccess.Read);
                    using (StreamReader streamReader = …
Run Code Online (Sandbox Code Playgroud)

c# csv large-files data-structures

5
推荐指数
1
解决办法
5341
查看次数

数据表工具提示在第二页中不起作用.仅适用于首页

我有一些奇怪的问题,工具提示仅在页面1上工作.如果我点击下一页,我看不到任何工具提示.

我正在使用jquery dataTable.我的示例代码在jsfiddle:http: //jsfiddle.net/agorur/3r54F/

有任何想法吗 ?

var data = {
    "sEcho": 1,
        "iTotalRecords": 6416,
        "iTotalDisplayRecords": 5,
        "aaData": [{
        "0": 421367,
            "1": "Test1",
            "2": "NEW",
            "3": "Default",
            "4": "18 Aug 2011 20:27:12 GMT",
            "5": "TestBench",
            "6": "NA"
    }, {
        "0": 421368,
            "1": "Test2",
            "2": "NEW",
            "3": "Default",
            "4": "18 Aug 2011 20:27:12 GMT",
            "5": "TestBench",
            "6": "NA"
    }, {
        "0": 421369,
            "1": "Test3",
            "2": "NEW",
            "3": "Default",
            "4": "18 Aug 2011 20:27:12 GMT",
            "5": "TestBench",
            "6": "NA"
    }, { …
Run Code Online (Sandbox Code Playgroud)

jquery tooltip datatables

4
推荐指数
2
解决办法
6905
查看次数

标签 统计

c# ×1

csv ×1

data-structures ×1

datatables ×1

jquery ×1

large-files ×1

tooltip ×1