如何将csv文件按大小拆分为多个文件

Question

在一个java项目中，我生成一个大的csv文件（大约500 Mb），我需要将该文件拆分为多个文件，每个文件最多10 Mb大小。我发现很多类似的帖子，但其中任何一个都回答了我的问题，因为在所有帖子中，java 代码都将原始文件拆分为 10 Mb 文件，并且（显然）截断了记录。相反，我需要每条记录都是完整的、完好无损的。任何记录都应该被截断。如果我将一条记录从原始大 csv 文件复制到一个生成的文件，并且如果我复制该记录，文件尺寸将溢出 10 Mb，我应该能够不复制该记录，关闭该文件，创建一个新文件并将该记录复制到新记录中。是否可以？有人能帮我吗？谢谢你！

我尝试了这段代码：

File f = new File("/home/luca/Desktop/test/images.csv");
BufferedInputStream bis = new BufferedInputStream(new FileInputStream(f));
FileOutputStream out;
String name = f.getName();
int partCounter = 1;
int sizeOfFiles = 10 * 1024 * 1024;// 1MB
byte[] buffer = new byte[sizeOfFiles];
int tmp = 0;
while ((tmp = bis.read(buffer)) > 0) {
 File newFile=new File("/home/luca/Desktop/test/"+name+"."+String.format("%03d", partCounter++));
 newFile.createNewFile();
 out = new FileOutputStream(newFile);
 out.write(buffer,0,tmp);
 out.close();
}

但显然不行。此代码将源文件拆分为 n 个 10Mb 文件并截断​​记录。就我而言，我的 csv 文件有 16 列，因此通过上述过程，我的最后一条记录仅填充了 5 列。其他的都被截断了。

解决方案 这是我写的代码。

FileReader fileReader = new FileReader("/home/luca/Desktop/test/images.csv");
BufferedReader bufferedReader = new BufferedReader(fileReader);
String line="";
int fileSize = 0;
BufferedWriter fos = new BufferedWriter(new FileWriter("/home/luca/Desktop/test/images_"+new Date().getTime()+".csv",true));
while((line = bufferedReader.readLine()) != null) {
    if(fileSize + line.getBytes().length > 9.5 * 1024 * 1024){
        fos.flush();
        fos.close();
        fos = new BufferedWriter(new FileWriter("/home/luca/Desktop/test/images_"+new Date().getTime()+".csv",true));
        fos.write(line+"\n");
        fileSize = line.getBytes().length;
    }else{
        fos.write(line+"\n");
        fileSize += line.getBytes().length;
    }
}          
fos.flush();
fos.close();
bufferedReader.close();

此代码读取一个 csv 文件并将其拆分为 n 个文件，每个文件最多 10 Mb 大，并且每个 csv 行都被完全复制或根本不复制。

Answer 1

原则上非常简单。

您创建一个 10MB (byte[]) 的缓冲区并从源中读取尽可能多的字节。然后从后面搜索换行符。从缓冲区开头到换行的部分 = 新文件。您保留已读取的多余部分并将其复制到缓冲区的开头（偏移量 0）。你重复一切，直到没有更多的来源。