ozd*_*ies 12 c c++ performance file-io
我已经在一个相当大的C++项目上工作了几个星期了.我最初的目标是使用这个项目来学习C++ 11并仅使用纯C++代码并避免手动分配和C构造.但是,我认为这个问题会迫使我用C来做一个小函数,我想知道为什么.
基本上我有一个保存功能,它会在我更改其中的数据之前将一个稍大的二进制文件复制到一个单独的位置.文件本身是CD图像,最大大小约为700MB.这是我使用的原始C++代码:
std::ios::sync_with_stdio(false);
std::ifstream in(infile, std::ios::binary);
std::ofstream out(outfile, std::ios::binary);
std::copy(std::istreambuf_iterator<char>(in), std::istreambuf_iterator<char>(), std::ostreambuf_iterator<char>(out));
out.close();
in.close();
Run Code Online (Sandbox Code Playgroud)
与690MB文件一起使用时,此代码只需不到4分钟即可完成.我用多个文件运行它,它总是相同的结果; 没有3分钟.但是,我还发现以下方式运行得更快一点,但仍然没有C那么快:
std::ios::sync_with_stdio(false);
std::ifstream in(infile, std::ios::binary);
std::ofstream out(outfile, std::ios::binary);
out << in.rdbuf();
out.close();
in.close();
Run Code Online (Sandbox Code Playgroud)
这个花了24秒,但它仍然比C慢约20倍.
环顾四周之后,我发现有人需要写一个80GB的文件并看到他可以使用C全速写入.我决定尝试使用这段代码:
FILE *in = fopen(infile, "rb");
FILE *out = fopen(outfile, "wb");
char buf[1024];
int read = 0;
// Read data in 1kb chunks and write to output file
while ((read = fread(buf, 1, 1024, in)) == 1024)
{
fwrite(buf, 1, 1024, out);
}
// If there is any data left over write it out
fwrite(buf, 1, read, out);
fclose(out);
fclose(in);
Run Code Online (Sandbox Code Playgroud)
结果非常令人震惊.这是我在许多不同文件上多次运行它之后的基准测试之一:
File Size: 565,371,408 bytes
C : 1.539s | 350.345 MB/s
C++: 24.754s | 21.7815 MB/s - out << in.rdbuf()
C++: 220.555s | 2.44465 MB/s - std::copy()
Run Code Online (Sandbox Code Playgroud)
造成这种巨大差异的原因是什么?我知道C++不会与普通C的性能相匹敌,但348MB/s的差异是巨大的.有什么我想念的吗?
编辑:
我在Windows 8.1 64位操作系统上使用Visual Studio 2013编译它.
编辑2:
在阅读了John Zwinck的回答之后,我决定采用平台特定的路线.由于我仍然想让我的项目跨平台,我把一个快速的例子拼凑起来.我真的不确定这些是否适用于Windows以外的其他系统,但我可以在以后测试Linux.我无法测试OSX,但我认为copyfile看起来像一个简单的函数,所以我认为它是正确的.
请记住,您需要使用相同的#ifdef逻辑来包含特定于平台的标头.
void copy(std::string infile, std::string outfile)
{
#ifdef _WIN32 || _WIN64
// Windows
CopyFileA(infile.c_str(), outfile.c_str(), false);
#elif __APPLE__
// OSX
copyfile(infile.c_str(), outfile.c_str(), NULL, COPYFILE_DATA);
#elif __linux
// Linux
struct stat stat_buf;
int in_fd, out_fd;
offset_t offset = 0;
in_fd = open(infile.c_str(), O_RDONLY);
fstat(in_fd, &stat_buf);
out_fd = open(outfile.c_str(), O_WRONLY | O_CREAT, stat_buf.st_mode);
sendfile(out_fd, in_fd, &offset, stat_buf.st_size);
close(out_fd);
close(in_fd);
#endif
}
Run Code Online (Sandbox Code Playgroud)
首先,您还应该使用同一台计算机上的CLI复制同一文件.
其次,如果您想获得最高性能,则需要使用特定于平台的API.在Windows上可能是CopyFile/CopyFileEx,在Mac OS上它是copyfile,在Linux上它是sendfile.其中一些(绝对是sendfile)提供了使用C或C++中的基本便携式东西无法实现的性能.其中一些(CopyFileEx和copyfile)提供了额外的功能,例如复制文件系统属性和可选的进度回调.
您可以看到一些基准测试,显示sendfile的速度有多快:以一种安全,有效的方式复制文件
最后,令人遗憾的是,C++ iostream并不像许多平台上的C文件I/O那么快.如果您非常关心性能,那么最好使用C函数.我在进行运行速度很重要的编程竞赛时遇到过这种情况:使用scanf和printf代替cin和cout在许多系统上都有很大的不同.
| 归档时间: |
|
| 查看次数: |
2522 次 |
| 最近记录: |