小编Irv*_*rvo的帖子

Hadoop放性能 - 大文件(20gb)

我正在使用hdfs -put将大型20GB文件加载到hdfs中.目前该流程运行@ 4分钟.我正在尝试改善将数据加载到hdfs的写入时间.我尝试使用不同的块大小来提高写入速度,但得到了以下结果:

512M blocksize = 4mins;
256M blocksize = 4mins;
128M blocksize = 4mins;
64M blocksize = 4mins;
Run Code Online (Sandbox Code Playgroud)

有谁知道瓶颈可能是什么以及我可以探索的其他选项来提高-put cmd的性能?

hadoop large-files hdfs

11
推荐指数
2
解决办法
1万
查看次数

标签 统计

hadoop ×1

hdfs ×1

large-files ×1