将列粘贴到循环中的现有文件

Question

我在bash循环中使用paste命令将新列添加到CSV文件中.我想重用CSV文件.目前我正在使用临时文件来完成此任务:

while [ $i -le $max ]
    do
        # create text from grib2
        wgrib2 -d 1.$(($i+1)) -no_header myGribFile.grb2 -text tmptxt.txt

        #paste to temporary file
        paste -d, existingfile.csv tmptxt.txt > tmpcsv.csv  

        #overwrite old csv with new csv
        mv tmpcsv.csv existingfile.csv

        ((i++))
    done

添加一些列后,副本变慢,因为文件变得越来越大(每个tmptxt.txt大约2 MB,增加到大约100 MB).

A tmptxt.txt是一个普通的txt文件,每行有一列和一个值:

1
2
3
.
.

那existingfile.csv就是

1,1,x
2,2,y
3,3,z
.,.,.
.,.,.

有没有办法使用paste命令将列添加到现有文件？或者还有其他方法吗？

谢谢

Answer 1

将操作拆分为2是否可行？生成所有中间文件的一步; 另一个用于生成所有最终输出文件.我们的想法是避免重复读取和重写最终文件.

对脚本的更改将是这样的:

while [ $i -le $max ]
do
    n=$(printf "%05d" $i)    # to preserve lexical order if $max > 9
    # create text from grib2
    wgrib2 -d 1.$(($i+1)) -no_header myGribFile.grb2 -text tmptxt$n.txt
    ((i++))
done

#make final file
paste -d, existingfile.csv tmptxt[0-9]*.txt > tmpcsv.csv  

#overwrite old csv with new csv
mv tmpcsv.csv existingfile.csv