我有一个名为 的文件file.csv
,它是需要移动到 s3 中另一个文件夹的文件列表(或更准确地说,S3 存储桶中的文件路径路径)。
该文件列出了 53,00,000 个文件。我尝试了以下方法,但每个动作都需要很长时间。
cat file.csv | xargs -I {} aws s3 mv s3://Bucket1/{} s3://Bucket2/{}
我正在尝试通过以下方式加快该过程:
cat file.csv | xargs -P50 -I {} aws s3 mv --recursive s3://Bucket1/{} s3://Bucket2/{}
......但它似乎不起作用。
我也尝试过:
while read line; do
echo ${line} | \
xargs -n1 -P100 -I {} \
aws s3 mv s3://Bucket1/{} s3://Bucket2/{} --recursive
done < file.csv
但这似乎也不起作用。
如何通过xargs
读取输入文件来运行多个 aws cli 命令?