xargs 使用 aws cli (amazon s3 move) cat 文件

xargs 使用 aws cli (amazon s3 move) cat 文件

我有一个名为 的文件file.csv,它是需要移动到 s3 中另一个文件夹的文件列表(或更准确地说,S3 存储桶中的文件路径路径)。

该文件列出了 53,00,000 个文件。我尝试了以下方法,但每个动作都需要很长时间。

cat file.csv | xargs -I {} aws s3 mv s3://Bucket1/{} s3://Bucket2/{}

我正在尝试通过以下方式加快该过程:

cat file.csv | xargs -P50 -I {} aws s3 mv --recursive s3://Bucket1/{} s3://Bucket2/{}

......但它似乎不起作用。

我也尝试过:

while read line; do
  echo ${line} | \
    xargs -n1 -P100 -I {} \
      aws s3 mv s3://Bucket1/{} s3://Bucket2/{} --recursive
done < file.csv

但这似乎也不起作用。

如何通过xargs读取输入文件来运行多个 aws cli 命令?

相关内容