gnu-parallel

Gnu Parallel 在与 (--keep-order) 选项一起使用时会忽略 (--sshlogin) 属性顺序
gnu-parallel

Gnu Parallel 在与 (--keep-order) 选项一起使用时会忽略 (--sshlogin) 属性顺序

这是我的示例,我请求作业先在 LNXVP1262 上运行,然后再在 LNXVP1251 上启动。 date ; echo 'hostname;date;sleep 10;date' | parallel --no-run-if-empty --will-cite --onall --keep-order --joblog ${runDir}/jobLog.txt --results ${runDir}/resultsDir --jobs 1 --sshlogin LNXVP1262,LNXVP1251 结果: Wed Sep 6 17:35:01 E...

Admin

拆分文件并将拆分部分作为标准输入传递
gnu-parallel

拆分文件并将拆分部分作为标准输入传递

教程讲解: The input source can be a file: parallel -a abc-file echo 但这实际上是如何工作的?我想获取输入文件:seq 1000并通过管道对其进行处理,但我找不到任何方法。 尝试 1: parallel --verbose -a <(seq 50) -l 10 -j 5 echo --> 这只需要 50 行,将其分成 10 行,并使用 10 个参数调用 echo。我们不想要这个。 尝试2: parallel -a <(seq 50) -l 10 -j 5 --pipe cat ...

Admin

拆分文件并将拆分部分作为文件传递,而不是通过管道传递到标准输入
gnu-parallel

拆分文件并将拆分部分作为文件传递,而不是通过管道传递到标准输入

如何获取文件(seq 1000000),将其拆分为多个较小的文件,然后将其作为文件而不是管道传递到进程中?即 parallel -a <(seq 1000000) -j 6 -l 10000 <what here?> /root/someProcess 将someProcess处理该部分如下: /root/someProcess <(seq 500) 即它将文件作为参数并对其进行处理。 ...

Admin

通过 FFMPEG 查找和重新采样音频的脚本在带双引号的文件上失败
gnu-parallel

通过 FFMPEG 查找和重新采样音频的脚本在带双引号的文件上失败

为什么当文件名包含双引号时这个脚本会爆炸? for i in **/*.flac; do echo "$i"; done | parallel -j+0 --eta --joblog /tmp/parallel.log --progress --bar --colsep ' ' 'ffmpeg -i "{}" -ar 44100 -sample_fmt s16 -map 0:a -y -loglevel error -stats -hide_banner -nostats -nostdin "{.}.resampled.flac" &&a...

Admin

通过中间服务器进行 GNU 并行和 RSync
gnu-parallel

通过中间服务器进行 GNU 并行和 RSync

我正在尝试使用 gnu parallel 生成多个 rsync 实例,以便通过中间服务器进行下载。这是我使用的命令 - cat ~/filelist | parallel --will-cite -j 5 --verbose --progress --line-buffer --keep-order rsync -avrhP -e "ssh -J intermediateUserID@intermediateIP" sourceUserID@sourceIP:{} ~/scratch/quicktest/ 但我收到以下错误 - rsync 错误:语法或使...

Admin

将管道变量传递给 GNU parallel 中调用的子命令
gnu-parallel

将管道变量传递给 GNU parallel 中调用的子命令

在中bash,我尝试查找文件列表并将它们通过管道传输到parallel。 find *.fasta | parallel "Gblocks {} -b2=$(( "$(cat {} | grep \> | wc -l)" / 2 + 1 ))" 其中Gblocks是单线程可执行文件,并且标志-b2设置一个基于>引用文件中的字符数的变量。 我的问题是它cat {}不起作用。我很确定我知道它为什么不起作用:该{}函数是 的一部分parallel,我正尝试在命令中引用它之内并行命令。我只是不知道如何真正让它发挥作用。 如果第一个文件find是myfi...

Admin

GNU Parallel 在两个 cygwin 安装中对 SIGTERM 的行为不同
gnu-parallel

GNU Parallel 在两个 cygwin 安装中对 SIGTERM 的行为不同

考虑这个小的 bash 函数: saySomethingToSomebody() { sleep 1 echo "$1 $2." sleep 2 } 当我呼叫时saySomethingToSomebody Hello Adam,它会说Hello Adam.并等待一会儿让他回应。 我想将其并行化以更有效地迎接聚会客人,但我也想防止悲剧发生,所以考虑这个使用 GNU 并行(由 perl 运行)的新变体: saySomethingToSomebody() { sleep 1 if [ "$2" == "Brutus" ]...

Admin

GNU parallel 未处理所有文件
gnu-parallel

GNU parallel 未处理所有文件

我正在使用 GNU parallel 处理 BAM 文件,以便使用基于 Java 的 picard 工具标记重复项。使用并行实用程序的原因是 picard 工具不是多线程的,而且数据集非常庞大。所以我使用以下命令和 GNU parallel: ls *.bam | sed 's/.bam.*//' | parallel --eta -j 12 "java -jar picard.jar MarkDuplicates I={}.bam O=/bam1/{}.bam M=/bam1/{}_dup_matrices.txt" 期待 由于我的服务器有 40 个线程...

Admin

GNU Parallel 的使用 - 如何将当前传递的字符串并行化?
gnu-parallel

GNU Parallel 的使用 - 如何将当前传递的字符串并行化?

我正在使用 GNU parallel,并且想了解 - 如何获取传递给每个并行命令的单独字符串? 举个例子,GNU Parallel 文档显示如何将文件从当前目录移动到另一个目录: ls | parallel mv {} destdir 那么有没有办法可以单独获取/打印传递给并行的每个文件? 并行处理案例 我需要并行处理检查多个站点并记录 http 返回代码(2xx、4xx、5xx) 源 URL 最终目标 URL curl 退出代码 以下是实现该功能的代码: unset return_code_array unset destinatio...

Admin

复制中断,难以通过 cp -u 或 rsync 重新启动来接管
gnu-parallel

复制中断,难以通过 cp -u 或 rsync 重新启动来接管

我有大量数据需要在 2 个 macOS(1.3 TB)之间传输。 不幸的是,我从 mac1 到 mac2 的复制(通过将 mac1 的相关目录作为网络目录挂载到 mac2 上),使用‘ rsync’(使用 withparallel命令)的复制已中断(855 GB 的所有内容已复制到 1.3 TB 上)。 自从这次事件之后,我就无法正确地接手那些尚未复制的缺失部分。 我尝试过(在 macOS 10.15.4 Catalina 上): parallel -j32 rsync -az {} /Users/home_henry_from_astro/ ::: /Vo...

Admin

标签字符串中的并行当前日期时间
gnu-parallel

标签字符串中的并行当前日期时间

我正在使用并行运行多个测试套件,并且我想在并行的每个输出行前面加上日期时间以方便调试。 这就是我并行运行的方式 parallel -j12 --linebuffer --colsep ';' --tagstring "$(date +%T-%Z) - {1}" -a commands bash -c {2} 但是,标记字符串是在并行执行时求值的,而不是在每个输出时求值。有没有办法在每条输出线上打印日期? ...

Admin

gnu parallel 错误:“预期一个命令,得到 perl”
gnu-parallel

gnu parallel 错误:“预期一个命令,得到 perl”

我以前用过 gnu parallel,但不知为何,它不再运行了。 我尝试卸载并重新安装,但没有成功。 尝试运行并行命令会出现以下错误消息。 Expected a command, got perl -- Check the available commands and options and syntax with 'help' ...

Admin

GNU 并行:带有顺序命令的 while 循环
gnu-parallel

GNU 并行:带有顺序命令的 while 循环

我需要对一系列主题运行一个 bash 脚本。我想构建一个 while 循环,同时对多个主题运行。但是,循环内的命令必须按顺序运行。 您能否确认这样的语法可以完成这项工作? file="subjects.txt" foo () { command $subj etc command 2 $subj etc command 3 $subj etc } while read subj; do foo "$subj" & done <$file 预先感谢您的帮助。 拉姆廷 ...

Admin

清理 GNU 并行 sem
gnu-parallel

清理 GNU 并行 sem

我已经使用 运行了一些命令sem -j <number> <command>。然后我取消了整个脚本。 现在,即使重新启动机器,我仍然无法sem再使用,甚至sem -j 2 "echo HELLO"永远等待。 我怎样才能清理信号量? ...

Admin