如何在多个实例中运行一个脚本? (Ubuntu服务器)

如何在多个实例中运行一个脚本? (Ubuntu服务器)

如何在 Ubuntu 服务器的多个实例中运行脚本?

例如,我有一个长时间运行的脚本,名为scanner.shPlaced in /usr/bin/,我希望在 10 个并行实例中运行该脚本。如何启动并行任务(并将不同的标志/选项/参数传递给它们)?

我怎样才能停止这些实例?

答案1

使用 GNU Parallel 看起来像这样:

parallel scanner {} ::: "--flags --for --instance 1" "--for 2" "--for 3"

它将为每个 CPU 生成一个作业。要停止,只需按 CTRL-C。

GNU Parallel 是一个通用并行器,可以轻松地在同一台计算机或多台您可以通过 ssh 访问的计算机上并行运行作业。它通常可以代替for循环。

如果您想要在 4 个 CPU 上运行 32 个不同的作业,则并行化的直接方法是在每个 CPU 上运行 8 个作业:

简单的调度

相反,GNU Parallel 在完成后会生成一个新进程 - 保持 CPU 处于活动状态,从而节省时间:

GNU 并行调度

安装

如果您的发行版未打包 GNU Parallel,您可以进行个人安装,不需要 root 访问权限。这样做可以在 10 秒内完成:

$ (wget -O - pi.dk/3 || lynx -source pi.dk/3 || curl pi.dk/3/ || \
   fetch -o - http://pi.dk/3 ) > install.sh
$ sha1sum install.sh | grep 883c667e01eed62f975ad28b6d50e22a
12345678 883c667e 01eed62f 975ad28b 6d50e22a
$ md5sum install.sh | grep cc21b4c943fd03e93ae1ae49e28573c0
cc21b4c9 43fd03e9 3ae1ae49 e28573c0
$ sha512sum install.sh | grep da012ec113b49a54e705f86d51e784ebced224fdf
79945d9d 250b42a4 2067bb00 99da012e c113b49a 54e705f8 6d51e784 ebced224
fdff3f52 ca588d64 e75f6033 61bd543f d631f592 2f87ceb2 ab034149 6df84a35
$ bash install.sh

对于其他安装选项,请参阅http://git.savannah.gnu.org/cgit/parallel.git/tree/README

了解更多

查看更多示例:http://www.gnu.org/software/parallel/man.html

观看介绍视频:https://www.youtube.com/playlist?list=PL284C9FF2488BC6D1

浏览本教程:http://www.gnu.org/software/parallel/parallel_tutorial.html

注册电子邮件列表以获得支持:https://lists.gnu.org/mailman/listinfo/parallel

答案2

#**parallel_scaller.sh**
# Script to async run scanner.sh
# USAGE: $> bash parallel_scanner.sh "FLAGS FOR INSTANCE 1" ... "FLAGS FOR INSTANCES 10"
$1=`echo $1 | sed 's/"//g'`
$2=`echo $1 | sed 's/"//g'`
$3=`echo $1 | sed 's/"//g'`
$4=`echo $1 | sed 's/"//g'`
$5=`echo $1 | sed 's/"//g'`
$6=`echo $1 | sed 's/"//g'`
$7=`echo $1 | sed 's/"//g'`
$8=`echo $1 | sed 's/"//g'`
$9=`echo $1 | sed 's/"//g'`
$10=`echo $1 | sed 's/"//g'`

bash scanner& $1 2>&1
bash scanner& $2 2>&1
bash scanner& $3 2>&1
bash scanner& $4 2>&1 
bash scanner& $5 2>&1
bash scanner& $6 2>&1
bash scanner& $7 2>&1
bash scanner& $8 2>&1
bash scanner& $9 2>&1
bash scanner& $10 2>&1

并将任务置于后台。 2>&1 将 STDERR(2) 重定向到 STDOUT(1)。

要结束进程,请键入:

$> ps aux | grep scanner
$> kill $PIDS

答案3

我想建议您开始使用配置管理系统,例如 Ansible。

它是用 Python 编写的,对于每个人来说都很容易使用,对于新手来说也是如此。

遵循文档http://docs.ansible.com/并开始吧!

答案4

除了建议的答案之外,我还使用以下命令:

nohup ./scanner.py -flag1 flag1value -flag2 flag2value &

创建一个新实例。要查看所有正在运行的scanner.py实例,我使用:

ps aux | grep scanner.py

要杀死特定实例,我使用:

kill -9 {PID}

其中{PID}是从ps aux命令中获取的,例如kill -9 1234

相关内容