当 GPU 可用时，在另一个进程上使用 GPU（类似于 GPU 的类似命令）

Question

我有一个需要大量 GPU 处理能力的程序。例如，在某些时期，它会接受一个作业并处理它，然后等待大约 10 到 15 分钟，然后再接受下一个作业。当主程序处于等待模式时，GPU 空闲。我想利用这段时间来处理第二个程序中的另一个任务。

我想知道主程序是否不使用GPU，而第二个程序则使用GPU。这类似于 Nice 命令，但用于 GPU。实现这一目标的最佳方法是什么？

基本上，我们希望为 GPU 确定任务的优先级。