在 CPU 中以实时优先级运行 ML 推理所花的时间比默认优先级更长

在 CPU 中以实时优先级运行 ML 推理所花的时间比默认优先级更长

我想知道设置实时优先级是否有帮助耳语.cpp运行得更快,但它不仅没有运行得更快,而且运行得慢得多。

我使用 ssh 连接运行它sudo chrt -r 99 ...。此进程在 4 个线程中运行(CPU 有 6 个核心)。

为什么某个过程(ML推理)在实时中运行得更慢?

相关内容