我跑耳语在配备 Intel Core i7-CPU 的 Intel-Mac 上(Whisper 目前似乎不支持 AMD Radeon GPU,因此我使用 CPU)。当我在这台电脑上运行 Whisper 时,当它大部分时间处于空闲状态时,Whisper 占用了大约 500-550% 的 CPU(1200% 是最大值 - 6+6 个内核),因此大约使用了我 CPU 容量的一半。如果我启动另一个 Whisper,它也会占用 500-550%,这意味着我的 CPU 或多或少被充分利用了。
换句话说,处理两个文件的速度大约是一半。我更愿意全速处理一个文件,也就是说,第一个 Whisper 处理可能使用了 1100% 的速度。
为什么 Python (?) 在这种情况下只使用一半的可用 CPU 容量? 可以通过某些设置、标志或类似功能来控制吗?
答案1
whisper
有一个线程数参数。
--threads THREADS number of threads used by torch for CPU inference;
supercedes MKL_NUM_THREADS/OMP_NUM_THREADS (default: 0)
因此,为了充分利用 12 核 CPU
whisper --threads 12