☰

为什么我的进程需要很长时间才能终止？

tag-icon • tag-icon linux process linux-kernel virtual-memory memory-management
为什么我的进程需要很长时间才能终止？

基本上我在 PowerPC (Freescale e500mc) 上使用 Linux 2.6.34。我有一个进程（一种内部开发的虚拟机），它使用大约 2.25 G 的 mlocked VM。当我杀死它时，我注意到需要 2 分钟以上才能终止。

我调查了一下。首先，我关闭了所有打开的文件描述符，但这似乎没有什么区别。然后我在内核中添加了一些 printk，通过它我发现所有延迟都来自内核解锁我的 VMA。各个页面的延迟是一致的，我通过反复检查 /proc/meminfo 中的锁定页面计数来验证这一点。我检查过分配那么多内存的程序，一旦我向它们发出信号，它们就会立即死亡。

你认为我现在应该检查什么？感谢您的回复。

编辑：我必须找到一种方法来分享有关该问题的更多信息，因此我编写了以下程序：

#include <stdio.h>
#include <stdlib.h>
#include <sys/mman.h>
#include <string.h>
#include <errno.h>
#include <signal.h>
#include <sys/time.h>

#define MAP_PERM_1              (PROT_WRITE | PROT_READ | PROT_EXEC)
#define MAP_PERM_2              (PROT_WRITE | PROT_READ)

#define MAP_FLAGS               (MAP_ANONYMOUS | MAP_FIXED | MAP_PRIVATE)

#define PG_LEN                  4096
#define align_pg_32(addr)       (addr & 0xFFFFF000)
#define num_pg_in_range(start, end)     ((end - start + 1) >> 12)

inline void __force_pgtbl_alloc(unsigned int start)
{
        volatile int *s = (int *) start;
        *s = *s;
}

int __map_a_page_at(unsigned int start, int whichperm)
{
        int perm = whichperm ? MAP_PERM_1 : MAP_PERM_2;

        if(MAP_FAILED == mmap((void *)start, PG_LEN, perm, MAP_FLAGS, 0, 0)){
                fprintf(stderr,
                        "mmap failed at 0x%x: %s.\n",
                        start, strerror(errno));
                return 0;
        }

        return 1;
}

int __mlock_page(unsigned int addr)
{
        if (mlock((void *)addr, (size_t)PG_LEN) < 0){
                fprintf(stderr,
                        "mlock failed on page: 0x%x: %s.\n",
                        addr, strerror(errno));
                return 0;
        }

        return 1;
}

void sigint_handler(int p)
{
        struct timeval start = {0 ,0}, end = {0, 0}, diff = {0, 0};
        gettimeofday(&start, NULL);
        munlockall();
        gettimeofday(&end, NULL);
        timersub(&end, &start, &diff);

        printf("Munlock'd entire VM in %u secs %u usecs.\n",
                diff.tv_sec, diff.tv_usec);

        exit(0);
}

int make_vma_map(unsigned int start, unsigned int end)
{
        int num_pg = num_pg_in_range(start, end);

        if (end < start){
                fprintf(stderr,
                        "Bad range: start: 0x%x end: 0x%x.\n",
                        start, end);
                return 0;
        }

        for (; num_pg; num_pg --, start += PG_LEN){
                if (__map_a_page_at(start, num_pg % 2) && __mlock_page(start))
                        __force_pgtbl_alloc(start);
                else
                        return 0;
        }

        return 1;
}

void display_banner()
{
        printf("-----------------------------------------\n");
        printf("Virtual memory allocator. Ctrl+C to exit.\n");
        printf("-----------------------------------------\n");
}

int main()
{
        unsigned int vma_start, vma_end, input = 0;
        int start_end = 0; // 0: start; 1: end;

        display_banner();

        // Bind SIGINT handler.
        signal(SIGINT, sigint_handler);

        while (1){
                if (!start_end)
                        printf("start:\t");
                else
                        printf("end:\t");

                scanf("%i", &input);

                if (start_end){
                        vma_end   = align_pg_32(input);
                        make_vma_map(vma_start, vma_end);
                }
                else{
                        vma_start = align_pg_32(input);
                }
                start_end = !start_end;
        }

        return 0;
}

正如您所看到的，该程序接受虚拟地址范围，每个范围由开始和结束定义。然后，通过向相邻页面授予不同的权限，将每个范围进一步细分为页面大小的 VMA。中断（使用 SIGINT）程序会触发对 munlockall() 的调用，并且会适当记录该过程完成的时间。

现在，当我在 Linux 版本为 2.6.34 的 freescale e500mc 上在 0x30000000-0x35000000 范围内运行它时，我得到的 munlockall() 总时间几乎为 45 秒。但是，如果我以随机顺序（即不一定增加地址）对较小的开始结束范围执行相同的操作，使得页面总数（和锁定的 VMA）大致相同，则观察 munlockall() 的总时间不超过4秒。

我在使用 Linux 2.6.34 的 x86_64 上尝试了同样的操作，并且我的程序根据 -m32 参数编译，似乎变化虽然不像 ppc 那么明显，但第一种情况仍然是 8 秒，第二种情况不到一秒案件。

我一方面在 Linux 2.6.10 上尝试了该程序，另一方面在 3.19 上尝试过，似乎这些巨大的差异在那里不存在。更重要的是，munlockall() 总是在一秒内完成。

因此，无论是什么问题，似乎只存在于 Linux 内核 2.6.34 版本周围。

答案1

tmpfs如果您过度使用了内存，则磁盘上可能有很多内存。您可能需要将内容分页来处理关闭。 mlock()可能会将大量其他内存强制转移到磁盘。当您表明您是无盘时，您可能正在通过网络阅读。

sar在服务器关闭时运行收集所有统计数据。 （sar默认情况下可能未安装。）使用该选项将数据捕获到文件，间隔时间为 5 到 10 秒。然后，您可以检查哪些资源是闲暇时的瓶颈。

编辑：根据您的评论，您可能在页表中创建了锁定问题。mlock你打了多少个电话？它们都是必需的吗？在关闭进程之前尝试转储锁定的内存段列表。

相关内容