过度分配的稀疏文件不会发生写入失败

过度分配的稀疏文件不会发生写入失败

我一直在处理稀疏文件以便在 Windows samba 挂载上复制 Linux fs 权限,这个想法来自这里:https://www.thanassis.space/backup.html

然而,在测试稀疏文件时,我发现了一个有趣的问题,即“已满”的主驱动器不会向应用程序报告写入失败。相反,当主驱动器写满时,即使驱动器已满,写入仍会继续并成功完成。

为了测试这一点,我进行了以下设置。

[root@ip-172-31-61-147 ~]# df -h
Filesystem      Size  Used Avail Use% Mounted on
/dev/xvda1      8.0G  944M  7.1G  12% /
devtmpfs        1.9G     0  1.9G   0% /dev
tmpfs           1.8G     0  1.8G   0% /dev/shm
tmpfs           1.8G   49M  1.7G   3% /run
tmpfs           1.8G     0  1.8G   0% /sys/fs/cgroup
tmpfs           354M     0  354M   0% /run/user/1000
/dev/xvdb1      4.0G   33M  4.0G   1% /mnt
tmpfs           354M     0  354M   0% /run/user/0

我已经安装了一个 4G 分区,/mnt我将在其上创建一个 10G 稀疏文件。

[root@ip-172-31-61-147 ~]# dd of=/mnt/file bs=1G count=0 seek=10
0+0 records in
0+0 records out
0 bytes (0 B) copied, 3.0097e-05 s, 0.0 kB/s

该文件创建正确,不占用分区上的实际空间,但似乎是一个 10G 文件。

[root@ip-172-31-61-147 ~]# ls -lh /mnt/
total 0
-rw-r--r--. 1 root root 10G Aug 28 21:10 file
[root@ip-172-31-61-147 ~]# du -h /mnt/
0       /mnt/

我在空间中分配一个文件系统并挂载它(通过losetup验证)。

[root@ip-172-31-61-147 ~]# mkfs.xfs /mnt/file
meta-data=/mnt/file              isize=512    agcount=4, agsize=655360 blks
         =                       sectsz=512   attr=2, projid32bit=1
         =                       crc=1        finobt=0, sparse=0
data     =                       bsize=4096   blocks=2621440, imaxpct=25
         =                       sunit=0      swidth=0 blks
naming   =version 2              bsize=4096   ascii-ci=0 ftype=1
log      =internal log           bsize=4096   blocks=2560, version=2
         =                       sectsz=512   sunit=0 blks, lazy-count=1
realtime =none                   extsz=4096   blocks=0, rtextents=0

[root@ip-172-31-61-147 ~]# mount /mnt/file /srv/
[root@ip-172-31-61-147 ~]# losetup -j /mnt/file
/dev/loop0: [51729]:67 (/mnt/file)
[root@ip-172-31-61-147 ~]# df -h
Filesystem      Size  Used Avail Use% Mounted on
/dev/xvda1      8.0G  945M  7.1G  12% /
devtmpfs        1.9G     0  1.9G   0% /dev
tmpfs           1.8G     0  1.8G   0% /dev/shm
tmpfs           1.8G   49M  1.7G   3% /run
tmpfs           1.8G     0  1.8G   0% /sys/fs/cgroup
tmpfs           354M     0  354M   0% /run/user/1000
/dev/xvdb1      4.0G   43M  4.0G   2% /mnt
tmpfs           354M     0  354M   0% /run/user/0
/dev/loop0       10G   33M   10G   1% /srv
[root@ip-172-31-61-147 ~]#

在这个挂载点上我可以正常写入文件,表明它运行正常。

[root@ip-172-31-61-147 ~]# dd if=/dev/zero of=/srv/init_file bs=1GiB count=1
1+0 records in
1+0 records out
1073741824 bytes (1.1 GB) copied, 8.22444 s, 131 MB/s
[root@ip-172-31-61-147 ~]# df -h
Filesystem      Size  Used Avail Use% Mounted on
/dev/xvda1      8.0G  945M  7.1G  12% /
devtmpfs        1.9G     0  1.9G   0% /dev
tmpfs           1.8G     0  1.8G   0% /dev/shm
tmpfs           1.8G   49M  1.7G   3% /run
tmpfs           1.8G     0  1.8G   0% /sys/fs/cgroup
tmpfs           354M     0  354M   0% /run/user/1000
/dev/xvdb1      4.0G  1.1G  3.0G  27% /mnt
tmpfs           354M     0  354M   0% /run/user/0
/dev/loop0       10G  1.1G  9.0G  11% /srv
[root@ip-172-31-61-147 ~]# ls -lh /srv/
total 1.0G
-rw-r--r--. 1 root root 1.0G Aug 28 21:19 init_file
[root@ip-172-31-61-147 ~]#
[root@ip-172-31-61-147 ~]# df -h
Filesystem      Size  Used Avail Use% Mounted on
/dev/xvda1      8.0G  945M  7.1G  12% /
devtmpfs        1.9G     0  1.9G   0% /dev
tmpfs           1.8G     0  1.8G   0% /dev/shm
tmpfs           1.8G   49M  1.7G   3% /run
tmpfs           1.8G     0  1.8G   0% /sys/fs/cgroup
tmpfs           354M     0  354M   0% /run/user/1000
/dev/xvdb1      4.0G  1.1G  3.0G  27% /mnt
tmpfs           354M     0  354M   0% /run/user/0
/dev/loop0       10G  1.1G  9.0G  11% /srv

现在,当我尝试创建一个应该超出主机驱动器的文件时,它也会正确写入并且不会报告错误。

[root@ip-172-31-61-147 ~]# dd if=/dev/zero of=/srv/too_large_a_file bs=1GiB count=4
4+0 records in
4+0 records out
4294967296 bytes (4.3 GB) copied, 49.9905 s, 85.9 MB/s
[root@ip-172-31-61-147 ~]# echo $?
0

相关数据:

[root@ip-172-31-61-147 ~]# df -h
Filesystem      Size  Used Avail Use% Mounted on
/dev/xvda1      8.0G  949M  7.1G  12% /
devtmpfs        1.9G     0  1.9G   0% /dev
tmpfs           1.8G     0  1.8G   0% /dev/shm
tmpfs           1.8G   49M  1.7G   3% /run
tmpfs           1.8G     0  1.8G   0% /sys/fs/cgroup
tmpfs           354M     0  354M   0% /run/user/1000
/dev/xvdb1      4.0G  4.0G   20K 100% /mnt
tmpfs           354M     0  354M   0% /run/user/0
/dev/loop0       10G  5.1G  5.0G  51% /srv
[root@ip-172-31-61-147 ~]# du -h /srv/
5.0G    /srv/
[root@ip-172-31-61-147 ~]# du -h /srv/*
1.0G    /srv/init_file
4.0G    /srv/too_large_a_file
[root@ip-172-31-61-147 ~]# ls -lh /srv/
total 5.0G
-rw-r--r--. 1 root root 1.0G Aug 28 21:19 init_file
-rw-r--r--. 1 root root 4.0G Aug 28 21:24 too_large_a_file
[root@ip-172-31-61-147 ~]#

我尝试使用其他实用程序(例如rsync和 )复制此行为cp。它们也没有报告错误,而是默默地失败了。

使用 cp:

[root@ip-172-31-61-147 ~]# cp -v too_large_a_file /srv/
‘too_large_a_file’ -> ‘/srv/too_large_a_file’
[root@ip-172-31-61-147 ~]# echo $?
0
[root@ip-172-31-61-147 ~]# ls -lhtr /srv/
total 5.0G
-rw-r--r--. 1 root root 5.0G Aug 28 21:31 too_large_a_file
[root@ip-172-31-61-147 ~]# df -h
Filesystem      Size  Used Avail Use% Mounted on
/dev/xvda1      8.0G  6.0G  2.1G  75% /
devtmpfs        1.9G     0  1.9G   0% /dev
tmpfs           1.8G     0  1.8G   0% /dev/shm
tmpfs           1.8G   57M  1.7G   4% /run
tmpfs           1.8G     0  1.8G   0% /sys/fs/cgroup
tmpfs           354M     0  354M   0% /run/user/1000
/dev/xvdb1      4.0G  4.0G   20K 100% /mnt
tmpfs           354M     0  354M   0% /run/user/0
/dev/loop0       10G  5.1G  5.0G  51% /srv

使用 rsync:

[root@ip-172-31-61-147 ~]# rsync -vvv too_large_a_file /srv/
[sender] make_file(too_large_a_file,*,0)
send_file_list done
send_files starting
server_recv(2) starting pid=16569
received 1 names
recv_file_list done
get_local_name count=1 /srv/
generator starting pid=16569
delta-transmission disabled for local transfer or --whole-file
recv_generator(too_large_a_file,0)
send_files(0, too_large_a_file)
send_files mapped too_large_a_file of size 5368709120
calling match_sums too_large_a_file
too_large_a_file
sending file_sum
false_alarms=0 hash_hits=0 matches=0
sender finished too_large_a_file
send_files phase=1
recv_files(1) starting
generate_files phase=1
recv_files(too_large_a_file)
got file_sum
renaming .too_large_a_file.CwVApY to too_large_a_file
recv_files phase=1
generate_files phase=2
send_files phase=2
send files finished
total: matches=0  hash_hits=0  false_alarms=0 data=5368709120
recv_files phase=2
generate_files phase=3
recv_files finished
generate_files finished

sent 5369364558 bytes  received 31 bytes  57426359.24 bytes/sec
total size is 5368709120  speedup is 1.00
[sender] _exit_cleanup(code=0, file=main.c, line=1052): about to call exit(0)
[root@ip-172-31-61-147 ~]# df -h
Filesystem      Size  Used Avail Use% Mounted on
/dev/xvda1      8.0G  6.0G  2.1G  75% /
devtmpfs        1.9G     0  1.9G   0% /dev
tmpfs           1.8G     0  1.8G   0% /dev/shm
tmpfs           1.8G   73M  1.7G   5% /run
tmpfs           1.8G     0  1.8G   0% /sys/fs/cgroup
tmpfs           354M     0  354M   0% /run/user/1000
/dev/xvdb1      4.0G  4.0G   20K 100% /mnt
tmpfs           354M     0  354M   0% /run/user/0
/dev/loop0       10G  5.1G  5.0G  51% /srv

跑完之后md5sum我更加困惑了:

[root@ip-172-31-61-147 ~]# md5sum /root/too_large_a_file
ec4bcc8776ea04479b786e063a9ace45  /root/too_large_a_file
[root@ip-172-31-61-147 ~]# md5sum /srv/too_large_a_file
ec4bcc8776ea04479b786e063a9ace45  /srv/too_large_a_file

看起来完整的文件被保存了下来,至于具体是如何保存的,我不知道。

在研究这个问题时,我发现了这个问题,有人在做同样的事情,但是使用加密设置,他们发现了同样的问题,但无法解决它(事实上他们建议将其作为一个新问题打开!):使用 LUKS 创建按需增长的加密卷

任何帮助都将非常有帮助。

编辑:每次请求内核和系统信息

[root@ip-172-31-61-147 ~]# uname -a
Linux ip-172-31-61-147 3.10.0-514.16.1.el7.x86_64 #1 SMP Wed Apr 12 15:04:24 UTC 2017 x86_64 x86_64 x86_64 GNU/Linux
[root@ip-172-31-61-147 ~]# cat /etc/redhat-release
CentOS Linux release 7.3.1611 (Core)

根据提供的答案,我创建了新文件来测试该/dev/zero理论。我创建了一个全为 1 的文件,并尝试复制我的发现,发现它仍然成功。

[root@ip-172-31-61-147 ~]# tr '\0' '\377' < /dev/zero | dd bs=1 count=5G of=~/too_large_a_file
[root@ip-172-31-61-147 ~]# du -h too_large_a_file
982M    too_large_a_file

然后我将该文件的多个副本放在稀疏文件挂载点上(例如cp too_large_a_file /srv/too_large_a_file_1

我能够将其中六个文件复制到外部设备上,并且所有复制均未失败。

[root@ip-172-31-61-147 ~]# ls -lh /srv/
total 4.8G
-rw-r--r--. 1 root root 982M Aug 29 00:14 too_large_a_file
-rw-r--r--. 1 root root 982M Aug 29 00:26 too_large_a_file_2
-rw-r--r--. 1 root root 982M Aug 29 02:34 too_large_a_file_3
-rw-r--r--. 1 root root 982M Aug 29 02:34 too_large_a_file_4
-rw-r--r--. 1 root root 982M Aug 29 02:35 too_large_a_file_5

这里的驱动器显然也已达到最大值。

Filesystem     1K-blocks    Used Available Use% Mounted on
/dev/xvda1       8377344 1975040   6402304  24% /
devtmpfs         1920720       0   1920720   0% /dev
tmpfs            1809256       0   1809256   0% /dev/shm
tmpfs            1809256   82192   1727064   5% /run
tmpfs            1809256       0   1809256   0% /sys/fs/cgroup
/dev/xvdb1       4183040 4183020        20 100% /mnt
tmpfs             361852       0    361852   0% /run/user/1000
/dev/loop0      10475520 5055864   5419656  49% /srv

所有文件和原始文件的 md5sum 如下。

[root@ip-172-31-61-147 ~]# md5sum too_large_a_file
e8154ef97a3eb2bd13aea04b823a4570  too_large_a_file

[root@ip-172-31-61-147 ~]# md5sum /srv/*
e8154ef97a3eb2bd13aea04b823a4570  /srv/too_large_a_file
e8154ef97a3eb2bd13aea04b823a4570  /srv/too_large_a_file_2
e8154ef97a3eb2bd13aea04b823a4570  /srv/too_large_a_file_3
e8154ef97a3eb2bd13aea04b823a4570  /srv/too_large_a_file_4
154248d2eeaf5791dfc8199e51daadbc  /srv/too_large_a_file_5

我要补充一点,这显然会影响系统,因为添加第六个文件会导致系统崩溃。 注意:复制完成后系统将再次响应。

编辑2:添加了du信息。

[root@ip-172-31-61-147 ~]# du -h /srv/*
982M    /srv/too_large_a_file
982M    /srv/too_large_a_file_2
982M    /srv/too_large_a_file_3
982M    /srv/too_large_a_file_4
982M    /srv/too_large_a_file_5

编辑3:内存信息我通过删除“超出”缓冲区的文件,然后复制回来并删除缓存并查看发生的情况来测试这一点。

[root@ip-172-31-61-147 ~]# rm /srv/too_large_a_file_5
rm: remove regular file ‘/srv/too_large_a_file_5’? y
[root@ip-172-31-61-147 ~]# cp too_large_a_file /srv/too_large_a_file_5
[root@ip-172-31-61-147 ~]# df -h
Filesystem      Size  Used Avail Use% Mounted on
/dev/xvda1      8.0G  2.2G  5.9G  28% /
devtmpfs        1.9G     0  1.9G   0% /dev
tmpfs           1.8G     0  1.8G   0% /dev/shm
tmpfs           1.8G   97M  1.7G   6% /run
tmpfs           1.8G     0  1.8G   0% /sys/fs/cgroup
/dev/xvdb1      4.0G  4.0G   20K 100% /mnt
tmpfs           354M     0  354M   0% /run/user/1000
/dev/loop0       10G  4.9G  5.2G  49% /srv
[root@ip-172-31-61-147 ~]# free -m && sync && echo 3 > /proc/sys/vm/drop_caches && free -m
              total        used        free      shared  buff/cache   available
Mem:           3533          93        1210         104        2229        3091
Swap:             0           0           0

              total        used        free      shared  buff/cache   available
Mem:           3533          94        3281         104         157        3183
Swap:             0           0           0
[root@ip-172-31-61-147 ~]# df -h
Filesystem      Size  Used Avail Use% Mounted on
/dev/xvda1      8.0G  2.2G  5.9G  28% /
devtmpfs        1.9G     0  1.9G   0% /dev
tmpfs           1.8G     0  1.8G   0% /dev/shm
tmpfs           1.8G  105M  1.7G   6% /run
tmpfs           1.8G     0  1.8G   0% /sys/fs/cgroup
/dev/xvdb1      4.0G  4.0G   20K 100% /mnt
tmpfs           354M     0  354M   0% /run/user/1000
/dev/loop0       10G  4.9G  5.2G  49% /srv
[root@ip-172-31-61-147 ~]# md5sum /srv/too_large_a_file_5
154248d2eeaf5791dfc8199e51daadbc  /srv/too_large_a_file_5
[root@ip-172-31-61-147 ~]# du -ah /srv/
982M    /srv/too_large_a_file
982M    /srv/too_large_a_file_2
982M    /srv/too_large_a_file_3
982M    /srv/too_large_a_file_4
982M    /srv/too_large_a_file_5
4.8G    /srv/
[root@ip-172-31-61-147 ~]# ls -lh /srv/
total 4.8G
-rw-r--r--. 1 root root 982M Aug 29 00:14 too_large_a_file
-rw-r--r--. 1 root root 982M Aug 29 00:26 too_large_a_file_2
-rw-r--r--. 1 root root 982M Aug 29 02:34 too_large_a_file_3
-rw-r--r--. 1 root root 982M Aug 29 12:16 too_large_a_file_4
-rw-r--r--. 1 root root 982M Aug 29 12:27 too_large_a_file_5
[root@ip-172-31-61-147 ~]#

编辑4:内存信息继续我对我的发现持怀疑态度,于是我又做了一次测试,结果似乎有点启发。看来缓存转储后文件确实发生了变化,输出md5sum确实更新了。

[root@ip-172-31-61-147 ~]# rm /srv/too_large_a_file_5
rm: remove regular file ‘/srv/too_large_a_file_5’? y
[root@ip-172-31-61-147 ~]# cp too_large_a_file /srv/too_large_a_file_5
(reverse-i-search)`m': r^C/srv/too_large_a_file_5
[root@ip-172-31-61-147 ~]# md5sum /srv/too_large_a_file_5
e8154ef97a3eb2bd13aea04b823a4570  /srv/too_large_a_file_5
[root@ip-172-31-61-147 ~]#
[root@ip-172-31-61-147 ~]#
[root@ip-172-31-61-147 ~]# md5sum /srv/too_large_a_file_5
e8154ef97a3eb2bd13aea04b823a4570  /srv/too_large_a_file_5
[root@ip-172-31-61-147 ~]# free -m && sync && echo 3 > /proc/sys/vm/drop_caches && free -m
              total        used        free      shared  buff/cache   available
Mem:           3533          93         298         104        3141        3091
Swap:             0           0           0
              total        used        free      shared  buff/cache   available
Mem:           3533          93        3274         112         166        3175
Swap:             0           0           0
[root@ip-172-31-61-147 ~]# md5sum /srv/too_large_a_file_5
154248d2eeaf5791dfc8199e51daadbc  /srv/too_large_a_file_5
[root@ip-172-31-61-147 ~]# df -h
Filesystem      Size  Used Avail Use% Mounted on
/dev/xvda1      8.0G  2.2G  5.9G  28% /
devtmpfs        1.9G     0  1.9G   0% /dev
tmpfs           1.8G     0  1.8G   0% /dev/shm
tmpfs           1.8G  113M  1.7G   7% /run
tmpfs           1.8G     0  1.8G   0% /sys/fs/cgroup
/dev/xvdb1      4.0G  4.0G   20K 100% /mnt
tmpfs           354M     0  354M   0% /run/user/1000
/dev/loop0       10G  4.9G  5.2G  49% /srv

重启后

[root@ip-172-31-61-147 ~]# mount /mnt/file /srv/
[root@ip-172-31-61-147 ~]# df -h
Filesystem      Size  Used Avail Use% Mounted on
/dev/xvda1      8.0G  2.2G  5.9G  28% /
devtmpfs        1.9G     0  1.9G   0% /dev
tmpfs           1.8G     0  1.8G   0% /dev/shm
tmpfs           1.8G   17M  1.8G   1% /run
tmpfs           1.8G     0  1.8G   0% /sys/fs/cgroup
tmpfs           354M     0  354M   0% /run/user/1000
/dev/xvdb1      4.0G  4.0G   20K 100% /mnt
/dev/loop0       10G  4.9G  5.2G  49% /srv
[root@ip-172-31-61-147 ~]#

编辑5:同步信息

看起来以同步方式安装文件会产生错误。

[root@ip-172-31-61-147 ~]# mount -odefaults,sync /mnt/file /srv/
[root@ip-172-31-61-147 ~]# mount
sysfs on /sys type sysfs (rw,nosuid,nodev,noexec,relatime,seclabel)
..snip..
/dev/xvdb1 on /mnt type xfs (rw,relatime,seclabel,attr2,inode64,noquota)
/mnt/file on /srv type xfs (rw,relatime,sync,seclabel,wsync,attr2,inode64,noquota)
[root@ip-172-31-61-147 ~]# cp too_large_a_file /srv/too_large_a_file_5
[root@ip-172-31-61-147 ~]# cp too_large_a_file /srv/too_large_a_file_5
cp: error writing ‘/srv/too_large_a_file_5’: Input/output error
cp: failed to extend ‘/srv/too_large_a_file_5’: Input/output error
[root@ip-172-31-61-147 ~]# ls /srv/
too_large_a_file  too_large_a_file_2  too_large_a_file_3  too_large_a_file_4  too_large_a_file_5

答案1

您的机器上是否有足够的内存,以便可以完全缓存文件内容?无论如何,我认为这是内核/文件系统实现中尚未解决的一个极端错误。毕竟,这里有很多层在工作。

答案2

“现在,当我尝试创建一个应该超出主驱动器的文件时,它也会正确写入并且不会报告错误。”

[root@ip-172-31-61-147 ~]# dd if=/dev/zero of=/srv/too_large_a_file

是的,它会正确写入,因为你写入的是零,而稀疏文件就是零,除非它被其他内容覆盖,因此你在此处所做的操作不会向稀疏文件写入任何内容。如果你写入了除零以外的其他内容,则写入将失败。

cp 和 rsync 可能根据操作系统和内核版本保持稀疏性。

相关内容