在过去的几个小时里,我浏览过这里的许多重复的问题,但没有一个能真正阐明我在工作中遇到的问题(信心)。
因此,我们有一台新的 Hetzner 机器。4 x 3TB、64GB RAM、LSI MegaRAID SAS 9260-4i(刚刚还装了一个 BBU)和一台 Xeon E3-1275,还有一些良好的网络连接。它非常适合我们的用例。
问题
我是系统管理员/Linux 专家,90% 的事情我都应付自如,但我很少从头开始构建服务器,我们所有其他服务器都使用软件 Raid (mdadm)。我从未使用 megacli 从头开始设置硬件 Raid,我现在已经这样做了,但任何反馈都值得赞赏,除了使用 ext2、ext3、ext4 和 btrfs 之外,我对 Xfs 或 ZFS 没有任何经验
我希望获得以下建议
- 因为 Raid5 比 Raid10 提供更多空间,所以老板想选择 Raid5。我不确定 Raid10 是否会带来很大差异,因为所有文件都通过互联网提供给大多数英国用户(英国 -> 德国)。您认为 Raid5 到 Raid 10 会带来很大的性能
差异吗? 我的老板要求我们使用 xfs 作为文件系统,我对此很偏爱,我们不会生成那么多文件,我们只是在寻找一种更像 NAS 用来存储文件的文件系统,直到我们每 2 小时更新一次文件,因为我们将文件发送给客户端,我们还将在一天中的某些阶段写入大量数据并使用相当多的 IOP。有时,我们会让开发人员连接到服务器(通过网站)来测试他们的新软件版本。实际上,对于所有用途,我计划只使用 ext4 或 ext3,但如果您认为 xfs 甚至 ZFS 会更好,我无论如何都很乐意学习。
有什么建议么?
- LVM,现在这是我个人想要添加到我们所有新服务器构建中的东西。快照和卷大小调整在我们拥有的 2 台服务器上为我们节省了很多钱,我认为将其用作标准构建的一部分是个好主意。不过,我只在 ext4 文件系统中使用过它,这有关系吗?我猜没关系?
我知道这是一个很长很具体的故事,但我真的很感激你能提供的任何帮助,或者如果你能给我指明正确的方向,我从周一开始就在不同的论坛和文章上阅读这些主题,现在我可以说我的老板对我很失望了 :(
root# lsblk
NAME MAJ:MIN RM SIZE RO TYPE MOUNTPOINT
sda 8:0 0 8.2T 0 disk
├─sda1 8:1 0 512M 0 part /boot
├─sda2 8:2 0 8.2T 0 part
│ ├─vg0-root 253:0 0 8.1T 0 lvm /
│ ├─vg0-swap 253:1 0 64G 0 lvm [SWAP]
│ └─vg0-tmp 253:2 0 20G 0 lvm /tmp
└─sda3 8:3 0 1M 0 part
root# megasasctl
a0 LSI MegaRAID SAS 9260-4i encl:1 ldrv:1 batt:FAULT, module missing, pack missing, charge failed
a0d0 8382GiB RAID 5 1x4 optimal
a0e252s0 2794GiB a0d0 online
a0e252s1 2794GiB a0d0 online
a0e252s2 2794GiB a0d0 online
a0e252s3 2794GiB a0d0 online
root# megacli -LDInfo -Lall -aAll | grep 'Cache Policy:'
Default Cache Policy: WriteBack, ReadAhead, Direct, Write Cache OK if Bad BBU
Current Cache Policy: WriteBack, ReadAhead, Direct, Write Cache OK if Bad BBU
root# df -Th
Filesystem Type Size Used Avail Use% Mounted on
udev devtmpfs 16G 0 16G 0% /dev
tmpfs tmpfs 3.2G 600K 3.2G 1% /run
/dev/mapper/vg0-root xfs 8.2T 11G 8.1T 1% /
tmpfs tmpfs 16G 0 16G 0% /dev/shm
tmpfs tmpfs 5.0M 0 5.0M 0% /run/lock
tmpfs tmpfs 16G 0 16G 0% /sys/fs/cgroup
/dev/mapper/vg0-tmp reiserfs 20G 33M 20G 1% /tmp
/dev/sda1 ext4 488M 52M 401M 12% /boot
tmpfs tmpfs 3.2G 0 3.2G 0% /run/user/0
提前感谢您提供的任何可能的帮助。
答案1
1/ r5 vs r10 perf :取决于您的 IO 工作负载(读/写比率、随机/顺序访问模式、//中的工作者数量、io 大小、读取 iops、写入 iops)。
从问题 2 中,我了解到您的工作量远不重,而且主要是读取 iops,当您启用 raid5 保护时,这是一个很好的点。所以我认为你的老板对 r5 的看法是正确的(他是老板,他永远是对的)
2/ 目前 XFS 文件系统无法缩小。LVM+ext4 是一个不错的选择,我见过数千个节点运行关键生产内容。ZFS 也是一个非常好的选择,尤其是对于快照功能、发送/接收灾难恢复,但发行版并不总是支持它。取决于您是否需要官方支持。(也许 canonical 在 ubuntu 上提供 zfs 支持,有待验证)
3/ 在我看来,出于您解释的原因,LVM 绝对是必备的(除非您选择 ZFS)。
PS1:我建议将根 lv 缩小(意味着由于 xfs 文件系统而重新安装...)到 100GB 左右,并为数据/应用程序创建另一个 lv。这样可以避免应用程序文件系统已满导致整个系统已满。
PS2:您的突袭控制器电池有问题吗?