这是一个关于企业存储成本的规范问题。
另请参阅以下问题:
关于一般问题,例如:
此处的答案将尝试更好地了解企业级存储的工作原理以及影响价格的因素。如果您可以扩展问题或提供有关答案的见解,请发布。
基于一年多以前的一个问题(多路复用 1 Gbps 以太网?),我离开并使用新的 ISP 设置了一个新机架,并在整个地方都有 LACP 链接。我们需要这样做,因为我们有单独的服务器(一个应用程序,一个 IP)为互联网上的数千台客户端计算机提供服务,累积速度超过 1Gbps。
这个 LACP 想法应该让我们打破 1Gbps 的障碍,而无需在 10GoE 交换机和 NIC 上花费大量资金。不幸的是,我遇到了一些关于出站流量分配的问题。(尽管凯文·库法尔在上述链接问题中发出了警告。)
ISP 的路由器是某种 Cisco。(我是从 MAC 地址推断出来的。)我的交换机是 HP ProCurve 2510G-24。服务器是运行 Debian Lenny 的 HP DL 380 G5。一台服务器为热备。我们的应用程序不能集群。这是一个简化的网络图,其中包括具有 IP、MAC 和接口的所有相关网络节点。

虽然它具有所有细节,但很难处理和描述我的问题。因此,为简单起见,这里是一个简化为节点和物理链接的网络图。

所以我离开并在新机架上安装了我的工具包,并从他们的路由器连接了我的 ISP 电缆。两台服务器都有到我的交换机的 LACP 链接,而交换机有到 ISP 路由器的 LACP 链接。从一开始我就意识到我的 LACP 配置是不正确的:测试显示进出每台服务器的所有流量都通过一个物理 GoE 链路专门在服务器到交换机和交换机到路由器之间进行。

通过一些谷歌搜索和大量关于 linux NIC 绑定的 RTMF 时间,我发现我可以通过修改来控制 NIC 绑定 /etc/modules
# /etc/modules: kernel modules to load at boot time.
# mode=4 is for lacp
# xmit_hash_policy=1 means …Run Code Online (Sandbox Code Playgroud) 如果我的问题没有任何意义,请告诉我,因为由于我缺乏这方面的技术知识,我不确定我是否从我的想法中正确解释了它。
如果我使用的主板具有 SFF-8087 至 4x 电缆的连接,例如此SFF-8087 至 4x SATA连接。
我仍在学习 SAS,但被告知要利用这些联系从潜在雇主那里构建一个系统。但是,我只是不确定我是否理解系统将如何处理通过此电缆进入 SAS 端口的 SATA 连接的概念。
另外,与将 SATA 驱动器直接连接到 SATA 主板端口相比,这样做有什么好处?我相信内置的 SAS 连接可能是一个集成的 RAID 控制器。
虽然,是的,我可以继续连接所有适合的电缆,但我想更好地了解我在做什么,例如:
我不确定这些存储接口的差异。我的戴尔服务器中都有 SAS RAID 控制器,它们似乎在一定程度上是交叉兼容的。
我的旧服务器中的 Ultra-320 SCSI RAID 控制器非常简单:一种带有带有特殊控制器的特殊驱动器的接口 (SCA),以 10-15K RPM 的速度嗡嗡作响。但是这些 SAS/SATA 驱动器看起来就像我桌面上的驱动器,只是更贵。我的旧 SCSI 控制器也有自己的备用电池和 DDR 缓冲器——这些东西都没有出现在 SAS 控制器上。那是怎么回事?
“企业”SATA 驱动器与我的 SAS RAID 控制器兼容,但我想知道 SAS 驱动器与 SATA 驱动器相比有什么优势,因为它们似乎具有相似的规格(但价格要便宜得多)。
另外,SSD 是如何适应这个的?我记得当 RAID 控制器要求 HDD 以相同的速度旋转时(就像控制器卡取代了驱动器中的控制器一样) - 那么现在如何工作?
与近线 SATA 有什么关系?
我为这条消息中的漫无边际的语气道歉,现在是凌晨 5 点,我还没有睡好。
我想知道在我的服务器上使用 ext4 是否安全。但我听说过太多关于它的 FUD,我很担心。
我们的系统可能会丢失一些数据,这没什么大不了的。即使是一整天的数据也不会惹恼太多人。我们的系统绝对可以从延迟写入中受益。
也就是说,从备份中恢复完整的文件系统需要几天时间并且是不可接受的。
关于这个主题的任何经验或知情意见?
我在 java 进程和 nrpe 检查方面遇到了一些问题。我们有一些进程有时会在 32 核系统上使用 1000% 的 CPU。系统非常敏感,直到您执行
ps aux
Run Code Online (Sandbox Code Playgroud)
或者尝试在 /proc/pid# 中做任何事情,比如
[root@flume07.domain.com /proc/18679]# ls
hangs..
Run Code Online (Sandbox Code Playgroud)
一串ps
stat("/etc/localtime", {st_mode=S_IFREG|0644, st_size=2819, ...}) = 0
stat("/etc/localtime", {st_mode=S_IFREG|0644, st_size=2819, ...}) = 0
stat("/dev/pts1", 0x7fffb8526f00) = -1 ENOENT (No such file or directory)
stat("/dev/pts", {st_mode=S_IFDIR|0755, st_size=0, ...}) = 0
readlink("/proc/15693/fd/2", "/dev/pts/1", 127) = 10
stat("/dev/pts/1", {st_mode=S_IFCHR|0620, st_rdev=makedev(136, 1), ...}) = 0
write(1, "root 15693 15692 0 06:25 pt"..., 55root 15693 15692 0 06:25 pts/1 00:00:00 ps -Af
) = 55
stat("/proc/18679", …Run Code Online (Sandbox Code Playgroud) 一方面是 SATA 和 SAS 磁盘之间的当前价格差异,另一方面是 SATA 磁盘在更大存储阵列中的潜在不良行为,我发现了所谓的SATA 到 SAS 插入卡。
宣传为“将 SAS 功能无缝添加到现有 SATA 磁盘驱动器”,我想知道这里是否有人对这些或类似产品有过一些经验。我可以确定的主要好处是增加了电缆电压(如果所有驱动器都连接了 SAS),能够对驱动器和多路径(如果需要)进行电源循环。显然 SATA 驱动器仍然必须是 RAID 版本。
问题是:这些卡确实提高了存储系统的整体可靠性,还是SATA磁盘出现故障会导致问题?
编辑:我不是在要求假设的答案,只是请实际经验。
我很清楚典型的 10k SAS 驱动器比 7200 SATA 驱动器更可靠(并且性能更好)。但是,物理上与其 SATA 对应的磁盘相同的近线 SAS 与带有内插器的 SATA 版本相比如何?
在所有其他条件相同的情况下,如果使用更大的磁盘,存储阵列的 IOPS 性能将如何变化。
例如,以一个具有 10 X 100GB 磁盘的阵列为例。
测量连续 256kb 块写入的 IOPS(或任何 IOPS 指标)
让我们假设所测得的 IOPS 为 1000 IOPS。
将阵列更改为具有 10 X 200GB 磁盘的阵列。使用相同的 RAID 配置、相同的块大小等进行格式化。
人们会期望 IOPS 保持不变、增加还是减少?变化是大致线性的吗?即增加 2 倍或减少 2 倍(因为我已将磁盘容量增加了 2 倍)
使用 10 X 50GB 磁盘重复这些问题。
编辑:更多上下文
这个问题是我的 Sysadmin 团队之间的一次对话导致的,该团队并不精通所有存储。(适用于存储的许多方面,但不适用于管理 SAN 或其他方面的细节)。我们收到了一大堆新的 Netapp 托盘,每个磁盘的磁盘容量比我们现有的托盘更高——双倍容量。有人评论说,新托盘的 IOPS 会更低,因为磁盘更大。然后出现了一个汽车类比来解释这一点。这两条评论都不适合我,所以我想把它交给 The Team,即 Stack-Exchange-land。
汽车类比是关于两辆汽车,加速度不同,最高速度相同,行驶四分之一英里。然后将距离更改为半英里。实际上,我不记得确切的类比,但由于我在 interwebz 上发现了另一个类似的类比,我认为这可能是一个常见的 IOPS 类比。
在某些方面,问题的实际答案对我来说并不重要,因为我们不会使用这些信息来评估购买。但是我们确实需要评估将托盘连接到现有头部的最佳方法,以及雕刻出聚集体和体积的最佳方法。
我有 7 个系统运行以下设置。有时一个不同的磁盘会脱机,但仔细检查磁盘是好的,没有故障,并且至少可以正常工作一年。由于这发生在所有 7 个系统上,我发现不太可能只有一个部件在起作用(例如电缆),而是一些稍微不兼容的部件的组合。
问题是找到不兼容的确切点。
(如果您有一个解决方法,您可以从命令行虚拟重新安装硬盘,那么您可以回答https://serverfault.com/questions/523315/re-activate-device -那被认为是死的)。
服务器硬件:Dell 1950、Dell R815、Dell R715。
操作系统:
$ uname -a
Linux franklin 3.2.0-4-amd64 #1 SMP Debian 3.2.41-2+deb7u2 x86_64 GNU/Linux
Run Code Online (Sandbox Code Playgroud)
控制器:
$ lspci |grep 22:
22:00.0 Serial Attached SCSI controller: LSI Logic / Symbios Logic SAS2008 PCI-Express Fusion-MPT SAS-2 [Falcon] (rev 03)
$ sas2flash -listall
LSI Corporation SAS2 Flash Utility
Version 15.00.00.00 (2012.11.06)
Copyright (c) 2008-2012 LSI Corporation. All rights reserved
Adapter Selected is a LSI SAS: SAS2008(B2)
Num Ctlr FW Ver NVDATA …Run Code Online (Sandbox Code Playgroud) 我最近刚买了一台新服务器 HP DL380 G6。我用 LSI 9211-8i 替换了库存的智能阵列 p410 控制器。
我的计划是使用 ZFS 作为 XEN 的底层存储,它将在同一裸机上运行。
有人告诉我,您可以将 SATA 磁盘与智能阵列控制器一起使用,但由于消费驱动器缺少 TLER、CCTL 和 ERC,因此不推荐使用。是这种情况吗?
我想知道在 JBOD(RAID 直通模式)中使用 LSI 控制器是否真的像使用智能阵列控制器那样产生影响?
我知道尝试使用没有写缓存支持的 RAID 系统进行虚拟化对性能不利。但我正在考虑为 ZFS 添加一个 SSD。那会有什么不同吗?
我之所以如此痴迷于使用 ZFS 是为了进行重复数据删除和压缩。我不认为智能阵列控制器可以执行任何这些功能。
storage ×4
sas ×3
sata ×3
raid ×2
scsi ×2
centos ×1
cpu-usage ×1
ext4 ×1
filesystems ×1
hard-drive ×1
hardware ×1
high-load ×1
hp ×1
hp-procurve ×1
hp-proliant ×1
iops ×1
java ×1
lacp ×1
linux ×1
networking ×1
performance ×1
zfs ×1