3×6T 机械硬盘,预存储数据为 11T, Raid0 好还是 Raid5 好?

2018-07-11 11:09:16 +08:00
 Reign

静态存储和应用逻辑 MySQL、Redis、ES 都集中在这一台服务器上了,所以既要大硬盘,又要高读写,3 块 6T 的硬盘做 Raid,Raid0 好还是 Raid5 好?

Raid0 对硬盘损坏零容忍,3 块硬盘出错一块就完了,但是机械硬盘感觉没那么容易坏吧?(估计是我见识太短?)

另外 3 块机械盘做 raid0 读写性能是否可以和一块中规中矩的 SSD 差不多了?

10471 次点击
所在节点    程序员
107 条回复
notgod
2018-07-12 00:30:20 +08:00
@Reign
大兄弟
我最近部署了一套基于 ELK 的集中日志系统 单天过亿的级别
看到这个 我还是给你些意见

经过各种环境测试 我想还是有发言权的
我不知道我们的实际需求是否一致

简单来说 按你的描述
因为我不知道你数据量 和数据重要性
这个是需要一个规划的
根据你的数据增长情况,规划一个拓扑和容灾结构

排除硬件因素
先说你指望的 MYSQL REDIS ELK 全部部署在一起
这个是有严重问题的
REDIS 无所谓, MYSQL 如果你查询大 CPU 消耗问题很严重
不知道你是不是对 ELK 有什么误解, ES 最好的发挥是集群,不是单机
最大消耗不是 I/O 而是内存和 CPU, 我的版本是最新的 ES

我测试环境 Linode 16G 的套餐 准备迁我的 ES 数据 超 300G ,搭配 Linode 1T 的存储 (读写 500 多 M 的速度)
内存 over heap 迁移完启动,接收日志,一直会自动挂掉 CPU 持续 100%+
最后不得已还是继续使用 64G 内存+6 块 200G 的 SSD 的设备 来接收日志
这个还是我优化过的

在说硬盘问题 , 你存储数据不可能不查询
ELK 我实际测试亿的数据 在 Raid5 3x2T 的情况下 在 kibana 根本查询不出 一直 TIMEOUT

Raid0 如果你不考虑数据安全性的话 就是你容许挂了重装系统 重新来过
那可以使用

Raid5 的性能, 非常差 你测下就知道了

你的情况 如果期待放一起 最好的硬件方案
内存 64G 其中 32G 给 ES
硬盘使用带 BBU 的 HW 卡 搭配 6 块 HHD + 4-6 块 SSD
一种是 SSD 做缓存
另外一种是 SSD 放热数据, HDD 放冷数据

这种密集型 I/O 的 而且还是 6T 的单硬盘 寻道时间和稳定性都有待考证的产品
实在不建议

我觉得你应该先测试性能在考虑其他
wwhc
2018-07-12 07:47:06 +08:00
两块做 RAID0,另一块单独做备份,机械硬盘无论是 RAIDx,4K 都无法与 ssd 相提并论
honeycomb
2018-07-12 09:07:45 +08:00
@likuku jbod 的可靠性总比 raid0 好一些,至少每次事件只损失一块盘的数据
sunzen
2018-07-12 09:30:08 +08:00
建议搞 raid50
fetich
2018-07-12 09:37:00 +08:00
@pubby
@likuku
感谢解惑。
mrzx
2018-07-12 10:17:33 +08:00
@fetich 随时可以,就是盘数一开始是固定好的。
可以拿小容量硬盘堆盘数。后面预算宽裕拿大容量硬盘扩容。

还有个缺点是 freenas 需要大量的内存。基本上 1TB 硬盘容量需要 1G 左右的内存做缓存。如果你要开启 zfs 中的一个特性“ ZFS 重复数据删除”,这个功能,虽然可能增加硬盘存储容量,但耗费的内存更多了。

像我那台 gen8 已经老了。最大只支持 ECC 16G 内存。也就是说,理论上我最多知道 4TBx4 的硬盘存储量就到极限了。
现在我只不过才 2tbx4,容量对于家庭备份使用的我来说,已经足够用了。
mrzx
2018-07-12 10:18:39 +08:00
@msg7086 你说的对,所以我打算买个 1TB 的移动硬盘,插在 gen8 上,设定个计划任务,定期将文件增量备份到移动硬盘里。
wangfei324017
2018-07-12 10:28:39 +08:00
数据重要,raid6+hs 也比不为过
wekw
2018-07-12 10:48:35 +08:00
过来人告诉你,老老实实 RAID0,觉得速度不够就上 SSD,那就不用 RAID 了。

RAID 5 可以说是菜鸟毒药,只是看起来很美,坏了一块盘没有专业人士操作基本就全报废了。
wekw
2018-07-12 10:49:53 +08:00
机械硬盘没那么容易坏。。。。。尴尬。。。。同学你是买了多差的 SSD。。。。。。

我用 SSD 七年了,没见过坏的,机械硬盘我自己都用坏过好几块。
tailf
2018-07-12 10:52:12 +08:00
我家用来存电影的群晖用的都是 HGST 企业硬盘 RAID 1。世界加钱可及。
wekw
2018-07-12 10:53:02 +08:00
修正 #69,关键信息打错了:

老老实实 RAID 1
zj299792458
2018-07-12 11:01:51 +08:00
Raid0 不如 SSD+1
cedoo
2018-07-12 11:02:18 +08:00
@wekw raid0 找死,SSD 坏不坏我不知道,反正我的 plextor,刚过 3 年质保就直接挂了
fetich
2018-07-12 11:18:03 +08:00
@tailf RAID1 是不是太壕了,RAID10 速度、容量、安全挺平衡的选择。
mchong
2018-07-12 11:21:23 +08:00
预算够就拆分服务器,上商业存储。
noahzh
2018-07-12 11:30:28 +08:00
raid 不适合穷人。
ryd994
2018-07-12 11:30:39 +08:00
@mrzx 其实内存完全不用担心
内存不够只是会影响随机读写性能而已
zfs 1G/T 是生产环境中高性能的要求
实际上大多数人 lan 也就千兆,而且仓库盘主要是顺序读写。
我现在 8G,6*8T,完全没有问题。

dedup 就别想了
zhjits
2018-07-12 11:58:16 +08:00
>4T 单盘建议 RAID6,不要尝试 RAID5
likuku
2018-07-12 13:39:54 +08:00
@mrzx
@ryd994

内存也不是问题,4G 内存跑 zfs 也可以很流畅,条件就是得自己对系统作微调,关键就是调整 ARC 大小上限

"ZFS 重复数据删除",这功能太变态了,实际尝试过之后,发觉它是 CPU 黑洞,整个系统会假死很久很久(按天计算),
开始开启它可能还 OK,低频 IO (增删改很少)还基本感觉不出性能下降,若某次批量修改 /删除很多文件时,噩梦就开始了。

开启 ZFS 透明压缩就已经很好了,更实用,lz4 CPU 占用非常少,在重复数据较多 /文本文件很多 时,空间节省非常显著,读写却几乎没有下降,读取大型文本时,因为压缩后体积更小,读取反而比不压缩更快。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://tanronggui.xyz/t/469838

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX