Storage_Zone 板


LINE

网志没有比较好读版: https://tonysanv.blogspot.com/2022/10/truenas-freenas-7-years-later.html 七年前古文: #1MMGYTuc (Storage_Zone) 自从组 FreeNAS 已经过了七年,特别写一篇 blog 详述中间各种变化与升级,下面条列 升级重点,给没时间细读的人参考: 记忆体加满 - 128G 加了一张 PCIe NVMe 扩充卡 把开机 USB 换成 NVMe 再多加一张 NVMe 当成 L2ARC 硬碟就地升级成 8TB 拆外接硬碟,改 SATA 电源接头 用 smartctl 跟 badblocks 压力测试硬碟 阵列重组 (resilvering) 升级区网,终於让主机板上的 10G 网卡解除限制器 CIFS 效能从 3.5Gbps 提升到 5.45Gbps 对细节有兴趣的请继续往下看... 在 FreeNAS 上面跑几个比较肥的 VM,记忆体有多少都不够用。因此把记忆体加满这种事 情在经过大脑思考前,膝盖都已经下单结帐完了。不过每次重开机,VM 也会跟着一起重 开,不太方便,後来就把 VM 上跑的东西慢慢移到另外一台机器上跑 docker。 古早以前,FreeNAS 开机是放在 USB 上面,但自从 11.1 後,开机碟会有频繁的读写, 官方建议放在正常的硬碟上。(当然我是直到 USB 碟挂点了才知道这件事情。) 但这张 主机板已经没有多余的插槽装二个开机碟。 还好主机板上还有一个 PCIe x16,我当然也可以装一张 HBA 扩充卡,或者是这个闪闪发 光的神奇装置 (ASUS Hyper M2 扩充卡),而且正好主机板有支援 PCIe bifurcation,唉,我的膝盖又下单了...  而且好像可以多插几张NVMe... 那就顺便加个 L2ARC 好了! 不过对效能影响最大的升级不在机器本身,当我把区网升级到 2.5G / 10G 後,限制器整 个解除,六颗 WD Red 4TB 竟然 CIFS 可以维持在 3.5Gbps,整个跌破眼镜。 不久後武汉肺炎(与它的变种们)就爆发了,加州还因为野火太旺,直接进入妈的刀锋战 士,接着供应链炸裂,跟不知道哪个天才发明的奇亚币,让硬碟价钱跳了好几阶,我的升 级计画就暂时被搁置了... 直到某一天在附近的沟子口看到特价硬碟,我的膝盖就拿出信用卡下单了。但这特价硬碟 需要稍微处理一下才能用,要先从外接盒里把硬碟拆出来,并且把 SATA 电源接头第三脚 用绝缘胶带贴起来(用 Molex 转 SATA也可以) 接上去确定硬碟都抓到以後,就开始烧机测试(注意,以下的烧机测试会同时烧掉硬碟上 的资料),用 smartctl 短长各跑一轮,接下来用 badblocks 进行读写测试( -c 用大 一点会跑稍快),测试完後再跑一次 smartctl long... 这颗 8TB 总共花了 110 小时才 跑完(建议全部接上去,一口气压测)。我另一台机器只有 4 SATA port,只好分二批测 。 (测完以後发现有二颗硬碟读写稍微快一点(2%),不知是硬碟乐透,还是正常的效能浮 动。) 烧机烧完确定没有不良品,SMART 数值正常,就可以上线啦!利用 resilver 机制一颗一 颗慢慢换,每次 10 小时,换到後面越来越快,可能是因为从 5400 转升级到 7200 转, 让整体效能慢慢增加的原因吧?换完 raid z2 pool 容量就自动升级到 8TB x (6-2) 最後 CIFS 实测,cache miss 可以维持在 5.45Gbps,disk busy 大概在 80% 左右,看 来在区网全面升级成 10Gbps 之前,这台可以再战个几年没有问题。 --
QR Code



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 99.105.214.152 (美国)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Storage_Zone/M.1665128972.A.52F.html ※ 编辑: tonysan (99.105.214.152 美国), 10/07/2022 15:50:58
1F:推 giorno78 : 请问 VM 是跑什麽? 需要这麽多记忆体? 10/07 16:12
2F:→ tonysan : 其实就算只跑TrueNAS, ARC也会慢慢吃光128G 10/07 16:15
3F:→ tonysan : 当时VM跑一个 Ubuntu Desktop,二个Ubuntu server, 10/07 16:16
4F:→ tonysan : 上面塞一堆service (crashplan, plex, pihole….) 10/07 16:16
5F:推 baby850811 : 看别人花钱就是爽快(? 10/07 16:18
6F:→ baby850811 : 很有趣的纪录 XD 10/07 16:18
7F:推 zonppp : 贫穷真的会限制一个人的想像 10/07 16:21
8F:→ tonysan : 分七年摊下来其实没有很贵(? 10/07 16:23
9F:→ Saren : 一直都有计划搞一个 但是没有空间给我摆 /__\ 10/07 16:33
10F:→ tomsawyer : arc预设就是全用啊 你有用zilog吗? 10/07 17:16
11F:→ tonysan : 没有用ZIL,Write heavy application 会跑完再cron 10/07 17:46
12F:→ tonysan : rsync回来 10/07 17:46
13F:推 a07051226 : 我只有给他12G,然後是放在 PVE 上 10/07 18:49
14F:→ a07051226 : PCI passthrough 进去给他吃 sata controller 10/07 18:49
15F:→ a07051226 : 读写效能就,普普通通吧 10/07 18:49
16F:推 qunxiang : 感谢经验分享 10/07 19:37
17F:→ qunxiang : 原PO的膝盖真好动XD 10/07 19:38
18F:推 Cubelia : 有料 10/07 19:51
19F:推 jack860719 : 比较好奇原PO用什麽平台跑FreeNAS 10/07 19:52
20F:推 Taichun318 : 感谢分享 10/07 21:35
21F:→ game0502 : 我之前freenas 11.3随身碟boot也是死很快,後来改5 10/07 22:09
22F:→ game0502 : 00G SSD外接 10/07 22:09
23F:→ asdfghjklasd: 我用 FreeNAS 跑在USB 上也是常常死掉 10/08 00:15
24F:→ tonysan : a我id看七年前的文章 上面有写 10/08 01:29
25F:→ tonysan : Supermicro X10 Xeon D ITX 10/08 01:30
26F:推 Mvp256 : 用旧的128g的mlc来灌truenas scale应该不会死很快吧 10/08 08:46
27F:→ tonysan : 应该不会,但安全起见,mirror boot 坏一颗还可以 10/08 10:41
28F:→ tonysan : 救XD 10/08 10:41
29F:→ tonysan : 不过我还没升级到Scale 10/08 10:41
30F:推 SmithYANG : 原PO的那篇文章也七年了啊... 10/08 10:53
31F:推 bluezero000 : 我现在在弄,也是挂在pve 上弄sata直通 10/08 12:23
32F:→ bluezero000 : scale的VM不能直通显卡,超哭 10/08 12:24
33F:→ tonysan : Scale 还不够成熟,再给他一点时间 10/08 12:37
34F:推 wk415937 : 推分享 10/09 16:25
35F:推 finaldark : pve sas2308 直通+1 10/09 16:31
36F:推 cancelpc : zfs很吃记忆体 10/09 17:16
※ 编辑: tonysan (99.105.214.152 美国), 10/10/2022 11:11:08
37F:→ tonysan : 如果要SAS 可以考虑 X10SDV-7TP4F 神版 10/10 11:12
38F:推 finaldark : 可以请教一下超微的板要去那买? 10/11 13:02
39F:推 TWN48 : 巴德?或是有在卖伺服器的 SI 厂商? 10/11 19:57
40F:→ TWN48 : 拍卖平台搜一下有些卖家看起来也是专卖这类的。 10/11 19:57
41F:推 FTICR : 感谢分享 10/12 00:21







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:Soft_Job站内搜寻

TOP