作者SmithYANG ()
看板Storage_Zone
标题[心得] 自组OMV6的流水式记录(文长、图多注意!!
时间Sun Oct 16 22:49:59 2022
※2022/10/17 新增失败实验的记录。
前言:
由於TureNAS空间的告急及硬碟一直在报错,
所以组装新NAS的任务刻不容缓!!(其实就是手痒想折腾XD)
这篇文章算是记录我折腾OMV时的过程及遇到BUG的除错,
以及後面共享资料夹的设定与些许的心得。
一样流水式的记录。
图多、文长、拍照技术也不算好。
更别提相关知识非专业,完全是爬文学习解决的办法。
如果有更好的建议或想法,欢迎版友们提出讨论~
(以下图多,自动开图还请注意流量)
先说整套零件:
CPU:E3-1220L v3
主机板:supermicro C7Z97-OCE
记忆体:创建 DDR3 1333 4G 四根共16G
显示卡:AMD HD8570 1G (亮机用)
网路卡:82576-T2 2Port 1G网卡
HBA卡:技嘉 GC-MSLZ2(IT omde)
硬碟:WD HC550 16TB 12颗(矿盘)
机壳:X-PRO SMART 9大机壳
硬碟抽取盒:ICY DOCK 黑旋风MB074SP-B 三转四 3组
电源供应器:微星 MPG A650GF
系统碟:创见及三星 64G msata 转2.5寸SSD
预定:Mellanox ConnectX-3 2Port 10G网卡
关於这张主机板,原先是想拿来组UNRAID搭OPNSense用途的。
不过因为急迫性(手痒),只好先拿来组OMV了...
但是拿到手後发现的第一个状况...
https://imgur.com/GbBT97U
这张板子的背板强化支架整个黏死了!!
最後用吹风机以及在大力出奇蹟之下,好不容易才将其给拨下来...
https://imgur.com/5AEtbVw
之後上U
https://imgur.com/m02bRaC
显示卡
https://imgur.com/1jGThYj
网路卡
https://imgur.com/GiAhCz0
验明正身
https://imgur.com/2klvTN7
裸机先组装起来测试
https://imgur.com/8QXlqjM
顺利进入BIOS
https://imgur.com/N5Lppfk
两块系统碟
https://imgur.com/uUxpk5w
装入机壳
※请无视灵魂走线法,反正侧版盖上就看不到了~XD
https://imgur.com/kU84VdX
确认HBA卡可以抓到驱动
https://imgur.com/7Zgyj1g
确认两块系统碟都可以抓到
https://imgur.com/6ZYoPk4
到官方网站下载ISO并制作安装碟
https://www.openmediavault.org/
再次进到BIOS
https://imgur.com/nefHjSj
调整开机顺序
https://imgur.com/TMoPFwV
开始安装
※安装过程全程中文化~
https://imgur.com/vNWYHiG
主机板双网口及加装的网路卡可以顺利加载驱动
https://imgur.com/qRDu7dk
主机名称简单取
https://imgur.com/UEc2Q1l
硬碟分割
https://imgur.com/2iB6mfj
使用三星那块
※原先我以为OMV可以像TureNAS一样,将系统做成RAID1。
没想到只能择一使用...。後面将另外想法子解决!!
https://imgur.com/0uGxAQ2
镜像来源选择交大的伺服器
https://imgur.com/54f5Try
安装完成後重新启动,移除安装碟并将系统碟设为Boot
https://imgur.com/xQHVtxM
当看到这个画面时,代表顺利进入系统。可以拔掉萤幕线换另一台电脑操作~
https://imgur.com/9jToKwp
※注意!! 是拔掉萤幕线,不是拔掉显示卡。如果拔掉显示卡会无法开机!!
一开始我以为是哪里没设定好,後来爬文才看到有人有类似的状况。
讨论1:
https://forum.openmediavault.org/index.php?thread/33850-disable-gpu-completely/
讨论2:
https://www.reddit.com/r/homelab/comments/6pkvwh/why_does_freenas_work_perfectly_fine_headlessno/
讨论3:
https://unix.stackexchange.com/questions/595486/grub-not-booting-debian-without-gpu-attached
先到DHCP伺服器查看OMV主机被配发的IP
https://imgur.com/8Et8gV1
接着开启浏览器并输入网址就可以连上OMV了~
要注意的是,在这里的帐号及密码分别是admin/openmediavault,
而非在安装过程中设定的root密码。
https://imgur.com/Tmia7cE
※如果帐密正确仍无法登入,可SSH连线进主机更改密码。
解决办法:
https://forum.openmediavault.org/index.php?thread/5934-omv-firstaid-usage/
一开始的主画面,比起OMV5好看多了~(我也是因为看到改变才手痒的XD)
https://imgur.com/lwgYPUO
第一件事情就是点选右上角齿轮更改登入密码
https://imgur.com/VbfV1hK
接下来要更换内核,好让OMV可以使用ZFS Plugin
https://imgur.com/YIi4rQQ
使用putty连上OMV
https://imgur.com/LkVGafM
此时的帐号是root,密码就是在安装系统中设定的那组
https://imgur.com/oXiGGym
接下来安装 OMV-Extras Plugin,算是个增强版的Plugin。
输入「wget -O -
https://github.com/OpenMediaVault-Plugin-Developers/packages/raw/master/install
| bash」
※这是OMV6唯一能够使用的办法。
来源网址:
https://forum.openmediavault.org/index.php?thread/5549-omv-extras-org-plugin/
待跑完安装,底下游标回到root时。返回浏览器并且重新整理
https://imgur.com/jsaSKT2
此时可以看到左边栏位出现OMV-Extras Plugin了
https://imgur.com/cWgTatq
接着点进里面的设定,将向後移植给取消并保存设定。
https://imgur.com/Gc8HZ12
※除了右边的储存外,右上角的勾也要点选,设定才会生效。OMV所有的设定都要确认两次...
向後移植之所以要取消的讨论:
https://forum.openmediavault.org/index.php?thread/41600-zfs-plugin-install-fails-on-fresh-omv6-and-how-to-fix-it/
由於OMV所使用的是Debian内核,无法使用ZFS Plugin。必须替换成proxmox的才行。
所以点选左边的插件,并且在右边的搜索栏中搜寻「kernel」
选择第一个选项後,点击上面的下载箭头。
https://imgur.com/278CwAy
出现END OF LINE後即可关闭画面
https://imgur.com/NHZeWN6
重新整理浏览器後,就可以在左边看到系统核心。
不过此时还是使用Debian内核。
https://imgur.com/Yhjy1v7
点选下载按钮,我是选择5.15版本
https://imgur.com/Bf7KL6R
不过系统似乎会升级到最新5.19版本?
https://imgur.com/NYOH686
完成後重新开机,就可以看到内核已经替换成proxmox的了
https://imgur.com/F64yBMm
为了以防万一,删除Debian内核。只留下proxmox的。
https://imgur.com/3dVnzyb
※原作者所说:
https://forum.openmediavault.org/index.php?thread/41983-omv-6-error-when-installing-openmediavault-zfs-6-0-5/
接下来回到插件,搜寻「ZFS」并安装
https://imgur.com/EwNgY0i
一样出现END OF LINE後关闭画面并重新整理浏览器
https://imgur.com/d3jvZVF
就可以在左边的储存装置中看到ZFS了
https://imgur.com/9BIjiqk
此时该安装的都装好了,把所有插件都更新一下
https://imgur.com/1NGq0Ak
※如果在更换内核後才更新,有时会遇到error。重新整理浏览器就好。
更新後,右上角的齿轮中多了Dark mode
https://imgur.com/6usf1sF
接下来到储存装置->磁碟中,记录硬碟的位置及序号
例如:sda/序号1、sdb/序号2、sdc/序号3...以此类推。
https://imgur.com/bPlzaRz
※在OMV中使用ZFS Plugin只能建立pool,无法建立vdev。
後面要使用指令来操作,所以先记录起来备用。
此时如果要建立pool,会看不到硬碟
https://imgur.com/McD15wz
※唯一的那颗,就是创见的msata
所以要回到储存装置-磁碟,
点选硬碟後,在点击上面橡皮擦图案清除硬碟的分区。
https://imgur.com/mQaXj8d
※由於这个动作没办法多选,12颗硬碟就要重复12次...
选择快速抹除
https://imgur.com/bZBmnmM
老样子,关闭
https://imgur.com/x5R21Yc
此时操作中就可以看到硬碟了
https://imgur.com/tVWc3fe
如果只是想单纯建立pool,现在就可以操作
https://imgur.com/9m3Ndgd
选择要的类型
https://imgur.com/SyfVJ4m
但是只能新增pool,还是没有vdev
https://imgur.com/9JKbqmM
由於12颗硬碟位於3个抽取盒中,
所以我打算每4颗建立raidz,之後在组成stripe。
用序号确认好各抽取盒中硬碟的路径(sda、sdb、sdc...),用putty输入指令。
https://imgur.com/LrKUVm0
https://imgur.com/DfQZBqv
pool建立完成
https://imgur.com/S7c7OFZ
==========================================================================
※以下为不透过指令,而用ZFS Plugun建立pool的失败实验
※为避免中翻英的错误,将介面调整为英文。
首先先查看上面建立的pool的讯息并且删除它
https://imgur.com/Gw1fnt4
现在ZFS-pool为空
https://imgur.com/zB6lyjT
一样抹除硬碟
https://imgur.com/wZRKWCl
接着建立pool
https://imgur.com/IUSQSek
按照我的规划,使用四颗硬碟建立一组RAID-Z1
https://imgur.com/V0L21r9
https://imgur.com/Kbf7iO2
pool建立完成,并点选右上角更新
https://imgur.com/lVugNty
此时透过命令,可以确认这四颗建立完成
https://imgur.com/nerNUxz
这时候选择Expand pool
https://imgur.com/MgcLTFe
再选择四颗硬碟
https://imgur.com/R8JtY5f
就会发现只有一颗硬碟
https://imgur.com/0lmxNRq
若是选择SAVE
https://imgur.com/JO5NwXM
就会出现错误警告
https://imgur.com/m8FLOm2
此时用命令查看,会发现还是只有原先建立的pool
https://imgur.com/g6ehjs1
在论坛中也有人遇到此问题,而其他人的回应也是改用CLI建立pool。
相关讨论:
https://forum.openmediavault.org/index.php?thread/43721-problem-creating-zfs-striped-mirror-4-hdd-omv-6/
当然如果硬碟数较少,只使用一组vdev的话。
透过ZFS Plugin建立就已足够了~
※以上为个人实验测试记录
==========================================================================
接下来建立共享资料夹,名称就设定为Data。
档案系统选择刚才建立的pool。
https://imgur.com/8AfYmuA
储存後记得右上角的更新
https://imgur.com/YFptsgk
由於OMV没办法直接以admin或root直接访问共享资料夹,所以要新增一个用户。
https://imgur.com/BghjYyk
名称、密码自订,中间有个群组选择「users」。
https://imgur.com/yzS5Lfz
储存、更新。
https://imgur.com/c1NVw1h
在左边的服务-SMB/CIFS-共享中,新建SMB共享资料夹
https://imgur.com/Jja0CiB
启用并选择刚才建立的资料夹(Data)
https://imgur.com/7MPQ6mQ
https://imgur.com/H0HZaX5
最後在设定中记得开启SMB
https://imgur.com/fBbW4a0
回到我的电脑中,用IP连线。
帐号及密码就是刚才新建的用户。
https://imgur.com/30k7xVk
成功!!
https://imgur.com/LokfUUl
挂载成网路磁碟机
https://imgur.com/xCO2cVg
同样以IP连线并输入帐号密码
https://imgur.com/9ChU2b7
成功!!
https://imgur.com/gvLBMxY
测试从桌面丢个档案进去,速度稳定在1G。
https://imgur.com/0woPLMr
※C槽为WD SN750
此时的系统占用率
https://imgur.com/AFcClDa
反过来复制到桌面
https://imgur.com/aavTStr
此时的系统占用率
https://imgur.com/mZEnUCS
心得:
如同文章开头所说,若非有急需,不然这OMV也不会这麽快组出来。
尤其组装中所遇到的各种问题,更是边爬文边寻找解决的办法。
10G网卡没到,也无法测试这样组pool是否能达到我的理想速度?
之所以用ZFS,除了对诸多功能感到兴趣(例如:快照、去重、压缩...等),
还有就是为了後面重组TureNAS先来练手~
总之这台OMV就在这种情况中诞生了。
至於ZFS中,pool、vdev、ACL等部分。还有如何提升pool的性能等调教方式。
由於尚未理解通透,就不讲出来误导人了!!
就算不用ZFS,OMV也可使用一般的RAID。 相信也够一般大众的使用了~
感谢各位看到这里。
参考资料:
官方文档:
https://docs.openmediavault.org/en/6.x/index.html
官方讨论区:
https://forum.openmediavault.org/wsc/
Oracle Solaris ZFS 管理指南:
https://docs.oracle.com/cd/E19253-01/819-7065/gaztn/index.html
Debian ZFS官方文档:
https://wiki.debian.org/ZFS
ZFS指令:
https://groupe-sii.github.io/cheat-sheets/openzfs/index.html
pool的性能分析1:
https://www.truenas.com/blog/zfs-pool-performance-1/
pool的性能分析2:
https://www.truenas.com/blog/zfs-pool-performance-2/
pool的性能分析3:
https://calomel.org/zfs_raid_speed_capacity.html
pool的性能分析4:
https://arstechnica.com/gadgets/2020/05/zfs-versus-raid-eight-ironwolf-disks-two-filesystems-one-winner/
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.225.124.83 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Storage_Zone/M.1665931830.A.DEA.html
※ 编辑: SmithYANG (36.225.124.83 台湾), 10/16/2022 23:26:03
※ 编辑: SmithYANG (36.225.124.83 台湾), 10/16/2022 23:29:58
1F:推 sdbb : 感谢教学 10/16 23:34
2F:推 andy199113 : 超详细 推 10/16 23:58
3F:推 sugoi5566 : 推! 10/17 00:53
4F:推 tv50046 : 厉害,感谢教学 10/17 01:01
5F:推 r4duo : 厉害的尝试,感谢分享 10/17 10:51
6F:推 p72910 : 哇靠好详细 10/17 13:18
7F:推 ThisIsNotKFC: 推用心分享 10/17 14:38
感谢版友们的鼓励,这会成为我下次发文的动力m(_ _)m
8F:推 xleacigma : 我也是买了一张j4125自己装omv 好玩XD 10/17 16:00
OMV需求不高,如果只是要练习的话,拿旧零件装就够了~
9F:推 a1379 : 为什麽要拆背板啊 10/17 16:26
因为我这张板子是二手收来的。
而CPU风扇是用原厂铜底扇。
有背板的话就装不上去啦!!!
10F:推 Taichun318 : 推 10/17 20:58
谢谢 :)
11F:推 bababababa : 详细给推,想问矿盘去哪收的… 10/17 21:04
淘宝。至於是哪间店家,之前在本版有版友分享过关键字~
不过前阵子再看时,记得已经涨价了。
※ 编辑: SmithYANG (36.225.124.83 台湾), 10/17/2022 22:22:44
※ 编辑: SmithYANG (36.225.124.83 台湾), 10/17/2022 22:24:08
※ 编辑: SmithYANG (36.225.124.83 台湾), 10/17/2022 22:28:10
12F:推 allenninja : 一个月前也买两颗矿盘当备份用,结果问了一堆店家 10/18 11:18
13F:→ allenninja : 都不出台湾,最後才问到一家OK的 10/18 11:18
本来再写这篇文章前,我想先写从淘宝买硬碟的过程记录的~
不过因为种种因素,才先写了这篇。
待我思路整理一下,放假再来写一篇吧~
14F:推 joshua830325: 拔掉显卡,偷埋笑点捏! 10/18 12:51
一开始我真的是拔显卡,然後发现问题。
为了不让版友重蹈覆测,所以才特地强调~
就怕犯了跟我一样的错误!!
不过如此一来,PCIE插槽会少一个。 很不方便XD
15F:推 ouyang : 淘宝蛮多拆机零件都还不错用 10/18 13:54
16F:→ ouyang : 像是拆机的 INTEL X540-T2 双电口网卡 10/18 13:56
17F:→ ouyang : LSI SAS 2038直通卡(可以提供 两个SAS 或8个SATA6G 10/18 13:58
18F:→ ouyang : 这些伺服器拆机的品相都不错 拿来自组NAS很好用 10/18 13:58
19F:→ ouyang : 浪潮的拆机卡就不要买了 便宜但是相容性很差 10/18 13:59
20F:推 ouyang : LSI 2038这张卡 微星B660M BIOS直接可以认卡 10/18 14:02
21F:→ ouyang : 相容性很不错 10/18 14:02
22F:推 kinggo : 我是直接买一台dell 720XD,有12bay,缺点是有点耗电 10/18 16:05
你说的是不是LSI 2308?
若非我的卡买得早,现在应该也是用2308。
不过世代在更新,现在建议买3xxx系列了~
另外若非空间因素,我也想买台伺服器来玩玩。
只是拿旧零件组新机,越组越多台。
这空间似乎都能上机柜了XD
23F:推 chang0206 : 楼上你那不是「有点」耗电而已吧.... 10/18 16:32
24F:推 Litfal : 有点是多少点 10/18 17:55
双路CPU+双冗余电源,就算不含硬碟,应该也轻松破两百瓦吧?
25F:推 tennyleaz : End of line拼错字了XD 10/18 20:04
字打多了没注意到,感谢提醒~
工作中用APP不易编辑,到家用PCMAN修正!!
※ 编辑: SmithYANG (36.225.123.181 台湾), 10/18/2022 20:59:50
26F:→ concord : Vader: You have reached your destination. 10/18 20:46
27F:→ concord : Dell 720 就是上机柜了啊... 10/18 21:01
This is just the beginning...
我的意思是说,一开始受限空间没上机柜。
但後面越组越多台,所占的空间都可以摆机柜了~
※ 编辑: SmithYANG (36.225.123.181 台湾), 10/18/2022 21:04:17
28F:推 ouyang : LSI 2308 跟3008 价差不小耶 10/18 23:43
的确,如果不是急需的话,一样可以继续用2系列。
但相较之下,不但ESXI已经放弃对於2系列的支援。
而且3系列对於SSD的Trim也能正常使用。
在如今SSD快比HDD便宜的情况下,後面会使用到的机会想必会越来越大。
所以身为一个垃圾佬,就是等便宜的3系卡出来後,再入手做替换~
※ 编辑: SmithYANG (36.225.123.181 台湾), 10/19/2022 06:34:24
29F:推 kinggo : 大概是每两个月电费多一千块左右,哈哈 10/19 16:34
30F:→ kinggo : 原本也是用FREENAS,不过ZFS扩充太麻烦了,後来就转 10/19 16:39
31F:→ kinggo : 用OMV,反正我只是单纯的需要大空间,没其他应用 10/19 16:51
感谢分享心得,这正是我希望能够与版友讨论的~
ZFS的扩充的确麻烦,最好是在一开始就决定好容量免得後面再头疼。
另外我看你的10G传档速度似乎未满速?
是因为RAID的关系? 还是网卡的因素? 又或是软体没调教好呢?
※ 编辑: SmithYANG (36.225.123.181 台湾), 10/19/2022 19:54:37
33F:→ ktan : 再来可以考虑用proxmox ve,挂机的闲置用途更广10/19 19:59
之前就有玩过ESXI跟PVE了喔!!
虽然与高手相比并未深入,但大概知道怎麽入门。
本来是想玩UNRAID的,不过因为这块主板挪来装OMV。
计画只得暂缓啦~~
※ 编辑: SmithYANG (36.225.123.181 台湾), 10/19/2022 20:09:43
34F:推 kinggo : 如果没意外应该是卡在raid5速度的瓶颈10/19 22:37
感谢回报~ 虽说我也是因为需要大容量才组OMV的。
不过要是10G没跑满,奇摩子也会感到不爽快XD
待我後面网卡到的时候,我再来测试速度~
※ 编辑: SmithYANG (36.225.123.181 台湾), 10/19/2022 22:56:20
35F:推 rollr : 对这个有兴趣,请继续发文 XD10/20 06:55
看到文章能引起版友的兴趣,着实高兴~
还在思考後面要写TureNAS的重组记录,
还是jellyfin/docker的应用。
希望届时能一同来聊聊 :)
36F:推 wwweagle : 矿盘我买的时候已经990了,你是一次打包12颗吗?10/20 07:33
我分两批买的,一次10颗。
本周假日有空时,应该会PO个购买流程及硬碟的记录。
※ 编辑: SmithYANG (101.12.27.25 台湾), 10/20/2022 08:36:45
※ 编辑: SmithYANG (101.12.27.25 台湾), 10/20/2022 08:37:58
37F:推 wwweagle : 我才买3颗16TB就觉得很冒险了~想看你的分享! 10/20 11:17
我也是冒险赌一把,下单时心里也七上八下的~
庆幸被我赌对,否则就亏大了!!
不知道你使用上的体验如何呢?
※ 编辑: SmithYANG (36.225.89.209 台湾), 10/21/2022 06:02:32
39F:推 bababababa : 我也想买矿盘,期待心得.. 10/23 16:23
已PO心得文喽~
※ 编辑: SmithYANG (36.225.89.209 台湾), 10/23/2022 23:12:08
40F:推 hurober : 推心得 10/24 10:25
感谢支持~
※ 编辑: SmithYANG (36.225.112.52 台湾), 10/29/2022 22:37:52