前阵子有朋友在评估只有一条PCIE-X16主机板想玩双卡AI 故这次这边买了一组PCIE转SFF-8654通道拆分卡来实测 https://i.meee.com.tw/xZShP8H.jpg 测试设备: CPU: R9-5900X MB: ASROCK B550M-ITX/AC (PCI-E 4.0) VGA: 2张 ZOTAC 5060TI 16G 想说反正5060TI本来也就只有物理PCIE X8 一张卡占用一条X16实在太浪费，乾脆拿来测试这套设备 1.先做一般显示输出测试，确认其稳定度与可用性 (1)显卡直插主机板 3DMark-TimeSpy 测试 https://i.meee.com.tw/KPjD3t1.jpg https://i.meee.com.tw/mydevDH.png (2)透过拆分板&SFF-8654连接 3DMark-TimeSpy 测试 https://i.meee.com.tw/vyGVAiV.jpg https://i.meee.com.tw/dRFW6Ug.jpg https://i.meee.com.tw/DmohbnF.png 可以看到透过拆分装置连接的5060TI (PCIE Link-Speed 16GT/s 代表走 PCI-E 4.0) 在PCIE Error Counter中 Recoverey Count 的数量明显增加 (但直插时也有这个Count只是较少) NAKs Received Count 也出现几笔 (直插没这个Count) 但没有出现被列为Error等级的Count 表示讯号传输确实会受到拆分装置影响，但不至於出现"错误"等级的问题 从3DMark分数来看也在误差范围内，证明这套拆分装置的可用性。 2.双卡AI测试 https://i.meee.com.tw/7ze7zSz.jpg https://i.meee.com.tw/F5DdSko.png 用Ollama跑Qwen3.6-27B-Q4_K_M KV量化Q8 Pipeline Parallel 情况下 得到结果为23tk/s (当然换个引擎会更快但主要是验证通道拆分装置，就不另外多测了) 这边可以看到 Recoverey及NAKs Received Count 都集中在有插萤幕的这张卡上 没萤幕只负责计算的卡 Recoverey Count 就很少 可推断通道拆分装置对Pipeline Parallel模式下的AI多卡运算影响不大 3.PCI-E降速测试 网路上一直有查到一套论述是 "对於Pipeline Parallel模式，PCI-E 3.0 & 4.0 在X8下 差异不大" 正好就拿这套设备来自己验证 https://i.meee.com.tw/HGuSq2o.png 可以看到跑出来速度还是23tk/s左右 (PCIE Link-Speed 8GT/s 代表走 PCI-E 3.0) 4.测试小结 (1) "品质好的"通道拆分装置，对於2张5060TI等级的卡，要跑PP并行模式的AI，其稳定 性是足够的。 (2) PCI-E X8 3.0 & 4.0 对於2张5060TI等级的卡，在PP并行模式下，AI运算速度影响不 大。 分享给有考虑SFF-8654 PCI-E通道拆分装置的板友参考~ ****本篇内容仅为个人测试心得，若论点或观点有误还请各位多帮忙指正或分享资讯**** ****以上系对Pipeline Parallel进行验证，想跑Tensor Parallel的要另外验证影响程度 **** 感谢您的收看~ --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 172.56.164.96 (美国) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/PC_Shopping/M.1786029182.A.931.html