作者marklai (心宿二)
看板AI_Art
標題[閒聊] intel B70 跑 Muse Glimmer heretic版
時間Thu Aug 13 17:31:45 2026
intel B70 跑 Muse Glimmer heretic版本，試作瑟瑟文
之前有用圖片讓gemma 4 31b heretic版跑瑟瑟文
https://webptt.com/m.aspx?n=bbs/AI_Art/M.1780393986.A.ECC.html
這次用新的Muse Glimmer配合intel B70來跑看看，感覺內容也不錯，gemma寫的比較有文學
感，muse glimmer寫的比較直白，速度也比較快，intel B70要用llamacpp vulkan版跑，有
11-12 t/s，gemma那時用3090只有3 t/s
https://i.urusai.cc/tv6L7.png
https://i.urusai.cc/UaRTm.png
想做瑟瑟文的可以試看看
----
Sent from
BePTT
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.246.72.81 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/AI_Art/M.1786613508.A.CCF.html
1F：推 shinjikawuru: 我2080TI 22GB寫文跑30t/s code 60t/s DFlash有上嗎 08/13 17:39
2F：推 are2: 太慢了吧 我連395都吊打你 另外4090直接破百 08/13 18:01
3F：→ plkoijhug: 等微調版再測看看 目前31b特化版還是比較強 08/13 19:57
4F：推 are2: 其實叫他生代碼 寫得一踏糊途 08/14 02:50
5F：推 dsin: 4090破百有點誇張吧 上下文跟量化是多少? 08/14 09:35
6F：→ are2: 上下文開滿131K 重點是dflash要開 08/14 10:44
7F：→ are2: kv量化都是Q4 08/14 10:44
8F：推 lordmi: 5090都可以到233了，4090跑100多很正常 08/14 11:09
9F：→ marklai: dflah沒用過，有空再研究看看 08/14 11:38