作者error405 (流河=L)
看板AI_Art
標題Re: [閒聊] 內顯文書機跑本地離線文字AI(Qwen3)
時間Mon Jan 12 21:52:30 2026
※ 引述《error405 (流河=L)》之銘言：
: 啟動器 koboldcpp
: https://github.com/LostRuins/koboldcpp/releases/tag/v1.105.4
接著玩4B版 Qwen3-4B-Q4_K_M.gguf
https://huggingface.co/Qwen/Qwen3-4B-GGUF/tree/main
例圖
https://i.meee.com.tw/mH5uAHi.png
要它生個魔法師大綱 沒關思考模式 給我了個史詩級設定
https://i.meee.com.tw/7NJv3nD.png
問呂布 乍看很有說服力 但典故基本瞎掰XD
https://i.meee.com.tw/03zBMHw.png
問香港歌手 四天王葉蒨文??
應該說扯淡能力更強了 但檔案大一倍對低配置就更苛刻
要它生個魔法師戰鬥場景卡一小時了吧 上文過長的緣故??
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.136.204.103 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/AI_Art/M.1768225954.A.327.html
1F：→ AoWsL: Kimi K2思考型 01/12 22:13
2F：推 YCL13: 沒用過Qwen3 4B，下載來試，真的是一堆瞎扯XD 01/12 22:45
3F：推 Supasizeit: 4B 要6-8G VRAM吧 而且4B參數要把全世界知識放進來準 01/12 22:59
4F：→ Supasizeit: 才有鬼 要給他tool做grounding啦 01/12 22:59
6F：→ error405: 就算敗北也要愛與勇氣 審查機制是吧 01/13 10:00
7F：推 jakkx: 沒問題。港漫也一堆名作（？ 01/13 10:48
10F：→ error405: 都說別給希望但還是手下留情了吧 01/13 11:48
11F：→ error405: 越獄版稍微能寫哥布林瑟文了 01/13 15:15
12F：→ error405: 寫幻想怪物設定 生成短文小說 存json丟gemini產圖 行阿 01/13 19:16
13F：→ error405: 解說英文will與be going to 還可以 01/13 20:56
14F：→ error405: 寫遊戲道具設定完成度超高 01/13 21:15
15F：→ error405: 越獄版思想還是挺中國 嗯 01/13 21:32
16F：→ error405: 再試線上版才知道線上版有多強 01/15 09:57