我知道GPT4ALL比较冷门一点 但是它使用跟安装都简单啊 Ollama光看教学就头痛... 使用Qwen是因为它在回答时比较不会夹杂英文 用Llama都要求用中文了里面还是会一直夹带英文 很烦 目前碰到的问题是会重复回答 还有出现类似程式用词 https://i.meee.com.tw/BaSeMB0.png 像是这样 检查字数可以发现这三段其实每一段都是100字左右 所以它重复回答了三次 第三次还出现###<|endoftext|>Human: 这种疑似prompt template的玩意 是不是system prompt或者prompt template的设定有问题? 预设的设定如下 https://i.meee.com.tw/0qRZKrl.png 要怎麽做才能改善呢? --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.224.234.190 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/AI_Art/M.1731826778.A.89E.html 自问自答 我把prompt template改成这样: <|im_start|>### Human: %1 <|im_end|> <|im_start|>### Assistant: %2 <|im_end|> https://i.meee.com.tw/pLjp8aj.png 这是更改後的输出 我去搜索了原本它回覆中出现的<|endoftext|> 找到了<|im_end|>跟<|im_start|>搭配 然後%2是在GPT4ALL的标准模型上看到放在assistant之後 所以依样画葫芦把它加上去 不确定不加会不会有问题 这是用自己电脑跑才用Qwen 网路的部分一般也是用GPT或claude ※ 编辑: guogu (36.224.196.81 台湾), 11/24/2024 23:16:13