作者povertytrap (povertytrap)
看板AI_Art
标题[LLMs] 想请教modelfile设定
时间Thu May 30 20:01:25 2024
请问各位前辈
语言模型在设定modelfile的指令有一个我不识很懂
TEMPLATE """{{ if .System }}<|start_header_id|>system<|end_header_id|>
{{ .System }}<|eot_id|>{{ end }}{{ if .Prompt
}}<|start_header_id|>user<|end_header_id|>
{{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|>
{{ .Response }}<|eot_id|>"""
这指令到底是做甚麽?怎麽用?
因为实际上我有尝试再openweb ui建立新modelfile加入但是会报错
其他指令我都懂就TEMPLATE我不知如何正确使用
虽然modelfile没一定要用这指令但我还是想知道正确用法
另外想请问有没有推荐的讨论语言模型的中文社群
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.235.157.1 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/AI_Art/M.1717070487.A.F1D.html