[LLMs] 想請教modelfile設定
請問各位前輩
語言模型在設定modelfile的指令有一個我不識很懂
TEMPLATE """{{ if .System }}<|start_header_id|>system<|end_header_id|>
{{ .System }}<|eot_id|>{{ end }}{{ if .Prompt
}}<|start_header_id|>user<|end_header_id|>
{{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|>
{{ .Response }}<|eot_id|>"""
這指令到底是做甚麼?怎麼用?
因為實際上我有嘗試再openweb ui建立新modelfile加入但是會報錯
其他指令我都懂就TEMPLATE我不知如何正確使用
雖然modelfile沒一定要用這指令但我還是想知道正確用法
另外想請問有沒有推薦的討論語言模型的中文社群
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.235.157.1 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/AI_Art/M.1717070487.A.F1D.html