ollama离线部署模型文件

1、需要有一个gguf格式的模型文件比如叫deepseek-r1-7b.Q4_K_M.gguf2、创建一个文件夹比如叫models3、在文件夹下创建一个文本文档名字Modelfile无后缀里面写如下内容FROM ./deepseek-r1-7b.Q4_K_M.gguf TEMPLATE |begin_of_sentence|{{ if .System }}|SystemPrompt|{{ .System }}|UserPrompt|{{ end }}{{ .Prompt }}|AssistantPrompt| PARAMETER stop |end_of_sentence| PARAMETER temperature 0.6 PARAMETER num_ctx 81924、把gguf文件和Modelfile都放在models文件夹同一目录下在此文件夹下打开cmd输入下面的命令//deepseek-r1:7b是自己任意取的名字 ollama create deepseek-r1:7b -f Modelfile5、等待拉取完毕就可以与模型对话了