📄 Modelfile 语法
# 基础模型
FROM llama3.1
# 系统提示词
SYSTEM "你是一个专业的编程助手，擅长 Python 和 JavaScript。"
# 对话模板
TEMPLATE """{{ .System }}
User: {{ .Prompt }}
Assistant: """
# 参数
PARAMETER temperature 0.7
PARAMETER top_p 0.9
PARAMETER top_k 40
PARAMETER num_ctx 4096
🔧 常用参数
| 参数 | 说明 | 默认值 |
|---|
| temperature | 创造性程度 | 0.8 |
| top_p | 核采样 | 0.9 |
| top_k | 候选词数量 | 40 |
| num_ctx | 上下文长度 | 2048 |
| stop | 停止词 | - |
📝 创建自定义模型
# 创建 Modelfile
cat > Modelfile << 'EOF'
FROM llama3.1
SYSTEM "你是专业的代码审查助手，用中文回答。"
PARAMETER temperature 0.3
EOF
# 创建模型
ollama create my-coder -f Modelfile
# 运行
ollama run my-coder "审查这段代码：def add(a,b): return a+b"
📥 导入 GGUF 模型
# 从 GGUF 文件创建
cat > Modelfile << 'EOF'
FROM ./model.gguf
TEMPLATE """[INST] {{ .Prompt }} [/INST]"""
SYSTEM "你是一个有帮助的助手。"
EOF
ollama create my-model -f Modelfile