🍎 macOS 安装

# Homebrew 安装
brew install ollama

# 或下载 dmg
# https://ollama.com/download

# 启动服务
ollama serve

Apple Silicon(M1/M2/M3/M4)自动使用 Metal GPU 加速。

🐧 Linux 安装

# 一键安装
curl -fsSL https://ollama.com/install.sh | sh

# 启动服务
ollama serve

# 验证
ollama --version

NVIDIA GPU 支持

# 确保已安装 CUDA 驱动
nvidia-smi

# Ollama 自动检测 GPU

🪟 Windows 安装

下载安装包:ollama.com/download

  • 支持 NVIDIA GPU(CUDA)
  • Windows 10/11 64位

🐳 Docker 部署

# CPU 模式
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

# GPU 模式(需要 nvidia-container-toolkit)
docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

📋 系统要求

模型大小最小内存推荐
7B8 GB16 GB
13B16 GB32 GB
70B64 GB128 GB
← 上一页:核心特性下一页:模型管理 →