Ollama 最常用和核心的命令速查表

Ollama 是一个用于在本地运行大语言模型(LLM)的开源工具。以下是 Ollama 最常用和核心的命令速查表,按使用场景分类

1. 模型管理(最常用)

命令 说明 示例
ollama pull 下载/更新模型 ollama pull llama3.2
ollama list 查看已下载的本地模型 ollama list
ollama show 查看模型详细信息 ollama show llama3.2
ollama rm 删除本地模型 ollama rm llama3.2
ollama cp 复制/重命名模型 ollama cp llama3.2 my-model

2. 运行与交互

命令 说明 示例
ollama run 启动交互式对话(若未下载会自动拉取) ollama run llama3.2
ollama run --verbose 显示生成速度等详细统计信息 ollama run llama3.2 --verbose
/bye 或 Ctrl+D 退出交互式对话 在对话中输入

💡 提示: ollama run 进入交互模式后,输入 /help 可查看对话内的快捷命令,如 /set temperature 0.7、/system "你是一个翻译助手" 等。

3. API 服务

命令 说明
ollama serve 手动启动 REST API 服务(默认监听 http://localhost:11434)

⚠️ 注意: 在 macOS/Linux 上通过安装脚本安装后,ollama serve 通常作为后台服务自动运行,无需手动启动。Windows 上安装后也会自动启动托盘服务。仅在需要自定义配置(如修改端口、跨域等)时才需手动执行。

4. 创建自定义模型

# 基于 Modelfile 创建自定义模型
ollama create my-model -f ./Modelfile

Modelfile 示例:

FROM llama3.2
SYSTEM "你是一个专业的Python编程助手"
PARAMETER temperature 0.5
PARAMETER num_ctx 8192

5. 常用环境变量配置

环境变量 说明 默认值
OLLAMA_HOST API 监听地址 127.0.0.1:11434
OLLAMA_MODELS 模型存储路径 ~/.ollama/models
OLLAMA_NUM_PARALLEL 并发请求数 1
OLLAMA_MAX_LOADED_MODELS 同时加载到内存的最大模型数 1
OLLAMA_GPU_OVERHEAD GPU 显存预留量 0

6. 实用技巧

  • 指定模型大小/量化版本: ollama pull llama3.2:3b-q4_K_M

  • 非交互单次提问: ollama run llama3.2 "解释什么是量子计算" (直接跟提示词,不进入交互模式)

  • 查看正在运行的模型: ollama ps

  • API 调用示例:

bash curl http://localhost:11434/api/chat -d '{ "model": "llama3.2", "messages": [{"role": "user", "content": "你好"}], "stream": false }'

如需查看完整帮助,可运行 ollama help 或访问 Ollama 官方文档。如果你有具体的使用场景(如部署、微调、集成到应用中等),可以告诉我,我提供更有针对性的指导。