Ollama 最常用和核心的命令速查表
Ollama 是一个用于在本地运行大语言模型(LLM)的开源工具。以下是 Ollama 最常用和核心的命令速查表,按使用场景分类
1. 模型管理(最常用)
| 命令 | 说明 | 示例 |
|---|---|---|
ollama pull |
下载/更新模型 | ollama pull llama3.2 |
ollama list |
查看已下载的本地模型 | ollama list |
ollama show |
查看模型详细信息 | ollama show llama3.2 |
ollama rm |
删除本地模型 | ollama rm llama3.2 |
ollama cp |
复制/重命名模型 | ollama cp llama3.2 my-model |
2. 运行与交互
| 命令 | 说明 | 示例 |
|---|---|---|
ollama run |
启动交互式对话(若未下载会自动拉取) | ollama run llama3.2 |
ollama run --verbose |
显示生成速度等详细统计信息 | ollama run llama3.2 --verbose |
/bye 或 Ctrl+D |
退出交互式对话 | 在对话中输入 |
💡 提示:
ollama run进入交互模式后,输入/help可查看对话内的快捷命令,如/set temperature 0.7、/system "你是一个翻译助手"等。
3. API 服务
| 命令 | 说明 |
|---|---|
ollama serve |
手动启动 REST API 服务(默认监听 http://localhost:11434) |
⚠️ 注意: 在 macOS/Linux 上通过安装脚本安装后,
ollama serve通常作为后台服务自动运行,无需手动启动。Windows 上安装后也会自动启动托盘服务。仅在需要自定义配置(如修改端口、跨域等)时才需手动执行。
4. 创建自定义模型
# 基于 Modelfile 创建自定义模型
ollama create my-model -f ./Modelfile
Modelfile 示例:
FROM llama3.2
SYSTEM "你是一个专业的Python编程助手"
PARAMETER temperature 0.5
PARAMETER num_ctx 8192
5. 常用环境变量配置
| 环境变量 | 说明 | 默认值 |
|---|---|---|
OLLAMA_HOST |
API 监听地址 | 127.0.0.1:11434 |
OLLAMA_MODELS |
模型存储路径 | ~/.ollama/models |
OLLAMA_NUM_PARALLEL |
并发请求数 | 1 |
OLLAMA_MAX_LOADED_MODELS |
同时加载到内存的最大模型数 | 1 |
OLLAMA_GPU_OVERHEAD |
GPU 显存预留量 | 0 |
6. 实用技巧
-
指定模型大小/量化版本:
ollama pull llama3.2:3b-q4_K_M -
非交互单次提问:
ollama run llama3.2 "解释什么是量子计算"(直接跟提示词,不进入交互模式) -
查看正在运行的模型:
ollama ps -
API 调用示例:
bash
curl http://localhost:11434/api/chat -d '{
"model": "llama3.2",
"messages": [{"role": "user", "content": "你好"}],
"stream": false
}'
如需查看完整帮助,可运行 ollama help 或访问 Ollama 官方文档。如果你有具体的使用场景(如部署、微调、集成到应用中等),可以告诉我,我提供更有针对性的指导。