Ollama 是一款免费、开源的本地大模型运行工具，让你在自己电脑上直接运行 Llama、Qwen、DeepSeek、Gemma 等主流开源大模型，不需要联网、不需要付费，数据也不出本机。只需要一条命令，就能像聊天一样和本地大模型对话，还能把它接入 Claude Code、Codex 等编码工具，相当于给电脑装了一个随叫随到的本地 AI。
在本地大模型运行工具里，Ollama 和 LM Studio、Jan 是经常被拿来对比的三款，下面是它们之间的主要区别：
| 工具 | 价格 | 平台 | 使用方式 | 核心特点 |
| Ollama | 免费、开源 | Windows/Linux/Mac | 命令行为主，有桌面端 | 命令简洁，生态成熟，模型一键下载运行 |
| LM Studio | 免费 | Windows/Linux/Mac | 图形界面 | 可视化操作，适合图形界面偏好者 |
| Jan | 免费、开源 | Windows/Linux/Mac | 图形界面 | 界面简洁，注重隐私和易用性 |
Ollama 最大的优势是简单：安装包小、一条命令装好，模型一条命令下载、一条命令运行，几乎不需要学习成本。它支持 Windows、macOS、Linux 三大平台，个人和企业使用都不用付费，没有功能限制。
安装Ollama
Ollama安装包【pan.quark.cn/s/f8cdbf6fe0e0】，Linux 用户可以用官网提供的一键安装脚本：
curl -fsSL https://ollama.com/install.sh | sh
Windows 平台的安装过程非常简单。下载 OllamaSetup.exe 后直接双击启动，点击 Install：
安装程序会自动安装到当前用户目录，不需要手动选择路径，也不需要额外配置，等待进度条走完即可：
装好后 Ollama 自动启动，系统托盘也会出现 Ollama 图标，说明后台服务已经在运行了：
Ollama部署本地大模型
1) 修改模型存储路径（非 Windows 用户可忽略）
Ollama 默认将模型存储到 C 盘（通常为C:\Users\Administrator\.ollama\models），这对 C 盘可用容量有限的小伙伴非常不友好，我们可以手动将其修改为其它非系统盘。
修改的方法很简单，进入“Settings”界面，参照下图完成修改：
2) 运行第一个模型
Ollama主要通过命令行界面进行操作。打开终端（Windows用户可以使用PowerShell或CMD），就可以开始使用Ollama了。
访问 Ollama 官网模型库 ollama.com/library（浏览器访问），找到你想使用的 AI 模型，比如 deepseek：
点击 deepseek-r1，进入下图的页面，就能看到运行它的命令，是不是很简单：
这里以 qwen2.5 模型为例，在 CMD 窗口执行如下命令：
ollama run qwen2.5
耐心等待模型下载完，下载过程可能需要一些时间，具体取决于模型大小和网络速度。7B模型大约需要4GB存储空间，13B模型需要8GB，70B模型则需要40GB以上：
一切准备就绪后，就可以和 AI 模型聊天了：
对于新手用户，建议先从较小的模型开始尝试，比如llama2:7b或mistral:7b。熟悉基本操作后，再根据需求尝试更大的模型或专用模型。
装完之后，就可以在主界面配置装好的模型，然后就可以畅快的对话了：
最后，在介绍几个常用的命令：
| 命令 | 作用 |
| ollama list | 列出已下载的模型 |
| ollama pull 模型名 | 下载指定模型（可提前下载） |
| ollama run 模型名 | 运行模型，进入交互式对话 |
| ollama stop 模型名 | 停止运行中的模型 |
| ollama rm 模型名 | 删除模型，释放磁盘空间 |
| ollama show 模型名 | 查看模型的详细信息 |
| ollama ps | 查看正在运行的模型和资源占用 |
| ollama --version | 查看 Ollama 版本号 |
Ollama热门模型推荐
Ollama 模型库里收录了几百个开源模型，新手容易挑花眼。下面把最热门的几款整理成表格，按出品方、参数规模和特点分类，帮你快速找到适合自己的那个：
| 模型 | 出品方 | 主要版本 | 特点 | 适合场景 |
| Qwen3（通义千问） | 阿里 | 0.6B-235B | 中文能力突出，支持工具调用和思考模式 | 中文问答、写作、日常使用 |
| Gemma 4 | 4B-31B | 最新一代，各尺寸性能领先，支持视觉、工具调用 | 综合任务、编码、推理 | |
| DeepSeek R1 | DeepSeek | 1.5B-671B | 推理能力强，擅长数学、逻辑类问题 | 复杂推理、代码分析 |
| Llama 3.1 / 3.2 | Meta | 1B-405B | 生态最成熟，工具调用支持好 | 通用任务、应用开发 |
| Phi-4 | 微软 | 14B | 小尺寸强性能，代码和数学表现出色 | 代码、数学、推理 |
| Mistral | Mistral AI | 7B | 轻量快速，资源占用低 | 快速对话、低配电脑 |
选择建议：
- 主要用中文就选 Qwen3，中文理解和生成质量在开源模型里是第一梯队；
- 追求推理能力（数学、逻辑、代码）选 DeepSeek R1；
- 想要均衡的综合能力选 Gemma 4；
- 做开发、接应用选 Llama 系列，生态和文档最全；
- 配置一般的电脑选 Phi-4 或 Mistral 也不会失望；
- 需要看图理解（多模态）的话，可以试试 Qwen3.5 和 Gemma 4 的视觉版本。
参数量的选择口诀是"够用就好"：
- 普通聊天写作，4B-8B 的版本体验和速度最平衡；
- 16GB 以上内存或中端显卡可以上 14B-32B；
- 再大的模型（70B 以上）建议有 24GB 以上显存的显卡再考虑。
拿不准就先装个 8B 左右的试试，跑起来再按需更换，模型之间随时可以切换。
