【Ollama】Ollama安装保姆级教程(超级详细,适合新手)

简介: Ollama是一款开源的本地大语言模型(LLM)运行工具,类比“AI领域的Docker”,支持在Windows/macOS/Linux上一键部署Qwen、Llama 3、Mistral等主流开源模型,兼顾隐私、离线与低成本优势。(239字)

Ollama是一款开源的本地大语言模型部署工具,它的主要功能是在个人电脑上快速部署和运行各种开源大语言模型。

Ollama安装

pan.quark.cn/s/f8cdbf6fe0e0

pan.xunlei.com/s/VOq6FWn70SC0moqu3aMCbsxiA1?pwd=3i88#

软件完全免费开源,没有任何使用限制。Ollama提供了针对不同操作系统的安装包。Windows用户用.exe安装程序,macOS用户用.dmg安装包,Linux用户执行如下命令安装 Ollama:

curl -fsSL https://ollama.com/install.sh | sh


Ollama的安装过程非常简单,基本上就是标准的软件安装流程。

1)我使用的是 Windows 系统,下载.exe格式的可执行文件。双击这个文件启动安装程序:



2)直接点击 Install,开始安装:



3)安装完成后,点击"Cancel"按钮退出安装程序,Ollama 会自动启动:


Ollama使用教程(新手快速入门)

1) 修改模型存储路径(非 Windows 用户可忽略)

Ollama 默认将模型存储到 C 盘(通常为C:\Users\Administrator\.ollama\models),这对 C 盘可用容量有限的小伙伴非常不友好,我们可以手动将其修改为其它非系统盘。


修改的方法很简单,进入“Settings”界面,参照下图完成修改:


2) 运行第一个模型

Ollama主要通过命令行界面进行操作。打开终端(Windows用户可以使用PowerShell或CMD),就可以开始使用Ollama了。


访问 Ollama 官网模型库:https://ollama.com/library,找到你想使用的 AI 模型,比如 deepseek:

点击 deepseek-r1,进入下图的页面,就能看到运行它的命令,是不是很简单:


这里以 qwen2.5 模型为例,在 CMD 窗口执行如下命令:

ollama run qwen2.5


耐心等待模型下载完,下载过程可能需要一些时间,具体取决于模型大小和网络速度。7B模型大约需要4GB存储空间,13B模型需要8GB,70B模型则需要40GB以上:



一切准备就绪后,就可以和 AI 模型聊天了:



对于新手用户,建议先从较小的模型开始尝试,比如llama2:7b或mistral:7b。熟悉基本操作后,再根据需求尝试更大的模型或专用模型。


最后,在介绍几个常用的命令:

# 列出已下载的模型
ollama list

# 删除模型
ollama rm <模型名>

# 运行模型(交互式)
ollama run <模型名>

# 停止运行模型
ollama stop <模型名>


相关文章
|
23天前
|
Oracle Java 关系型数据库
【全网最详细】JDK11下载安装图文教程 | Java11开发环境配置详解
JDK11是Oracle于2018年发布的长期支持(LTS)版本,支持至2026年。它引入模块化系统、var局部变量推断、HTTP/2客户端等关键特性,在稳定性、现代性与生态兼容性间取得良好平衡,至今仍是企业级Java开发主流选择。
|
21天前
|
弹性计算 人工智能 机器人
超详细!Hermes Agent 一键部署全流程指南,轻松上手不踩坑
本文将为大家分享 Hermes Agent 一键部署全流程指南,助力大家轻松上手不踩坑!
2161 17
|
7月前
|
人工智能 测试技术 API
构建AI智能体:二、DeepSeek的Ollama部署FastAPI封装调用
本文介绍如何通过Ollama本地部署DeepSeek大模型,结合FastAPI实现API接口调用。涵盖Ollama安装、路径迁移、模型下载运行及REST API封装全过程,助力快速构建可扩展的AI应用服务。
2300 7
|
人工智能 JavaScript Java
【SpringAIAlibaba新手村系列】(1)初识 Spring AI Alibaba 框架
本文介绍了SpringAIAlibaba框架的基本概念和使用方法。作为Spring官方AI框架的阿里云实现版本,它简化了Java开发者调用AI模型的过程。文章详细讲解了核心概念如ChatModel、ChatClient,以及阿里云百炼平台的功能。通过HelloWorld项目示例,展示了如何配置APIKey、编写控制层代码,实现普通调用和流式输出两种AI交互方式。重点阐述了SpringAI与SpringAIAlibaba的关系,以及自动配置机制的工作原理,帮助开发者快速上手这一框架。
2896 4