一、Ollama是什么?
Ollama 是一个本地部署和运行大型语言模型 (LLM) 的开源框架。Ollama的核心目标就是让在本地电脑上运行强大的AI模型变得像安装一个普通软件一样简单.
二、Ollama安装和升级
本文的ollama使用是在ubuntu22.04系统,其他版本的系统命令行类似
官方推荐升级方法
在系统终端或命令后执行以下命令,可能需要切换root权限,有时候网络下载比较慢,需要重试多次
curl -fsSL https://ollama.com/install.sh | sh
下载安装包升级
去github下载安装包,目前最新版本是v0.31.1
ollama发布版本github下载链接
下载之后安装步骤请参考
#解压文件,如果zstd命令没有 执行apt install zstd
zstd -d ollama-linux-amd64.tar.zst
#需要切换root权限
sudo -i
#解压到默认的ollama安装目录 一般是 /usr/local
tar -xvf ollama-linux-amd64.tar -C /usr/local
ollama 配置
如果ollama配置为service的方式运行
要修改ollama的api或者web api启动的端口 模型文件目录 /etc/systemd/system/ollama.service
添加环境变量配置Environment="OLLAMA_HOST=0.0.0.0:8001"
验证安装
#查看模型列表
ollama list
#查看当前版本
ollama --version
二、Ollama模型下载及运行
模型下载
下载一个小模型试试 ,例如 deepseek-r1:1.5b
ollama download deepseek-r1:1.5b
非官方下载,ollama有一些国内镜像站可以下载模型,需要带上镜像站的前缀
ollama download alibayram/Qwen3-30B-A3B-Instruct-2507:latest
运行模型
ollama run deepseek-r1:1.5b
首次加载模型时间要长一点,等待模型加载完成就可以开始对话
需要退出聊天输入/bye
总结
还可以通过open webUI访问ollama , ollama也可以被 OpenClaw很方便的调用