Ollama的安装和升级使用实践

简介: Ollama 是一款开源本地LLM运行框架,让在Ubuntu等系统上一键部署、下载(支持国内镜像)和运行大模型(如DeepSeek-R1)变得简单。支持命令行交互、端口配置、服务管理,并可对接Open WebUI与OpenClaw。

一、Ollama是什么?

Ollama 是一个本地部署和运行大型语言模型 (LLM) 的开源框架。Ollama的核心目标就是让在本地电脑上运行强大的AI模型变得像安装一个普通软件一样简单.

二、Ollama安装和升级

本文的ollama使用是在ubuntu22.04系统,其他版本的系统命令行类似

官方推荐升级方法

在系统终端或命令后执行以下命令,可能需要切换root权限,有时候网络下载比较慢,需要重试多次

curl -fsSL https://ollama.com/install.sh | sh

下载安装包升级

去github下载安装包,目前最新版本是v0.31.1
ollama发布版本github下载链接
下载之后安装步骤请参考

#解压文件,如果zstd命令没有 执行apt install zstd
zstd -d ollama-linux-amd64.tar.zst
#需要切换root权限
sudo -i
#解压到默认的ollama安装目录 一般是 /usr/local
tar -xvf ollama-linux-amd64.tar -C /usr/local

ollama 配置

如果ollama配置为service的方式运行
要修改ollama的api或者web api启动的端口 模型文件目录 /etc/systemd/system/ollama.service
添加环境变量配置Environment="OLLAMA_HOST=0.0.0.0:8001"

验证安装

#查看模型列表
ollama list
#查看当前版本
ollama --version

二、Ollama模型下载及运行

模型下载

下载一个小模型试试 ,例如 deepseek-r1:1.5b

ollama download deepseek-r1:1.5b

非官方下载,ollama有一些国内镜像站可以下载模型,需要带上镜像站的前缀

ollama download alibayram/Qwen3-30B-A3B-Instruct-2507:latest

运行模型

ollama run  deepseek-r1:1.5b

首次加载模型时间要长一点,等待模型加载完成就可以开始对话
ollama聊天界面命令行
需要退出聊天输入/bye

总结

还可以通过open webUI访问ollama , ollama也可以被 OpenClaw很方便的调用

相关文章
|
11天前
|
人工智能 Linux iOS开发
Ollama使用教程:Ollama官网下载、Ollama本地部署大模型(2026最新)
Ollama 是一款免费开源的本地大模型运行工具,支持在 Windows/macOS/Linux 上离线运行 Qwen、DeepSeek、Llama 等主流开源模型,数据不出本机、隐私安全。提供 OpenAI 兼容 API,命令行一键拉取/运行/管理模型,无需联网,无调用限制,是开发者与 AI 爱好者部署本地 AI 助手的理想选择。(239 字)
|
2月前
|
弹性计算 JSON BI
阿里云 CLI 询价能力技术手册
阿里云CLI提供OpenAPI调用前精准询价功能(`--estimate-cost`),支持实时预估费用,与事后账单互补。报价与实际订单金额完全一致,覆盖新购、变配等场景。
301 2
|
15天前
|
Web App开发 人工智能 API
16 个超火的 DeepSeek Harness 插件,大肥鱼已经落后 N 个版本了。。。
DeepSeek Harness 精选插件推荐合集,从图片识别、浏览器操控、多 Agent 协作到手机远程控制,一口气带你看完 DSH 社区热门的十几个插件,覆盖技能扩展、UI 界面增强、整活玩法三大类,让你的鲸鱼变得更强。
1887 5
|
6月前
|
机器学习/深度学习 人工智能 算法
更大的上下文窗口为什么让RAG变得更重要而非更多余
大上下文窗口(如1M tokens)并未淘汰RAG,反而凸显其价值:LLM注意力易被噪声稀释,“迷失在中间”效应导致性能下降。实验证明,相关性筛选比单纯扩容更关键。RAG+大上下文协同——先精准检索重排序,再注入高密度片段——才是生产级AI的可靠范式。
562 0
|
1月前
|
人工智能 自然语言处理 API
从入门到精通阿里云千问:模型矩阵、免费额度、API代码调用与企业落地指南
AI产业落地的浪潮下,自研通用大模型已经成为数字化转型的核心基础设施。阿里云千问,官方名称通义千问,代号Qwen,是阿里云完全自主研发的全栈式大模型家族,并非单一文本模型,而是覆盖纯文本、代码、图像、音频、视频、行业垂直场景的完整产品矩阵,统一依托阿里云百炼大模型服务平台对外提供模型调用、微调、智能体开发、私有知识库构建、应用一键部署等全链路MaaS服务。当前主力迭代版本为Qwen3.7系列,形成旗舰、均衡、轻量、多模态、代码专用五大分支模型,在中文理解、超长上下文推理、自主智能体执行、多模态统一解析四大维度具备国产头部水准,同时搭配免费试用、按量计费、Token Plan订阅、长期节省计划四
903 4
|
2月前
|
人工智能 前端开发 测试技术
测试开发一定要看懂 Agent?4 张图讲明白
本文用4张图厘清Agent核心概念:与大模型的区别、工作原理、ReAct流程,以及与ChatBot、Workflow的差异。面向测试/开发/产品人员,助力AI测试开发落地。文末征集下期选题(测试用例/自动化/缺陷分析Agent)。
|
4月前
|
人工智能 JavaScript Java
阿里云百炼API-Key完整获取教程:从零到一键调用全流程及常见问题解答
阿里云百炼是阿里云提供的一站式大模型服务平台,支持各类模型调用、智能体接入、应用开发与部署。想要通过代码、第三方工具(如OpenClaw、Hermes Agent、Claude Code)接入百炼模型,必须先获取正确可用的API-Key。本文提供完整、可直接操作的API-Key开通与获取流程,全程清晰易懂,新手也能快速完成。
2115 2
阿里云百炼API-Key完整获取教程:从零到一键调用全流程及常见问题解答
|
3月前
|
存储 人工智能 算法
大模型训推公有云报告:阿里云市场份额第一
国际数据公司(IDC)发布了《中国AI软件市场半年度追踪,2025H2》报告,阿里云在2025年中国大模型训推公有云市场中市场份额达到42.2%,稳居第一。