Ollama的安装和升级使用实践

简介: Ollama 是一款开源本地LLM运行框架,让在Ubuntu等系统上一键部署、下载(支持国内镜像)和运行大模型(如DeepSeek-R1)变得简单。支持命令行交互、端口配置、服务管理,并可对接Open WebUI与OpenClaw。

一、Ollama是什么?

Ollama 是一个本地部署和运行大型语言模型 (LLM) 的开源框架。Ollama的核心目标就是让在本地电脑上运行强大的AI模型变得像安装一个普通软件一样简单.

二、Ollama安装和升级

本文的ollama使用是在ubuntu22.04系统,其他版本的系统命令行类似

官方推荐升级方法

在系统终端或命令后执行以下命令,可能需要切换root权限,有时候网络下载比较慢,需要重试多次

curl -fsSL https://ollama.com/install.sh | sh

下载安装包升级

去github下载安装包,目前最新版本是v0.31.1
ollama发布版本github下载链接
下载之后安装步骤请参考

#解压文件,如果zstd命令没有 执行apt install zstd
zstd -d ollama-linux-amd64.tar.zst
#需要切换root权限
sudo -i
#解压到默认的ollama安装目录 一般是 /usr/local
tar -xvf ollama-linux-amd64.tar -C /usr/local

ollama 配置

如果ollama配置为service的方式运行
要修改ollama的api或者web api启动的端口 模型文件目录 /etc/systemd/system/ollama.service
添加环境变量配置Environment="OLLAMA_HOST=0.0.0.0:8001"

验证安装

#查看模型列表
ollama list
#查看当前版本
ollama --version

二、Ollama模型下载及运行

模型下载

下载一个小模型试试 ,例如 deepseek-r1:1.5b

ollama download deepseek-r1:1.5b

非官方下载,ollama有一些国内镜像站可以下载模型,需要带上镜像站的前缀

ollama download alibayram/Qwen3-30B-A3B-Instruct-2507:latest

运行模型

ollama run  deepseek-r1:1.5b

首次加载模型时间要长一点,等待模型加载完成就可以开始对话
ollama聊天界面命令行
需要退出聊天输入/bye

总结

还可以通过open webUI访问ollama , ollama也可以被 OpenClaw很方便的调用

相关文章
|
26天前
|
人工智能 Linux iOS开发
Ollama 保姆级实操教程:2026最新版本Windows/macOS/Linux本地离线部署开源大模型完整指南
随着开源大模型生态快速发展,越来越多开发者、AI爱好者不再单纯依赖线上AI接口,更倾向于在本地设备运行大模型,实现数据完全本地留存,保护业务与个人隐私。Ollama作为当下主流免费开源本地大模型运行工具,能够在Windows、macOS、Linux操作系统之上离线运行Qwen、DeepSeek、Llama、Mistral等各类主流开源模型,全程数据不会向外传输,断网环境依旧可以正常对话交互,同时提供兼容OpenAI标准的API接口,便于第三方开发工具、Agent程序接入调用本地大模型能力。2026年Ollama迭代到v0.32.x版本,三端同步更新,优化显卡推理加速、内存调度逻辑,降低普通电脑
1036 0
|
21天前
|
人工智能 Linux API
Ollama零基础完整实战:本地离线部署开源大模型,全平台安装、API调用与排坑全指南
随着大模型技术普及,很多开发者、科研人员、普通爱好者开始关注本地私有化大模型。云端接口虽然使用便捷,但会产生持续调用费用,业务数据需要外传,存在隐私泄露风险。Ollama作为一款免费开源的本地大模型运行框架,支持Windows、macOS、Linux全操作系统,可以在个人电脑、服务器本地运行各类开源大模型,断网环境依旧可以正常提供AI能力,业务数据完全保留在本机,不需要上传外部服务。当前主流版本为v0.32.x,汇集Qwen、DeepSeek‑R1、Llama、Gemma、Qwen2.5‑VL多模态等海量开源模型,一条终端命令就可以完成模型拉取、启动运行,同时原生兼容OpenAI标准API,各
434 0
|
25天前
|
人工智能 Linux iOS开发
Ollama本地部署教程|Ollama官网下载安装图文(附热门模型清单)
Ollama 是一款免费开源的本地大模型运行工具,支持 Windows/macOS/Linux,可离线运行 Llama、Qwen、DeepSeek 等主流模型。数据不出本地,隐私安全;命令行+API 设计,适合开发者集成。模型下载快、生态丰富,是隐私敏感用户和本地 AI 开发者的首选。(239 字)
|
1月前
|
IDE 编译器 开发工具
【devc++】Dev C++下载+安装+汉化+使用一篇搞定(2026全网最详细)
Dev C++ 是一款免费开源、轻量易用的 Windows C/C++ 集成开发环境(IDE),内置 MinGW 编译器,安装即用。支持一键编译(F9)和编译运行(F11),界面简洁,汉化完善,是高校教学、计算机等级考试及编程入门首选工具。
|
6月前
|
监控 数据挖掘 API
从踩坑到高效落地:淘宝商品详情API的实操心得
淘宝商品详情API提供全维度商品数据,含基础信息、详情页HTML、SKU、价格、销量等,支持比价、代购、数据分析及内容电商等场景,涵盖item.get、item.get_pro等核心接口,接入便捷高效。
|
6月前
|
机器学习/深度学习 人工智能 算法
更大的上下文窗口为什么让RAG变得更重要而非更多余
大上下文窗口(如1M tokens)并未淘汰RAG,反而凸显其价值:LLM注意力易被噪声稀释,“迷失在中间”效应导致性能下降。实验证明,相关性筛选比单纯扩容更关键。RAG+大上下文协同——先精准检索重排序,再注入高密度片段——才是生产级AI的可靠范式。
610 0
|
2月前
|
存储 人工智能 安全
【新版】阿里云 无影云电脑个人版 功能介绍及配置价格表
阿里云无影云电脑个人版(EDSP)是阿里云面向个人用户、家庭用户与自由职业者推出的轻量化云端计算服务,以“随时随地、即开即用、按需付费”为核心优势,将高性能计算能力、图形渲染能力与安全存储能力集成于云端,用户可通过Windows、macOS、iOS、Android等多终端设备接入,实现跨设备无缝办公、娱乐与创作。无影云电脑个人版彻底打破传统电脑的硬件限制与空间束缚,无需采购昂贵硬件、无需复杂运维,即可拥有一台性能强劲、安全可靠的云端电脑,满足日常办公、设计创作、游戏娱乐、AI开发等全场景需求。本文将全面解析无影云电脑个人版的核心功能、技术架构、使用流程、配置价格及API接入方法,助力用户高效掌
489 1
|
2月前
|
弹性计算 JSON BI
阿里云 CLI 询价能力技术手册
阿里云CLI提供OpenAPI调用前精准询价功能(`--estimate-cost`),支持实时预估费用,与事后账单互补。报价与实际订单金额完全一致,覆盖新购、变配等场景。
341 2
|
3月前
|
人工智能 缓存 自然语言处理
阿里云千问大模型深度解读:核心功能、版本差异与订阅方案推荐
阿里云千问大模型是面向智能体时代的新一代通用大模型,依托阿里云百炼平台提供服务,覆盖文本生成、代码开发、知识问答、多轮对话、长文本处理等全场景,具备强推理、长上下文、高指令遵循度等核心优势,支持网页端、API、IDE插件、智能体对接等多种使用方式,适配个人、开发者、企业等全用户群体。本文从核心功能、模型版本配置、计费模式、订阅方案选型四大维度全面解析,帮助用户精准匹配需求,选择高性价比使用方案。
1079 0

热门文章

最新文章