Ollama的安装和升级使用实践

简介: Ollama 是一款开源本地LLM运行框架,让在Ubuntu等系统上一键部署、下载(支持国内镜像)和运行大模型(如DeepSeek-R1)变得简单。支持命令行交互、端口配置、服务管理,并可对接Open WebUI与OpenClaw。

一、Ollama是什么?

Ollama 是一个本地部署和运行大型语言模型 (LLM) 的开源框架。Ollama的核心目标就是让在本地电脑上运行强大的AI模型变得像安装一个普通软件一样简单.

二、Ollama安装和升级

本文的ollama使用是在ubuntu22.04系统,其他版本的系统命令行类似

官方推荐升级方法

在系统终端或命令后执行以下命令,可能需要切换root权限,有时候网络下载比较慢,需要重试多次

curl -fsSL https://ollama.com/install.sh | sh

下载安装包升级

去github下载安装包,目前最新版本是v0.31.1
ollama发布版本github下载链接
下载之后安装步骤请参考

#解压文件,如果zstd命令没有 执行apt install zstd
zstd -d ollama-linux-amd64.tar.zst
#需要切换root权限
sudo -i
#解压到默认的ollama安装目录 一般是 /usr/local
tar -xvf ollama-linux-amd64.tar -C /usr/local

ollama 配置

如果ollama配置为service的方式运行
要修改ollama的api或者web api启动的端口 模型文件目录 /etc/systemd/system/ollama.service
添加环境变量配置Environment="OLLAMA_HOST=0.0.0.0:8001"

验证安装

#查看模型列表
ollama list
#查看当前版本
ollama --version

二、Ollama模型下载及运行

模型下载

下载一个小模型试试 ,例如 deepseek-r1:1.5b

ollama download deepseek-r1:1.5b

非官方下载,ollama有一些国内镜像站可以下载模型,需要带上镜像站的前缀

ollama download alibayram/Qwen3-30B-A3B-Instruct-2507:latest

运行模型

ollama run  deepseek-r1:1.5b

首次加载模型时间要长一点,等待模型加载完成就可以开始对话
ollama聊天界面命令行
需要退出聊天输入/bye

总结

还可以通过open webUI访问ollama , ollama也可以被 OpenClaw很方便的调用

相关文章
|
1月前
|
弹性计算 JSON BI
阿里云 CLI 询价能力技术手册
阿里云CLI提供OpenAPI调用前精准询价功能(`--estimate-cost`),支持实时预估费用,与事后账单互补。报价与实际订单金额完全一致,覆盖新购、变配等场景。
261 2
|
5月前
|
机器学习/深度学习 人工智能 算法
更大的上下文窗口为什么让RAG变得更重要而非更多余
大上下文窗口(如1M tokens)并未淘汰RAG,反而凸显其价值:LLM注意力易被噪声稀释,“迷失在中间”效应导致性能下降。实验证明,相关性筛选比单纯扩容更关键。RAG+大上下文协同——先精准检索重排序,再注入高密度片段——才是生产级AI的可靠范式。
538 0
|
15天前
|
人工智能 自然语言处理 API
从入门到精通阿里云千问:模型矩阵、免费额度、API代码调用与企业落地指南
AI产业落地的浪潮下,自研通用大模型已经成为数字化转型的核心基础设施。阿里云千问,官方名称通义千问,代号Qwen,是阿里云完全自主研发的全栈式大模型家族,并非单一文本模型,而是覆盖纯文本、代码、图像、音频、视频、行业垂直场景的完整产品矩阵,统一依托阿里云百炼大模型服务平台对外提供模型调用、微调、智能体开发、私有知识库构建、应用一键部署等全链路MaaS服务。当前主力迭代版本为Qwen3.7系列,形成旗舰、均衡、轻量、多模态、代码专用五大分支模型,在中文理解、超长上下文推理、自主智能体执行、多模态统一解析四大维度具备国产头部水准,同时搭配免费试用、按量计费、Token Plan订阅、长期节省计划四
679 3
|
23天前
|
存储 人工智能 安全
【新版】阿里云 无影云电脑个人版 功能介绍及配置价格表
阿里云无影云电脑个人版(EDSP)是阿里云面向个人用户、家庭用户与自由职业者推出的轻量化云端计算服务,以“随时随地、即开即用、按需付费”为核心优势,将高性能计算能力、图形渲染能力与安全存储能力集成于云端,用户可通过Windows、macOS、iOS、Android等多终端设备接入,实现跨设备无缝办公、娱乐与创作。无影云电脑个人版彻底打破传统电脑的硬件限制与空间束缚,无需采购昂贵硬件、无需复杂运维,即可拥有一台性能强劲、安全可靠的云端电脑,满足日常办公、设计创作、游戏娱乐、AI开发等全场景需求。本文将全面解析无影云电脑个人版的核心功能、技术架构、使用流程、配置价格及API接入方法,助力用户高效掌
260 1
|
1月前
|
人工智能 前端开发 测试技术
测试开发一定要看懂 Agent?4 张图讲明白
本文用4张图厘清Agent核心概念:与大模型的区别、工作原理、ReAct流程,以及与ChatBot、Workflow的差异。面向测试/开发/产品人员,助力AI测试开发落地。文末征集下期选题(测试用例/自动化/缺陷分析Agent)。
|
1月前
|
JSON API 数据格式
详细说明--如何使用postman调试【阿里云用户银行卡实名认证API接口】
本文详解如何用Postman调用阿里云身份证实名认证API
|
2月前
|
人工智能 安全 算法
一文读懂 Graphify 知识图谱
Graphify 是一款开源、本地优先的多模态知识图谱工具,支持一键将代码/文档/PDF/图片等全量项目材料自动构建成可查询、持久化图谱,降低大模型71.5倍Token消耗,零向量库依赖,安全可控、增量更新,广泛用于AI编程助手增强与大型项目知识管理。(239字)
646 1
|
1月前
|
人工智能 安全 API
OpenCode 部署本地模型完整流程:Ollama搭建离线编程AI保姆级实操
OpenCode是GitHub热门开源AI编程终端工具,支持75种以上大模型服务商,但大量开发者使用云端API时存在代码数据上传、网络受限、调用成本高等痛点。借助Ollama本地模型运行框架,可实现完全离线、零API密钥、数据不出本机的AI编码环境,适配涉密代码、内网开发场景。整套部署流程仅需15分钟,支持Qwen、Llama、CodeLlama等各类开源编码模型,本文分系统安装、模型拉取、OpenCode三种接入方式、进阶调优、排错全流程完整讲解。
763 0
|
4月前
|
人工智能 Windows Linux
【Ollama】Ollama安装保姆级教程(超级详细,适合新手)
Ollama是一款开源的本地大语言模型(LLM)运行工具,类比“AI领域的Docker”,支持在Windows/macOS/Linux上一键部署Qwen、Llama 3、Mistral等主流开源模型,兼顾隐私、离线与低成本优势。(239字)
|
5月前
|
人工智能 自然语言处理 数据可视化
别再用 LangChain 搭 RAG 了:Dify 和 n8n 哪个才是你真正需要的
本文对比LangChain、Dify与n8n在AI工作流构建中的定位差异:LangChain是高自由度但调试成本高的代码框架;Dify专注RAG与对话,开箱即用;n8n擅长跨系统AI自动化。附七牛云模型接入指南与避坑提示。
1693 6

热门文章

最新文章