使用Ollama和Botnow本地部署DeepSeek R1模型的对比分析

简介: 本文详细对比了使用Ollama和Botnow两种方式在本地运行DeepSeek R1等开源大模型的不同。通过Ollama,用户可以在个人电脑(如MacBook Pro)上快速部署和测试模型;而Botnow则提供了企业级的API接入和本地部署方案,支持更复杂的应用场景。具体步骤包括环境准备、模型下载与运行、图形化界面操作等,帮助用户选择最适合自己的方式体验大模型的强大功能。

      目前,开源社区有类似Ollama等工具支持本地部署DeepSeek等开源大模型,使个人用户能在笔记本电脑上快捷、透明的上手体验大模型;同时面向企业用户的智能体平台Botnow也已迅速接入DeepSeek R1官方API和本地部署DeepSeek系列模型两种方式。本文客观地对比分析了使用Ollama和Botnow本地运行DeepSeek R1等开源大模型的不同,以供用户实践参考。


Part 1使用Ollama本地部署DeepSeek R1模型


一、安装前的环境准备


硬件概览:

型号:MacBook Pro

芯片:Apple M3 Pro

核总数:12(6性能和6能效)

内存:18 GB

储存空间:1T

浏览器:

Google Chrome


二、DeepSeek模型简介及尺寸说明

考虑到单机Mac的资源局限,这里选择“DeepSeek-R1-Distill-Qwen-7B”模型作为示例。


三、下载ollama到本地

下载链接:https://ollama.com/download


四、下载并运行 deepseek-r1:7b

ollama run deepseek-r1:7b


模型文件拉取完毕,会出现“Success”提示


五、测试运行


输入提示词“比较一下3.8和3.11哪个大,并给出分析过程”



运行“ollama -h”查看更多命令



Part 2使用浏览器插件图形化体验本地模型


一、安装Chrome浏览器插件“Page Assist”


1. 打开Google Chrome浏览器,地址栏输入 chrome://extensions/ ,打开浏览器扩展程序


2. 搜索插件“Page Assist”,点击安装


二、 使用图形化界面运行 DeepSeek R1 模型


1. 从Google浏览器打开“Page Assist”插件




2. 选择前面下载的deepseek-r1:7b模型

3. 输入示例问题,如“如何找到下一个DeepSeek的创业项目”



4. 查看更多设置



Part 3使用Botnow体验DeepSeek R1模型


一、使用 Botnow 接入的 DeepSeek R1 官方 API


1. 登录智能体平台 Botnow SaaS 版(域名:https://botnow.cn

2. 进入“Bots”,点击“新建Bot”



3. 模型设置选择“DeepSeek reasoner”模型



4. 输入示例提示词“如何实现载人登月,给出具体分析步骤”




二、使用 Botnow 本地部署 DeepSeek R1 模型


1. 登录智能体平台 Botnow SaaS版(域名:https://botnow.cn


2. 进入“模型管理”->“模型仓库”,点击“创建模型”


DeepSeek-R1-Distill-Qwen-7B”模型文件拉取完毕后,可进行模型部署。


3. 进入“模型部署”,点击“创建模型服务”


4. 参考上一节创建Bot,选择“DeepSeek-R1-Distill-Qwen-7B”模型


Part 4 总结对比




目录
相关文章
|
人工智能 算法 Android开发
Android自动化中动态设置网络代理
由于现在很多应用的页面数据都是AI算法推荐生成的,所以每次打开同一个页面数据都会不一样,因此在做客户端UI自动化的过程中都会采用Mock方案,利用MockServer来提供稳定的测试数据,其中MockServer的代理需要手动配置。 拿Android手机举例,过程大致是:进入设置->进入 WLAN ->找对应 wifi 连接->进入详情->找到代理->选择手动->输入主机名->输入端口号->最后保存,可以看到每次都是重复操作,特别当你的自动化设备很多以及MockServer服务不稳定导致IP经常变的情况下累加的时间成本是很高的,而且一不小心,还有可能写错
852 0
Android自动化中动态设置网络代理
|
机器学习/深度学习 分布式计算 供应链
Hadoop在特定行业中的应用实例
【8月更文第28天】Hadoop是一个强大的分布式计算框架,能够处理大规模数据集。由于其高可扩展性和成本效益,Hadoop被广泛应用于多个行业中,如金融、医疗保健和零售等。本文将探讨Hadoop在这些行业的具体应用场景和一些成功案例。
855 0
|
存储 JSON 数据库
Django REST framework关联序列化器详解:掌握复杂关系的序列化与反序列化艺术
Django REST framework关联序列化器详解:掌握复杂关系的序列化与反序列化艺术
|
Ubuntu 数据可视化 Linux
Ubuntu下载、安装QGIS软件的方法
Ubuntu下载、安装QGIS软件的方法
912 2
|
资源调度 分布式计算 Hadoop
大数据平台搭建(容器环境)——Spark3.X on Yarn安装配置
大数据平台搭建(容器环境)——Spark3.X on Yarn安装配置
大数据平台搭建(容器环境)——Spark3.X on Yarn安装配置
python字典由value找key
python字典由value找key
|
存储 架构师 数据管理
DAMA数据管理知识体系指南(4):数据架构
DAMA:国际数据管理协会,是一个全球性数据管理和业务专业志愿人士组成的非营利协会,是当前国际上在数据治理领域最权威的机构。 DMBOK2则是DAMA组织众多数据管理领域的国际级资深专家编著,深入阐述数据管理各领域的完整知识体系。它是市场上唯一综合了数据管理方方面面的一部权威性著作。 本系列文章,将针对DMBOK中的核心内容进行解读。
DAMA数据管理知识体系指南(4):数据架构
|
存储 Linux 数据库连接
【专栏】掌握 `envsubst` 可提升在 Linux 系统中处理环境变量的效率。
【4月更文挑战第28天】`envsubst` 是 Linux 中用于替换文本中环境变量值的工具。它遍历文本,将环境变量替换为实际值。要使用它,首先可能需要安装相应软件包。基本用法是 `envsubst < input.txt > output.txt`,将输入文件的环境变量替换后输出到输出文件。命令还支持选项如 `-e` 和 `-d`。实例包括:配置文件替换、脚本执行中的环境变量替换和动态生成文件。掌握 `envsubst` 可提升在 Linux 系统中处理环境变量的效率。
916 0

热门文章

最新文章