使用Ollama和Botnow本地部署DeepSeek R1模型的对比分析

简介: 本文详细对比了使用Ollama和Botnow两种方式在本地运行DeepSeek R1等开源大模型的不同。通过Ollama,用户可以在个人电脑(如MacBook Pro)上快速部署和测试模型;而Botnow则提供了企业级的API接入和本地部署方案,支持更复杂的应用场景。具体步骤包括环境准备、模型下载与运行、图形化界面操作等,帮助用户选择最适合自己的方式体验大模型的强大功能。

      目前,开源社区有类似Ollama等工具支持本地部署DeepSeek等开源大模型,使个人用户能在笔记本电脑上快捷、透明的上手体验大模型;同时面向企业用户的智能体平台Botnow也已迅速接入DeepSeek R1官方API和本地部署DeepSeek系列模型两种方式。本文客观地对比分析了使用Ollama和Botnow本地运行DeepSeek R1等开源大模型的不同,以供用户实践参考。


Part 1使用Ollama本地部署DeepSeek R1模型


一、安装前的环境准备


硬件概览:

型号:MacBook Pro

芯片:Apple M3 Pro

核总数:12(6性能和6能效)

内存:18 GB

储存空间:1T

浏览器:

Google Chrome


二、DeepSeek模型简介及尺寸说明

考虑到单机Mac的资源局限,这里选择“DeepSeek-R1-Distill-Qwen-7B”模型作为示例。


三、下载ollama到本地

下载链接:https://ollama.com/download


四、下载并运行 deepseek-r1:7b

ollama run deepseek-r1:7b


模型文件拉取完毕,会出现“Success”提示


五、测试运行


输入提示词“比较一下3.8和3.11哪个大,并给出分析过程”



运行“ollama -h”查看更多命令



Part 2使用浏览器插件图形化体验本地模型


一、安装Chrome浏览器插件“Page Assist”


1. 打开Google Chrome浏览器,地址栏输入 chrome://extensions/ ,打开浏览器扩展程序


2. 搜索插件“Page Assist”,点击安装


二、 使用图形化界面运行 DeepSeek R1 模型


1. 从Google浏览器打开“Page Assist”插件




2. 选择前面下载的deepseek-r1:7b模型

3. 输入示例问题,如“如何找到下一个DeepSeek的创业项目”



4. 查看更多设置



Part 3使用Botnow体验DeepSeek R1模型


一、使用 Botnow 接入的 DeepSeek R1 官方 API


1. 登录智能体平台 Botnow SaaS 版(域名:https://botnow.cn

2. 进入“Bots”,点击“新建Bot”



3. 模型设置选择“DeepSeek reasoner”模型



4. 输入示例提示词“如何实现载人登月,给出具体分析步骤”




二、使用 Botnow 本地部署 DeepSeek R1 模型


1. 登录智能体平台 Botnow SaaS版(域名:https://botnow.cn


2. 进入“模型管理”->“模型仓库”,点击“创建模型”


DeepSeek-R1-Distill-Qwen-7B”模型文件拉取完毕后,可进行模型部署。


3. 进入“模型部署”,点击“创建模型服务”


4. 参考上一节创建Bot,选择“DeepSeek-R1-Distill-Qwen-7B”模型


Part 4 总结对比




目录
相关文章
|
JavaScript C# 开发工具
22款Visual Studio Code实用插件推荐
Visual Studio Code是一个轻量级但功能强大的源代码编辑器,轻量级指的是下载下来的Visual Studio Code其实就是一个简单的编辑器,强大指的是支持多种语言的环境插件拓展,也正是因为这种支持插件式安装环境开发让Visual Studio Code成为了开发语言工具中的霸主,让其同时支持开发多种语言成为了可能。俗话说的好:“工欲善其事,必先利其器”,安装一些实用插件对自己日常的开发和工作效率能够大大的提升,避免996从选一款好的开发插件开始。以下是我整理的一些比较实用的Visual Studio Code插件希望对大家有用,大家有更好的插件推荐可在文末留言🤞。
998 0
|
6月前
|
机器学习/深度学习 敏捷开发 人工智能
阿里云人工智能平台PAI和百炼有什么区别?PAI和百炼定位、功能及使用方法对比
阿里云PAI是“造模型”平台,面向算法工程师,支持从训练到部署的全周期AI开发;百炼是“用模型”平台,聚焦大模型快速应用,助力业务团队低门槛构建智能体。两者互补协同,覆盖AI开发全流程。
1449 5
|
Ubuntu 数据可视化 Linux
Ubuntu下载、安装QGIS软件的方法
Ubuntu下载、安装QGIS软件的方法
877 2
|
存储 Java 测试技术
ClickHouse Keeper: 一个用 C++ 编写的 ZooKeeper 替代品
ClickHouse Keeper: 一个用 C++ 编写的 ZooKeeper 替代品介绍
71734 34
ClickHouse Keeper: 一个用 C++ 编写的 ZooKeeper 替代品
|
存储 JSON 数据库
Django REST framework关联序列化器详解:掌握复杂关系的序列化与反序列化艺术
Django REST framework关联序列化器详解:掌握复杂关系的序列化与反序列化艺术
|
机器学习/深度学习 分布式计算 供应链
Hadoop在特定行业中的应用实例
【8月更文第28天】Hadoop是一个强大的分布式计算框架,能够处理大规模数据集。由于其高可扩展性和成本效益,Hadoop被广泛应用于多个行业中,如金融、医疗保健和零售等。本文将探讨Hadoop在这些行业的具体应用场景和一些成功案例。
818 0
|
网络协议
|
存储 Linux 数据库连接
【专栏】掌握 `envsubst` 可提升在 Linux 系统中处理环境变量的效率。
【4月更文挑战第28天】`envsubst` 是 Linux 中用于替换文本中环境变量值的工具。它遍历文本,将环境变量替换为实际值。要使用它,首先可能需要安装相应软件包。基本用法是 `envsubst < input.txt > output.txt`,将输入文件的环境变量替换后输出到输出文件。命令还支持选项如 `-e` 和 `-d`。实例包括:配置文件替换、脚本执行中的环境变量替换和动态生成文件。掌握 `envsubst` 可提升在 Linux 系统中处理环境变量的效率。
878 0
|
资源调度 分布式计算 Hadoop
大数据平台搭建(容器环境)——Spark3.X on Yarn安装配置
大数据平台搭建(容器环境)——Spark3.X on Yarn安装配置
大数据平台搭建(容器环境)——Spark3.X on Yarn安装配置
|
机器学习/深度学习 搜索推荐 TensorFlow
inference.py的代码解释
这是一个 Python 脚本,它用于导出经过训练的模型,使其可以在生产环境中进行推理。该脚本首先使用 TensorFlow 的 flags 定义了一些参数,如模型版本号、模型路径、输出目录等等。然后,它创建了一个名为 inference_graph 的 TensorFlow 图,并定义了一个 InferenceModel,该模型用于从输入数据中推断评级。
1090 0

热门文章

最新文章