本方案现在支持免费试用，点击https://www.aliyun.com/solution/tech-solution-deploy/2868644方案链接即可体验

DeepSeek 凭借其卓越的性能和广泛的应用场景，迅速在全球范围内获得了极高的关注度和广泛的用户基础。DeepSeek-R1-Distill 是使用 DeepSeek-R1 生成的样本对开源模型进行蒸馏得到的小模型，拥有更小参数规模，推理成本更低，基准测试同样表现出色。

本方案以 DeepSeek-R1-Distill-Qwen-7B-GGUF 模型为例，介绍如何部署 DeepSeek-R1 开源模型。通过函数计算FC，以及云原生应用开发平台 CAP 的模型服务、应用模版两种部署方式辅助您完成 DeepSeek R1 系列模型的部署。借助 CAP，可以快速便捷地部署模型，而无需担心底层资源管理和运维问题，从而专注于应用的创新和开发。同时该方案提供了免运维的高效开发环境，具备弹性伸缩和高可用性，并采用按量付费模式，有效降低资源闲置成本。完成模型部署后，您即可与模型进行对话体验；或以 API 形式进行调用，接入 AI 应用中。适用于需要一键部署，不关注运维、按量付费的用户，部署难度低，最快 10 分钟，最低 0 元即可完成部署。欢迎点击阅读原文体验部署～

部署教程

本文将以 DeepSeek-R1-Distill-Qwen-7B-GGUF 模型演示部署流程。按照本方案提供的配置完成部署后，会在阿里云上搭建一个如下图所示的运行环境。实际部署时，您可根据具体的资源规划调整部分配置，但最终的运行环境将与下图展示的架构相似。

函数计算 FC 提供的试用额度[1] 可用于资源消耗。额度消耗完后按量计费，对于本教程所涉及的 Web服务，只在有访问的情况下才会产生费用。

支持的模型列表

1.Ollama：轻量级推理框架，专注于量化模型部署及各种开源 LLM 部署

2.Transformer：由 Hugging Face 提供的模型推理框架，支持 PyTorch、TensorFlow 等模型部署

方式1. 模型服务部署

使用 API 形式进行模型调用，接入线上业务应用。

1. 创建空白项目

进入CAP控制台[2]点击“创建空白项目”开始创建，并为项目命名。

首次使用云原生应用开放平台 CAP [3]会自动跳转到访问控制快速授权页面，滚动到浏览器底部单击确认授权，等待授权结束后单击返回控制台。

2. 选择模型服务

选择“模型服务”组件并创建；

3. 预览&部署

选择模型 “DeepSeek-R1-Distill-Qwen-7B-GGUF”

点击“资源配置”开始配置卡型及规格（可直接使用默认配置）。

您也可以根据业务诉求填写需要的卡型信息，DeepSeek-R1-Distill-Qwen-7B-GGUF 推荐使用 Tesla 系列。

点击“预览并部署”，该阶段需下载模型，预计等待 10 分钟左右即可完成。

4. 尝试更多模型部署

如果您希望部署更多模型，但是支持列表中没有，您可以 选择“更多模型来源”。

如模型来源选择“ModelScope” ，点击“获取 ModelScope 支持模型列表”[4]。

以 DeepSeek-R1-Distill-Qwen-7B-GGUF 为例，模版参考信息：

ModelScope ID：lmstudio-community/DeepSeek-R1-Distill-Qwen-7B-GGUF

执行框架：Ollama

模型加载方式：单文件加载

GGUF 文件：DeepSeek-R1-Distill-Qwen-7B-Q4_K_M.gguf

若希望支持列表中没有的更多模型，可至 modelscope 复制相关模型 ID，并修改为加载的 GGUF 文件即可。

以 DeepSeek 14B [5]为例，如希望部署 14B 模型可将配置改为：

ModelScope ID：lmstudio-community/DeepSeek-R1-Distill-Qwen-14B-GGUF

GGUF 文件：DeepSeek-R1-Distill-Qwen-14B-Q4_K_M.gguf

更多 ollama 参数配置如 params，template 等，可参考 DeepSeek ollama library[6]

14B 及以上模型需在资源配置中使用 Ada 系显卡，并且推荐使用全卡预留（48G显存）；

5. 验证模型服务

点击调试，即可测试和验证相关模型调用。

在本地 IDE 中验证模型调用：

6. 第三方平台 API 调用

您可以选择在 Chatbox 等其他第三方平台中验证和引用模型调用，以下以 chatbox 为例：

您可以自主切换至 deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B/14B/32B 或其他参数模型。

同时，Cap 模型部署也支持多种模型部署能力，您可根据业务自行配置相关信息。

方式2 : 应用模版部署

实现 DeepSeek-R1 模型 + OpenWebUI 部署。

1. 创建项目

点击如下链接新建项目：

https://cap.console.aliyun.com/projects

2. 部署模版

搜索 “DeepSeek” ，点击 “基于 DeepSeek-R1 构建AI聊天助手” 模版并部署。

选择 Region 并部署应用。

部署过程大约持续 10 分钟左右。

3. 验证应用

部署完毕后，点击 OpenWebUI 服务，在访问地址内找到“公网访问”。

在 OpenWebUI 界面验证 DeepSeek 模型对话。

参考链接：

[1]https://common-buy.aliyun.com/package

[2]https://cap.console.aliyun.com/projects

[3]https://www.aliyun.com/product/cap

[4]https://help.aliyun.com/zh/cap/user-guide/model-services/#28aa5a009c2ri

[5]https://www.modelscope.cn/models/lmstudio-community/DeepSeek-R1-Distill-Qwen-14B-GGUF

[6]https://ollama.com/library/deepseek-r1:14b

来源  |  阿里云开发者公众号

作者  |  肯梦、筱姜