部署AI网站-进阶配置

本文涉及的产品
轻量应用服务器 2vCPU 4GiB,适用于搭建Web应用/小程序
轻量应用服务器 2vCPU 4GiB,适用于网站搭建
轻量应用服务器 2vCPU 4GiB,适用于搭建容器环境
简介: 通过Open WebUI部署个人AI网站后,您可能还面临如下问题:希望使用DeepSeek R1模型对话问答时显示思考过程、 希望可以在AI网站上使用联网搜索、希望将AI网站分享给其他用户使用、希望在AI主页上使用多种模型等。本文将介绍如何通过相应配置,解决这些问题。

前提条件

您需要已部署个人AI网站,并能够在网站中使用DeepSeek R1模型进行对话问答。若您还未部署,可查看以下方案:

在AI网站上使用DeepSeek R1时显示思考过程

通过Open WebUI部署个人AI网站,使用DeepSeek R1模型进行对话问答时,默认无法显示思考过程,但可以通过引入Open WebUI社区中自定义函数的方式解决该问题。操作步骤如下:

1. 引入自定义函数

  1. 前往Open WebUI自定义函数页面,单击Copy复制代码。
  2. 使用管理员账号访问并登录您的Open WebUI网站。
    说明:如果您的网站未配置域名,可通过http://<ECS公网IP地址>:8080地址访问网站。管理员账号为您首次访问并登录Open WebUI网站时创建的账号。
  3. 单击右上角的头像,选择管理员面板
  4. 进入管理员后台,在顶部菜单栏单击函数,并单击右侧的+号。


  1. 将当前函数代码块中的内容替换为之前复制好的代码,设置名称及描述,单击右下角的保存
  2. 在对话框中单击确定

2. 配置函数

  1. 单击函数右侧的 图标。
  2. 在对话框中完成如下设置,单击保存
  • Deepseek Api Base Url:单击右侧的文字(单击前为默认,单击后为自定义),填入百炼API服务地址:https://dashscope.aliyuncs.com/compatible-mode/v1
  • Deepseek Api Key:单击右侧的文字,填入您的百炼API Key。
    说明:百炼API Key为您部署Open WebUI时获取的API Key。您可以前往百炼控制台,将鼠标悬停于控制台右上角头像,选择API-KEY,查看API Key。
  • Deepseek Api Model:单击右侧的文字,填入deepseek-r1

  1. 单击函数右侧的按钮,启用函数。

3. 启用引入函数的新模型

  1. 在顶部菜单栏单击设置,并在左侧导航栏单击模型
  2. 在模型列表中,可以看到新出现的模型deepseek-r1(下方为deepseek_r1.deepseek-r1),单击该模型右侧的按钮,启用模型。
    为避免混淆,将原有的模型deepseek-r1(下方为deepseek-r1)禁用。设置完成后如下。
  3. 配置完成后,与DeepSeek R1模型进行对话问答即可显示思考过程。

在AI网站上使用联网搜索

  1. 使用管理员账号访问并登录您的Open WebUI网站。
    说明:如果您的网站未配置域名,可通过http://<ECS公网IP地址>:8080地址访问网站。管理员账号为您首次访问并登录Open WebUI网站时创建的账号。
  2. 单击右上角的头像,选择管理员面板
  3. 进入管理员后台,在顶部菜单栏单击设置,并在左侧导航栏单击联网搜索
  4. 打开启用联网搜索的开关,并选择需要的搜索引擎,单击保存
  5. 配置完成后,使用模型进行问答时,即可使用联网搜索功能。

将AI网站分享给其他用户使用

通过Open WebUI部署了AI网站后,默认不允许新用户注册。您可以根据以下方式启用允许新用户注册,使其他用户可以注册、使用您的AI网站。其他用户使用AI网站与模型进行问答时,使用的模型费用可以由用户自行承担,也可以由您承担。具体配置如下:

1. 启用允许新用户注册

  1. 使用管理员账号访问并登录您的Open WebUI网站。
    说明:如果您的网站未部署域名,可通过http://<ECS公网IP地址>:8080地址访问网站。管理员账号为您首次访问并登录AI网站时创建的账号。
  2. 单击右上角的头像,选择管理员面板
  3. 进入管理员后台,在顶部菜单栏单击设置,并在左侧导航栏单击通用
  4. 打开允许新用户注册的开关,并设置默认用户角色用户,设置完成后,单击保存

2. 配置模型可见性

配置模型可见性时,可以配置为私有(Private)或公有(Public),根据可见性配置不同,其他用户使用模型的方案不同,您可以参考以下说明,选择合适的方案:

  • 方案一:使用其他用户自有的百炼API Key
    您可以将模型不对其他用户开放(Private),其他用户使用时,需配置自有的百炼API Key,使用模型的费用由其他用户自行承担,您无需为其他用户模型的使用付费。
  • 方案二:使用您的百炼API Key
    您可以将模型开放给其他用户使用(Public),其他用户使用时,无需准备自有的百炼API Key,而是使用您的百炼API Key,其他用户使用模型的费用由您承担。
方案一:使用其他用户自有的百炼API Key
  1. 在左侧导航栏单击模型,单击进入想配置的对应模型,此处以deepseek-r1为例。
  2. 可见性的下拉列表中,选择Private,单击保存并更新
    说明:Private表示只有您可以使用该模型,其他用户注册登录您的AI网站后,需要配置自有的百炼API Key,即可使用模型。此时使用模型的费用由用户自行承担。
  3. 其他用户登录网站时,单击右上角的头像,选择设置>外部连接。单击+号添加一个连接,填写用户自有的百炼API Key及百炼API服务地址https://dashscope.aliyuncs.com/compatible-mode/v1保存,即可使用模型。


方案二:使用您的百炼API Key
  1. 在左侧导航栏单击模型,单击进入想配置的对应模型,此处以deepseek-r1为例。
  2. 可见性的下拉列表中,选择Public,单击保存并更新
    说明:Public表示您将模型开放给其他用户使用,其他用户注册登录您的AI网站后,可以直接使用该模型。其他用户使用模型的费用由您承担。
  3. 其他用户登录网站时,可以直接使用该模型。

在AI网站上使用多种模型

使用百炼API默认自带的70余种模型

截止至2025年3月,百炼API默认自带了70余种模型,您可以通过以下步骤完成配置:

  1. 使用管理员账号访问并登录您的AI网站。
    说明:如果您的网站未部署域名,可通过http://<ECS公网IP地址>:8080地址访问网站。管理员账号为您首次访问并登录AI网站时创建的账号。
  2. 单击右上角的头像,选择管理员面板
  3. 进入管理员后台,在顶部菜单栏单击设置,并在左侧导航栏单击外部连接
  4. 单击+号添加一个连接,配置如下内容,并单击保存
  • URL填入百炼API服务地址:https://dashscope.aliyuncs.com/compatible-mode/v1
  • 密匙:填入百炼API Key。
    说明:百炼API Key为您部署Open WebUI时获取的API Key。您可以前往百炼控制台,将鼠标悬停于控制台右上角头像,选择API-KEY,查看API Key。
  • 模型ID:留空。
    说明:留空时将自动包含DeepSeek R1、DeepSeek V3、qwen-max等70余种模型。

  1. 测试使用模型时,即可在左上角选择70余种模型。


使用百炼中提供的其他模型

除了DeepSeek与通义千问,百炼还提供了其他的AI模型。下面以Meta的Llama模型为例,演示如何使用百炼中提供的其他模型。

1. 获取对应模型ID
  1. 前往百炼控制台-模型广场,找到想使用的模型,例如Llama3.3-70B-Instruct,单击查看详情
  2. 单击 图标,复制模型ID备用,即llama3.3-70b-instruct。
2. 配置对应模型及百炼API信息
  1. 使用管理员账号访问并登录您的AI网站。
    说明:如果您的网站未部署域名,可通过http://<ECS公网IP地址>:8080地址访问网站。管理员账号为您首次访问并登录AI网站时创建的账号。
  2. 单击右上角的头像,选择管理员面板
  3. 进入管理员后台,在顶部菜单栏单击设置,并在左侧导航栏单击外部连接
  4. 单击+号添加一个连接,配置如下内容,并单击保存
  • URL:填入百炼的API服务地址https://dashscope.aliyuncs.com/compatible-mode/v1
  • 密匙:填入百炼API Key。
    说明:百炼API Key为您部署Open WebUI时获取的API Key。您可以前往百炼控制台,将鼠标悬停于控制台右上角头像,选择API-KEY,查看API Key。
  • 模型ID:在添加一个模型ID中填写之前复制好的模型ID:llama3.3-70b-instruct,并单击右侧的+号添加至模型ID。

  1. 测试使用模型时,即可在左上角选择llama3.3-70b-instruct模型。


使用其他提供了API服务的AI模型

您也可以使用其他提供了API服务的AI模型,下面以月之暗面的模型为例。

1. 获取对应模型及API信息

进入Moonshot AI - 开放平台,获取API服务地址及API Key。API地址如下:

https://api.moonshot.cn/v1

2. 配置对应模型及API信息
  1. 使用管理员账号访问并登录您的AI网站。
    说明:如果您的网站未部署域名,可通过http://<ECS公网IP地址>:8080地址访问网站。管理员账号为您首次访问并登录AI网站时创建的账号。
  2. 单击右上角的头像,选择管理员面板

  3. 进入管理员后台,在顶部菜单栏单击设置,并在左侧导航栏单击外部连接
  4. 单击+号添加一个连接,配置如下内容,并单击保存
  • URL:填入月之暗面的API服务地址https://api.moonshot.cn/v1
  • 密匙:填入月之暗面的API Key。
  • 模型ID:留空。

  1. 测试使用模型时,即可在左上角选择月之暗面的kimi-latest模型。

相关文档

如果您想实现通过域名访问Open WebUI网站,例如https://example.com,请参见使用域名访问部署在ECS上的网站

相关文章
|
2月前
|
存储 机器学习/深度学习 算法
​​LLM推理效率的范式转移:FlashAttention与PagedAttention正在重塑AI部署的未来​
本文深度解析FlashAttention与PagedAttention两大LLM推理优化技术:前者通过分块计算提升注意力效率,后者借助分页管理降低KV Cache内存开销。二者分别从计算与内存维度突破性能瓶颈,显著提升大模型推理速度与吞吐量,是当前高效LLM系统的核心基石。建议收藏细读。
606 125
|
1月前
|
人工智能 测试技术 API
构建AI智能体:二、DeepSeek的Ollama部署FastAPI封装调用
本文介绍如何通过Ollama本地部署DeepSeek大模型,结合FastAPI实现API接口调用。涵盖Ollama安装、路径迁移、模型下载运行及REST API封装全过程,助力快速构建可扩展的AI应用服务。
549 6
|
1月前
|
人工智能 物联网 调度
边缘大型AI模型:协作部署与物联网应用——论文阅读
论文《边缘大型AI模型:协作部署与物联网应用》系统探讨了将大模型(LAM)部署于边缘网络以赋能物联网的前沿框架。针对传统云端部署高延迟、隐私差的问题,提出“边缘LAM”新范式,通过联邦微调、专家混合与思维链推理等技术,实现低延迟、高隐私的分布式智能。
633 6
边缘大型AI模型:协作部署与物联网应用——论文阅读
|
2月前
|
人工智能 Ubuntu 前端开发
Dify部署全栈指南:AI从Ubuntu配置到HTTPS自动化的10倍秘籍
本文档介绍如何部署Dify后端服务及前端界面,涵盖系统环境要求、依赖安装、代码拉取、环境变量配置、服务启动、数据库管理及常见问题解决方案,适用于开发与生产环境部署。
667 1
|
1月前
|
数据采集 人工智能 程序员
PHP 程序员如何为 AI 浏览器(如 ChatGPT Atlas)优化网站
OpenAI推出ChatGPT Atlas,标志AI浏览器新方向。虽未颠覆现有格局,但为开发者带来新机遇。PHP建站者需关注AI爬虫抓取特性,优化技术结构(如SSR、Schema标记)、提升内容可读性与语义清晰度,并考虑未来agent调用能力。通过robots.txt授权、结构化数据、内容集群与性能优化,提升网站在AI搜索中的可见性与引用机会,提前布局AI驱动的流量新格局。
102 8
|
1月前
|
机器学习/深度学习 人工智能 监控
Java与AI模型部署:构建企业级模型服务与生命周期管理平台
随着企业AI模型数量的快速增长,模型部署与生命周期管理成为确保AI应用稳定运行的关键。本文深入探讨如何使用Java生态构建一个企业级的模型服务平台,实现模型的版本控制、A/B测试、灰度发布、监控与回滚。通过集成Spring Boot、Kubernetes、MLflow和监控工具,我们将展示如何构建一个高可用、可扩展的模型服务架构,为大规模AI应用提供坚实的运维基础。
229 0
|
1月前
|
人工智能 运维 Kubernetes
Serverless 应用引擎 SAE:为传统应用托底,为 AI 创新加速
在容器技术持续演进与 AI 全面爆发的当下,企业既要稳健托管传统业务,又要高效落地 AI 创新,如何在复杂的基础设施与频繁的版本变化中保持敏捷、稳定与低成本,成了所有技术团队的共同挑战。阿里云 Serverless 应用引擎(SAE)正是为应对这一时代挑战而生的破局者,SAE 以“免运维、强稳定、极致降本”为核心,通过一站式的应用级托管能力,同时支撑传统应用与 AI 应用,让企业把更多精力投入到业务创新。
396 29
|
1月前
|
消息中间件 人工智能 安全
云原生进化论:加速构建 AI 应用
本文将和大家分享过去一年在支持企业构建 AI 应用过程的一些实践和思考。
452 27
|
2月前
|
人工智能 安全 中间件
阿里云 AI 中间件重磅发布,打通 AI 应用落地“最后一公里”
9 月 26 日,2025 云栖大会 AI 中间件:AI 时代的中间件技术演进与创新实践论坛上,阿里云智能集团资深技术专家林清山发表主题演讲《未来已来:下一代 AI 中间件重磅发布,解锁 AI 应用架构新范式》,重磅发布阿里云 AI 中间件,提供面向分布式多 Agent 架构的基座,包括:AgentScope-Java(兼容 Spring AI Alibaba 生态),AI MQ(基于Apache RocketMQ 的 AI 能力升级),AI 网关 Higress,AI 注册与配置中心 Nacos,以及覆盖模型与算力的 AI 可观测体系。
780 41

热门文章

最新文章

下一篇
oss云网关配置