在阿里云快速启动LibreChat轻松玩转AI对话

简介: 本文介绍了LibreChat的基本信息,并通过阿里云计算巢完成了LibreChat的快速部署,使用者不需要自己下载代码,不需要自己安装复杂的依赖,不需要了解底层技术,只需要在控制台图形界面点击几下鼠标就可以快速部署并启动LibreChat,非技术同学也能轻松搞定。

什么是LibreChat

LibreChat是一个增强版的 ChatGPT ,它不仅集成了OpenAI、Assistants API、Azure、Groq 等多种 AI 模型,还支持 GPT-4 Vision、Mistral、Bing 等前沿技术。

作为一个完全开源的自托管系统,LibreChat 提供了多用户支持、预设配置、消息搜索、DALL-E-3 图像生成等丰富功能,并且仍在不断开发中。 更多信息,可访问链接

LibreChat有什么优势

  • 多模型支持:LibreChat支持多种AI模型,包括OpenAI、Azure OpenAI、Anthropic Claude、Google Vertex AI等。用户可以根据需求选择不同的模型,甚至在对话中切换模型。
  • 本地和远程AI服务兼容:除了支持主流的云端AI服务,LibreChat还兼容多种本地AI服务,如Ollama、koboldcpp等,为用户提供更多选择。
  • 丰富的功能:LibreChat提供了许多实用功能,如对话历史保存、消息搜索、自定义预设、多模态对话(支持图像分析)、语音交互等。
  • 插件系统:支持各种插件,如网络访问、DALL-E-3图像生成等,进一步扩展了平台的能力。
  • 多语言支持:LibreChat的用户界面支持多种语言,包括中文、英语、德语、法语等,方便全球用户使用。
  • 安全性和隐私:提供多用户系统、安全认证和审核工具,保护用户数据和隐私。
  • 灵活部署:支持Docker部署、反向代理等多种部署方式,适应不同的使用场景。

如何部署LibreChat

前提条件

  • 已开通阿里云账号
  • 确保账户余额超过100元

重要

使用阿里云资源,需要收费,请仔细阅读阿里云控制台的订单信息,然后再进行下一步操作。

操作步骤

  1. 访问计算巢LibreChat社区版部署链接,按提示填写部署参数,确认参数后点击下一步:确认订单

  1. 确认订单完成后同意服务协议并点击立即创建 进入部署阶段。

  1. 等待部署完成后就可以开始使用服务,进入服务实例详情点击LibreChat链接。

  1. 注册账号或登录已有账号,即可使用LibreChat。

输入邮箱密码后,可进入下面页面。

快速入门LibreChat

多AI模型

首次进入LibreChat,需要设置API Key才可使用对应模型。如下图所示,点击左上角下拉框,按图示操作输入API Key后,即可完成密钥设置。

LibreChat 支持多种 AI 提供商,包括 OpenAI、Azure、Anthropic、Google 等。可通过左上角切换服务商与模型。

文件上传

点击图示位置,可轻松上传文件。

效果:

快捷导出

简单快捷的聊天记录导出和分享给别人,可导出为屏幕截图、markdown、文本、json。

语音输入

使用语音转文本和文本转语音功能,实现免提聊天。自动发送和播放音频支持 OpenAI、Azure OpenAI 和 Elevenlabs。


其他问题

1. 如何进入ECS

点击服务实例详情,进入ECS:

8.jpg 9.jpg

2. 如何添加转发地址

  1. 进入ECS,方式参考问题一。
  2. 输入命令
sudo su
cd /home/admin/application/docker_compose
sudo vim .env

将会进入如下页面

10.jpg

  1. 寻找需要修改的AI模型,本处以OpenAI为例,按下i键,左下角将会出现'--INSERT--'标志,通过方向键移动光标,在第一个红框处(OPEN_REVERSE_PROXY)输入转发地址。

11.jpg

  1. 输入完成后按 ESC 键,左下角'--INSERT--'消失,输入:wq(冒号别漏了),保存退出。

3. 如何添加第三方API模型

  1. 进入ECS,方式参考问题一。
  2. 修改librechat.yaml文件:新增第三方模型,输入命令,文件内容参考链接
sudo su
cd /home/admin/application/docker_compose
sudo vim librechat.yaml

进入librechat.yaml文件(即上面代码中的sudo vim librechat.yaml),此文件中默认已有groq、Mistral、OpenRouster三个模型,如需添加,可按照其格式新增,如下新增了通义千问(Qwen)模型。(URL参考链接,ApiKey参考链接)。修改方式为:

  1. 按下i键,左下角将会出现'--INSERT--'标志,通过方向键移动光标,输入红框处内容;
  2. 输入完成后按 ESC 键,左下角'--INSERT--'消失,输入:wq(冒号别漏了),保存退出。

12.jpg

  1. 修改docker-compose文件:配置读取第三方模型,输入命令:
sudo cp docker-compose.yml docker-compose.override.yml

此时将会新增文件:

11.1.png

进入文件:sudo vim docker-compose.override.yml,输入i进入修改模式,按照如下修改,修改完成后按 ESC 键,然后输入 :wq 退出。

修改前:

13.jpg

修改后:

14.jpg

  1. 重启Docker:输入:sudo docker compose up。
  2. 效果展示:进入LibreChat页面,第三方API模型已显示。

16.jpg


了解更多

本文通过计算巢服务完成了LibreChat的快速部署,什么是计算巢服务?

计算巢是一个开放给企业应用服务商、IT集成服务商、交付服务商、管理服务提供商(以上都统称为服务商)和最终用户的服务管理PaaS平台。服务商能通过计算巢服务更好地在阿里云上部署服务、交付服务及管理服务。最终用户能通过计算巢管理在阿里云上订阅的各类服务商提供的服务。计算巢为服务商和用户提供了更高效、便捷、安全的服务使用体验。点击计算巢服务官方文档了解更多。

参考资料

计算巢服务官方文档

更多信息,请访问计算巢官网

相关文章
|
3天前
|
人工智能 vr&ar UED
获奖公布|第十九届"挑战杯"竞赛2025年度中国青年科技创新"揭榜挂帅"擂台赛阿里云“AI技术助力乡村振兴”专题赛拟授奖名单公示
获奖公布|第十九届"挑战杯"竞赛2025年度中国青年科技创新"揭榜挂帅"擂台赛阿里云“AI技术助力乡村振兴”专题赛拟授奖名单公示
|
8天前
|
云安全 人工智能 自然语言处理
阿里云x硅基流动:AI安全护栏助力构建可信模型生态
阿里云AI安全护栏:大模型的“智能过滤系统”。
|
8天前
|
人工智能 数据处理 API
阿里云、Ververica、Confluent 与 LinkedIn 携手推进流式创新,共筑基于 Apache Flink Agents 的智能体 AI 未来
Apache Flink Agents 是由阿里云、Ververica、Confluent 与 LinkedIn 联合推出的开源子项目,旨在基于 Flink 构建可扩展、事件驱动的生产级 AI 智能体框架,实现数据与智能的实时融合。
131 6
阿里云、Ververica、Confluent 与 LinkedIn 携手推进流式创新,共筑基于 Apache Flink Agents 的智能体 AI 未来
|
14天前
|
人工智能 分布式计算 Cloud Native
阿里云大数据AI产品月刊-2025年9月
大数据& AI 产品技术月刊【2025年 9 月】,涵盖 9 月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据& AI 方面最新动态。
阿里云大数据AI产品月刊-2025年9月
|
3天前
|
存储 人工智能 OLAP
AI Agent越用越笨?阿里云AnalyticDB「AI上下文工程」一招破解!
AI 上下文工程是管理大模型输入信息的系统化框架,解决提示工程中的幻觉、上下文溢出与信息冲突等问题。通过上下文的采集、存储、加工与调度,提升AI推理准确性与交互体验。AnalyticDB PostgreSQL 版提供增强 RAG、长记忆、Supabase 等能力,助力企业构建高效、稳定的 AI 应用。
|
25天前
|
人工智能 安全 中间件
阿里云 AI 中间件重磅发布,打通 AI 应用落地“最后一公里”
9 月 26 日,2025 云栖大会 AI 中间件:AI 时代的中间件技术演进与创新实践论坛上,阿里云智能集团资深技术专家林清山发表主题演讲《未来已来:下一代 AI 中间件重磅发布,解锁 AI 应用架构新范式》,重磅发布阿里云 AI 中间件,提供面向分布式多 Agent 架构的基座,包括:AgentScope-Java(兼容 Spring AI Alibaba 生态),AI MQ(基于Apache RocketMQ 的 AI 能力升级),AI 网关 Higress,AI 注册与配置中心 Nacos,以及覆盖模型与算力的 AI 可观测体系。
467 24
|
存储 人工智能 安全
智存跃迁,阿里云存储面向 AI 升级全栈数据存储能力
一文总览阿里云存储产品创新与进展!
241 0
|
25天前
|
消息中间件 人工智能 运维
事件驱动重塑 AI 数据链路:阿里云 EventBridge 发布 AI ETL 新范式
“一个简单的数据集成任务,开始时总是轻松愉快的,但随着业务扩展,数据源越来越多,格式越来越乱,整个数据链路就会变得一团糟。”陈涛在演讲中指出了当前 AI 数据处理的普遍困境。扩展难、运维难、稳定性差,这三大挑战已成为制约 AI 应用创新和落地的关键瓶颈。针对这些痛点,在2025云栖大会期间,阿里云重磅发布了事件驱动 AI ETL 新范式,其核心产品 EventBridge 通过深度集成 AI 能力,为开发者提供了一套革命性的解决方案,旨在彻底改变 AI 时代的数据准备与处理方式。
235 14