在阿里云快速启动LibreChat轻松玩转AI对话

简介: 本文介绍了LibreChat的基本信息,并通过阿里云计算巢完成了LibreChat的快速部署,使用者不需要自己下载代码,不需要自己安装复杂的依赖,不需要了解底层技术,只需要在控制台图形界面点击几下鼠标就可以快速部署并启动LibreChat,非技术同学也能轻松搞定。

什么是LibreChat

LibreChat是一个增强版的 ChatGPT ,它不仅集成了OpenAI、Assistants API、Azure、Groq 等多种 AI 模型,还支持 GPT-4 Vision、Mistral、Bing 等前沿技术。

作为一个完全开源的自托管系统,LibreChat 提供了多用户支持、预设配置、消息搜索、DALL-E-3 图像生成等丰富功能,并且仍在不断开发中。 更多信息,可访问链接

LibreChat有什么优势

  • 多模型支持:LibreChat支持多种AI模型,包括OpenAI、Azure OpenAI、Anthropic Claude、Google Vertex AI等。用户可以根据需求选择不同的模型,甚至在对话中切换模型。
  • 本地和远程AI服务兼容:除了支持主流的云端AI服务,LibreChat还兼容多种本地AI服务,如Ollama、koboldcpp等,为用户提供更多选择。
  • 丰富的功能:LibreChat提供了许多实用功能,如对话历史保存、消息搜索、自定义预设、多模态对话(支持图像分析)、语音交互等。
  • 插件系统:支持各种插件,如网络访问、DALL-E-3图像生成等,进一步扩展了平台的能力。
  • 多语言支持:LibreChat的用户界面支持多种语言,包括中文、英语、德语、法语等,方便全球用户使用。
  • 安全性和隐私:提供多用户系统、安全认证和审核工具,保护用户数据和隐私。
  • 灵活部署:支持Docker部署、反向代理等多种部署方式,适应不同的使用场景。

如何部署LibreChat

前提条件

  • 已开通阿里云账号
  • 确保账户余额超过100元

重要

使用阿里云资源,需要收费,请仔细阅读阿里云控制台的订单信息,然后再进行下一步操作。

操作步骤

  1. 访问计算巢LibreChat社区版部署链接,按提示填写部署参数,确认参数后点击下一步:确认订单

  1. 确认订单完成后同意服务协议并点击立即创建 进入部署阶段。

  1. 等待部署完成后就可以开始使用服务,进入服务实例详情点击LibreChat链接。

  1. 注册账号或登录已有账号,即可使用LibreChat。

输入邮箱密码后,可进入下面页面。

快速入门LibreChat

多AI模型

首次进入LibreChat,需要设置API Key才可使用对应模型。如下图所示,点击左上角下拉框,按图示操作输入API Key后,即可完成密钥设置。

LibreChat 支持多种 AI 提供商,包括 OpenAI、Azure、Anthropic、Google 等。可通过左上角切换服务商与模型。

文件上传

点击图示位置,可轻松上传文件。

效果:

快捷导出

简单快捷的聊天记录导出和分享给别人,可导出为屏幕截图、markdown、文本、json。

语音输入

使用语音转文本和文本转语音功能,实现免提聊天。自动发送和播放音频支持 OpenAI、Azure OpenAI 和 Elevenlabs。


其他问题

1. 如何进入ECS

点击服务实例详情,进入ECS:

8.jpg 9.jpg

2. 如何添加转发地址

  1. 进入ECS,方式参考问题一。
  2. 输入命令
sudo su
cd /home/admin/application/docker_compose
sudo vim .env

将会进入如下页面

10.jpg

  1. 寻找需要修改的AI模型,本处以OpenAI为例,按下i键,左下角将会出现'--INSERT--'标志,通过方向键移动光标,在第一个红框处(OPEN_REVERSE_PROXY)输入转发地址。

11.jpg

  1. 输入完成后按 ESC 键,左下角'--INSERT--'消失,输入:wq(冒号别漏了),保存退出。

3. 如何添加第三方API模型

  1. 进入ECS,方式参考问题一。
  2. 修改librechat.yaml文件:新增第三方模型,输入命令,文件内容参考链接
sudo su
cd /home/admin/application/docker_compose
sudo vim librechat.yaml

进入librechat.yaml文件(即上面代码中的sudo vim librechat.yaml),此文件中默认已有groq、Mistral、OpenRouster三个模型,如需添加,可按照其格式新增,如下新增了通义千问(Qwen)模型。(URL参考链接,ApiKey参考链接)。修改方式为:

  1. 按下i键,左下角将会出现'--INSERT--'标志,通过方向键移动光标,输入红框处内容;
  2. 输入完成后按 ESC 键,左下角'--INSERT--'消失,输入:wq(冒号别漏了),保存退出。

12.jpg

  1. 修改docker-compose文件:配置读取第三方模型,输入命令:
sudo cp docker-compose.yml docker-compose.override.yml

此时将会新增文件:

11.1.png

进入文件:sudo vim docker-compose.override.yml,输入i进入修改模式,按照如下修改,修改完成后按 ESC 键,然后输入 :wq 退出。

修改前:

13.jpg

修改后:

14.jpg

  1. 重启Docker:输入:sudo docker compose up。
  2. 效果展示:进入LibreChat页面,第三方API模型已显示。

16.jpg


了解更多

本文通过计算巢服务完成了LibreChat的快速部署,什么是计算巢服务?

计算巢是一个开放给企业应用服务商、IT集成服务商、交付服务商、管理服务提供商(以上都统称为服务商)和最终用户的服务管理PaaS平台。服务商能通过计算巢服务更好地在阿里云上部署服务、交付服务及管理服务。最终用户能通过计算巢管理在阿里云上订阅的各类服务商提供的服务。计算巢为服务商和用户提供了更高效、便捷、安全的服务使用体验。点击计算巢服务官方文档了解更多。

参考资料

计算巢服务官方文档

更多信息,请访问计算巢官网

相关实践学习
2048小游戏
基于计算巢&ECS云服务器快速部署,带您畅玩2048小游戏。
目录
打赏
0
4
5
0
12
分享
相关文章
Elasticsearch:使用阿里云 AI 服务进行向量化和重新排名
本文介绍了如何将阿里云 AI 功能与 Elasticsearch 集成,以提高语义搜索的相关性。
203 0
阿里云AI机器人向你发来了一项挑战!
阿里云AI机器人向你发来了一项挑战!
For Her:阿里云携手国际奥委会推出AI修复影片《永不失色的她》
For Her:阿里云携手国际奥委会推出AI修复影片《永不失色的她》
阿里云「AI实时互动」正式上线,体验“超拟人”智能互动
阿里云「AI实时互动」正式上线,体验“超拟人”智能互动
阿里云设计中心携手金鸡电影节青年创作人,用AI技术加速电影工业升级
阿里云设计中心携手金鸡电影节青年创作人,用AI技术加速电影工业升级
新发布!阿里云发布最新AI模型、工具及基础设施,建构高效全球AI社群
新发布!阿里云发布最新AI模型、工具及基础设施,建构高效全球AI社群
阿里云通义千问发布多款AI大模型 多模态、长文本能力全面升级!
阿里云通义千问发布多款AI大模型 多模态、长文本能力全面升级!
AI Everything Global 2025 圆满举办,一起回顾阿里云阿联酋之旅!
AI Everything Global 2025 圆满举办,一起回顾阿里云阿联酋之旅!

计算巢

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等