什么是LibreChat
LibreChat是一个增强版的 ChatGPT ,它不仅集成了OpenAI、Assistants API、Azure、Groq 等多种 AI 模型,还支持 GPT-4 Vision、Mistral、Bing 等前沿技术。
作为一个完全开源的自托管系统,LibreChat 提供了多用户支持、预设配置、消息搜索、DALL-E-3 图像生成等丰富功能,并且仍在不断开发中。 更多信息,可访问链接。
LibreChat有什么优势
- 多模型支持:LibreChat支持多种AI模型,包括OpenAI、Azure OpenAI、Anthropic Claude、Google Vertex AI等。用户可以根据需求选择不同的模型,甚至在对话中切换模型。
- 本地和远程AI服务兼容:除了支持主流的云端AI服务,LibreChat还兼容多种本地AI服务,如Ollama、koboldcpp等,为用户提供更多选择。
- 丰富的功能:LibreChat提供了许多实用功能,如对话历史保存、消息搜索、自定义预设、多模态对话(支持图像分析)、语音交互等。
- 插件系统:支持各种插件,如网络访问、DALL-E-3图像生成等,进一步扩展了平台的能力。
- 多语言支持:LibreChat的用户界面支持多种语言,包括中文、英语、德语、法语等,方便全球用户使用。
- 安全性和隐私:提供多用户系统、安全认证和审核工具,保护用户数据和隐私。
- 灵活部署:支持Docker部署、反向代理等多种部署方式,适应不同的使用场景。
如何部署LibreChat
前提条件
- 已开通阿里云账号
- 确保账户余额超过100元
重要
使用阿里云资源,需要收费,请仔细阅读阿里云控制台的订单信息,然后再进行下一步操作。
操作步骤
- 访问计算巢LibreChat社区版部署链接,按提示填写部署参数,确认参数后点击下一步:确认订单:
- 确认订单完成后同意服务协议并点击立即创建 进入部署阶段。
- 等待部署完成后就可以开始使用服务,进入服务实例详情点击LibreChat链接。
- 注册账号或登录已有账号,即可使用LibreChat。
输入邮箱密码后,可进入下面页面。
快速入门LibreChat
多AI模型
首次进入LibreChat,需要设置API Key才可使用对应模型。如下图所示,点击左上角下拉框,按图示操作输入API Key后,即可完成密钥设置。
LibreChat 支持多种 AI 提供商,包括 OpenAI、Azure、Anthropic、Google 等。可通过左上角切换服务商与模型。
文件上传
点击图示位置,可轻松上传文件。
效果:
快捷导出
简单快捷的聊天记录导出和分享给别人,可导出为屏幕截图、markdown、文本、json。
语音输入
使用语音转文本和文本转语音功能,实现免提聊天。自动发送和播放音频支持 OpenAI、Azure OpenAI 和 Elevenlabs。
其他问题
1. 如何进入ECS
点击服务实例详情,进入ECS:
2. 如何添加转发地址
- 进入ECS,方式参考问题一。
- 输入命令
sudo su cd /home/admin/application/docker_compose sudo vim .env
将会进入如下页面
- 寻找需要修改的AI模型,本处以OpenAI为例,按下i键,左下角将会出现'--INSERT--'标志,通过方向键移动光标,在第一个红框处(OPEN_REVERSE_PROXY)输入转发地址。
- 输入完成后按 ESC 键,左下角'--INSERT--'消失,输入:wq(冒号别漏了),保存退出。
3. 如何添加第三方API模型
- 进入ECS,方式参考问题一。
- 修改librechat.yaml文件:新增第三方模型,输入命令,文件内容参考链接。
sudo su cd /home/admin/application/docker_compose sudo vim librechat.yaml
进入librechat.yaml文件(即上面代码中的sudo vim librechat.yaml),此文件中默认已有groq、Mistral、OpenRouster三个模型,如需添加,可按照其格式新增,如下新增了通义千问(Qwen)模型。(URL参考链接,ApiKey参考链接)。修改方式为:
- 按下i键,左下角将会出现'--INSERT--'标志,通过方向键移动光标,输入红框处内容;
- 输入完成后按 ESC 键,左下角'--INSERT--'消失,输入:wq(冒号别漏了),保存退出。
- 修改docker-compose文件:配置读取第三方模型,输入命令:
sudo cp docker-compose.yml docker-compose.override.yml
此时将会新增文件:
进入文件:sudo vim docker-compose.override.yml,输入i进入修改模式,按照如下修改,修改完成后按 ESC 键,然后输入 :wq 退出。
修改前:
修改后:
- 重启Docker:输入:sudo docker compose up。
- 效果展示:进入LibreChat页面,第三方API模型已显示。
了解更多
本文通过计算巢服务完成了LibreChat的快速部署,什么是计算巢服务?
计算巢是一个开放给企业应用服务商、IT集成服务商、交付服务商、管理服务提供商(以上都统称为服务商)和最终用户的服务管理PaaS平台。服务商能通过计算巢服务更好地在阿里云上部署服务、交付服务及管理服务。最终用户能通过计算巢管理在阿里云上订阅的各类服务商提供的服务。计算巢为服务商和用户提供了更高效、便捷、安全的服务使用体验。点击计算巢服务官方文档了解更多。
参考资料
更多信息,请访问计算巢官网。