在阿里云快速启动LibreChat轻松玩转AI对话

简介: 本文介绍了LibreChat的基本信息,并通过阿里云计算巢完成了LibreChat的快速部署,使用者不需要自己下载代码,不需要自己安装复杂的依赖,不需要了解底层技术,只需要在控制台图形界面点击几下鼠标就可以快速部署并启动LibreChat,非技术同学也能轻松搞定。

什么是LibreChat

LibreChat是一个增强版的 ChatGPT ,它不仅集成了OpenAI、Assistants API、Azure、Groq 等多种 AI 模型,还支持 GPT-4 Vision、Mistral、Bing 等前沿技术。

作为一个完全开源的自托管系统,LibreChat 提供了多用户支持、预设配置、消息搜索、DALL-E-3 图像生成等丰富功能,并且仍在不断开发中。 更多信息,可访问链接

LibreChat有什么优势

  • 多模型支持:LibreChat支持多种AI模型,包括OpenAI、Azure OpenAI、Anthropic Claude、Google Vertex AI等。用户可以根据需求选择不同的模型,甚至在对话中切换模型。
  • 本地和远程AI服务兼容:除了支持主流的云端AI服务,LibreChat还兼容多种本地AI服务,如Ollama、koboldcpp等,为用户提供更多选择。
  • 丰富的功能:LibreChat提供了许多实用功能,如对话历史保存、消息搜索、自定义预设、多模态对话(支持图像分析)、语音交互等。
  • 插件系统:支持各种插件,如网络访问、DALL-E-3图像生成等,进一步扩展了平台的能力。
  • 多语言支持:LibreChat的用户界面支持多种语言,包括中文、英语、德语、法语等,方便全球用户使用。
  • 安全性和隐私:提供多用户系统、安全认证和审核工具,保护用户数据和隐私。
  • 灵活部署:支持Docker部署、反向代理等多种部署方式,适应不同的使用场景。

如何部署LibreChat

前提条件

  • 已开通阿里云账号
  • 确保账户余额超过100元

重要

使用阿里云资源,需要收费,请仔细阅读阿里云控制台的订单信息,然后再进行下一步操作。

操作步骤

  1. 访问计算巢LibreChat社区版部署链接,按提示填写部署参数,确认参数后点击下一步:确认订单

  1. 确认订单完成后同意服务协议并点击立即创建 进入部署阶段。

  1. 等待部署完成后就可以开始使用服务,进入服务实例详情点击LibreChat链接。

  1. 注册账号或登录已有账号,即可使用LibreChat。

输入邮箱密码后,可进入下面页面。

快速入门LibreChat

多AI模型

首次进入LibreChat,需要设置API Key才可使用对应模型。如下图所示,点击左上角下拉框,按图示操作输入API Key后,即可完成密钥设置。

LibreChat 支持多种 AI 提供商,包括 OpenAI、Azure、Anthropic、Google 等。可通过左上角切换服务商与模型。

文件上传

点击图示位置,可轻松上传文件。

效果:

快捷导出

简单快捷的聊天记录导出和分享给别人,可导出为屏幕截图、markdown、文本、json。

语音输入

使用语音转文本和文本转语音功能,实现免提聊天。自动发送和播放音频支持 OpenAI、Azure OpenAI 和 Elevenlabs。


其他问题

1. 如何进入ECS

点击服务实例详情,进入ECS:

8.jpg 9.jpg

2. 如何添加转发地址

  1. 进入ECS,方式参考问题一。
  2. 输入命令
sudo su
cd /home/admin/application/docker_compose
sudo vim .env

将会进入如下页面

10.jpg

  1. 寻找需要修改的AI模型,本处以OpenAI为例,按下i键,左下角将会出现'--INSERT--'标志,通过方向键移动光标,在第一个红框处(OPEN_REVERSE_PROXY)输入转发地址。

11.jpg

  1. 输入完成后按 ESC 键,左下角'--INSERT--'消失,输入:wq(冒号别漏了),保存退出。

3. 如何添加第三方API模型

  1. 进入ECS,方式参考问题一。
  2. 修改librechat.yaml文件:新增第三方模型,输入命令,文件内容参考链接
sudo su
cd /home/admin/application/docker_compose
sudo vim librechat.yaml

进入librechat.yaml文件(即上面代码中的sudo vim librechat.yaml),此文件中默认已有groq、Mistral、OpenRouster三个模型,如需添加,可按照其格式新增,如下新增了通义千问(Qwen)模型。(URL参考链接,ApiKey参考链接)。修改方式为:

  1. 按下i键,左下角将会出现'--INSERT--'标志,通过方向键移动光标,输入红框处内容;
  2. 输入完成后按 ESC 键,左下角'--INSERT--'消失,输入:wq(冒号别漏了),保存退出。

12.jpg

  1. 修改docker-compose文件:配置读取第三方模型,输入命令:
sudo cp docker-compose.yml docker-compose.override.yml

此时将会新增文件:

11.1.png

进入文件:sudo vim docker-compose.override.yml,输入i进入修改模式,按照如下修改,修改完成后按 ESC 键,然后输入 :wq 退出。

修改前:

13.jpg

修改后:

14.jpg

  1. 重启Docker:输入:sudo docker compose up。
  2. 效果展示:进入LibreChat页面,第三方API模型已显示。

16.jpg


了解更多

本文通过计算巢服务完成了LibreChat的快速部署,什么是计算巢服务?

计算巢是一个开放给企业应用服务商、IT集成服务商、交付服务商、管理服务提供商(以上都统称为服务商)和最终用户的服务管理PaaS平台。服务商能通过计算巢服务更好地在阿里云上部署服务、交付服务及管理服务。最终用户能通过计算巢管理在阿里云上订阅的各类服务商提供的服务。计算巢为服务商和用户提供了更高效、便捷、安全的服务使用体验。点击计算巢服务官方文档了解更多。

参考资料

计算巢服务官方文档

更多信息,请访问计算巢官网

相关实践学习
2048小游戏
基于计算巢&ECS云服务器快速部署,带您畅玩2048小游戏。
相关文章
|
2月前
|
人工智能 JSON 自然语言处理
基于阿里云通义千问的AI模型应用开发指南
阿里云通义千问是阿里巴巴集团推出的多模态大语言模型平台,提供了丰富的API和接口,支持多种AI应用场景,如文本生成、图像生成和对话交互等。本文将详细介绍阿里云通义千问的产品功能,并展示如何使用其API来构建一个简单的AI应用,包括程序代码和具体操作流程,以帮助开发者快速上手。
567 3
|
27天前
|
人工智能 JSON API
阿里云文档智能 & RAG解决方案:提升AI大模型业务理解与应用
阿里云推出的文档智能 & RAG解决方案,旨在通过先进的文档解析技术和检索增强生成(RAG)方法,显著提升人工智能大模型在业务场景中的应用效果。该方案通过文档智能(Document Mind)技术将非结构化文档内容转换为结构化数据,提取文档的层级树、样式和版面信息,并输出为Markdown和Json格式,为RAG提供语义分块策略。这一过程不仅解决了文档内容解析错误和切块丢失语义信息的问题,还优化了输出LLM友好的Markdown信息。方案的优势在于其多格式支持能力,能够处理包括Office文档、PDF、Html、图片在内的主流文件类型,返回文档的样式、版面信息和层级树结构。
105 2
|
2月前
|
机器学习/深度学习 数据采集 人工智能
文档智能 & RAG 让AI大模型更懂业务 —— 阿里云LLM知识库解决方案评测
随着数字化转型的深入,企业对文档管理和知识提取的需求日益增长。阿里云推出的文档智能 & RAG(Retrieval-Augmented Generation)解决方案,通过高效的内容清洗、向量化处理、精准的问答召回和灵活的Prompt设计,帮助企业构建强大的LLM知识库,显著提升企业级文档管理的效率和准确性。
|
2月前
|
人工智能 自然语言处理 机器人
对话阿里云 CIO 蒋林泉:AI 时代,企业如何做好智能化系统建设?
10 月 18 日, InfoQ《C 位面对面》栏目邀请到阿里云 CIO 及 aliyun.com 负责人蒋林泉(花名:雁杨),就 AI 时代企业 CIO 的角色转变、企业智能化转型路径、AI 落地实践与人才培养等主题展开了讨论。
1054 67
对话阿里云 CIO 蒋林泉:AI 时代,企业如何做好智能化系统建设?
|
4天前
|
存储 人工智能 缓存
官宣开源 阿里云与清华大学共建AI大模型推理项目Mooncake
近日,清华大学和研究组织9#AISoft,联合以阿里云为代表的多家企业和研究机构,正式开源大模型资源池化项目 Mooncake。
|
2月前
|
存储 人工智能 自然语言处理
Elasticsearch Inference API增加对阿里云AI的支持
本文将介绍如何在 Elasticsearch 中设置和使用阿里云的文本生成、重排序、稀疏向量和稠密向量服务,提升搜索相关性。
75 14
Elasticsearch Inference API增加对阿里云AI的支持
|
1月前
|
存储 人工智能 数据可视化
高效率,低成本!且看阿里云AI大模型如何帮助企业提升客服质量和销售转化率
在数字化时代,企业面临海量客户对话数据处理的挑战。阿里云推出的“AI大模型助力客户对话分析”解决方案,通过先进的AI技术和智能化分析,帮助企业精准识别客户意图、发现服务质量问题,并生成详尽的分析报告和可视化数据。该方案采用按需付费模式,有效降低企业运营成本,提升客服质量和销售转化率。
高效率,低成本!且看阿里云AI大模型如何帮助企业提升客服质量和销售转化率
|
2月前
|
人工智能 架构师
活动火热报名中|阿里云&Elastic:AI Search Tech Day
2024年11月22日,阿里云与Elastic联合举办“AI Search Tech Day”技术思享会活动。
活动火热报名中|阿里云&Elastic:AI Search Tech Day
|
27天前
|
人工智能 Cloud Native 数据管理
媒体声音|重磅升级,阿里云发布首个“Data+AI”驱动的一站式多模数据平台
在2024云栖大会上,阿里云瑶池数据库发布了首个一站式多模数据管理平台DMS:OneMeta+OneOps。该平台由Data+AI驱动,兼容40余种数据源,实现跨云数据库、数据仓库、数据湖的统一数据治理,帮助用户高效提取和分析元数据,提升业务决策效率10倍。DMS已服务超10万企业客户,降低数据管理成本高达90%。
109 19
|
21天前
|
人工智能 架构师
活动火热报名中|阿里云&Elastic:AI Search Tech Day
2024年11月22日,阿里云与Elastic联合举办“AI Search Tech Day”技术思享会活动。
175 9