30分钟,一键拉起基于LLM + AnalyticDB PostgreSQL构建的企业专属Chatbot(支持ChatGLM2-6B)

简介: ChatGPT的火爆带动AIGC行业近期非常火热,客户对于智能客服,构建企业知识库用于智能问答,写作助手等相关需求非常旺盛;随着ChatGPT 推出Retrieval plugin的方案推出,向量数据库(企业知识库) + 大语言模型 可以快速帮助企业构建专属的chatbot; 本服务是对文章《云原生数据仓库AnalyticDB(ADB)+LLM:构建AIGC时代下企业专属Chatbot》的一个开源实现部署。模型基于ChatGLM2-6B,是由清华大学团队开发的是一个开源的、支持中英双语的对话语言模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。

30分钟,一键开启基于LLM + AnalyticDB for PostgreSQL的企业专属Chatbot


ChatGPT的火爆带动AIGC行业近期非常火热,客户对于智能客服,构建企业知识库用于智能问答,写作助手等相关需求非常旺盛;本文介绍了如何企业如何通过一键拉起,快速部署企业专属的Chatbot应用并快速完成业务验证;


本文介绍了如何快速完成从0到1部署,在30分钟内可以快速构建企业专属聊天机器人; 已经支持ChatGLM2-6B模型;如下

image.png


服务介绍

一站式企业专属Chatbot:通过对Langchain+ChatGLM2-6B(开源大模型)+AnalyticDB for PostgreSQL的部署,一键搭建企业专属知识库+Chatbot应用;(依赖资源: ECS + AnalyticDB for PostgreSQL)

代运维服务:如果部署遇到问题,可通过代运维服务授权运维人员使用大模型服务(免费)

       

           一站式企业专属大模型                                           代运维服务

支持群: 钉钉群 : 32960015260


部署一站式企业专属Chatbot  

创建流程

1、访问https://computenest.console.aliyun.com/user/cn-hangzhou/serviceInstanceCreate?ServiceId=service-ddfecdd9b626465f85b6 


2、进入开通配置界面

image.png

依次填写完服务实例名,选择地域,配置GPU服务的规格,登录密码及访问白名单,ADBPG的实例规格和存储及数据库密码,点击确认订单


3、确认订单页会显示基础配置和账单,节点创建则进入创建环节

4、点击去列表查看,会看到创建中的实例,正常情况约20min完成创建


管理资源(可选)

1、点击服务实例,进入后可以看到服务详情,等待创建完成,整个流程约20分钟

创建过程中包括拉起ECS资源用以部署Retrieval服务,预部署开源大语言模型,拉起ADB-PG实例用以构建企业专属知识库,联通vpc网络,设置安全组等资源并对外提供服务;


2、待部署完成通过Endpoint的地址进行访问


3、点击资源则可查看关联的安全组,AnalyticDB for PostgreSQL实例,VPC,VSM,GPU服务器信息


4、如果在创建的时候填写的白名单地址不正确则可点击安全组id查看:

点击便捷,可修改访问的地址范围,或入群进行支持,配置可参考https://help.aliyun.com/document_detail/444747.html进行;


开始使用企业专属ChatBot

1、进入计算巢服务后,选择【我的服务】-> 【查看实例】查看所有目前保有的实例;

image.png

2. 点击进入所保有的实例后,可在概览页点击EndPoint所指向的服务登陆Chatbot首页;

注:如果发现访问不通,检查是否开通了VPN,关闭VPN


3. 知识库文档选择新建知识库


选择知识库库名称DEMO,点击红框位置,上传文件:

点击红色框位置上传并加载:

4. 完成文件上传后,即可开始想知识库进行提问



 代运维服务(可选)

代运维服务实在遇到问题的时候授权服务商进行运维操作。

1、选择需要运维的计算巢服务

点击创建后即可对后台运维服务进行授权;



常见问题

1、登录ADBPG实例;



输入创建服务的的用户名和密码;

可查询已有知识库和文档向量

2、查看langchain服务日志



支持

如果遇到任何问题,欢迎加入支持群内进行探讨

钉钉: 32960015260




相关实践学习
使用CLup和iSCSI共享盘快速体验PolarDB for PostgtreSQL
在Clup云管控平台中快速体验创建与管理在iSCSI共享盘上的PolarDB for PostgtreSQL。
AnalyticDB PostgreSQL 企业智能数据中台:一站式管理数据服务资产
企业在数据仓库之上可构建丰富的数据服务用以支持数据应用及业务场景;ADB PG推出全新企业智能数据平台,用以帮助用户一站式的管理企业数据服务资产,包括创建, 管理,探索, 监控等; 助力企业在现有平台之上快速构建起数据服务资产体系
相关文章
|
2月前
|
SQL 关系型数据库 MySQL
在云数据仓库AnalyticDB MySQL版中,有几个参数可能影响SELECT查询的执行及其稳定性
在云数据仓库AnalyticDB MySQL版中,有几个参数可能影响SELECT查询的执行及其稳定性【1月更文挑战第16天】【1月更文挑战第80篇】
25 4
|
2月前
|
存储 关系型数据库 MySQL
在阿里云的AnalyticDB MySQL版中使用CREATE TABLE语句来创建内表
在阿里云的AnalyticDB MySQL版中使用CREATE TABLE语句来创建内表【1月更文挑战第16天】【1月更文挑战第78篇】
183 3
|
2月前
|
SQL 运维 关系型数据库
基于AnalyticDB PostgreSQL的实时物化视图研发实践
AnalyticDB PostgreSQL版提供了实时物化视图功能,相较于普通(非实时)物化视图,实时物化视图无需手动调用刷新命令,即可实现数据更新时自动同步刷新物化视图。当基表发生变化时,构建在基表上的实时物化视图将会自动更新。AnalyticDB PostgreSQL企业数据智能平台是构建数据智能的全流程平台,提供可视化实时任务开发 + 实时数据洞察,让您轻松平移离线任务,使用SQL和简单配置即可完成整个实时数仓的搭建。
225 1
|
2月前
|
存储 人工智能 机器人
使用CLIP和LLM构建多模态RAG系统
在本文中我们将探讨使用开源大型语言多模态模型(Large Language Multi-Modal)构建检索增强生成(RAG)系统。本文的重点是在不依赖LangChain或LLlama index的情况下实现这一目标,这样可以避免更多的框架依赖。
113 0
|
2月前
|
存储 SQL 关系型数据库
贝泰妮使用PolarDB-X构建OMS分布式订单系统
贝泰妮使用PolarDB-X构建OMS分布式订单系统
|
2月前
|
存储 人工智能 运维
轻喜到家基于 EMR-StarRocks 构建实时湖仓分析平台实践
本文从轻喜到家的历史技术架构与痛点问题、架构升级需求与 OLAP 选型过程、最新技术架构及落地场景应用等方面,详细介绍了轻喜到家基于 EMR-StarRocks 构建实时湖仓分析平台实践经验。
585 0
轻喜到家基于 EMR-StarRocks 构建实时湖仓分析平台实践
|
2月前
|
SQL 存储 Apache
Paimon 实践 | 基于 Flink SQL 和 Paimon 构建流式湖仓新方案
Paimon 实践 | 基于 Flink SQL 和 Paimon 构建流式湖仓新方案
289 1
|
2月前
|
SQL 关系型数据库 Apache
Apache Doris 整合 FLINK CDC 、Paimon 构建实时湖仓一体的联邦查询入门
Apache Doris 整合 FLINK CDC 、Paimon 构建实时湖仓一体的联邦查询入门
389 1
|
2月前
|
存储 机器人 关系型数据库
如何使用 LangChain 和 PostgreSQL + Drizzle ORM 构建上下文聊天机器人
如何使用 LangChain 和 PostgreSQL + Drizzle ORM 构建上下文聊天机器人
64 1
如何使用 LangChain 和 PostgreSQL + Drizzle ORM 构建上下文聊天机器人
|
2月前
|
知识图谱
4种通过LLM进行文本知识图谱的构建方法对比介绍
我们在以前的文章中已经介绍了使用大语言模型将非结构化文本转换为知识图谱。但是对于知识图谱的创建是一个很复杂的过程,比如需要对属性增加限制,创建符合特定主题/模式的图谱,并且有时文档非常大,无法作为单个提示处理,所以在切分后的提示中创建的图谱需要前后一致。
87 0

相关产品

  • 云原生数据仓库 AnalyticDB PostgreSQL版