30分钟，一键开启基于LLM + AnalyticDB for PostgreSQL的企业专属Chatbot

ChatGPT的火爆带动AIGC行业近期非常火热，客户对于智能客服，构建企业知识库用于智能问答，写作助手等相关需求非常旺盛；本文介绍了如何企业如何通过一键拉起，快速部署企业专属的Chatbot应用并快速完成业务验证；

本文介绍了如何快速完成从0到1部署，在30分钟内可以快速构建企业专属聊天机器人； 已经支持ChatGLM2-6B模型；如下

服务介绍

一站式企业专属Chatbot：通过对Langchain+ChatGLM2-6B（开源大模型）+AnalyticDB for PostgreSQL的部署，一键搭建企业专属知识库+Chatbot应用；（依赖资源： ECS + AnalyticDB for PostgreSQL）

代运维服务：如果部署遇到问题，可通过代运维服务授权运维人员使用大模型服务（免费）

       

           一站式企业专属大模型                                           代运维服务

支持群： 钉钉群 ： 32960015260

部署一站式企业专属Chatbot  

创建流程

1、访问https://computenest.console.aliyun.com/user/cn-hangzhou/serviceInstanceCreate?ServiceId=service-ddfecdd9b626465f85b6 

2、进入开通配置界面

依次填写完服务实例名，选择地域，配置GPU服务的规格，登录密码及访问白名单，ADBPG的实例规格和存储及数据库密码，点击确认订单

3、确认订单页会显示基础配置和账单，节点创建则进入创建环节

4、点击去列表查看，会看到创建中的实例，正常情况约20min完成创建

管理资源（可选）

1、点击服务实例，进入后可以看到服务详情，等待创建完成，整个流程约20分钟

创建过程中包括拉起ECS资源用以部署Retrieval服务，预部署开源大语言模型，拉起ADB-PG实例用以构建企业专属知识库，联通vpc网络，设置安全组等资源并对外提供服务；

2、待部署完成通过Endpoint的地址进行访问

3、点击资源则可查看关联的安全组，AnalyticDB for PostgreSQL实例，VPC，VSM，GPU服务器信息

4、如果在创建的时候填写的白名单地址不正确则可点击安全组id查看：

点击便捷，可修改访问的地址范围，或入群进行支持，配置可参考https://help.aliyun.com/document_detail/444747.html进行；

开始使用企业专属ChatBot

1、进入计算巢服务后，选择【我的服务】-> 【查看实例】查看所有目前保有的实例；

2. 点击进入所保有的实例后，可在概览页点击EndPoint所指向的服务登陆Chatbot首页；

注：如果发现访问不通，检查是否开通了VPN，关闭VPN

3. 知识库文档选择新建知识库

选择知识库库名称DEMO，点击红框位置，上传文件：

点击红色框位置上传并加载：

4. 完成文件上传后，即可开始想知识库进行提问

 代运维服务(可选）

代运维服务实在遇到问题的时候授权服务商进行运维操作。

1、选择需要运维的计算巢服务

点击创建后即可对后台运维服务进行授权；

常见问题

1、登录ADBPG实例；

输入创建服务的的用户名和密码；

可查询已有知识库和文档向量

2、查看langchain服务日志

支持

如果遇到任何问题，欢迎加入支持群内进行探讨

钉钉： 32960015260