Hologres业级问答知识库 咋部署 有教程吗?

使用Hologres+PAI+LLaMA2搭建企业专属问答知识库https://help.aliyun.com/zh/hologres/use-cases/build-an-enterprise-specific-q-a-knowledge-base?spm=a2c4g.11186623.0.i125

本文为您介绍如何使用实时数仓Hologres、机器学习平台PAI以及大模型LLaMA2部署企业专属问答机器人。

背景信息
企业专属问答机器人部署需要如下组件或服务：

LangChain：是一个开源框架，可以将大模型、向量数据库、定制语料结合，高效完成专属问答知识库的搭建。Hologres现已被LangChain作为向量数据库集成，详情请参见LangChain-Hologres。通过开源框架LangChain完成企业专属问答知识库的搭建。

PAI-EAS：是阿里云的模型在线服务平台，支持用户将模型一键部署为在线推理服务或AI-Web应用，可以一键部署LLM推理、AIGC等热门服务应用。PAI-EAS 适用于实时推理、近实时异步推理等多种AI推理场景，具备Serverless自动扩缩容和完整运维监控体系能力。

Hologres：Hologres是一站式实时数仓引擎，与达摩院自研高性能向量计算软件库Proxima深度整合，支持高效、易用的向量计算能力，详情请参见Proxima向量计算。通过Hologres向量计算能力进行专属语料数据的检索并对大模型进行微调。

LLaMA-2：是新一代开源大模型，有7B、13B、70B多种参数版本，现已支持基于PAI进行部署。

Hologres自研工具帮助您进行专属问答知识库的部署，仅通过该工具即可将Hologres作为向量实时存储和检索引擎，将Hologres、PAI、大模型（LLaMA-2）、定制语料、LangChain串联，快速完成企业专属问答机器人的搭建，自研工具详情请参见GitHub。

部署LLaMA2大模型。

使用PAI-EAS模型在线服务即可快速部署LLaMA-2，详情请参见Llama2-WebUI基于PAI-EAS的一键部署。