函数计算的应用部署真是太方便了,只需要授权,从资源创建到部署几乎只在函数计算的控制台就一站式解决了。AI大语言模型应用集成了一种将文本、图像、音频等数据映射到 Dense Vector(稠密向量)的服务。通过训练模型对数据进行向量化表示,可以实现语义级的相似性搜索和分析。常见的 embedding 服务包括词向量、文档向量、图片向量等。也就是向量加成。确实在响应速度和准确度等方面表现都不错。在数据库中整合向量搜索和分析能力,如postgresql的pg_vector扩展。它将向量索引构建在数据库中,支持通过SQL进行向量相似度查询,可以结合传统数据库提供更智能的语义搜索服务。
这个应用还提供了多种应用选择,应用形式不太一样,可以根据需要选择。
• pg-chatglm2-6b-webui:带向量数据库的私有知识问答应用。
• chatglm2-6b-webui:带webui的大语言模型聊天应用。
• chatglm2-6b-api:chatglm2-6b的api服务。